تولیدکننده تصویر پیشرو در چین با هوش مصنوعی محتوای سیاسی را حذف می کند و هیچ کس را شگفت زده نمی کند


تصاویر تولید شده توسط ERNIE-ViLG از اعلان
بزرگنمایی کنید / تصاویری که توسط ERNIE-ViLG از اعلان “چین” بر روی پرچم چین ایجاد شده است.

Ars Technica

Zeyi Yang برای MIT Technology Review گزارش می دهد که مدل پیشرو ترکیب متن به تصویر چین، ERNIE-ViLG بایدو، متون سیاسی مانند “میدان تیان آن من” یا نام رهبران سیاسی را سانسور می کند.

سنتز تصویر اخیراً در رسانه های اجتماعی و جوامع هنری آنلاین محبوب (و بحث برانگیز) شده است. ابزارهایی مانند Stable Diffusion و DALL-E 2 به افراد این امکان را می‌دهند که تقریباً از هر چیزی که تصور می‌کنند با تایپ کردن یک توضیح متنی به نام “اعلان” تصاویری ایجاد کنند.

در سال 2021، شرکت فناوری چینی بایدو مدل سنتز تصویر خود را به نام ERNIE-ViLG توسعه داد و در حین آزمایش دموهای عمومی، برخی از کاربران دریافتند که عبارات سیاسی را سانسور می کند. پس از گزارش مفصل MIT Technology Review، ما آزمایش خود را از یک نسخه ی نمایشی ERNIE-ViLG که در Hugging Face میزبانی شده بود، انجام دادیم و تأیید کردیم که عباراتی مانند “دموکراسی در چین” و “پرچم چین” قادر به تولید تصویر نیستند. درعوض، آنها یک هشدار به زبان چینی تولید می کنند که تقریباً به این صورت است (ترجمه شده)، “محتوای ورودی با قوانین مربوطه مطابقت ندارد، لطفاً تنظیم کنید و دوباره امتحان کنید!”

نتیجه زمانی که شما سعی می کنید تولید کنید
بزرگنمایی کنید / نتیجه زمانی که شما سعی می کنید با استفاده از مدل ترکیب تصویر ERNIE-ViLG “دموکراسی در چین” ایجاد کنید. اخطار وضعیت در پایین به معنای “محتوای ورودی مطابق با قوانین مربوطه نیست، لطفا تنظیم کنید و دوباره امتحان کنید!”

Ars Technica

مواجه شدن با محدودیت‌ها در سنتز تصویر منحصر به چین نیست، اگرچه تاکنون شکلی متفاوت از سانسور دولتی داشته است. در مورد DALL-E 2، سیاست محتوای شرکت آمریکایی OpenAI برخی از اشکال محتوا مانند برهنگی، خشونت و محتوای سیاسی. اما این یک انتخاب داوطلبانه از سوی OpenAI است، نه به دلیل فشار دولت ایالات متحده. Midjourney همچنین به طور داوطلبانه برخی از محتواها را بر اساس کلمه کلیدی فیلتر می کند.

حتما بخوانید:
مزخرف راننده لنوو برای کاربران 25 مدل نوت بوک خطر امنیتی ایجاد می کند

Stable Diffusion، از Stability AI مستقر در لندن، دارای یک “فیلتر ایمنی” داخلی است که به دلیل ماهیت منبع باز آن می تواند غیرفعال شود، بنابراین تقریباً هر چیزی با آن مدل مطابقت دارد – بسته به جایی که آن را اجرا می کنید. به طور خاص، عماد مستقی، رئیس هوش مصنوعی پایداری صحبت کرد در مورد تمایل به اجتناب از سانسور دولتی یا شرکتی مدل های ترکیب تصاویر. او هفته گذشته در پاسخی به Reddit AMA نوشت: «من فکر می‌کنم مردم باید آزاد باشند تا در ساخت این مدل‌ها و خدمات بهترین فکر را انجام دهند.

مشخص نیست که آیا Baidu مدل ERNIE-ViLG خود را داوطلبانه سانسور می کند تا از مشکلات احتمالی دولت چین جلوگیری کند یا به مقررات احتمالی پاسخ می دهد (مانند یک قانون دولتی در مورد دیپ فیک های پیشنهادی در ژانویه). اما با توجه به سابقه چین در سانسور رسانه های فناوری، تعجب آور نیست که به زودی شاهد محدودیت رسمی برای برخی از اشکال محتوای تولید شده توسط هوش مصنوعی باشیم.




منبع: tarjome-news.ir

دیدگاهتان را بنویسید

hacklink al hd film izle php shell indir siber güvenlik türkçe anime izle Fethiye Escort android rat duşakabin fiyatları fud crypter hack forum bayan escort - vip elit escort lyft accident lawyer garnet trade güvenilir mihtml nullednulled themesViagragercekhoca.org