تصور کنید یک توتفرنگی سخنگو بتواند حامل شدیدترین تعصبات جنسیتی باشد؛ اتفاقاً همین «بانمک بودن» است که خطر را پنهان میکند. اگر تصور میکنید شخصیتهای فانتزی و میوهای در شبکههای اجتماعی بیضرر هستند، باید بدانید که این جذابیت بصری ممکن است پوششی برای روایتهای واپسگرایانه باشد.
بر اساس تحلیل منتشرشده در ۹ ژوئن ۲۰۲۶ در arXiv.org، درامهای کوتاه تولیدشده توسط هوش مصنوعی زاینده (Generative AI) — که به «درامهای میوهای» معروف شدهاند — از یک مکانیسم پیچیده برای محافظت از روایتهای اجتماعی آسیبرسان استفاده میکنند. این ویدئوها به دلیل غیرانسانی بودن شخصیتها، از نظارتهای سختگیرانهای که بر محتوای انسانی اعمال میشود، میگریزند و یک حفره امنیتی در چارچوبهای نظارتی ایجاد میکنند.
همانطور که در تحلیلهای پیشین ما دربارهی سوگیریهای مدلهای تصویری اشاره کردیم، استایل بصری هرگز خنثی نیست. پژوهشگر این اثر، پیرا ریچیو (Piera Riccio)، الگویی سیستماتیک را در این ویدئوها شناسایی کرده است که در آن شخصیتهای زن بهطور نامتناسبی با مفاهیمی چون تخلف اخلاقی، خیانت جنسی و ظرفیتهای بازتولیدی مرتبط شدهاند. این تحقیق سه مکانیسم کلیدی را برجسته میکند:
- شستشوی زیباییشناختی (Aesthetic Laundering): استفاده از فرمهای نرم، گرد و بصریات «بانمک» برای خنثی کردن وزن ایدئولوژیک یک روایت سمی.
- نژادگرایی (Racialization): بارگذاری قضاوتهای اخلاقی بر اساس تفاوتهای ظاهری و بدنی در شخصیتهای تولیدشده.
- دور زدن نظارت (Moderation Bypass): بهرهگیری از این ظاهر «بیضرر» برای توزیع محتوایی که در حالت عادی توسط سیستمهای نظارتی مسدود میشد.
به نقل از مقاله arXiv.org، این پدیده فرضیه رایج در حوزه خلاقیت محاسباتی را که «استایل بصری مستقل از محتوای روایی است» به چالش میکشد. این بدان معناست که پارامترهای زیباییشناختی میتوانند به عنوان سلاحی برای استتار سمیت (Toxicity) به کار گرفته شوند و نظارتهای خودکار که صرفاً بر اساس تحلیل احساسات بصری یا کلمات کلیدی «ایمن» عمل میکنند را ناکارآمد سازند.
گام بعدی شما
- بررسی سایر فرماتهای استایلبندیشده مانند مدلهای تولید تصویر انیمهای یا آواتارهای انتزاعی برای شناسایی الگوهای مشابه شستشوی زیباییشناختی.
- بازنگری در استراتژیهای همراستاسازی (Alignment) مدلها تا تشخیص پیوند میان استایل بصری و پیام روایی.
- بهروزرسانی فیلترهای نظارتی برای شناسایی «پروکسیهای زیباییشناختی» در محتواهای کوتاه.
اما این تنها بخشی از چالشهای نظارت بر محتواست؛ اثر این تکنیکها بر مدلهای چندوجهی در گزارش بعدی بررسی خواهیم کرد.
گفتگو