مزارع محتوای جنسی با جعل عمیق، جوک‌های استندآپ کمدی را می‌دزدند

تصور کنید سال‌ها روی یک تک‌جمله یا «پانچ‌لاین» کار کرده‌اید تا مخاطب را بخندانید، اما حالا یک زنِ دیجیتالی که اصلاً وجود خارجی ندارد، همان جوک را با لباسی تحریک‌آمیز اجرا می‌کند تا شما را به یک سایت پورنوگرافی بکشاند. این کابوس جدید کمدیان‌های استندآپ است که حالا با ارتشی از مدل‌های ساخته‌شده با هوش مصنوعی روبرو شده‌اند.

این پدیده تنها یک سرقت ساده نیست؛ بلکه یک خط لوله مهندسی‌شده است که در آن جعل عمیق (Deepfake) — شبیه ماسکی دیجیتال که روی چهره‌ای دیگر می‌نشیند تا او را به هر کسی تبدیل کند — برای جذب مخاطب و انتقال آن‌ها به پلتفرم‌های پولی مثل Fanvue استفاده می‌شود. این اتفاق در حالی رخ می‌دهد که فناوری ویدیوهای مولد به نقطه‌ای رسیده که تشخیص انسان از ماشین تقریباً غیرممکن شده است.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های مولد اشاره کردیم، مرز میان محتوای واقعی و سنتتیک در حال محو شدن است. برای کمدیان‌ها، خطر دوچندان است چون «جوک» به‌طور تاریخی کمترین حمایت قانونی را در قوانین کپی‌رایت داشته است.

مکانیسم سرقت سنتتیک

هفته‌ی گذشته، گزارش‌هایی درباره‌ی یک شخصیت مجازی به نام Aylen Skye منتشر شد؛ اینفلوئنسری بلوند با ۲۵۰ هزار دنبال‌کننده در اینستاگرام. کمدیان Julia Jasunas متوجه شد که اسکای یکی از اجراهای او را دقیقاً کپی کرده است؛ حتی تپق‌ها و «اممم»های طبیعی اجرای او را هم بازسازی کرده بود.

جاسوناس به نقل از گزارش‌ها می‌گوید سرقت جوک در کمدی اتفاق می‌افتد، اما اینکه اثر او برای سود مالی در محتوای جنسی استفاده شود، «در سطوح مختلفیe توهین‌آمیز» است. او متوجه شد که برخلاف صفحه‌ی خودش که پر از نقد و گاهی توهین است، کامنت‌های اسکای فقط تحسین هستند؛ اولین نشانه از اینکه این موجود کاملاً مصنوعی است.

وقتی جاسوناس این ویدیو را به Meta گزارش کرد، پلتفرم پاسخ داد که این مورد نقض قوانین نیست؛ چون اسکای ادعا نکرده که «جاسوناس» است، بلکه فقط جوک را به نام خودش زده است.

ظهور مزارع محتوای AI

کمدیان‌ها از ژوئن ۲۰۲۴ از این سرقت‌ها شکایت داشتند. Steph Clark، استندآپ کمدین، این محتواهای بی‌کیفیت را «آشغال‌های AI» می‌نامد. در ابتدا این ویدیوها ناشیانه بودند؛ مثلاً زنی با چهره‌ای مات که جوکی بی‌معنی درباره ارگاسم و آشپزی می‌گفت.

اما در ماه‌های اخیر، کیفیت این کلون‌ها به‌شدت بالا رفته است. حالا تشخیص اینکه زن در ویدیو انسان است یا یک سازه دیجیتال، برای چشم غیرمتخصص دشوار است.

خط لوله درآمدزایی

این حساب‌ها طبق یک الگوی دقیق عمل می‌کنند:

• استخراج محتوا: شناسایی کلیپ‌های ویروسی و موفق کمدیان‌های واقعی.
• بازسازی سنتتیک: ضبط مجدد جوک با یک آواتار AI. این نسخه‌ها معمولاً نور بهتر، صدای شفاف‌تر و لباس‌های جذب‌تری دارند تا شانس ویروسی شدنشان بیشتر شود.
• تنوع‌بخشی: برای واقعی‌تر به نظر رسیدن، مصاحبه‌های جعلی با میزبانانی مثل کونان اوبراین می‌سازند یا برای جذب گروه‌های خاص، جوک‌های نژادپرستانه منتشر می‌کنند.
• انحراف ترافیک: لینک‌های بیو کاربران را به Fanvue می‌برد؛ پلتفرمی که خود را «اولین پلتفرم درآمدزایی AI برای سازندگان» معرفی می‌کند.

حساب دیگری به نام Tiffany Sloane با ۳۷۵ هزار دنبال‌کننده، ادعا می‌کند بازیگری ۱۹ ساله است. رایان برودریک، نویسنده، حضور او را در شبکه‌های اجتماعی یک «مزرعه محتوای کوتاه و تحریک‌آمیز» توصیف کرده است. این استراتژی استفاده از ارتش‌های دیجیتال برای رشد سریع، یادآور مدل رشد تهاجمی Cal AI است که با بهره‌گیری از شبکه‌ای گسترده از اینفلوئنسرها توانست به رشد خیره‌کننده‌ای دست یابد.

شکاف قانونی و سیاست‌های متا

George Brett Olson مقایسه‌ای را منتشر کرد که در آن جوک او درباره مهاجرت در کنار نسخه مشابه اسلون قرار داشت. هر دو در پس‌زمینه‌ای یکسان و با پیراهن‌های مشابه بودند؛ تنها تفاوت در یک کلمه رکیک در نسخه اصلی بود. اولسون شوکه شده بود که AI نه تنها اثرش، بلکه ظاهرش را هم دزدیده است.

Francis Brennan، سخنگوی متا، اعلام کرد که سیاست‌های شرکت شفاف است اما کپی کردن محتوایی که کپی‌رایت رسمی ندارد، ممنوع نیست. Adam Mosseri، رئیس اینستاگرام، هرچند پذیرفت که سرقت کلی محتوا باید بررسی شود، اما بن کردن تمام محتواهای AI را غیرعملی دانست.

خلأ حقوقی و سقوط ارزش هنرمند

پروفسور Aaron Perzanowski از دانشگاه میشیگان می‌گوید به دلیل ماهیت گذرا و کوتاه استندآپ، اجرای قوانین کپی‌رایت دشوار است. بسیاری از وکلا معتقدند مگر اینکه این اکانت‌ها میلیون‌ها دلار درآمد داشته باشند، شکایت هزینه بیشتری نسبت به سودش دارد.

پارادوکس ترسناک اینجاست: نسخه‌ی AI اغلب موفق‌تر از نسخه اصلی است چون آواتارها برای «بیشترین جذابیت بصری» طراحی شده‌اند. Mandy Martino هشدار می‌دهد که بی‌تفاوتی اینستاگرام، ترسناک‌ترین بخش این تغییر است.

برخی در صنعت تکنولوژی، مثل Justine Moore از Andreessen Horowitz، این کار را یک «ترفند بازاریابی نبوغ‌آمیز» می‌نامند، اما برای هنرمندان این یک تجاوز است. موفقیت این اکانت‌ها ثابت می‌کند که برای صدها هزار نفر، هویت و تلاش هنرمند واقعی اصلاً اهمیتی ندارد.

گام بعدی شما

• اگر تولیدکننده محتوا هستید، از واترمارک‌های نامرئی یا امضاهای بصری در وسط کادربندی استفاده کنید تا کپی‌برداری ساده‌تر نباشد.
• در صورت مشاهده سرقت، به‌جای گزارش ساده، از طریق تگ کردن و افشای عمومی (Call-out) فشار اجتماعی ایجاد کنید.
• قوانین جدید مالکیت معنوی در سال ۲۰۲۶ را دنبال کنید تا ببینید آیا «سبک اجرا» به عنوان یک دارایی قانونی شناخته می‌شود یا خیر.

اما این تنها بخشی از بحران است؛ اثر این مدل‌ها بر اقتصاد کلی صنعت سرگرمی را در گزارش بعدی بررسی خواهیم کرد.