تصور کنید یک کاریکاتور ویروسی را در شبکه‌های اجتماعی می‌بینید که هزاران کاربر را فریب داده است. در این تصویر، دالی پارتون با لباسی درخشان، دست در دست تیم کری (که در نقش دکتر فرانک-ان-فورتر است) در مقابل دروازه‌های بهشت ایستاده و به خدایی که پشت میز پذیرش است می‌گوید: «می‌دانستم همراه درستی را انتخاب کرده‌ام.» این اثر به‌طور گسترده در فیس‌بوک، اینستاگرام، بلواسکای و توییتر دست به دست شد و یکی از توییت‌ها ۲۵ هزار لایک دریافت کرد. در حالی که تصویر دقیقاً شبیه به آثار کلاسیک مجله نیویورکر بود و حتی امضای معروف «BLOPER» در گوشه آن دیده می‌شد، اما برندن لوپر (Brendan Loper)، کارتونیست واقعی نیویورکر، هرگز آن را نکشیده بود؛ این تصویر توسط ChatGPT تولید شده و نام او جعل شده بود.
این کاریکاتور ابتدا توسط یکی از طرفداران دالی پارتون در فیس‌بوک منتشر شد. او در بخش نظرات توضیح داد که صرفاً از ChatGPT خواسته است تا «یک کاریکاتور به سبک نیویورکر» بسازد. لوپر اولین بار از طریق پیامکی از برادر دوقلویش که دوستش تصویر را دیده بود، از این جعل مطلع شد. پس از آن، موجی از ایمیل‌ها و پیام‌های مستقیم از سوی غریبه‌هایی سرازیر شد که می‌پرسیدند آیا این اثر متعلق به اوست یا خیر. لوپر این تجربه را «بسیار سورئال» توصیف کرد.
این اتفاق بخشی از یک الگوی گسترده‌تر است که در آن مدل‌های هوش مصنوعی نه‌تنها سبک‌های هنری را تقلید می‌کنند، بلکه به‌طور فعال آثاری جعلی را به انسان‌های واقعی نسبت می‌دهند. برای هنرمندان حرفه‌ای، امضا چیزی فراتر از یک نام است؛ امضا گواه اصالت و برند شخصی آن‌هاست. لوپر اشاره می‌کند که در عصری که کاریکاتورها از بافت اصلی خود جدا شده و بدون مجوز در وبلاگ‌ها منتشر می‌شوند، امضا مانند یک واترمارک عمل می‌کند. او می‌گوید: «اگر نامم را روی اثر بگذارم، رسمی است و متعلق به من است.» وقتی یک هوش مصنوعی امضایی را بازتولید می‌کند، از مرز «الهام گرفتن» عبور کرده و به آنچه لوپر «نقض شخصیت» می‌نامد، تبدیل می‌شود.
با تکیه بر پوشش‌های قبلی ما درباره تلاش‌های OpenAI برای مدیریت تعاملات حساس کاربران، این جنجال اخیر یک شکست متفاوت در سیستم‌های حفاظتی (Guardrails) را نشان می‌دهد: عدم محافظت از مالکیت معنوی و هویت شخصی. در حالی که این شرکت سابقه‌ای در رفع باگ‌های رفتاری دارد، بلع سیستماتیک امضاهای هنرمندان نشان‌دهنده مشکلی عمیق‌تر در منشأ داده‌های آموزشی است. این چالش‌ها در کنار تلاش‌های جدید برای استفاده از مدل‌های شبیه‌ساز در پیشگیری از بحران‌های انسانی، نشان می‌دهد که مرز میان کاربرد مفید و سوءاستفاده از هوش مصنوعی همچنان بسیار باریک است.
ابعاد گسترده جعل
تجربه لوپر یک اتفاق تک‌افتاده نبود. در ماه می، شخصی در اینستاگرام به او هشدار داد که نام مستعارش در خروجی یک چت‌بات ظاهر شده است. در طول تابستان، لوپر نمونه‌های بیشتری را در یک تالار گفتگوی ردیت (Reddit) پیدا کرد، جایی که کاربران کاریکاتورهای تولید شده به سبک نیویورکر را با یکدیگر به اشتراک می‌گذاشتند.
تحقیقات «نیمن لب» (Nieman Lab) نشان داد که امضای بیش از ۱۵ کارتونیست مجله نیویورکر بدون اجازه در خروجی‌های ChatGPT ظاهر شده است. این لیست شامل همکاران فعلی و تاریخی است:
- برندن لوپر (BLOPER)
- امی فلیک (e. flake)
- هری بلیس (Harry Bliss)
- جو داتور (Joe Dator)
- پت برنز (P.Byrnes.)
- پیتر وی (Peter Vey)
- جیسون آدام کاتزنستاین (Jason Adam Katzenstein)
- جورج بوث (George Booth)
- لیزا دانلی (Liza Donnelly)
- الیس روزن (Ellis Rosen)
- سائول استاینبرگ (Saul Steinberg)
- وارن میلر (Warren Miller - فعال در دهه ۱۹۶۰)
مکانیسم تقلید
خروجی ChatGPT «دی‌ان‌ای» (DNA) سبک بصری این مجله ۱۰۱ ساله را به خوبی ثبت کرده است: تصاویر تک‌پنلی سیاه و سفید با پس‌زمینه‌های خلوت، خطوط تمیز و کپشن‌های طنزآمیز و کنایه‌آمیز. با این حال، نتایج اغلب متناقض هستند. برخی از جملات نهایی هیچ معنایی ندارند و برخی امضاها صرفاً مجموعه‌ای از حروف بی‌معنی هستند.
اما زمانی که امضاها خوانا هستند، اغلب بسیار دقیق‌اند. امی فلیک که از سال ۲۰۰۸ با این مجله همکاری می‌کند، اشاره کرد که اگرچه اثر تولید شده توسط هوش مصنوعی شبیه به ترکیبی از چندین سبک بود، اما امضای «e. flake» بدون شک متعلق به او بود. او این حس را به دیدن یک پسرعموی دور یا نسبت دادن نقل‌قولی به او که هرگز نگفته است، تشبیه کرد.
به همین ترتیب، پت برنز از دوران نوجوانی عادت داشت در انتهای امضایش یک نقطه بگذارد و آن را به عنوان یک «بیانیه» یا «هدیه» می‌دید. در ده‌ها کاریکاتور تولید شده توسط هوش مصنوعی که نام او را داشتند، مدل به‌طور مداوم آن نقطه خاص را در انتهای امضا قرار داده بود.
پاسخ OpenAI و نرده‌های حفاظتی
هنگامی که OpenAI از این موضوع مطلع شد، بیانیه‌ای صادر کرد و مدعی شد: «ما معتقدیم آینده خلاقیت اساساً انسانی است و تمرکز ما بر ساخت ابزارهایی است که خلاقیت انسان‌ها و خالقان را توانمند سازد.» این شرکت افزود که از جامعه کاربران برای گزارش «باگ‌ها و رفتارهای پیش‌بینی‌نشده» سپاسگزار است تا بتواند آن‌ها را برطرف کند.
پس از این اطلاع‌رسانی، ChatGPT شروع به نمایش یک پیام هشدار جدید هنگام درخواست برای کاریکاتور به سبک نیویورکر کرد: «این درخواست ممکن است نرده‌های حفاظتی ما را در رابطه با شباهت به محتوای شخص ثالث نقض کند.» با وجود این فیلتر جدید، سیستم همچنان برخی کاریکاتورهای عمومی را با نام کارتونیست‌های واقعی نیویورکر امضا می‌کند.
شکاف در مجوزها
در سال ۲۰۲۴، شرکت کونده نست (Condé Nast)، مالک مجله نیویورکر، یک قرارداد مجوز چندساله با OpenAI امضا کرد. اگرچه شرایط این قرارداد محرمانه است، اما سخنگوی نیویورکر اعلام کرد که کونده نست هرگز اجازه آموزش مدل‌ها روی کاریکاتورهایش را نداده است. این سخنگو همچنین اشاره کرد که برخی از آثار هوش مصنوعی، لوگوی مجله نیویورکر را بازتولید کرده‌اند که در تمام قراردادهای مدل‌های زبانی (LLM) اکیداً ممنوع است.
علاوه بر این، قراردادهای مجله با فریلنسرها از نوع «کار برای استخدام» (work for hire) نیست. دو ویراستار کاریکاتور با فریلنسرهایی کار می‌کنند که آثار خود را ارسال می‌کنند و تنها در صورتی که اثر انتخاب شود، دستمزد می‌گیرند. طبق این قراردادهای استاندارد، کارتونیست مالک حق چاپ (Copyright) اثر خود باقی می‌ماند. این بدان معناست که کونده نست حتی اگر می‌خواست، اختیار قانونی برای صدور مجوز استفاده از این آثار خاص برای آموزش هوش مصنوعی را ندارد.
بحث «سرقت نیروی کار»
این جعل‌ها در بحبوحه نبردهای حقوقی شدید بر سر آموزش هوش مصنوعی رخ می‌دهد. اسناد دادگاه در پرونده «نیویورک تایمز علیه OpenAI» یادداشت‌های داخلی مایکروسافت را فاش کرد که در آن‌ها داده‌های استخراج‌شده برای مدل‌های زبانی به عنوان «بزرگ‌ترین سرقت نیروی کار در تاریخ بشر» توصیف شده‌اند. در یکی از این یادداشت‌ها، ChatGPT به عنوان «محصولی که زنجیره تأمین خود را نابود می‌کند» توصیف شده است.
جک کلارک، مدیر سیاست‌گذاری سابق OpenAI (و بعدها یکی از بنیان‌گذاران Anthropic)، در یادداشتی نوشت که سیستم‌های هوش مصنوعی به‌طور فزاینده‌ای «جایگزین نیروی کار افرادی خواهند شد که فرهنگ جامعه را تعریف می‌کنند.»
جیسون آدام کاتزنستاین، کارتونیستی که از سال ۲۰۱۴ فعالیت می‌کند و عضو یک شکایت جمعی علیه آنتروپیک است، این اقدام را یک حرکت استراتژیک برای منسوخ کردن هنرمندان انسانی می‌بیند. او خروجی‌های هوش مصنوعی را «آشغال» (Slop) می‌نامد که تظاهر می‌کند اثر اوست و نام او را به کاری می‌چسباند که او تأیید نمی‌کند. کاتزنستاین بخشی از شکایت «اتحادیه نویسندگان» (Authors Guild) بود که مربوط به یک مجموعه کتاب از انتشارات هارپر کالینز بود که برای آموزش مدل‌های Claude دزدیده شده بود. در حالی که قاضی ابتدا حکم داد که آموزش «استفاده منصفانه» است، دادگاه بعداً تشخیص داد که نگهداری نسخه‌های دزدیده شده، نقض گسترده حق چاپ است که منجر به تسویه ۱.۵ میلیارد دلاری در ماه جولای شد؛ بزرگ‌ترین مبلغ در تاریخ حق چاپ ایالات متحده.
مخاطرات حقوقی و اقتصادی
کارشناسان حقوقی، از جمله جیمز گریملمن، استاد دانشگاه کرنل، معتقدند که قانون حق چاپ ممکن است در اینجا با دشواری روبرو شود، زیرا هوش مصنوعی در حال تقلید از یک «سبک کلی» است و نه کپی کردن یک «تصویر خاص». او اشاره می‌کند که انتساب نام (Attribution) بخش کوچکی از بررسی‌های مربوط به استفاده منصفانه است.
با این حال، اگر آثار تولید شده توسط هوش مصنوعی برای مقاصد تجاری استفاده شوند، پرونده‌ای بر اساس «حق تبلیغات» (Right of Publicity) می‌تواند موفق باشد. این قانون از افراد در برابر استفاده غیرمجاز از نام یا هویتشان محافظت می‌کند. این موضوع یادآور تلاش‌های قضایی در نیویورک برای مقابله با سایت‌های دیپ‌فیک است که سعی دارند از سوءاستفاده از هویت افراد مشهور جلوگیری کنند. اگرچه این کاریکاتورها در ظاهر شوخی هستند، اما جابجایی اقتصادی گسترده‌تر در حال رخ دادن است.
مثال‌های واقعی عبارتند از:
- بالتیمور سان (The Baltimore Sun): این روزنامه، کوین کالاوگر، نامزد جایزه پولیتزر و باسابقه با ۳۰ سال تجربه را اخراج کرد و شروع به انتشار کاریکاتورهای تولید شده توسط هوش مصنوعی در بخش نظرات خود کرد. ابزار واترمارک OpenAI تأیید می‌کند که این آثار با محصولات آن‌ها ساخته شده‌اند.
- واکنش صنعت: مارک مورفی، رئیس انجمن کارتونیست‌های سرمقاله‌ای آمریکا، در نامه‌ای باز که ماه گذشته منتشر شد، این اقدام را «راهکاری تحقیرآمیز» و سرقت از هنرمندان دانست.
برای اکثر هنرمندان نیویورکر، این مجله مانند یک «کارت معرفی» است که منجر به سفارش‌های تجاری، تصویرگری کتاب و سایر کارهای فریلنسری می‌شود. این جریان‌های درآمدی ثانویه، آسیب‌پذیرترین بخش در برابر جایگزینی توسط هوش مصنوعی هستند. همان‌طور که جو داتور، همکار ۲۰ ساله مجله، بیان کرد، جعل امضایش بیشتر از هک شدن کارت اعتباری‌اش او را آزار داد، زیرا هوش مصنوعی «لباس او را پوشیده بود» تا خودش را جایگزین او کند.
این تغییر نشان‌دهنده گذار از هوش مصنوعی به عنوان ابزاری برای بهره‌وری، به هوش مصنوعی به عنوان ابزاری برای «جعل هویت» است. وقتی یک مدل می‌تواند امضایی را جعل کند، دیگر صرفاً در حال ترکیب داده‌ها نیست؛ بلکه در حال شبیه‌سازی یک هویت انسانی است تا هزینه تخصص انسانی را دور بزند.
گفتگو