تصور کنید گربهی گمشدهتان را پس از ماهها جستوجو پیدا کنید، اما تنها به قیمت پرداخت مبلغی پول به غریبهای که عکسی مشکوک فرستاده است. این کابوس برای میبی باتلر در آوریل ۲۰۲۴ رخ داد؛ زمانی که متوجه شد عکسی که از گربهاش «بروکلین» دریافت کرده، محصول هوش مصنوعی زاینده (Generative AI) است.
داستان از جایی شروع شد که دوستپسرهی هماتاقی باتلر، گربه را در حومهی لسآنجلس و در فاصلهی ۳۰ دقیقهای از خانهشان رها کرده بود. باتلر در جستوجوی بروکلین بود که غریبهای عکسی را برای او فرستاد. در ابتدا، تصویر بروکلین روی پیشخوان آشپزخانه در حالی که دختری او را در آغوش گرفته بود، کاملاً واقعی به نظر میرسید. اما وقتی غریبه برای مراقبتهای موقت ادعایی از گربه، درخواست پرداخت وجه پیشپرداخت کرد، ماهیت فریبکارانه این تصویر آشکار شد.
باتلر با دقت متوجه متنی بههمریخته روی یک بطری شربت برند «تورانی» (Torani) در پسزمینه عکس شد — نشانهای کلاسیک از خطاهای مدلهای تولید تصویر که در رندر کردن متون دقیق ناتوان هستند. باتلر به دلیل عدم اطمینان از اینکه آیا جرمی رخ داده است یا خیر، موضوع را به پلیس گزارش نکرد؛ چهار ماه بعد، بروکلین همچنان گمشده است.
این اتفاق تنها یک مورد تک است؛ ما با موجی از «آشغالهای مصنوعی» (AI Slop) روبهرو هستیم؛ محتواهای بیکیفیت و انبوهی که شبکههای اجتماعی را پر کردهاند. برای سالها، ویدیوهای بامزه حیوانات منبع جهانی شادی و همدلی در اینترنت بودند. اکنون، این محتواها به بردارهایی برای کلاهبرداری و انتشار اطلاعات نادرست تبدیل شدهاند. این تغییر در حالی رخ میدهد که ابزارهای هوش مصنوعی زاینده به قدری در دسترس قرار گرفتهاند که هر کسی میتواند روایتهای احساسی اما جعلی — مانند ملوانانی که خرسهای قطبی را نجات میدهند یا گوسالههایی که از مادرانشان جدا شدهاند — خلق کند.
بحران اثبات در مستندسازی
سازمان غیرانتفاعی We Animals که ۱۷۵ عکاس فوتوژورنالیست را برای ثبت آزار حیوانات در آزمایشگاهها، سیرکها و مزارع به خدمت گرفته است، اکنون با یک چالش جدید روبهرو است: «بحران اثبات». مخاطبان اکنون بهطور روتین آنها را متهم میکنند که از هوش مصنوعی برای ساخت تصاویر استفاده کردهاند. اوا فون یاگو، مدیر بازاریابی این سازمان، میگوید چون تصاویر آنها اغلب تکاندهنده و شوکهکننده است، بهطور طبیعی با تردید مواجه میشود.
به گزارش این سازمان، موارد زیر نشاندهنده عمق این بحران است:
- تصاویر پهپادی از ردیفهایی از قفسهای کوچک (hutches) که برای نگهداری گوسالههای جدا شده از مادرانشان در یک مزرعه لبنی در آریزونا استفاده میشد، توسط برخی کاربران «زیباتر از آنکه واقعی باشد» خوانده شد و رد شد.
- یکی از کاربران اینستاگرام اخیراً در مورد ویدیو مزرعه لبنی کامنت گذاشته و پرسیده است: «چطور ثابت میکنید این AI نیست؟»
- این سازمان اکنون برای حفظ اعتبار خود، استفاده از هرگونه ابزار هوش مصنوعی را برای عکاسانش بهطور کامل ممنوع کرده است.
- برای بازگرداندن اعتماد، We Animals قصد دارد کلیپهای پشتصحنه و جزئیات بیشتری درباره نحوه تأیید مدارک ارسالی توسط کارکنانش به اشتراک بگذارد.
- آنها همچنین قصد دارند از فناوریهایی استفاده کنند که تاریخچه ویرایش و منشأ (provenance) فایل را در دل دادههای دیجیتال جاسازی میکند تا از زیر سؤال رفتن تمام آثارشان جلوگیری شود.
ریسکهای مالی و ایمنی
اسکار هورتا، فیلسوف و فعال حقوق حیوانات که اخیراً مستندی کوتاه درباره اثرات هوش مصنوعی بر حیات وحش ساخته است، هشدار میدهد که ویدیوهای تخیلی و دور از واقعیت از نجات حیوانات در آتشسوزیها یا سیلها خطرناک هستند. او صحنههایی را که در آن خرسهای قطبی در حال غرق شدن هستند و توسط افرادی در قایق نجات داده میشوند، «مضحک» و «غیرنمایندهی معنای واقعی کمک به حیوانات» مینامد.
هورتا نگران است که این تصاویر مردم را به اقدامات خطرناک ترغیب کند و در نتیجه باعث آسیب رساندن به حیوانات در دنیای واقعی شود. علاوه بر این، او میترسد که محتوای تولید شده توسط AI باعث شود مردم تاکتیکهای نجات قانونی را زیر سؤال ببرند و تلاشهای جمعآوری کمکهای مالی را مختل کنند؛ موضوعی که با افزایش رویدادهای آب و هوایی شدید، حیاتیتر از پیش شده است.
اقتصاد «آشغالهای مصنوعی» به نفع جعل است. تولید تصاویر مصنوعی بسیار ارزانتر از عکاسی واقعی است. این امر به بازیگران بد اجازه میدهد تا نتایج جستوجو را با محتوای جعلی اشغال کنند و تلاشهای مشروع حفاظتی را به حاشیه برانند تا درآمد تبلیغاتی و لایک جمع کنند. این روند مستقیماً توانایی جمعآوری بودجه برای پروژههای رفاه حیوانات را تهدید میکند، زیرا این پروژهها برای تحریک احساسات بینندگان و جذب کمکهای مالی، به تصاویر واقعی و تکاندهنده متکی هستند.
نبرد فنی برای حقیقت
برای مقابله با این روند، جف سبو، مدیر مرکز ذهن، اخلاق و سیاست در دانشگاه نیویورک (NYU)، در حال فشار بر توسعهدهندگان هوش مصنوعی است تا دستورالعملهای مدلهای خود را بهروزرسانی کنند. او میخواهد توسعهدهندگان تولید پاسخهایی را که بهطور بالقوه برای حیوانات مضر هستند، دلسرد کنند.
سبو پیشنهاد میکند که مدلهای AI باید بر اساس شواهد و استدلال در مورد رنج موجودات باقی بمانند و در عین حال از «موعظه بیش از حد» یا رد درخواستهای منطقی کاربران خودداری کنند. این رویکرد در حالی مطرح میشود که برخی از مدلهای پیشرفته گوگل در تلاشاند تا پیوندی میان آگاهی و دیدگاههای فلسفی برقرار کنند تا درک عمیقتری از مفاهیمی چون رنج و وجود داشته باشند.
در سطح قانونی، نهادهای نظارتی در حال مداخله هستند. قوانین جدید در اتحادیه اروپا و کالیفرنیا اکنون تولیدکنندگان محبوب AI را ملزم میکنند تا برچسبهای نامرئی (invisible tags) را در خروجیهای خود جاسازی کنند. سپس پلتفرمهای رسانههای اجتماعی موظف هستند از این برچسبها برای علامتگذاری عمومی محتوا بهعنوان «تولید شده توسط هوش مصنوعی» استفاده کنند.
با این حال، ابزارهای تأیید هنوز دشوار و دستوپاگیر هستند. اگرچه مدلهایی مثل ChatGPT، Gemini و Meta AI میتوانند تصاویری را که خودشان ساختهاند شناسایی کنند، اما اکثر کاربران زمان کافی ندارند تا هر عکس را در یک چتبات آپلود کنند. همچنین محدودیتهایی مانند سقف تعداد تصاویری که یک کاربر میتواند بررسی کند وجود دارد. کارشناسان پیشنهاد میدهند این ابزارها بهصورت پیشفرض و با حفظ حریم خصوصی، مستقیماً در مرورگرها و پیامرسانها ادغام شوند تا کاربردیتر باشند. این فشار برای اصلاح ابزارها در ادامه واکنشهای تودهای کاربران است که پیشتر شرکتهای متا و گوگل را به عقبنشینی از برخی قابلیتهای AI مجبور کرد.
مجله WIRED برای تست سهولت این کلاهبرداریها، تنها از یک پرامپت ۲۹ کلمهای و یک عکس واقعی از بروکلین (برگرفته از پوستر گمشده) استفاده کرد. آنها با استفاده از ChatGPT توانستند تصویری خلق کنند که تقریباً مشابه عکس کلاهبردار بود؛ تصویری که بروکلین را در حال غذا خوردن مقابل یک در ورودی نشان میداد.
برای کاربرانی مثل باتلر، تنها پناهگاه، حرکت به سمت فضاهای «فقط انسانی» است. او همچنان تقریباً ماهی یک بار پیامهای جعل عمیق (deepfakes) از افرادی دریافت میکند که ادعا میکنند گربهاش را پیدا کردهاند. او اکنون این کاربران را مسدود میکند و وقت خود را در یک گروه فیسبوکی با نزدیک به ۳۰۰,۰۰۰ هنرمند میگذراند که مخالف هوش مصنوعی هستند؛ جایی که او به دنبال آثاری میگردد که میداند توسط انسان خلق شدهاند، در حالی که همچنان به جستوجوی بروکلین ادامه میدهد.
گام بعدی شما
- هنگام مشاهده تصاویر احساسی یا تکاندهنده از حیوانات، به جزئیات پسزمینه (متون بههمریخته، سایههای غیرمنطقی و لبههای اشیا) دقت کنید.
- برای تأیید اصالت تصاویر خبری، از منابع رسمی و سازمانهای دارای سابقه مستندسازی استفاده کنید.
- در صورت دریافت پیشنهادهای مالی برای یافتن حیوانات گمشده، هرگز پیش از تأیید حضوری یا تماس تصویری وجهی پرداخت نکنید.
اما نبرد برای تشخیص حقیقت تنها در تصاویر نیست؛ اثرات عمیقتر جعل عمیق در ویدیوهای خبری را در گزارش بعدی بررسی خواهیم کرد.
گفتگو