اگر در فیس‌بوک ویدئویی از ویرانی لندن در سال ۲۰۵۰ دیدید، با یک پیش‌بینی طرف نیستید؛ شما یک محصول تبلیغاتی را می‌بینید. این ویدئوها که شهرهای بریتانیا را به‌صورت آشوب‌زده نشان می‌دهند، توسط عامل‌های خارجی برای تغییر افکار عمومی یا کسب درآمد تبلیغاتی ساخته شده‌اند.
این موج از اطلاعات نادرست، محصول هوش مصنوعی زاینده (Generative AI) است — مثل یک جعل‌کننده‌ی استاد که تمام نقاشی‌های جهان را خوانده و حالا می‌تواند هر تصویری را با هر سبکی خلق کند. طبق گزارش BBC، شرکت‌های خصوصی و دولت‌ها اکنون صنعت «دروغ‌سازی در اجاره» را توسعه داده‌اند. آن‌ها با خرید حساب‌های ارزان‌قیمت بریتانیایی، خود را به جای «میهن‌پرستان محلی» جا می‌زنند تا فیلترهای منطقه‌ای را دور بزنند.
سادیک خان (Sadiq Khan)، شهردار لندن، در ۱۵ مه ۲۰۲۶ اعلام کرد که دفتر او شواهدی از فعالیت عامل‌های دولتی روسیه و چین و همچنین حامیان راست‌گرای افراطی جنبش MAGA یافته است. این محتواها اغلب متناقض هستند؛ برخی ویدئوها بریتانیا را به‌دلیل مهاجرت در حال سقوط نشان می‌دهند، در حالی که همان سازندگان، کشورهای اسلامی را به‌صورت ایده‌آل به تصویر می‌کشند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، دسترسی آسان به ابزارها، ریسک‌های جدیدی ایجاد می‌کند. یافته‌های کلیدی این تحقیق عبارتند از:
- انگیزه‌های مالی: برخی اپراتورها اعتراف کرده‌اند که محتوای تحریک‌آمیز را فقط برای افزایش بازدید و کسب درآمد از طرح‌های پولی اینستاگرام می‌سازند.
- فاصله‌ی جغرافیایی: صفحه‌ی «Britain Today» که محتوای ضد‌مهاجر منتشر می‌کند، طبق ابزارهای شفافیت متا (Meta)، در سریلانکا مستقر است.
- شکست در تشخیص: پروفسور ایوان مک‌درموت ریس (Yvonne McDermott Rees) از دانشگاه کوئینز بلفاست می‌گوید مردم تنها ۵۵٪ در تشخیص جعل عمیق (Deepfake) — شبیه ماسکی دیجیتالی که دقیقاً روی صورت کسی می‌نشیند تا حرفهای جعلی بزند — موفق بوده‌اند.
این تغییر، تکاملی خطرناک در عملیات نفوذ است. وقتی جامعه با حجم زیادی از جعل‌های باکیفیت بمباران شود، فقط دروغ‌ها را باور نمی‌کند، بلکه اعتمادش به حقیقت را از دست می‌دهد. برای کاربر عادی، این یعنی «خط پایه حقیقت» در حال ناپدید شدن است.
گام بعدی شما
- برای هر ویدئوی جنجالی، منبع اصلی را در خبرگزاری‌های رسمی چک کنید.
- از ابزارهای تحلیل متادیتای ویدئو برای بررسی تاریخ و مکان تولید استفاده کنید.
- منتظر بمانید و ببینید آیا پلتفرم‌ها برچسب‌گذاری اجباری برای محتوای AI را اجرا می‌کنند یا خیر.
این تنها آغاز ماجراست؛ اثر موج‌گونه‌ی این تصمیم بر اکوسیستم تشخیص جعل را در گزارش بعدی بررسی خواهیم کرد.
گفتگو