تصور کنید یک حساب با تیک آبی رسمی، تصویری از شما منتشر کند که ادعایی جنجالی را مطرح می‌کند و شما حتی حساب کاربری ندارید تا آن را تکذیب کنید. این کابوس برای میا گات (Mia Goth)، بازیگر سینما، به واقعیت تبدیل شد.
یک حساب تأییدشده در اینستاگرام با انتشار تصویری که توسط هوش مصنوعی زاینده (Generative AI) — شبیه نقاشی دیجیتالی که دقیقاً هر چه بخواهید را با جزئیات واقعی می‌کشد — ساخته شده بود، صدها هزار کاربر را فریب داد. در این تصویر، میا گات پیراهنی به تن داشت که به طلاق او از شیا لابیوف اشاره می‌کرد. این تصویر چنان به‌طور مؤثری پخش شد که رسانه‌های سرگرمی بزرگی از جمله People و OK!، پیش از آنکه جعلی بودن آن فاش شود، این محتوا را به عنوان خبری واقعی گزارش کردند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های مولد اشاره کردیم، محافظت از چهره و هویت در برابر جعل‌های پیشرفته به چالشی حیاتی تبدیل شده است. این اتفاق در حالی رخ می‌دهد که چهره‌های شناخته‌شده‌ای مثل اسکارلت جوهانسون در سال ۲۰۲۴ با OpenAI بر سر شبیه‌سازی صدا وارد نبرد حقوقی شدند. مورد میا گات، یک آسیب‌پذیری خاص را در نحوه سیگنال‌دهی پلتفرم‌های اجتماعی درباره اصالت محتوا به عموم مردم آشکار می‌کند. این چالش‌ها تنها محدود به چهره‌ها نیست و پیش‌تر شاهد سرقت هویت بصری هنرمندان از طریق تقلید امضاهایشان در تصاویر ChatGPT بودیم.
به نقل از بیانیه‌ی کریستین تریپیچیو در تاریخ ۱۳ اکتبر ۲۰۲۶ که در اختیار The Verge قرار گرفت، میا گات هیچ‌گونه حساب کاربری در هیچ‌یک از شبکه‌های اجتماعی ندارد و از آن‌ها استفاده نمی‌کند. با این حال، حساب miagoth_ با بیش از یک میلیون دنبال‌کننده و تیک آبی، که به‌طور سنتی نشان‌دهنده یک نهاد رسمی بود، به عنوان منبع رسمی شناخته شد.
حفره‌های تأیید هویت
بر اساس بررسی مستندات، سیاست‌های فعلی متا (Meta) به سه شکل باعث این سردرگمی شد:
- تأییدیه پولی: متا اکنون تیک آبی را می‌فروشد؛ بنابراین صفحات طرفداران می‌توانند بدون اینکه توسط شخص واقعی اداره شوند، «تأییدشده» به نظر برسند.
- جای خالی برچسب‌ها: متا برچسب هوش مصنوعی را برای ویدیوهای واقع‌گرایانه اجباری کرده، اما قوانین آن شامل یک استثنا است که برچسب‌گذاری برای تصاویر ثابت را اختیاری می‌کند. این رویکرد در مقابل سخت‌گیری‌های برخی نهادها قرار دارد؛ برای مثال مسابقات معتبری مانند نیکون، استفاده از AI را در آثار ارسالی به طور کامل ممنوع کرده و برندگان را به دلیل این تخلف حذف می‌کنند.
- اولویت انتشار: تیم میا گات این موضوع را «غیرقابل‌فهم» توصیف کردند که پلتفرم، انتشار تصاویر دست‌کاری‌شده را بر حفظ اعتبار چهره‌های شناخته‌شده ترجیح داده است.
این شکست نشان می‌دهد تیک آبی از یک سیگنال اعتماد به یک کالای تجاری تبدیل شده است و عملاً ارزش خود را به عنوان ابزاری برای تأیید هویت از دست داده است. برای کاربر عادی، تفاوت بین «حساب تأییدشده طرفداران» و «حساب رسمی» در هنگام اسکرول سریع، عملاً نامرئی است.
برای تولیدکنندگان محتوا و چهره‌های شناخته‌شده، این یعنی بار اثبات حقیقت تغییر کرده است. دیگر نمی‌توان برای رد کردن یک جعل عمیق (Deepfake) — شبیه یک ماسک دیجیتالی بسیار دقیق که روی چهره می‌نشیند — به نشان‌های داخلی پلتفرم تکیه کرد؛ بلکه تکذیب‌های رسمی اکنون باید با سرعت ویروسی شدن محتوای AI رقابت کنند. در همین راستا، تلاش‌های قانونی برای مقابله با سوءاستفاده از این فناوری در جریان است، هرچند میزان اثرگذاری اقداماتی نظیر توقیف سایت‌های دیپ‌فیک توسط مقامات نیویورک همچنان مورد بحث است.
در حالی که مدیران متا سیگنال می‌دهند که محتوای تولید شده توسط هوش مصنوعی در مرکز تعاملات آینده کاربران خواهد بود، تنش بین رشد پلتفرم و اصالت محتوا احتمالاً شدت خواهد یافت. در آینده باید منتظر فشار‌های قانون‌گذاری برای اجباری کردن متادیتای منشأ (مانند استاندارد C2PA) برای تمامی تصاویر ثابت تولید شده توسط AI در پلتفرم‌های اجتماعی باشیم.
گام بعدی شما
- برای تشخیص تصاویر مشکوک، به جزئیات غیرمنطقی در پس‌زمینه یا لبه‌های لباس دقت کنید.
- در تنظیمات حریم خصوصی، دسترسی اپلیکیشن‌های متفرقه به تصاویر خود را محدود کنید.
- از ابزارهای بررسی متادیتای تصاویر برای یافتن منشأ فایل استفاده کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو