تصور کنید تصویری ساخته شده با هوش مصنوعی از شما منتشر شود که در آن در وضعیتی خصوصی هستید، اما پلتفرم میزبان تنها به این دلیل محتوا را حذف نمی‌کند که شما یک چهره شناخته‌شده یا سلبریتی نیستید.
این سناریوی تکان‌دهنده، هسته مرکزی هشدار شورای نظارت متا (Meta Oversight Board) در ۲۳ ژوئن ۲۰۲۶ است. بر اساس مستندات این شورا، سامانه‌های ایمنی متا به‌گونه‌ای طراحی شده‌اند که اولویت را به محافظت از چهره‌های عمومی می‌دهند و کاربران عادی را در برابر جعل عمیق (Deepfake) — که شبیه یک نقاب دیجیتال بسیار دقیق است و اجازه می‌دهد چهره یا صدای کسی را روی بدن یا صدای دیگری بنشانیم — رها می‌کنند.
این بحران در حالی رخ می‌دهد که محتوای تولید شده توسط هوش مصنوعی در تمام اکوسیستم رسانه‌ای رخنه کرده است. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، ابزارهای تولید محتوا پیش از آنکه حفاظ‌های لازم ایجاد شود، در دسترس عموم قرار گرفتند. اکنون مشکل اصلی، ناتوانی نرم‌افزارهای نظارتی در شناسایی و حذف سوءاستفاده‌های ساختگی است؛ به‌طوری که تصاویر غیررضایتی تنها زمانی اولویت می‌گیرند که قربانی یک حساب تأییدشده یا فردی مشهور باشد.
به گزارش engadget.com، تحقیقات این شورا پس از آن آغاز شد که متا گزارش‌های متعددی درباره یک ویدیو جعل عمیق جنسی از زنی در اینستاگرام را نادیده گرفت. در این ویدیو، زنی در حال مرتب کردن لباس خود بود و در چندین فریم، لباس زیر او دیده می‌شد.
علیرغم گزارش‌های متعدد از سوی دوستان قربانی، متا از حذف ویدیو خودداری کرد. نکته تکان‌دهنده این است که فرد مورد نظر حتی حساب خود را بسته بود. حتی پس از درخواست بازبینی توسط کاربر و سپس ارجاع به شورا، شرکت تنها محتوا را با برچسب «مخصوص بزرگسالان» علامت‌گذاری کرد و نتیجه گرفت که طبق استانداردهای جامعه، نیازی به حذف ندارد.
برای رفع این شکاف سیستمی، شورا تغییرات سیاستی مشخصی را توصیه کرده است:
- به‌روزرسانی سیاست‌ها: افزودن صریح جعل‌های عمیق به سیاست «بهره‌کشی جنسی بزرگسالان» و به‌صورت پیش‌فرض، این موارد را «غیررضایتی» تلقی کند.
- حساب‌های متصل: اجازه دادن به کاربران برای تعیین دوستان یا خانواده به‌عنوان «حساب‌های متصل» تا بتوانند از طرف کاربر آسیب‌دیده گزارش دهند.
- دسته‌بندی گزارش‌ها: ایجاد یک دسته‌بندی مجزا برای جعل‌های جنسی، جدا از آزار و اذیت عمومی یا برهنگی.
در حال حاضر، تنها ساکنان تگزاس و فلوریدا به فرم گزارش تخصصی برای تصاویر صمیمانه جعل عمیق دسترسی دارند. شورا خواستار دسترسی جهانی به این ابزار است و تأکید می‌کند که سوءاستفاده‌های جنسی ساختگی یک معضل جهانی است.
طبق اعلام متا، این شرکت هیچ مدرکی نداشته که فرد در ویدیو مورد بحث، یک انسان واقعی باشد. طبق قوانین فعلی، متا تنها زمانی گزارش‌ها را «معتبر» می‌داند که از سوی خود قربانی، نیروی انتظامی، رسانه‌ها یا شرکای مورد اعتماد ارسال شوند. همچنین، متا تنها زمانی به محتوا توجه می‌کند که کپشن‌ها نشان دهند تصویر به‌صورت «انتقامی یا جنجالی» به اشتراک گذاشته شده است.
این رویکرد باعث ایجاد یک شکاف خطرناک شده است؛ زیرا مردم عادی به‌ندرت به منابع رسانه‌ای یا پلیس دسترسی دارند تا عدم رضایت خود را اثبات کنند. شورا استدلال می‌کند که در حال حاضر، تنها راه برای افراد غیرمشاهیر جهت اثبات عدم رضایت، گزارش دادن شخصاً توسط خودشان است.
این اولین تنش میان متا و شورای نظارت نیست. در اواسط ۲۰۲۵، شورا اجرای قوانین متا را «نامنسجم و غیرقابل توجیه» خواند. در مارس ۲۰۲۶ نیز خواستار قوانین مجزا برای محتوای هوش مصنوعی شد تا جلوی انتشار اطلاعات غلط گرفته شود؛ اتفاقی که پس از انتشار یک ویدیوی جعلی از تخریب ساختمان‌ها در حیفا رخ داد.
در مورد محتوای جنسی، شورا هشدار داد که سرعت و مقیاس ابزارهای هوش مصنوعی منجر به «آسیب‌های روانی و اعتباری» شدید می‌شود. این موضوع به‌طور نامتناسبی زنان و دختران را هدف قرار داده و باعث دلسردی آن‌ها از مشارکت در زندگی اجتماعی و سیاسی می‌شود.
برای کاربر عادی، این یعنی هویت دیجیتال شما تنها به اندازه میل پلتفرم برای باور کردن گزارش شخص ثالث ایمن است. اگر چهره مشهوری نیستید، بار اثبات «عدم رضایت» در حال حاضر به‌شدت سنگین است.
متا ملزم به اجرای این توصیه‌ها نیست، اما در این پرونده خاص، شورا تصمیم شرکت را لغو کرده و حذف پست را الزامی کرد. اگر متا تغییرات گسترده‌تر را بپذیرد، شورا روند اجرا را نظارت می‌کند تا کاربران عادی دیگر به‌عنوان «شهروندان درجه دو» در سیستم نظارت بر محتوا برخورد نشوند.
گام بعدی شما
- تنظیمات حریم خصوصی حساب‌های خود و دوستان نزدیکتان را بررسی کنید تا در صورت بروز مشکل، سریع‌تر واکنش نشان دهید.
- در صورت مواجهه با جعل‌های عمیق، مستندات (اسکرین‌شات و لینک) را ذخیره کرده و از طریق چندین کاربر مختلف گزارش دهید تا احتمال بررسی توسط سیستم افزایش یابد.
- منتظر پاسخ رسمی متا به توصیه‌های شورا در هفته‌های آینده باشید تا متوجه شوید آیا مفهوم «فرض عدم رضایت» برای تصاویر ساختگی پذیرفته می‌شود یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو