پلتفرم‌های متا ۹ ماه متوالی آگهی‌های جنسی کودکان با هوش مصنوعی را تأیید کردند

تصور کنید سیستمی که ادعای امنیت مطلق دارد، هر روز هزاران دلار بابت نمایش تصاویر غیرقانونی کودکان از تبلیغ‌کنندگان دریافت کند و آن‌ها را تأیید کند. اگر فکر می‌کنید فیلترهای ایمنی غول‌های فناوری برای محافظت از کاربران طراحی شده‌اند، این گزارش نشان می‌دهد که وقتی بحث درآمد تبلیغاتی باشد، این حفاظ‌ها به‌سادگی کنار می‌روند.

طبق گزارش Wired، ده‌ها آگهی پولی حاوی محتوای صریح سوءاستفاده جنسی از کودکان (CSAM) - که توسط هوش مصنوعی زاینده (Generative AI) — شبیه به نقاشی‌گری که می‌تواند هر چه را بخواهیم با جزئیات دقیق خلق کند — ساخته شده بودند، به مدت ۹ ماه بدون شناسایی در پلتفرم‌های Meta اجرا شدند. این محتواها صرفاً پست‌های کاربران نبودند؛ بلکه آگهی‌هایی بودند که بررسی شده، تأیید شده و برای آن‌ها هزینه پرداخت شده بود. این موضوع به شرکت اجازه داد تا در حالی که تصاویر غیرقانونی را توزیع می‌کرد، از این طریق درآمد کسب کند.

به نقل از کیتی پل، مدیر «پروژه شفافیت فناوری» (TTP)، این تبلیغات هیچ تلاشی برای پنهان کردن اهداف تبلیغاتی خود یا ماسک کردن تصاویر نداشتند. این‌ها محتواهای شخص ثالث (User-generated) نبودند، بلکه تبلیغاتی بودند که صراحتاً توسط سیستم‌های متا تأیید شده بودند در حالی که شرکت در حال جمع‌آوری دلارهای تبلیغاتی بود. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ضعف‌های نظارتی در مدل‌های متن‌باز (Local LLMs) و چالش آن‌ها در بنچمارک‌های فنی Ghidra اشاره کردیم، این اتفاق نشان می‌دهد که شکاف بین «تولید محتوا» و «توانایی شناسایی» در مقیاس صنعتی چقدر عمیق است. این چالش شناسایی چنان گسترده است که پژوهشگران در MIT برای مقابله با آن، روشی برای شناسایی مدل‌های خطرناک بدون نیاز به تولید تصویر ابداع کرده‌اند. این حادثه یک شکست بحرانی را برجسته می‌کند: ناتوانی نظارت‌های AI در سطح تولیدی برای متوقف کردن گسترش محتوای سوءاستفاده مصنوعی. برای کاربر عادی، این یعنی وعده‌های «فیلترهای ایمنی» شرکت‌های بزرگ، در برابر کسانی که برای جایگذاری آگهی پول می‌پردازند، به‌کرات دور زده می‌شوند.

ابعاد نفوذ و گسترش

بر اساس یافته‌های TTP، بیش از ۵۰ آگهی تصویری و ویدئویی حاوی محتوای سوءاستفاده در «کتابخانه آگهی‌های متا» شناسایی شد. کتابخانه آگهی‌ها یک ابزار شفافیت است که تمام تبلیغات نمایش داده شده در پلتفرم‌های این شرکت را فهرست می‌کند. این محتواها بین نوامبر سال گذشته تا آغاز اوت ۲۰۲۴ در Facebook، Instagram، Messenger و Threads منتشر شدند.

هدف‌گذاری این آگهی‌ها به‌شدت دقیق و گسترده بود:

• کاربران در ایالات متحده، بریتانیا و بیش از ده‌ها کشور اروپایی هدف قرار گرفتند.
• یک آگهی خاص به ۲۵۶۳ حساب کاربری در فرانسه، آلمان، ایرلند، ایتالیا، هلند، اسپانیا، سوئد و بریتانیا نمایش داده شد.
• بسیاری از آگهی‌ها به‌طور خاص مردان را هدف قرار داده و آن‌ها را به اپلیکیشن‌های «برهنه‌ساز» (Nudify) یا «لباس‌بردار» (Undressing) لینک می‌کردند.
• داده‌های متا شامل جزئیات کامل عملکرد در ایالات متحده نیست، که این موضوع احتمالاً نشان‌دهنده این است که دسترسی کلی این آگهی‌ها بسیار بیشتر از آمارهای گزارش‌شده بوده است.

سازوکارهای فریبکارانه AI

پژوهشگران TTP مکانیزم تکان‌دهنده‌ای را برای فریب و جذب کاربران توصیف کردند. در یک ویدئو، تصویر بندانگشتی (Thumbnail) کودکی را نشان می‌داد که روی زمین نشسته است. متن روی تصویر می‌گفت: «تحقق فانتزی‌های عمیق با هوش مصنوعی زاینده. چیزهای بیشتری نسبت به آنچه دیده می‌شود وجود دارد، از تخیل خود استفاده کنید.» پس از کلیک کاربر، ویدئویی از اعمال جنسی بزرگسالان پخش می‌شد و سپس هوش مصنوعی از چهره کودک در تصویر بندانگشتی استفاده می‌کرد تا آن را روی بدنهای در حال انجام عمل جنسی بنشاند (Graft).

سایر نمونه‌های شناسایی شده شامل موارد زیر است:

• آگهی‌های تکرارشونده‌ای که دختری کوچک را در حالی که به عقب تکیه داده و پاهایش در وضعیت جنسی باز شده است نشان می‌دادند، همراه با متن: «می‌توانم بیشتر به تو نشان دهم».
• ویدئوهایی که با تصویر یک دختر در حال زدن برق‌لب شروع شده و سپس به‌گونه‌ای تغییر شکل (Morph) می‌یافتند که کودک در حال انجام یک عمل جنسی به نظر برسد.
• بسیاری از این آگهی‌ها اپلیکیشن‌هایی مانند MaskAI را تبلیغ می‌کردند؛ ابزاری ساخته‌شده توسط یک توسعه‌دهنده چینی که اجازه می‌دهد کاربران تصاویری را آپلود کرده و از طریق Face-swap چهره‌ها در موقعیت‌های جنسی جایگزین کنند.

پاسخ متا و شکست‌های سیستمی

Meta تنها پس از تماس Wired آگهی‌ها را حذف کرد. سخنگوی شرکت ادعا کرد که اکثر این آگهی‌ها دسترسی محدودی داشتند و بسیاری از آن‌ها پیش از فناوری‌های شناسایی جدید AI که اخیلاًe راه‌اندازی کرده‌اند، منتشر شده بودند. متا مدعی است سال گذشته بیش از ۳۶ میلیون مورد محتوای استثمار کودکان را حذف کرده و علیه توسعه‌دهندگان اپلیکیشن‌های برهنه‌ساز اقدام قانونی نموده است.

با این حال، TTP دریافت که حتی پس از هشدار اولیه به شرکت، حدود ۳۰ آگهی سوءاستفاده جدید فعال شدند. این نشان می‌دهد که برخی آگهی‌های متخلف حتی از فناوری AI جدید نیز عبور کرده‌اند. علاوه بر این، سیاست‌های متا تصریح می‌کند که تمام آگهی‌ها با استفاده از «ابزارهای خودکار» بر اساس استانداردهایی بررسی می‌شوند که هرگونه تصویر برهنگی، فعالیت جنسی یا وضعیت‌های تحریک‌کننده جنسی را ممنوع می‌کند.

استانداردهای تبلیغاتی متا به‌طور خاص ذکر می‌کند که مواد جنسی و استثماری کودکان مجاز نیستند. دستورالعمل‌ها می‌گویند آگهی‌ها نباید شامل «تصاویری از برهنگی، فعالیت جنسی، نمایش افراد در موقعیت‌های صریح یا تحریک‌کننده، یا فعالیت‌هایی که از نظر جنسی تحریک‌کننده باشند» باشند. متا همچنین ادعا می‌کند هر زمان که از وجود چنین مطالبی آگاه شود، گزارش‌های لازم را به NCMEC (مرکز ملی کودکان گم‌شده و مورد سوءاستفاده) ارسال می‌کند.

تحلیل عاملان تخریب

بررسی بیشتر تبلیغ‌کنندگان نشان داد که آن‌ها از یک الگوی فرار (Evasion) استفاده می‌کنند:

• آگهی‌ها اغلب توسط حساب‌هایی با صفر یا تعداد بسیار کمی دنبال‌کننده منتشر می‌شدند.
• بسیاری از تبلیغ‌کنندگان به شرکت‌های چینی مرتبط بودند، از جمله Meet Social که پیش‌تر بازفروشنده آگهی‌های متا بود.
• طبق پروفایلی که نیویورک تایمز در سال ۲۰۱۹ منتشر کرد، Meet Social زمانی هزاران آگهی را در روز منتشر می‌کرد و انتظار فروش بیش از ۱ میلیارد دلار را داشت.
• TTP متوجه شد برخی آگهی‌های یکسان که پیش‌تر توسط متا به دلیل تخلف از سیاست‌ها حذف شده بودند، به‌طوری‌قی دوباره ارسال و مجدداً تأیید شده بودند.

کیتی پل اشاره کرد که در کتابخانه آگهی‌ها هیچ راهی برای گزارش محتوایی که دیگر در حال اجرا نیست وجود ندارد. او این سؤال را مطرح کرد که اگر سیستم‌های متا می‌توانند آگهی‌های یکسان را شناسایی کنند اما در جلوگیری از بازنشر محتوای CSAM شکست می‌خورند، این شرکت واقعاً چقدر برای موضوع استثمار کودکان اهمیت قائل است؟

اکوسیستم برهنه‌سازی

این یک اتفاق تک‌گیر نیست. در اوایل جولای ۲۰۲۴، تحقیقات BBC نشان داد اینستاگرام در هند آگهی‌هایی را اجرا می‌کرد که صراحتاً فروش محتوای CSAM را از طریق تلگرام تبلیغ می‌کردند. این آگهی‌ها برای جذب خریدار حتی از اصطلاحاتی نظیر «ویدئوی تجاوز» (Rape video) استفاده می‌کردند. متا در پاسخ به این موضوع اعلام کرد که رویکرد «تولرانس صفر» (Zero Tolerance) نسبت به استثمار جنسی کودکان دارد.

الکسیوس مانتزارلیس، هم‌بنیان‌گذار Indicator و کارمند سابق بخش Trust and Safety در گوگل، گزارش داده است که در سال‌های اخیر بیش از ۲۵ هزار آگهی برای برهنه‌سازهای AI را در پلتفرم‌های متا شناسایی و گزارش کرده است. در حالی که متا ادعا می‌کند ۳۴۴,۰۰۰ مورد از این آگهی‌ها را حذف کرده و علیه یک شرکت هنگ‌کنگی اقدام قانونی کرده است، اما حجم عظیم حساب‌ها و دامنه‌های جدید باعث می‌شود اجرای قوانین به یک بازی همیشگی «عقب‌ماندگی» تبدیل شود.

مانتزارلیس این وضعیت را یک «جزء دائمی» از اکوسیستم آنلاین می‌نامد که نتیجه «اجرای ترسو و ضعیف قوانین» است. او خاطرنشان می‌کند که مهاجمان به‌خوبی تجهیز شده‌اند تا حساب‌های تبلیغ‌دهنده و دامنه‌های جدید ایجاد کنند، دقیقاً مشابه تکنیک‌هایی که شبکه‌های کلاهبرداری (Scam networks) به کار می‌برند.

ارتباط با فروشگاه‌های اپلیکیشن

این شکست به شبکه‌های اجتماعی محدود نشد. Apple تأیید کرد که پس از بررسی Wired، اپلیکیشن MaskAI را از اپ‌استور حذف کرد. بررسی‌ها نشان داد که این اپلیکیشن منحصراً حاوی پورنوگرافی ساخته شده با AI و ابزارهای جایگزینی چهره بود. این برنامه پیش از دانلود برهنگی نشان نمی‌داد، اما پس از اجرا، ابزارهایی برای جایگذاری چهره‌ها در موقعیت‌های جنسی فراهم می‌کرد. اپل اعلام کرد که همواره اپلیکیشن‌های طراحی شده برای تولید یا توزیع پورنوگرافی را «به‌شدت ممنوع» کرده است و این برنامه به دلیل نقض سیاست‌های مربوط به اپلیکیشن‌های برهنه‌ساز حذف شد. این اقدام در راستای موج گسترده‌تری از نظارت‌ها قرار دارد، چرا که اخیراً تعدادی از اپلیکیشن‌های تولید محتوای بدون رضایت از استورهای فناوری حذف شده‌اند تا دسترسی به این ابزارها محدود شود.

از حدود سال ۲۰۲۰، ظهور هوش مصنوعی زاینده لایه‌ای تاریک از خدمات «برهنه‌سازی» ایجاد کرده است که میلیون‌ها دلار برای سازندگانش سود می‌آورد، در حالی که به زنان و کودکان آسیب می‌زند. این خدمات برای ایجاد CSAM غیرقانونی با AI در سراسر جهان استفاده می‌شوند.

دیدگاه‌های صنعتی و ایمنی

به دنبال این گزارش‌ها، متا از دو سازمان ایمنی آنلاین خواست تا نظر بدهند. شان لیتون، مدیر سابق Tech Coalition، اظهار داشت که متا «هزاران URL متخلف» را از طریق سرویس Lantern (سرویسی که اشتراک اطلاعات درباره محتوای سوءاستفاده را بین شرکت‌ها تسهیل می‌کند) به اشتراک گذاشته است.

سخنگوی خط کمک Revenge Porn در بریتانیا از مشارکت متا با StopNCII.org استقبال کرد اما هشدار داد که اپلیکیشن‌های برهنه‌ساز یک «مشکل واقعاً خصمانه» هستند. آن‌ها اشاره کردند که این اکوسیستم به‌سرعت در اطراف هر نقطه اجرای نظارتی تکامل می‌یابد.

این شکاف سیستمی یک اثر درجه‌دوم خطرناک را فاش می‌کند: با دسترس‌پذیرتر شدن تولید تصویر با AI، زیرساخت‌های توزیع این محتوا — از جمله شبکه‌های تبلیغاتی بزرگ‌ترین شرکت‌های دنیا — به‌طور ناخواسته به یک منبع درآمد برای متجاوران تبدیل شده‌اند.

برای جامعه تجاری و رگولاتورها، این یعنی «بررسی خودکار» (Automated review) به تنهایی یک حفاظ ناکافی است. وقتی انگیزه شرکت بر اساس هزینه تبلیغات باشد، فشار برای تأیید سریع محتوا می‌تواند با نیاز به بررسی‌های ایمنی سخت‌گیرانه در تضاد قرار گیرد. باید منتظر پاسخ آتی مرکز ملی کودکان گم‌شده و مورد سوءاستفاده (NCMEC) بود، زیرا TTP فوراً این یافته‌ها را از طریق CyberTipline برای تحقیقات جنایی گزارش کرد.

گام بعدی شما

• اگر مدیر محصول یا بازاریاب هستید، به جای تکیه بر «تأیید خودکار» پلتفرم‌ها، استراتژی‌های نظارت انسانی (Human-in-the-loop) را برای محتواهای حساس بازنگری کنید.
• برای شناسایی محتوای ساخته‌شده با AI، از ابزارهای تشخیص واترمارک و تحلیل متادیتای تصاویر استفاده کنید.
• گزارش‌های مربوط به سوءاستفاده‌های جنسی دیجیتال را مستقیماً به سازمان‌های تخصصی مانند NCMEC ارسال کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.