تصور کنید تبلیغ ساده‌ای برای یک محصول معمولی را می‌بینید، اما با کلیک روی آن، به صفحه‌ای هدایت می‌شوید که محتوای استثمار کودکان را منتشر می‌کند. متا اکنون برای متوقف کردن این مسیرهای مخفی، از قدرت مدل‌های زبانی استفاده می‌کند.
طبق اعلام متا (Meta)، این شرکت در نیمه اول سال ۲۰۲۶ میلادی، ۳۳.۲ میلیون مورد از محتوای استثمار جنسی کودکان را از فیس‌بوک و اینستاگرام پاک کرده است. برای تقویت این پاک‌سازی، متا یک مدل زبانی بزرگ (LLM) — شبیه کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — را به‌طور اختصاصی برای شناسایی «راهنمایی» (Signposting) به کار گرفته است. در این روش، عوامل مخرب از تبلیغات به‌ظاهر بی‌ضرر استفاده می‌کنند تا کاربران را به سایت‌های غیرقانونی خارج از پلتفرم هدایت کنند.
همان‌طور که در تحلیل قبلی ما درباره‌ی گسترش قابلیت‌های عامل‌محور متا در ابزارهایی مثل Meta Muse اشاره کردیم، این شرکت حالا همان توانمندی‌های عامل‌محور (Agentic) را به سمت بازرسی‌های ایمنی داخلی سوق داده است. این چرخش در حالی رخ می‌دهد که متا تحت فشار شدید قانونی است؛ به‌طوری که در اوت ۲۰۲۶، این شرکت پذیرفت برای تسویه یک پرونده ایمنی کودکان، تا ۱۸ میلیارد دلار به ۲۹ ایالت آمریکا بپردازد.
به گزارش تک‌کرانچ (TechCrunch) در تاریخ ۷ اکتبر ۲۰۲۶، سیستم جدید متا به‌جای بررسی محتوای خودِ تبلیغ، روی «مقصد» کاربر تمرکز می‌کند. جزئیات فنی این به‌روزرسانی شامل موارد زیر است:
- تشخیص راهنمایی: یک مدل زبانی بزرگ که تبلیغاتِ دروازه‌ای به سایت‌های غیرقانونی خارجی را شناسایی می‌کند.
- عامل تیم قرمز (Red-Teaming AI Agent): یک عامل تخصصی که فعالانه به دنبال نقاط ضعف در فیلترهای ایمنی متا می‌گردد تا روش‌های سوءاستفاده را پیش از گسترش پیدا کند.
- ردیابی تکرار تخلف: سامانه‌های بهبودیافته برای شناسایی و مسدود کردن کاربرانی که پس از بن شدن، حساب‌های جدید می‌سازند.
- اسکن پیشرفته: بررسی‌های جدید مبتنی بر هوش مصنوعی برای یافتن محتواهایی که سیستم‌های قدیمی نادیده گرفته بودند.
بر اساس داده‌های متا، تنها در هند ۵.۳ میلیون مورد از این محتواها شناسایی شده که بیش از ۹۸٪ آن‌ها پیش از گزارش کاربران، توسط هوش مصنوعی کشف شده‌اند. در مجموع، متا ادعا می‌کند ۹۷٪ از محتواهای ناقض قوانین را به‌صورت خودکار شناسایی کرده است.
این تغییر رویکرد به سمت «فیلترینگ مبتنی بر مقصد»، مرزهای نظارت پلتفرم‌ها را جابه‌جا می‌کند. متا با تحلیل صفحه نهایی (Landing Page) به‌جای متن تبلیغ، در واقع نظارت خود را به بخش‌های وسیع‌تری از وب گسترش داده است تا کاربرانش را محافظت کند.
برای کاربران عادی، این یعنی ادغام عمیق‌تر کنترل‌های والدین. به‌روزرسانی‌های اخیر واتس‌اپ اکنون به والدین اجازه می‌دهد دسترسی نوجوانان به کانال‌ها را محدود کرده و کنترل کنند چه کسانی می‌توانند فرزندانشان را به گروه‌ها اضافه کنند.
این استراتژی نشان می‌دهد آینده ایمنی پلتفرم‌ها دیگر در مسدود کردن کلمات کلیدی نیست، بلکه در نقشه‌برداری از کل مسیر یک لینک مخرب است. موفقیت این ابزارها احتمالاً تعیین می‌کند که آیا متا می‌تواند از جریمه‌های چند میلیارد دلاری بعدیe در امان بماند یا خیر.
گام بعدی شما
- اگر مدیر محصول هستید، بررسی کنید که آیا سیستم‌های نظارتی شما فقط محتوا را می‌بینند یا مسیر نهایی کاربر را تحلیل می‌کنند.
- تنظیمات جدید کنترل والدین در واتس‌اپ را برای مدیریت دسترسی فرزندانتان فعال کنید.
- روند تغییرات نظارتی در پلتفرم‌های دیگر را دنبال کنید تا ببینید آیا آن‌ها هم به سمت تحلیل مقصد می‌روند یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو