«بازنگری در سیستم پیشنهادها»؛ پاسخ متا به ویدئوی افشای داده‌های کاربران

تصور کنید هوش مصنوعی شبکه‌های اجتماعی شما، ناگهان درباره سن فرزندانتان یا آدرس خانه شما سوال بپرسد؛ اتفاقی که هفته گذشته (سپتامبر ۲۰۲۶) برای یکی از کاربران اینستاگرام رخ داد. این حادثه زمانی رقم خورد که کلی روبینز ویدئویی از آواز خواندن با فرزندش را منتشر کرد و Meta AI در پاسخ، با پرسشی تهاجمی خواست تا بداند «مسافر کودک کیست؟»

این لغزش امنیتی درست زمانی رخ می‌دهد که متا در حال ادغام دستیار هوش مصنوعی خود در تمامی پلتفرم‌های فیس‌بوک، اینستاگرام، واتس‌اپ و مسنجر است. در حالی که تمرکز شرکت پیش‌تر بر کاهش هزینه‌های عملیاتی بود — شبیه به شرکت‌هایی که برای کاهش هزینه تولید بازیابی‌افزا (RAG) از زیرساخت‌های سخت‌افزاری خام استفاده می‌کنند تا واسطه‌ها را حذف کنند — این اتفاق ریسک خطرناک‌تری را برملا کرد: سنتز تهاجمی داده‌های کاربر.

همان‌طور که در تحلیل‌های قبلی ما درباره امنیت مدل‌های بازمتن اشاره کردیم، دسترسی مدل‌ها به داده‌های غیرساختاریافته همواره یک نقطه ضعف است. به نقل از دینا ال‌کاسابی، سخنگوی متا در گفتگو با The Verge، این شرکت پذیرفت که در طراحی این قابلیت «اشتباه کرده است». طبق گزارش این منبع، نقص‌های فنی این سیستم شامل موارد زیر بود:

• سنتز داده‌ها: هوش مصنوعی اطلاعات را از پست‌های قدیمی روبینز و پروفایل بستگان او جمع‌آوری کرده بود.
• پرسش‌های تهاجمی: سیستم سوالاتی درباره سن کودکان و آدرس دقیق منزل خانواده پیشنهاد داد.
• داده‌های زامبی: مدل عکس‌هایی از دختران روبینز را نمایش داد که او مدعی بود سال‌ها پیش حذف کرده است.

متا ادعا می‌کند هدف این ویژگی، کمک به کاربران برای یافتن اطلاعات بیشتر درباره موضوعات مورد علاقه آن‌ها بود. ال‌کاسابی اشاره کرد که پاسخ‌های مدل بر اساس اطلاعاتی است که کاربر از قبل به آن‌ها دسترسی دارد و احتمالاً مدل نام کودکان را از ویدئوهای مشابه استخراج کرده است.

برای یک کاربر عادی، این یعنی هوش مصنوعی زاینده (Generative AI) — مثل دستیاری که تمام تاریخچه زندگی شما را می‌خواند تا حدس بزند چه می‌خواهید — صرفاً به سوالات پاسخ نمی‌دهد، بلکه فعالانه شبکه‌های خانوادگی را برای افزایش تعامل (Engagement) پروفایل‌بندی می‌کند. بازگشت عکس‌های حذف‌شده نشان می‌دهد شکاف عمیقی بین «حذف ظاهری» برای کاربر و «داده‌های موجود» در لایه‌های آموزش یا بازیابی مدل وجود دارد.

گام بعدی شما

• تنظیمات حریم خصوصی خود را در اکوسیستم متا بازبینی کنید تا دسترسی مدل به داده‌های قدیمی محدود شود.
• در صورت مشاهده پرسش‌های غیرمعمول از مدل، بلافاصله گزارش تخلف (Report) ارسال کنید.
• از انتشار اطلاعات حساس در کپشن‌ها یا تگ‌های خانوادگی پرهیز کنید.

اما این تنها بخشی از چالش‌های حریم خصوصی است؛ اثر این دسترسی‌های گسترده بر قوانین حفاظت از داده‌های خردسالان را در گزارش بعدی بررسی خواهیم کرد.