چرا جایگزینی پشتیبانی انسانی با هوش مصنوعی در متا یک کابوس امنیتی شد؟

اگر یکی از آن نام‌های کاربری کوتاه و خاص اینستاگرام را دارید، باید بدانید که دارایی شما در برابر یک چت‌بات ساده، تقریباً بی‌دفاع بود. تصور کنید صاحب یک حساب «OG» (نام‌های قدیمی و ارزشمند) باشید و تمام لایه‌های امنیتی شما با چند خط دستور متنی 무効 شود.

این vulnerability زمانی رخ داد که متا تصمیم گرفت پشتیبانی انسانی را با هوش مصنوعی زاینده (Generative AI) — شبیه به هنرمندی که می‌تواند هر چیزی را از هیچ خلق کند — جایگزین کند. در این مسیر، شرکت از مدل زبانی بزرگ (LLM) استفاده کرد؛ مثل کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن جواب می‌دهد. اما این تغییر، یک حفره امنیتی بزرگ ایجاد کرد.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، جدا کردن دستورات از داده‌ها برای این مدل‌ها دشوار است. به گزارش پژوهشگرانی چون ZachXBT و Dark Web Informer، روند حمله به این شکل بود:

• هکرها با VPN موقعیت جغرافیایی خود را جعل می‌کردند.
• آن‌ها چت‌بات پشتیبانی را فریب می‌دادند تا ایمیل ثبت‌شده‌ی حساب را تغییر دهد.
• برای عبور از بررسی‌های امنیتی، از جعل عمیق (Deepfake) — شبیه ماسکی دیجیتالی که چهره و صدای هر کسی را شبیه‌سازی می‌کند — برای ساخت ویدئوهای سلفی جعلی استفاده کردند.

طبق اعلام منابع، حساب‌های بزرگی مثل کاخ سفید دوران اوباما و برند آرایشی Sephora هدف قرار گرفتند. برخی از این نام‌های کاربری در تلگرام به قیمت بیش از ۱ میلیون دلار فروخته شدند. متا در ۲۹ مه ۲۰۲۶ اصلاحیه‌ای اضطراری منتشر کرد، اما این نقص از ماه مارس فعال بود.

این اتفاق یک نمونه کلاسیک از حمله «نایب گیج‌شده» (Confused Deputy) است. در این حالت، چت‌بات دسترسی‌های مدیریتی بالاتری نسبت به کاربر داشت و بدون تایید دقیق، آن‌ها را اجرا می‌کرد. به زبان ساده، چون مدل نمی‌توانست تفاوت بین «درخواست مودبانه» و «دستور سیستمی» را بفهمد، هر دو را اجرا می‌کرد. برای شما یعنی ابزارهای بازیابی حساب با هوش مصنوعی، فعلاً یک ریسک امنیتی هستند، نه یک قابلیت.

گام بعدی شما

• بررسی کنید که آیا روند بازیابی حساب شما به ابزارهای AI متا متصل است یا خیر.
• برای حساب‌های حساس، از روش‌های احراز هویت سخت‌افزاری (Physical Keys) استفاده کنید.
• گزارش‌های جدید درباره نقص‌های مشابه در سیستم بازیابی فیس‌بوک را دنبال کنید.

این تنها بخشی از چالش‌های امنیتی عصر جدید است؛ اثر این حفره‌ها بر مدل‌های تجاری شرکت‌های بزرگ را در گزارش بعدی بررسی خواهیم کرد.