تصور کنید یک کلاهبردار تلفنی ساعت‌ها وقت خود را صرف متقاعد کردن کسی کند که در واقع وجود خارجی ندارد و هر لحظه او را به امید دریافت پول، بیشتر درگیر می‌کند. این دقیقاً همان استراتژی شرکت Apate است؛ استارتاپی استرالیایی که نام خود را از الهه فریب در اساطیر یونان گرفته تا با ارتشی از ربات‌ها، کلاهبرداران را در تله‌ای از زمان و امید کاذب بیندازد.
در حال حاضر ۳۵۰ هزار عامل (Agent) — شبیه به کارمندانی دیجیتال که می‌توانند به‌طور مستقل تصمیم بگیرند و هدف را دنبال کنند — در حال جنگ با جرایم سایبری هستند. این سیستم‌ها با تظاهر به قربانی بودن، تماس‌های کلاهبرداری را به گفتگوهای چندساعته تبدیل می‌کنند که در نهایت به هیچ کجا نمی‌رسد و بدین ترتیب، تهدید علیه انسان‌های واقعی را خنثی می‌کند.
کلاهبرداری‌های دیجیتال اکنون به مقیاس صنعتی رسیده‌اند. مجرمان با استفاده از ابزارهای شماره‌گیر خودکار، سالانه با میلیاردها هدف تماس می‌گیرند. از آنجا که دولت‌ها برای تعقیب این افراد در مرزهای بین‌المللی با دشواری روبرو هستند، اکنون دفاع‌های مبتنی بر اتوماسیون در حال پر کردن این خلاء هستند. این تغییر، میدان نبرد را از «مسدود کردن غیرفعال» به «اختلال فعال» تغییر داده است.
زمینه و بستر بحران
دولت‌ها در سراسر جهان به‌طور مداوم برای مقابله با بحران جهانی جرایم آنلاین در تکاپو بوده‌اند. آن‌ها با محدودیت‌های شدیدی در تلاش برای سرکوب مجرمانی دست‌وپنجه نرم می‌کنند که فراتر از مرزهای ملی آن‌ها فعالیت می‌کنند و در حریم قضایی کشورهای دیگر پناه گرفته‌اند.
این ناتوانی ساختاری، الهام‌بخش تلاش‌های جایگزینی برای مقابله با کلاهبرداران در مقیاس انبوه شده است. یکی از استراتژی‌های اولیه، «اسپم کردن اسپمرها» بود تا منابع آن‌ها هدر رود. این رویکرد یادآور استراتژی iLands در استفاده از عامل‌های هوش مصنوعی برای بمباران اسپم است که پیش‌تر برای اشباع شبکه‌های اجتماعی به کار گرفته شد. اکنون پلتفرم‌های هوش مصنوعی در حال تبدیل این آزمایش‌های ابتدایی به ابزارهای واقعی و کارآمد در جنگ علیه جرایم سایبری هستند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های زبانی اشاره کردیم، نبرد میان مهاجم و مدافع اکنون به لایه‌ی هوش مصنوعی منتقل شده است. طبق گزارش Wired در ۱۰ اکتبر ۲۰۲۶، سیستم Apate در حال حاضر توسط بانک‌ها استفاده می‌شود و مورد حمایت اپراتورهای مخابراتی است. دالی کافار، بنیان‌گذار و مدیرعامل این شرکت، هدف خود را ساخت «قربانیان ایده‌آل برای کلاهبرداران» می‌داند.
جزئیات فنی و مکانیزم‌ها
کافار معتقد است هر دقیقه‌ای که یک کلاهبردار با ربات می‌گذراند، صدها یا هزاران قربانی احتمالی دیگر را از خطر نجات می‌دهد، زیرا در آن زمان کلاهبردار نمی‌تواند با انسان‌های واقعی تماس بگیرد. این پلتفرم از طریق مکانیزم‌های دقیقی عمل می‌کند:
- شبیه‌سازی شخصیت: ربات‌ها از شخصیت‌ها، مهارت‌های زبانی و پروفایل‌های متنوعی استفاده می‌کنند تا شناسایی نشوند. آن‌ها رفتارهای انسانی را تقلید می‌کنند؛ مثلاً برخی ادعا می‌کنند واتس‌اپ ندارند یا برخی دیگر دارند. حتی برخی ربات‌ها ممکن است تماس را با جمله‌ای مثل «بعداً با شما تماس می‌گیرم» قطع کنند تا کلاهبردار را در وضعیت انتظار نگه دارند.
- درگیر کردن روان‌شناختی: شخصیت‌ها به‌گونه‌ای طراحی شده‌اند که مقدار مناسبی تردید نشان دهند، اما درهای امید را برای کلاهبردار باز بگذارند تا او را ترغیب به ادامه گفتگو کنند. در برخی آزمایش‌ها، تماس‌ها بیش از دو ساعت ادامه یافته است. در یک دمو، هوش مصنوعی شخصیتی به نام «لوسی» و مشاور مالی او «میکی» را شبیه‌سازی کرد و بیش از ۶ دقیقه در برابر پیشنهاد خرید ارز دیجیتال مقاومت کرد تا کلاهبردار را کاملاً درگیر کند. این نوع شبیه‌سازی‌های رفتاری برای پیشگیری از آسیب، مشابه استفاده از «عروسک‌های تصادف» دیجیتال برای شناسایی نقاط بحرانی در سلامت روان کاربران است.
- جمع‌آوری اطلاعات: این سیستم تاکنون بیش از ۲۵۰ هزار دادهٔ لحظه‌ای، شامل لینک‌های کلاهبرداری، جزئیات بانکی و حساب‌های واسط (Money Mule) را جمع‌آوری کرده است.
این ربات‌ها علاوه بر تماس تلفنی، به گروه‌های چت کلاهبرداری در فضای آنلاین نفوذ کرده و به پیام‌های متنی پاسخ می‌دهند. هدف نهایی، سوزاندن محدودترین منبع کلاهبردار، یعنی «زمان» است. هر دقیقه‌ای که یک مجرم صرف صحبت با ربات می‌کند، دقیقه‌ای است که نمی‌تواند آن را برای هدف قرار دادن یک انسان آسیب‌پذیر صرف کند.
این رویکرد شباهت زیادی به تکامل «تله‌های عسلی» (Honeypots) در امنیت سایبری دارد؛ جایی که پژوهشگران سال‌هاست ماشین‌های مجازی جعلی مستقر می‌کنند تا هکرها را جذب کرده و تکنیک‌های مخفی آن‌ها را تحلیل کنند. مارک ورو، پژوهشگر دکترا در دپارتمان علوم کامپیوتر دانشگاه ETH Zurich، اشاره می‌کند که تله‌های عسلی متن‌باز اکنون در حال ادغام با مدل‌های زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — هستند تا واقع‌گرایانه‌تر به نظر برسند.
تحقیقات دفاعی مبتنی بر هوش مصنوعی
تحقیقات اخیر ورو و همکارانش نشان می‌دهد تله‌های عسلی مجهز به LLM، عامل‌های مهاجم را «به‌طور قابل‌توجهی بیشتر» درگیر می‌کنند تا تله‌هایی که رفتارهای قابل‌پیش‌بینی دارند. ورو بیان می‌کند که مهاجمان عامل‌محور (Agentic Attackers) توسط تله‌های شبیه‌سازی‌شده با LLM بیشتر متقاعد می‌شوند و نرخ شناسایی این سیستم‌ها به‌عنوان تله توسط آن‌ها بسیار پایین‌تر است. او معتقد است اگر این سیستم‌ها به اندازه کافی خوب ساخته شوند، «برای مدافعان بسیار سودمند» خواهند بود.
برای کاربر عادی، این یعنی «جنگ فرسایشی» به لایه‌ی هوش مصنوعی منتقل شده است. اگرچه این روش تمام تماس‌ها را متوقف نمی‌کند، اما هزینهٔ اقتصادی کلاهبرداری را تغییر می‌دهد. وقتی هزینه جذب هر سرنخ (Lead) به دلیل تداخل هوش مصنوعی افزایش یابد، سودآوری کلاهبرداری‌های در مقیاس صنعتی کاهش می‌یابد.
این رویکرد نشان‌دهنده یک روند گسترده‌تر در بهره‌برداری از «آسیب‌پذیری‌های روان‌شناختی» مجرمان سایبری است. مدافعان با اذیت کردن (Trolling) مهاجمان باج‌افزار یا تلف کردن وقت آن‌ها با اهداف شبیه‌سازی‌شده، از هوش مصنوعی زاینده (Generative AI) به‌عنوان ابزاری برای عملیات روان‌شناختی (Psyops) استفاده می‌کنند.
با این حال، مقیاس مشکل همچنان عظیم است. عملیات‌های حرفه‌ای کلاهبرداری در مراکز فیزیکی و صنعتی بزرگی اداره می‌شوند که می‌توانند حتی از دسته‌های بزرگ ربات‌ها نیز پیشی بگیرند. تلاش‌های پلیس و پژوهشی هنوز نتوانسته‌اند جلوی گسترش کلی کلاهبرداری‌های دیجیتال را بگیرند.
پیروزی واقعی احتمالاً از طریق اشتراک‌گذاری داده‌های هوشمند مبتنی بر هوش مصنوعی میان بانک‌ها، شرکت‌های رسانه‌های اجتماعی و نهادهای انتظامی حاصل خواهد شد. نظارت بهتر و تحلیل داده‌ها می‌تواند عصر جدیدی را در تلاش‌های ضدکلاهبرداری ایجاد کند.
در آینده باید منتظر ادغام این ربات‌های «دفاع فعال» در بسته‌های استاندارد اپراتورهای مخابراتی باشیم؛ اتفاقی که می‌تواند «تله‌گذاری برای کلاهبرداران» (Scam-baiting) را از یک سرویس استارتاپی خاص به یک لایه پیش‌فرض در شبکه تبدیل کند.
گام بعدی شما
- اگر مدیر کسب‌وکار یا مسئول امنیت هستید، مدل‌های «دفاع فعال» را به‌عنوان جایگزینی برای فایروال‌های سنتی بررسی کنید.
- در مورد ابزارهای شناسایی کلاهبرداری مبتنی بر LLM مطالعه کنید تا متوجه شوید چگونه می‌توان داده‌های جمع‌آوری‌شده از ربات‌ها را به سیستم‌های مسدودکننده متصل کرد.
- مراقب باشید که خودتان در تله‌های عسلی پیشرفته نیفتید؛ هرگز اطلاعات حساس را در چت‌های مشکوک وارد نکنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell و توان پردازشی استنتاج در مقیاس میلیونی مراجعه کنید.
گفتگو