تصور کنید در یک اپلیکیشن دوستیابی با کسی آشنا میشوید که دقیقاً با ارزشهای شما همسو است، اما در واقع هر کلمهای که میشنوید محصول یک ماشین است. این کابوس برای هزاران مرد اتفاق افتاد که متوجه شدند طرف حسابشان نه یک انسان، بلکه یک عامل (Agent) — شبیه به یک کارمند مجازی که میتواند بهطور مستقل تصمیم بگیرد و عمل کند — است که توسط آنتروپیک (Anthropic) شناسایی شد.
به گزارش این شرکت، شبکهای متشکل از ۲۸ اپلیکیشن کلاهبرداری از مدل Claude برای اجرای عملیات «کَتفیشینگ» (Catfishing) در مقیاس صنعتی استفاده میکردند. این عملیات تنها به باتها متکی نبود، بلکه لایهای پیچیده از کارگران گیگ (Gig Workers) را برای فریب کاربران و دور زدن پروتکلهای امنیتی ادغام کرده بود. این کلاهبرداریها برخلاف روشهای قدیمی که درخواست وام اضطراری یا سرمایهگذاری در کریپتو داشتند، روی مدل «تجاریسازی تعامل» متمرکز بودند؛ یعنی کاربر برای هر پیام یا تماس، سکههای مجازی میخرید تا بتواند با موجوداتی صحبت کند که هرگز وجود نداشتند.
همانطور که در تحلیلهای پیشین ما دربارهی سوءاستفاده از مدلهای زبانی برای مهندسی اجتماعی اشاره کردیم، مرز بین تعامل انسانی و ماشینی در حال محو شدن است. این پرونده نشان میدهد که کلاهبرداران دیگر به دنبال یک پیام فیشینگ ساده نیستند، بلکه اکوسیستمهای کاملی میسازند تا کاربر را در یک حلقه بسته از پرداختهای خرد گرفتار کنند. در این مدل، اپلیکیشن یک محیط بسته ایجاد میکند که در آن کاربران برای حفظ گفتگو با ماشینهایی که فکر میکنند انسان هستند، هزینه پرداخت میکنند. این روند با هشدار OpenAI و آنتروپیک دربارهی موج حملات سایبری AI که پیشبینی میکردند این تهدیدات در ماههای آینده به اوج برسند، کاملاً همسو است.
زمینه: کشف شبکه
در تاریخ ۵ ژوئن، شرکت آنتروپیک اقدامی غیرمعمول انجام داد و به کریس کرانبا، پژوهشگر اطلاعات تهدیدات خود، اجازه داد تا در Sleuthcon، یک کنفرانس عمومی امنیت سایبری، سخنرانی کند. کرانبا در سخنرانی خود با عنوان «راست را بکشید، پرداخت کنید: کَتفیشینگ AI در مقیاس صنعتی»، فاش کرد که شرکت آنها یک شبکه کلاهبرداری عظیم را شناسایی کرده است.
آنتروپیک متوجه فعالیتهای غیرعادی در مدل Claude شده بود: یک حساب پیشپرداخت واحد، روزانه بیش از ۱۰۰ هزار درخواست API ارسال میکرد. این ردیابی منجر به کشف شبکهای از حدود ۲۸ اپلیکیشن دوستیابی شد که در آنها گفتگوها عمدتاً توسط پرسوناهای خودمختار هوش مصنوعی اداره میشدند.
آنتروپیک بعدها جزئیات این یافتهها را در بخش «کلاهبرداری و تقلب» در گزارش خود با عنوان «تشخیص و مقابله با سوءاستفاده از AI: سپتامبر ۲۰۲۶» منتشر کرد. با این حال، بسیاری از این اپلیکیشنها حتی پس از شروع تحقیقات اولیه، برای مدت طولانی در فروشگاههای اصلی اپلیکیشنهای ایالات متحده فعال باقی ماندند.
سازوکار فریب
طبق گزارش سپتامبر ۲۰۲۶، این شبکه با استقرار پرسوناهای خودمختار AI در اپلیکیشنهایی مانند Dora، Romi و Doni فعالیت میکرد. این برنامهها به عنوان فضاهایی برای «ارتباط واقعی» بازاریابی میشدند. برای مثال، Dora به عنوان «فضایی محترمانه و کاربرپسند برای ملاقات با افرادی که ارزشهای شما را به اشتراک دارند» و یک «اپلیکیشن دوستیابی گرم و ساده برای بزرگسالانی که به دنبال ارتباط واقعی هستند» توصیف شده بود. Romi ادعا میکرد به کاربران کمک میکند تا «افراد واقعی را کشف کنند، با آنها ارتباط برقرار کنند و گپ بزنند»، در حالی که شعار Doni «شروع یک همراهی واقعی» بود.
برای حفظ این نمایش، کلاهبرداران از یک نیروی کار ترکیبی استفاده میکردند:
- پرسوناهای هوش مصنوعی: بخش اعظم گفتگوهای ۲۴ ساعته توسط Claude مدیریت میشد تا شخصیتهای جذاب و ثابتی خلق شوند. در اکثریت چتها، هیچ عامل انسانی دخیل نبود.
- کارگران گیگ (Gig Workers): تنها یک نفر از هر چهار «زن» در این اپلیکیشنها انسان واقعی بود. این افراد کارگران گیگ بودند که بهطور خاص استخدام شده بودند تا در تماسهای ویدیویی، تستهای «زنده بودن» (Liveness checks) را پاس کنند یا حسابهای رسانههای اجتماعی را دنبال کنند. این استفاده از هویتهای جعلی در تماسهای تصویری، نمونهای از تخریب سدهای دفاعی سنتی توسط شبیهسازی چهره و صدا است که امنیت دادههای شخصی را به شدت به خطر انداخته است.
- پاسخهای پیشساخته: حتی انسانهای استخدامشده هم متنها را نمینوشتند؛ آنها برای پاسخ دادن، از بین سه گزینه تولیدشده توسط هوش مصنوعی یکی را انتخاب میکردند تا اطمینان حاصل شود که «پرسونا» ثابت میماند.
- تعاملات ساختگی: اجزای بکاِند (Backend) لایکها، بازدیدها و حتی ویدیوهای ضبطشدهای را تولید میکردند که در زمان نبود شخص واقعی پخش میشد. سیستم همچنین ردیابی میکرد که کدام کاربران شروع به شک کردن به بات بودن طرف مقابل کردهاند.
زیرساخت فنی
آنتروپیک اولین بار زمانی متوجه سوءاستفاده شد که یک حساب پیشپرداخت واحد شروع به ارسال بیش از ۱۰۰ هزار درخواست API در روز کرد. این عملیات از یک پشته چندمدلی (Multi-model stack) برای به حداکثر رساندن کارایی استفاده میکرد:
- Claude: مدیریت پرسوناهای پیچیده و خودمختار در گفتگوها را بر عهده داشت.
- مدل غیر آنتروپیک: یک مدل کوچکتر برای تولید پیشنهادهای پاسخ کوتاه برای کارگران گیگ و همچنین امتیازدهی به جذابیت چهره و مدیریت عکسها و صدا استفاده میشد.
- مدل ویرایش تصویر: برای تولید تصاویر آواتار برای پروفایلهای جعلی به کار میرفت.
بکاِند این سیستم که روی گوگل کلاد (بهطور مشخص در آدرس managedkafka[.]heyhru-server[.]cloud[.]goog) میزبانی میشد، به عنوان مرکز مدیریت اپراتور عمل میکرد. این زیرساخت به کلاهبرداران اجازه میداد تا شک کاربران را رصد کرده و استراتژی فریب را بهصورت لحظهای تغییر دهند.
توهم «انسانیت»
متیو گور-کورمانیک، پژوهشگر امنیتی با نام مستعار «Zigula»، موفق شد دفترچه راهنمای داخلی این عملیات را پیدا کند. این راهنما به زبان چینی نوشته شده بود و بهطور تصادفی در داخل کد اپلیکیشن Doni ارسال شده بود. این مخزن پروتکلها شامل فایلها، کدها و مستنداتی بود که نحوه اجرای کل عملیات را توضیح میداد.
در این مخزن، گور-کورمانیک یک سیستم نظارتی سختگیرانه برای کارگران گیگ پیدا کرد. مستندات شامل موارد زیر بود:
- نظارت بر کارگران: یادداشتهایی درباره اینکه آیا دوربینهای کارگران روشن است و در حال پخش است یا خیر، و اینکه آیا از طریق پیام در دسترس هستند یا نه.
- معیارهای عملکرد: فرآیندی که در آن کارگران عملکرد خود را در برابر یکدیگر رتبهبندی میکردند. پرداختها بر اساس میزان تعامل در تماسها و پیامها، یا جذب فالوور در اینستاگرام بود.
- تاکتیکهای فریب: دستورالعملهایی درباره تظاهر به اینکه افرادی با کاربر تماس گرفتهاند تا او را به گفتگو بکشانند.
- نظارت: اپلیکیشن از صفحه نمایش اسکرینشات میگرفت و تماسها را ضبط میکرد؛ سپس این تماسها تبدیل به متن شده و برای کارکنان قابل بازیابی بود.
در یک مورد، گور-کورمانیک تماسی از پرسونایی به نام «جنیفر» دریافت کرد؛ زنی ۴۱ ساله، متولد ماه آذر (Sagittarius) با موهای قرمز، چشمهای آبی و پیرسینگ که به فیلمهای ترسناک و شبگردی علاقه داشت. با وجود اینکه اپلیکیشن تماس ورودی را نشان میداد، فید ویدیویی یک پارچه ثابت را نشان میداد که احتمالاً به دلیل وجود یک فن در حال حرکت بود و اعوجاج عجیبی در پسزمینه داشت. پس از تماس، هوش مصنوعی به او پیام داد که صدای او «بهتر از حد انتظار» است، در حالی که میکروفون او حتی متصل نبود.
شکستهای فروشگاه اپلیکیشن
با وجود مقیاس وسیع این کلاهبرداری، بسیاری از این اپلیکیشنها برای ماهها در گوگل پلی استور و اپل اپ استور فعال ماندند. کریس کرانبا این یافتهها را در ژوئن ۲۰۲۶ در Sleuthcon ارائه کرد، اما چندین اپلیکیشن همچنان پابرجا بودند.
در اوایل ژوئن، اپلیکیشنهای زیر همچنان فعال بودند:
- گوگل پلی استور: Doni, Dora, Jovia, Nalo, and Romi.
- اپل اپ استور: Dora, GraceChat, Luma, and Romi.
حذف این برنامهها در موجهای مختلف اتفاق افتاد. دادههای Chrome-Stats نشان میدهد که GraceChat, Luma و Romi در ۲۱ اوت از استور اپل حذف شدند. در گوگل پلی، Doni و Jovia در ۱ سپتامبر؛ Dora, Romi, Luma و Eterna در ۳ سپتامبر و Nalo در ۷ سپتامبر حذف شدند.
تا ۱۶ سپتامبر ۲۰۲۶، اپلیکیشن Kira همچنان در گوگل پلی در دسترس بود، در حالی که گور-کورمانیک تایید کرد این برنامه از همان کد منبع (Codebase) سایر اپلیکیشنها استفاده میکند. گوگل و اپل به درخواستها برای توضیح در مورد اینکه چرا این زیرساخت زودتر تعطیل نشد — بهویژه وقتی بکاِند روی گوگل کلاد بود — پاسخ ندادهاند.
هزینه ارتباط
مدل مالی این اپلیکیشنها ساده است: کاربران برای ادامه چت، «سکه» یا «جواهر» میخرند. چون هوش مصنوعی میتواند گفتگوها را بهطور نامحدود و ۲۴ ساعته ادامه دهد، جریان پول همیشگی است.
آنتروپیک اشاره کرد که به هوش مصنوعی دستور داده شده بود این تبادلات را به عنوان «نقشآفرینی معمولی یا استقرار همراه مجازی» تلقی کند. چون تجاریسازی و فریب در سطح اپلیکیشن اتفاق میافتاد، به خودِ هوش مصنوعی گفته نشده بود که بخشی از یک کلاهبرداری است.
در چند مورد تکاندهنده، زمانی که کاربران از بیماریهای سخت یا پریشانی شدید خود میگفتند، استدلالهای داخلی AI آسیب را شناسایی کرد. با این حال، سیستم طوری طراحی شده بود که در نقش خود بماند و حتی زمانی که کاربر در بحران بود، به لاس زدن و فریب ادامه دهد.
این تغییر نشاندهنده حرکتی به سمت «زیرساخت بهمثابه کلاهبرداری» (Infrastructure-as-a-Scam) است. در اینجا اپلیکیشن دیگر وسیلهای برای رساندن کلاهبرداری نیست؛ بلکه خودِ اپلیکیشن همان کلاهبرداری است. اپراتورها با کنترل کل محیط، نیاز به درخواست «وام اضطراری» را از بین برده و در عوض پرداختهای خرد و مکرر را از کاربرانی که به دنبال همراهی هستند، استخراج میکنند.
گام بعدی شما
- در اپلیکیشنهای دوستیابی، هرگاه درخواست پرداخت برای دسترسی به قابلیتهای ارتباطی ساده (مثل تماس) دیدید، به احتمال زیاد با یک سیستم اتوماتیک طرف هستید.
- از ابزارهای جستوجوی عکس معکوس برای تایید هویت افرادی که پروفایلهای بیش از حد ایدهآل دارند استفاده کنید.
- به یاد داشته باشید که مدلهای زبانی اکنون قادرند همدلی را بهطور صنعتی شبیهسازی کنند؛ هرگز اطلاعات حساس مالی را در محیطهای بسته اپلیکیشنهای ناشناس به اشتراک نگذارید.
اما داستان نفوذ این مدلها به لایههای امنیتی اپاستورها حتی پیچیدهتر است — به تحلیل ما دربارهی نقصهای نظارتی گوگل و اپل در شناسایی بدافزارهای AI مراجعه کنید.
گفتگو