تصور کنید مردی جذاب در اینستاگرام به شما پیام می‌دهد و می‌گوید دقیقاً همان کسی هستید که اپلیکیشن جدیدش برایش ساخته شده است؛ اما حقیقت این است که او اصلاً وجود خارجی ندارد. شما با یک جعل عمیق (Deepfake) طرف هستید که تنها یک هدف دارد: کشاندن شما به اپلیکیشن Goose. این حساب‌ها به‌آرامی کاربران را به سمت Goose، یک اپلیکیشن جدید برای دوستی و ارتباطات مردان همجنس‌گرا، سوق می‌دهند. آن‌ها برای این کار از ترکیبی پیچیده از تصاویر تولیدشده توسط هوش مصنوعی و پیام‌های مستقیم از پیش طراحی‌شده استفاده می‌کنند تا حسی کاذب از علاقه ارگانیک به این سرویس ایجاد کنند.
این استراتژی در حالی رخ می‌دهد که بازار اپلیکیشن‌های دوستی در جست‌وجوی جایگزینی برای Grindr است که به‌جای روابط گذرا، بر پیوندهای پایدار و روابط طولانی‌مدت تمرکز کند. Goose برای دور زدن فیلترهای تبلیغاتی سنتی و نظارت‌های عمومی، از قابلیت «دوستان نزدیک» (Close Friends) و پیام‌های مستقیم (DM) در اینستاگرام استفاده می‌کند تا حس صمیمیت و اعتماد کاذبی ایجاد کند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، سوءاستفاده از ابزارهای تولید محتوا برای مهندسی اجتماعی، اکنون به لایهٔ احساسات انسانی رسیده است.
به نقل از گزارشی که Wired در ۱ جولای ۲۰۲۶ منتشر کرد، این کمپین بر روی حساب‌هایی مانند @miles.sumrall و @danielmmulugeta متکی است. در پروفایل حساب @miles.sumrall، مردی با ظاهر خوش‌رو، موهای مجعد تیره و سبیلی به expertly اصلاح‌شده دیده می‌شود که با لبخندی جذاب روی آب شناور است. متن پست او می‌گوید: «تو این پیام را می‌گیری چون دقیقاً همان کسی هستی که ما این برنامه را برایش می‌سازیم»، و سپس یک کد دعوت برای «جامعه‌ای مخصوص اعضا» می‌فرستد.
بر اساس بررسی‌های فنی، این پروفایل‌ها الگوی یکسانی دارند:
- تاریخ ساخت همگی در می ۲۰۲۶ متمرکز است.
- تعداد پست‌ها در اکثر آن‌ها کمتر از ۱۰ مورد است.
- نسبت دنبال‌کنندگان به دنبال‌شونده‌ها بسیار بالاست (تعداد زیادی را دنبال کرده‌اند اما دنبال‌کننده کمی دارند).
- نرم‌افزارهای تشخیص تصویر (AI Image Detector)، با اطمینان بیش از ۹۰٪ تأیید کرده‌اند که عکس‌های پروفایل توسط هوش مصنوعی تولید شده‌اند.
تأییدیه تکمیلی با استفاده از SynthID گوگل نشان داد که اکثر یا شاید تمام این تصاویر با هوش مصنوعی گوگل ساخته شده‌اند. کاربرانی مثل رایان چیم و دالتون باور گزارش دادند که پیام‌های یکسانی دریافت کرده‌اند تا به یک «شبکه منتخب از مردان» بپیوندند، اما در نهایت فهمیدند فرستنده‌ها موجوداتی مصنوعی و ساخته‌های دیجیتالی هستند.
مکانیسم جذب و تاکتیک‌های هدف‌گیری
مکانیزم جذب کاربر در این طرح به‌شدت شخصی‌سازی‌شده اما فرمول‌وار است. رایان چیم ابتدا با حسابی به نام @alistaircrombbie آشنا شد که در بیوگرافی‌اش ادعای کار در بخش روابط عمومی (PR) یک گالری هنری معروف را داشت. چیم در ابتدا تصور می‌کرد او «فقط یک مرد همجنس‌گرای معمولی» است تا اینکه حساب مذکور یک کد دعوت برای Goose از طریق پیام مستقیم برای او فرستاد. بررسی‌های بعدی با SynthID نشان داد که «بیش از نیمی یا تمام» عکس‌های آلیستیر توسط هوش مصنوعی گوگل تولید شده بود.
به همین ترتیب، دالتون باور پیامی از @lucalepkowski دریافت کرد. پیام با این جملات شروع می‌شد: «هی! اوکی، شاید این پیام یهویی به نظر برسه اما حس کردم شاید علاقه‌مند باشی :)»، و سپس موضوع را به جامعه Goose کشاند. باور اشاره کرد که این سومین پیام با همین زبان و ساختار بود که در یک هفته دریافت می‌کرد. تحلیل تصویر حساب @lucalepkowski — که مردی در سنین دانشگاهی را با شلوار خاکی در ساحل در حال نوشیدن از یک بطری آب نشان می‌داد — نشان داد که احتمال ۸۰ درصدی دارد تصویر مصنوعی باشد.
به گزارش Wired، مقیاس این عملیات گسترده است و بیش از ۲۴ حساب مشابه بین می و ژوئن ۲۰۲۶ شناسایی شده‌اند. این بات‌ها فقط پیام نمی‌فرستند؛ آن‌ها با لایک و کامنت گذاشتن زیر پست‌های یکدیگر با استفاده از ایموجی‌های مشترک قلب و آتش، یک حلقه اجتماعی جعلی می‌سازند تا واقعی به نظر برسند و اعتماد کاربران را جلب کنند.
با وجود ماهیت فریبکارانه این تبلیغات، این تاکتیک باعث رشد سریع و گسترده در ابتدای عرضه شد. اپلیکیشن در ۲۶ ژوئن ۲۰۲۶ پس از عرضه، به رتبه ۴ دسته‌بندی دانلودهای رایگان لایف‌استایل در اپ‌استور رسید و در نهایت رتبه ۳۳ جهانی را به دست آورد. با این حال، این استراتژی در شبکه X با تمسخر مواجه شد و یکی از کاربران به شوخی آن را «پوکمونِ انسانی» (Pokémon Ho) نامید.
بیزنس پشت این بات‌ها
شواهد نشان می‌دهد این استراتژی یک تصمیم تجاری عمدی توسط دیوید آلیاگاس، یکی از بنیان‌گذاران Goose بوده است. آلیاگاس پیش از این به عنوان مدیر رشد و جامعه در اپلیکیشن BeReal فعالیت می‌کرد. این اپلیکیشن همچنین توسط درک چادویک، مدل و اینفلوئنسر، ساخته شده است. در حالی که چادویک به درخواست‌ها برای اظهارنظر پاسخ نداد، اما استوری‌های اینستاگرام خود آلیاگاس نقشه‌راه این عملیات را فاش می‌کند.
این مدل جذب کاربر از طریق اینفلوئنسرهای مصنوعی، شباهت‌های ساختاری به برخی روش‌های بحث‌برانگیز تبلیغاتی دارد؛ برای مثال در تحلیل‌های اخیر بررسی شد که چگونه برخی تبلیغات اینفلوئنسری در Replit از الگوهای مشابه برای جذب کاربران استفاده کرده‌اند.
شش هفته پیش از انتشار گزارش، آلیاگاس برای مدیریت حساب‌های نامشخص در شبکه‌های اجتماعی، نقش «سفیر» (Ambassador) را تبلیغ می‌کرد. او اشاره کرد که «دسترسی اولویت‌دار» را به «اوجی‌ها» (OGs) یا کاربران قدیمی می‌دهد. شرایط او این بود که سفیران باید سه حساب اینستاگرام را برای چهار ساعت در روز و به مدت بیش از دو ماه مدیریت کنند. دستمزد این کار بین ۱۸۰۰ تا ۲۱۰۰ دلار در ماه بود.
آلیاگاس به‌طور خاص به دنبال متقاضیانی بود که با فرهنگ جامعه همجنس‌گرایان آشنایی داشته باشند و در پیام‌هایش به متقاضیان می‌گفت «از تروماهایتان پول در بیاورید :)». او همچنین افزود: «در ضمن، هنوز برای خرید Finsta (حساب‌های جعلی اینستاگرام) ۱۰۰ دلار پرداخت می‌کنم :)». سه هفته بعد، او فراخوان دیگری برای تعهدی سه ماهه منتشر کرد و نوشت: «داریم بزرگ بازی می‌کنیم :-)». هر دو استوری مذکور همچنان در هایلایت‌های او با عنوان «AMBASSADORS» باقی مانده‌اند.
ریسک‌های قانونی و پلتفرمی
این مدل بازاریابی احتمالاً از خطوط قرمز قانونی عبور کرده است. راب فروند، وکیل تبلیغات و تجارت الکترونیک، اشاره می‌کند که کمیسیون تجارت فدرال آمریکا (FTC) استفاده از هوش مصنوعی برای جعل هویت افراد واقعی جهت ترغیب به خرید یا فروش را ممنوع کرده است. فروند تأکید کرد که طبق دستورالعمل‌های FTC، این اقدام حتی اگر اپلیکیشن رایگان باشد، همچنان غیرقانونی است.
در نیویورک، قانون جدیدی تصویب شده است که تبلیغ‌کنندگان را ملزم می‌کند محتواهای ساخته‌شده با هوش مصنوعی را افشا کنند و جریمه‌های اولیه از ۱۰۰۰ دلار شروع می‌شود. اگرچه متا الزام می‌کند که محتواهای AI برچسب بخورند و ادعا می‌کند پست‌های شناسایی‌نشده را حذف خواهد کرد، اما ماهیت خصوصی پیام‌های مستقیم (DM) و استوری‌های «دوستان نزدیک»، نظارت و اجرای قانون را دشوار می‌کند. این چالش‌ها در حالی رخ می‌دهد که پلتفرم‌هایی مانند متا و تیک‌تاک سعی دارند با بازگرداندن کنترل الگوریتم‌های توصیه‌گر به کاربران، شفافیت بیشتری در نحوه تعامل کاربران با محتوا ایجاد کنند.
علاوه بر این، محتواهای AI که به‌طور اشتباه برچسب‌گذاری شده‌اند، اغلب از رادارهای شناسایی می‌گریزند.
این اتفاق بازتابی از یک روند گسترده‌تر در صنعت است. تحقیقات Guardian به نقل از یک مدیر سابق سلبریتی‌ها اشاره می‌کند که تخمین زده است «۴۰ تا ۶۰ درصد از محتواهائی که توسط برخی برندهای بزرگ منتشر می‌شود» به‌صورت مصنوعی تولید شده و به‌طور عمومی به عنوان محتوای AI شناسایی نشده‌اند.
برای کاربر نهایی، این یک سطح جدید از مهندسی اجتماعی است. شما دیگر فقط با یک تبلیغ دروغین طرف نیستست؛ بلکه توسط یک «شخص جعلی» هدف قرار گرفته‌اید که تظاهر می‌کند بخشی از جامعه خاص شماست تا اعتماد شما را جلب کند. همان‌طور که رایان چیم به Wired گفت: «این نیاز به اینکه اساساً پسران همجنس‌گرا را برای ثبت‌نام طعمه کنند، واقعاً مشکوک و ناخوشایند است».
هنوز مشخص نیست که آیا این روش یک پایگاه کاربر پایدار ایجاد می‌کند یا موجی از ریزش زودهنگام کاربران خواهد داشت. ریسک اصلی برای Goose این است که «روابط پایداری» که اپلیکیشن وعده می‌دهد، بر روی بنیادی از فریب الگوریتمیک بنا شده است.
گام بعدی شما
- هرگاه پیامی از فردی ناشناس با تعریف‌های بیش از حد و دعوت به یک «جامعه خاص» دریافت کردید، از ابزارهای تشخیص تصویر یا جست‌وجوی معکوس عکس استفاده کنید.
- تنظیمات حریم خصوصی اینستاگرام خود را به‌گونه‌ای تغییر دهید که فقط افراد تاییدشده بتوانند به شما پیام دهند.
- در صورت مشاهده الگوهای مشابه، حساب‌های مربوطه را به عنوان «Spam» گزارش کنید تا الگوریتم‌های متا سریع‌تر شناسایی‌شان کند.
اما پیام‌های متنی تنها بخشی از این بازی‌اند؛ اثرات روان‌شناختیِ وابستگی به رابطه‌های مصنوعی را در تحلیل بعدی ما بررسی خواهیم کرد.
گفتگو