پرش به محتوای اصلی
پرش به محتوای مقاله

روسیه با استفاده از ChatGPT یک اندیشکدهٔ جعلی اسرائیلی ساخت

·۳ شهریور ۱۴۰۵۳ دقیقه مطالعه۲ بازدید
OpenAI از هوش مصنوعی برای حمله به هوش مصنوعی خود استفاده می‌کند و نتیجه بهتر از انسان‌هاست.
OpenAI از هوش مصنوعی برای حمله به هوش مصنوعی خود استفاده می‌کند و نتیجه بهتر از انسان‌هاست.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

تغییر استراتژی از اسپم‌های انبوه به ساخت «اندیشکده‌های جعلی» با لحن آکادمیک؛ هوش مصنوعی اینجا نه برای تولید متن، بلکه برای شبیه‌سازی مشروعیت سازمانی به کار رفته است.

تصور کنید یک اندیشکدهٔ معتبر در اسرائیل، گزارش‌هایی منتشر کند که روسیه را برتر از قدرت‌های غربی نشان دهد؛ این دقیقاً همان سناریویی است که روسیه برای فریب افکار عمومی غرب طراحی کرده بود. اوپن‌ای‌آی (OpenAI) در ۲۵ اوت ۲۰۲۶، این عملیات نفوذ را با مسدود کردن خوشه‌ای از حساب‌های کاربری که از VPN برای پنهان کردن منشأ روسی خود استفاده می‌کردند، متوقف کرد.

این عملیات از یک مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — برای تولید محتوای آکادمیک استفاده می‌کرد. همان‌طور که در تحلیل قبلی ما درباره‌ی گسترش عامل‌های هوش مصنوعی به پیام‌رسان‌های دسکتاپ اشاره کردیم، این مورد نشان می‌دهد که همان قابلیت‌ها اکنون برای عملیات روانی در سطح دولتی به خدمت گرفته شده‌اند. این سوءاستفاده از قابلیت‌های خودکار مدل‌ها، یادآور حملات اخیر عامل‌های خودگردان OpenAI به سرویس‌های عمومی است که خطرات امنیتی ناشی از خودمختاری بیش از حد AI را برجسته کرد. طبق گزارش اوپن‌ای‌آی، عاملان این حمله صراحتاً به مدل دستور داده بودند تا هرگونه اثر زبانی که نشان‌دهندهٔ روسی بودن نویسنده است را حذف کند.

مرکز این کمپین، موسسه‌ای به نام «مؤسسه بین‌المللی برک» (IBI) بود؛ یک اندیشکدهٔ جعلی که ادعا می‌کرد در اسرائیل مستقر است. این مؤسسه یک «شاخص حاکمیت» منتشر کرد تا روسیه را در مقایسه با غرب برتر جلوه دهد.

پوستر تبلیغاتی با پرچم روسیه و نماد هوش مصنوعی در پس‌زمینه‌ای تاریک و شبکه‌ای از خطوط ارتباطی

بر اساس مستندات اوپن‌ای‌آی، این عملیات بر سه تاکتیک فریب‌آمیز استوار بود:

  • سرقت ادبی: ۳۴ مقاله از ۳۶ مقاله منتشرشده بین سپتامبر ۲۰۲۵ و مه ۲۰۲۶، مستقیماً از منابع دیگر کپی شده بودند.
  • سرقت هویت: محتوای متعلق به انتشارات دانشگاه کمبریج و مؤسسه سیاست مهاجرت، به اشتباه به نام استادانی نامرتبط منتشر شد.
  • توزیع چندپلتفرمی: پست‌ها به‌طور هدفمند در X، لینکدین، فیس‌بوک، ساب‌استک و تلگرام پخش شدند.

پوستر تبلیغاتی با پرچم روسیه و نماد هوش مصنوعی در پس‌زمینه‌ای تاریک

یکی از بخش‌های این عملیات، کانال تلگرامی به زبان آلمانی با نام «Lahme Ente» (اردک لنگ) بود که به اتحادیه اروپا و اوکراین حمله می‌کرد. به نقل از اوپن‌ای‌آی، در حالی که حساب‌های رسمی IBI دنبال‌کنندگان کمی داشتند، کانال‌های تلگرامی مرتبط با آن بین ۱۰ تا ۲۰ هزار دنبال‌کننده داشتند. اوپن‌ای‌آی این کمپین را در مقیاس ۶ درجه‌ای «بروکینگز»، در سطح ۳ قرار داد.

این اتفاق نشان‌دهندهٔ تغییری در استراتژی است؛ روسیه از اسپم‌های ساده به سمت ساخت «نماهای سازمانی معتبر» حرکت کرده است. با استفاده از هوش مصنوعی برای تقلید از لحن اندیشکده‌ها، دولت‌ها می‌توانند لایه‌ای از مشروعیت آکادمیک ایجاد کنند که شکاکیت سنتی مخاطب را دور می‌زند. خطر اصلی، تعداد دنبال‌کنندگان فعلی نیست، بلکه تبدیل شدن این زیرساخت به یک الگوی تکرارپذیر است.

با افزایش دسترسی به مدل‌های وزن‌های باز (Open Weights) — یعنی مدل‌هایی که دستور پختشان علناً منتشر شده و هر کسی می‌تواند آن‌ها را تغییر دهد — هزینه و دشواری راه اندازی این کمپین‌ها کمتر می‌شود. باید مراقب ظهور مؤسسات «مستقل» جدیدی باشید که داده‌های ژئوپلیتیکی به‌شدت یک‌طرفه ارائه می‌دهند.

گام بعدی شما

  • هنگام مطالعه مقالات ژئوپلیتیک از مؤسسات ناشناخته، اعتبار نویسندگان را در گوگل اسکولار چک کنید.
  • از ابزارهای تشخیص محتوای تولیدشده توسط AI برای بررسی متون‌های ادعایی استفاده کنید.
  • به دنبال الگوهای تکراری در روایت‌های متضاد در پلتفرم‌های مختلف (مثل تلگرام و X) باشید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این پرونده با تکیه بر اعتبار تحلیل‌های OpenAI نشان می‌دهد که مدل‌های زبانی می‌توانند شکاف اعتماد بین مخاطب و منابع آکادمیک را عمیق‌تر کنند. خطر اصلی در مقیاس‌پذیری این فریب است که می‌تواند هر مؤسسهٔ کوچک را به ابزاری برای عملیات روانی تبدیل کند.

تأثیر برای ایران

به‌دلیل استفاده گسترده از تلگرام در ایران، احتمال مواجهه کاربران ایرانی با کانال‌های مشابه (مانند Lahme Ente) بالا است. این موضوع اهمیت سواد رسانه‌ای در تشخیص محتوای تولیدشده توسط AI را برای مخاطب ایرانی دوچندان می‌کند.

·نگاه ما
تحریریه دات‌هوش

جایگزینی بات‌های ساده با «نماهای سازمانی» نشان می‌دهد که جنگ اطلاعاتی از مرحلهٔ کمیت به کیفیت نقل‌قول منتقل شده است. دیگر هدف، بمباران خبری نیست، بلکه ایجاد یک مرجع جعلی است که بتوان در بحث‌های سطح بالا به آن استناد کرد. این یعنی مدل‌های زاینده، ابزار تولید محتوا نیستند، بلکه ابزار تولید «اعتبار» هستند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.