تصور کنید خطرناک‌ترین سارقان دیجیتال جهان، حالا به سخت‌ترین منتقدان محتوای تولید شده توسط هوش مصنوعی تبدیل شده‌اند. اگر فکر می‌کنید AI تمام دنیای هک را تسخیر کرده، باید بدانید که در لایه‌های زیرزمینی وب، جنگی میان «اعتبار انسانی» و «زباله‌های دیجیتال» در جریان است.
به نقل از بن کالیر (Ben Collier)، پژوهشگر امنیتی دانشگاه ادینبورو، جامعه‌ی جنایتکاران سایبری به‌شدت با ظهور پدیده‌ای به نام «زباله‌های AI» (AI Slop) در محیط‌های اجتماعی خود مخالف‌اند. این انجمن‌ها صرفاً بازاری برای فروش داده‌های سرقت‌شده نیستند، بلکه قطب‌های اجتماعی هستند که در آن‌ها «اعتبار» تنها ارز واقعی است. در این فضا، استفاده از مدل زبانی بزرگ (LLM) — تشبیه روزمره: مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — برای تولید راهنماهای کلی و لیست‌های گلوله‌ای، نشانه‌ی ضعف و فقدان مهارت تلقی می‌شود.
طبق گزارش پژوهشگران دانشگاه ادینبورو، دانشگاه کمبریج و دانشگاه استرثکلاید، این تیم ۹۷٬۸۹۵ گفتگو درباره‌ی AI را از اواخر ۲۰۲۲ تا پایان ۲۰۲۵ تحلیل کردند. یافته‌های آن‌ها شکاف عمیقی را در پذیرش تکنولوژی نشان می‌دهد:
- تأثیر در سطوح پایین: هوش مصنوعی عمدتاً باعث رشد کلاهبرداری‌های خودکار مانند تقلب در SEO، بات‌های شبکه‌های اجتماعی و کلاهبرداری‌های عاطفی شده است.
- تردید نخبگان: بازیگران پیچیده از پروژه‌های تولید شده توسط AI دوری می‌کنند؛ زیرا این کدها اغلب زیرساخت‌های آن‌ها را لو می‌دهند یا دارای آسیب‌پذیری (Vulnerability) های بحرانی هستند.
- علاقه به مدل‌های خاص: با وجود این تنفر، گزارش‌های Flashpoint نشان می‌دهد هکرها فعالانه درباره‌ی توانایی‌های Claude Mythos Preview برای دور زدن گاردریل‌های امنیتی بحث می‌کنند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، ابزارهای جدید همیشه لبه‌ی تیز حمله نیستند. این اصطکاک نشان می‌دهد که هوش مصنوعی زاینده (Generative AI) تنها «کف مهارت» را برای ورود تازه‌واردها به دنیای جرم بالا برده، اما هنوز نتوانسته «سقف مهارت» را برای حملات پیچیده جابه‌جا کند. این یعنی در حالی که ایمیل‌های فیشینگ متقاعدکننده‌تر می‌شوند، اما خطرناک‌ترین آسیب‌پذیری‌های روز-صفر (Zero-day) — تشبیه روزمره: مثل یک درِ پشتی مخفی در ساختمان که حتی سازنده‌اش هم از وجود آن خبر ندارد — همچنان به نبوغ انسانی و دقت دستی نیاز دارند.
اکنون سوال این است که آیا کارایی AI در نهایت بر وسواس نخبگان برای حفظ اعتبار غلبه می‌کند یا خیر. احتمالاً به‌زودی شاهد ظهور ابزارهای تشخیص AI در این انجمن‌ها باشیم تا «زباله‌ها» را پاک کرده و سلسله‌مراتب اجتماعی‌شان را حفظ کنند.
گام بعدی شما
- اگر مدیر امنیت هستید، تمرکز خود را از شناسایی «غلط‌های نگارشی» در فیشینگ (که AI حذف کرده) به شناسایی «الگوهای رفتاری» تغییر دهید.
- بر روی شناسایی کدهای تولید شده توسط AI در زیرساخت‌های خود تمرکز کنید، زیرا این کدها نقاط ضعف امنیتی پیش‌بینی‌پذیری دارند.
- مراقب مدل‌های پیش‌نمایش (Preview) باشید که گاردریل‌های امنیتی ضعیف‌تری دارند و هدف اصلی هکرها برای تست هستند.
گفتگو