۲۰٪ از بسته‌های پیشنهادی هوش مصنوعی توهم هستند و بدافزار توزیع می‌کنند

اگر امروز کد خود را به پیشنهادهای سریع ابزارهای AI می‌سپارید، احتمالاً در حال باز کردن درِ پشتی برای مهاجمان هستید. طبق گزارش پژوهشگران در کنفرانس USENIX Security 2025، حدود ۲۰٪ از بسته‌های نرم‌افزاری پیشنهادشده توسط دستیاران کدنویسی، صرفاً اختراعات مدل هستند و در واقعیت وجود ندارند.

این اتفاق یک شکاف امنیتی حیاتی به نام «Slopsquatting» ایجاد کرده است. در این روش، مهاجمان توهمات (Hallucinations) — یعنی وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — رایج را رصد کرده و نام‌های جعلی را در مخازنی مثل npm و PyPI ثبت می‌کنند. این رویکرد شباهت زیادی به استراتژی «اسکواتینگ شبحی» دارد که پیش‌تر برای دور زدن امنیت از طریق پیش‌بینی توهمات AI به کار گرفته می‌شد. به محض اینکه توسعه‌دهنده‌ای دستور نصب یک بسته توهمی را اجرا کند، بدافزار مستقیماً وارد محیط توسعه او می‌شود.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، اعتماد مطلق به خروجی مدل‌ها ریسک‌های پیش‌بینی‌نشده‌ای دارد. بر اساس مستندات این پژوهش، توسعه‌دهندگان اکنون برای تولید به‌طور میانگین ۴۶٪ از کدهای خود به ابزارهایی نظیر GitHub Copilot تکیه می‌کنند. این وابستگی با جهشی در حملات همراه شده است؛ به‌طوری که در سال ۲۰۲۵، بیش از ۴۵۰ هزار بسته مخرب جدید منتشر شد که رشد ۷۵ درصدی نسبت به سال پیش را نشان می‌دهد. این وضعیت در کنار حملات زنجیره‌ای سازمان‌یافته‌ای که توسط بازیگران دولتی کره شمالی علیه توسعه‌دهندگان عامل‌های AI مشاهده شده، سطح تهدیدات زنجیره تأمین نرم‌افزار را به شدت افزایش داده است.

ابزارهای امنیتی سنتی در برابر این تهدید ناکارآمد هستند. اکثر اسکنرها بر پایه «امضا» یا اثر انگشت بدافزارهای شناخته‌شده کار می‌کنند؛ یعنی تا زمانی که بدافزاری شناسایی و ثبت نشود، هشدار نمی‌دهند. در یک مورد آزمایشی، تنها یک بسته توهمی بی‌خطر در عرض سه ماه بیش از ۳۰ هزار بار دانلود شد، که نشان می‌دهد این تله‌ها پیش از شناسایی توسط ابزارها، به‌شدت اثرگذارند.

این روند، بار مسئولیت امنیت را از دوش مخازن نرم‌افزاری به دوش جریان کاری توسعه‌دهنده منتقل می‌کند. پذیرش پیشنهادات کتابخانه‌ای AI اکنون یک اقدام پرریسک است و تیم‌ها باید از فهرست مواد یا BOMهای مخصوص AI استفاده کنند تا هر وابستگی معرفی‌شده توسط مدل، پیش از استقرار بررسی شود. در همین راستا، برای مهار ریسک‌های ناشی از دسترسی مدل‌ها به سیستم، راهکارهایی نظیر استفاده از محیط‌های airgap برای جلوگیری از نشت کلیدهای SSH و اسرار محیطی پیشنهاد شده است تا از دسترسی غیرمجاز عامل‌های AI به داده‌های حساس جلوگیری شود.

برای مقابله با این وضعیت، ابزارهای جدیدی مثل Xygeni Shield در تلاش‌اند تا بسته‌های مخرب را پیش از ایجاد امضا مسدود کنند. توسعه‌دهندگان باید تمام وابستگی‌های شخص‌ثالث پیشنهادشده توسط عامل‌های AI را پیش از اجرای دستور نصب، به‌دقت بازبینی کنند.

گام بعدی شما

• تمام بسته‌هایی که توسط AI پیشنهاد شده‌اند را در مخزن رسمی (npm/PyPI) جست‌وجو کنید تا از وجود واقعی آن‌ها مطمئن شوید.
• از ابزارهای تحلیل ایستا (Static Analysis) برای بررسی رفتارهای مشکوک بسته‌های جدید استفاده کنید.
• یک سیاست سخت‌گیرانه برای تایید وابستگی‌های جدید در Pipelineهای CI/CD تعریف کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.