اگر امروز برای مدیریت وابستگی‌های پروژه خود به هوش مصنوعی تکیه می‌کنید، در واقع کلید دسترسی به دیسک سیستم‌عامل خود را به مدلی سپرده‌اید که از هر ۵ پیشنهاد، یکی را اشتباه می‌دهد. این یک خطای ساده نیست، بلکه یک حفره امنیتی باز است که مستقیماً به قلب زیرساخت‌های نرم‌افزاری نفوذ می‌کند.
طبق گزارش مطالعه‌ای در USENIX Security 2025، دستیارهای کدنویسی هوش مصنوعی در ۱۹.۷٪ از موارد، نام بسته‌های نرم‌افزاری را دچار توهم (Hallucination) — شبیه دوستی که با اطمینان کامل خاطره‌ای کاملاً ساختگی را تعریف می‌کند — می‌کنند. این توهمات تصادفی نیستند؛ بلکه نام‌های جعلی مشابهی به‌طور مکرر در پرامپت‌های مختلف تکرار می‌شوند و نقشه‌ای پیش‌بینی‌پذیر برای حملات سایبری ایجاد می‌کنند.
این آسیب‌پذیری درست زمانی رخ می‌دهد که توسعه‌دهندگان از کدنویسی دستی به سمت استفاده از عامل‌های (Agents) — برنامه‌هایی که مثل دستیاران هوشمند، کارهای پیچیده را به‌طور مستقل پیش می‌برند — حرکت می‌کنند. در گذشته، انسان آخرین لایه بازرسی بود و نام بسته را قبل از نصب چک می‌کرد، اما ابزارهای عامل‌محور اکنون وابستگی‌ها را در میانه مسیر و بدون نظارت انسانی نصب می‌کنند. این موضوع در حالی است که برخی پژوهش‌ها نشان می‌دهند برنامه‌نویسان حتی در مواجهه با دستورات خطرناک عامل‌ها نیز دقت کافی ندارند و بخش قابل توجهی از این کدهای آسیب‌پذیر را تأیید می‌کنند.
پژوهشگران برای سنجش این ریسک، ۲ میلیون نمونه کد تولید شده توسط ۱۶ مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — را بررسی کردند. بر اساس مستندات این تحقیق، یک بردار حمله جدید به نام «اسلاپ‌اسکواتینگ» (Slopsquatting) شناسایی شده است که مهاجمان در آن از این دستورالعمل پیروی می‌کنند:
- پرس‌وجو از مدل‌های محبوب برای شناسایی نام‌های جعلی که بیشترین تکرار را دارند.
- ثبت دقیق همین نام‌ها در مخازنی مثل npm، PyPI یا Maven.
- تزریق کد مخرب به این بسته‌ها و انتظار برای اجرای دستور نصب توسط یک توسعه‌دهنده یا عامل.
به نقل از این مطالعه، یکی از بسته‌های نمونه که توسط پژوهشگران ایجاد شده بود، تنها در سه ماه بیش از ۳۰ هزار بار دانلود شد. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، ناپایداری زنجیره تأمین اکنون به نقطه بحرانی رسیده است؛ به‌طوری که مخزن npm در هشت ماه اخیر سه حادثه بزرگ، از جمله حمله Shai-Hulud و نفوذ بدافزارهای دولتی به بسته axios را تجربه کرد.
علاوه بر این، حدود ۴۰٪ از کدهای تولید شده توسط هوش مصنوعی در حال حاضر دارای آسیب‌پذیری هستند. ابزارهای امنیتی سنتی (SAST/SCA) شکست خورده‌اند چون فقط خودِ کد را تحلیل می‌کنند، نه این موضوع را که آیا عامل یا سرور پروتکل زمینهٔ مدل (MCP) که دستور نصب را صادر کرده، آلوده شده است یا خیر. در پاسخ به این چالش‌ها، راهکارهایی مانند پروتکل Pilot با ایجاد محیط‌های ایزوله سعی دارند جلوی اجرای کدهای مخرب در زمان اجرا را بگیرند.
گام بعدی شما
- هرگز اجازه ندهید عامل‌های هوش مصنوعی به‌طور خودکار دستور
installرا در محیط‌های حساس اجرا کنند. این ریسک به‌ویژه زمانی افزایش می‌یابد که خستگی نظارت انسانی باعث نادیده گرفتن تهدیدات احتمالی عامل‌ها شود. - از ابزارهای تحلیل استاتیک برای بررسی نام بسته‌های پیشنهادی قبل از افزودن به
package.jsonیاrequirements.txtاستفاده کنید. - سیاست‌های سخت‌گیرانه‌تری برای دسترسی به مخازن خارجی در سطح سیستم‌عامل تعریف کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو