اگر تصور میکنید دانلود مدل از Hugging Face به دلیل بررسی وزنها امن است، در واقع دارید سلاح اصلی مهاجمان را نادیده میگیرید. باید بدانید که در دنیای جدید، مدلهای هوش مصنوعی دیگر هدف نیستند، بلکه صرفاً طعمهای برای نفوذ به شبکههای سازمانی هستند.
به گزارش HiddenLayer، بدافزارهایی در پلتفرم Hugging Face شناسایی شدهاند که خود را به عنوان نسخههای رسمی OpenAI معرفی میکنند. این روند، هشدار جدیدی دربارهی مسموم شدن SDKها و نصبکنندههای جعلی است. همانطور که در تحلیل قبلی ما دربارهی تضادهای ModelScope و Hugging Face اشاره کردیم، باز بودن این مخازن، سطح حمله (Attack Surface) گستردهای ایجاد کرده است. تصور کنید گاوصندوقی دارید که درش قفل است، اما دریچه تحویل «ابزارهای هوش مصنوعی» کاملاً باز مانده است.
طبق مستندات این پژوهش، نفوذ از طریق وزنهای مدل رخ نمیدهد، بلکه از طریق «منطق لودر» (Loader Logic) — تشبیه روزمره: مثل دستورالعملهای آمادهای که میگوید برای اجرای برنامه چه کارهایی انجام دهید — در عناصر جانبی مانند دستورات نصب، نوتبوکها و فایلهای وابستگی صورت میگیرد. HiddenLayer شش مخزن دیگر را شناسایی کرد که از منطق و زیرساختهای مشابهی استفاده میکردند.
ساکشی گروور (Sakshi Grover)، مدیر ارشد پژوهشی در IDC، معتقد است که تحلیلهای سنتی ترکیب نرمافزار یا SCA (Software Composition Analysis) — تشبیه روزمره: مثل بازرسی گمرکی که فقط لیست کالاهای وارداتی را چک میکند، اما محتویات داخل بستهها را نمیبیند — در اینجا ناکارآمد هستند؛ زیرا این ابزارها روی کتابخانهها و ایمیجهای کانتینر تمرکز دارند، نه روی منطق اجرایی داخل مخازن AI.
این اتفاق یک چرخش راهبردی در چشمانداز تهدیدات است: مدل طعمه است، اما جریان کاری (Workflow) سلاح است. برای مدیران کسبوکار، این بدان معناست که بررسی عملکرد یک مدل کافی نیست و کل خط لوله استقرار اکنون یک نقطه ضعف امنیتی است. نتیجهی این وضعیت، حرکت به سمت «اعتماد صفر» (Zero-Trust) در پذیرش AI خواهد بود، جایی که هیچ اسکریپت خارجی بدون تحلیل رفتاری عمیق اجرا نمیشود.
برای کاهش این ریسک، شرکتها باید پذیرش «صورتحساب مواد AI» یا AI BOM (AI Bill of Materials) — تشبیه روزمره: مثل برچسب ترکیبات روی مواد غذایی که دقیقاً میگوید هر جزء از کجا آمده است — را دنبال کنند. بر اساس گزارش FutureScape در نوامبر ۲۰۲۵، تا سال ۲۰۲۷ حدود ۶۰ درصد از سیستمهای عاملمحور (Agentic) برای ردیابی منشأ هر جزء اجرایی به این استاندارد نیاز خواهند داشت.
گام بعدی شما
- تمام اسکریپتهای
setup.pyو فایلهای وابستگی را پیش از اجرا در محیط ایزوله بررسی کنید. - از ابزارهای تحلیل رفتاری برای شناسایی فعالیتهای مشکوک در زمان لود مدلها استفاده کنید.
- استانداردهای AI BOM را در زنجیره تأمین نرمافزاری سازمان خود بگنجانید.
اما این تهدیدات تنها بخشی از یک معماری بزرگتر هستند؛ برای درک ریسکهای مدلهای بازمتن، تحلیل ما دربارهی وزنهای باز را بخوانید.
گفتگو