تصور کنید یک عامل هوش مصنوعی برای دسترسی به لیست مشتریان شما، شروع به حدس زدن نام ابزارهای مدیریتی پنهان در سرور کند. اگر هنوز از سیستم‌های دسترسی باز استفاده می‌کنید، باید بدانید که تنها راه توقف این حملات، اتخاذ یک موضع امنیتی سخت‌گیرانه است.
به نقل از مستندات منتشر شده در ۳۰ سپتامبر ۲۰۲۶، شرکت Verax مکانیزمی را معرفی کرد که در آن هر درخواستی که فاقد یک قانون صریح باشد، به‌طور خودکار رد می‌شود؛ حتی اگر آن ابزار واقعاً در سرور وجود داشته باشد. این رویکرد، برخلاف اکثر چارچوب‌های فعلی که ابزارها را به‌صورت پیش‌فرض فعال می‌گذارند یا بر مجوزهای سست تکیه می‌کنند، هر درخواست ناشناخته را یک «نه» قطعی می‌بیند. این استراتژی در واقع تکامل‌یافته‌ی رویکردهای پاسخ منفی برای جلوگیری از بداهه‌پردازی است که پیش‌تر برای مهار رفتارهای پیش‌بینی‌نشده‌ی عامل‌ها پیشنهاد شده بود.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، عامل‌های هوش مصنوعی مستعد توهم (Hallucination) — شبیه دوستی که خاطره‌ای را اشتباه تعریف می‌کند — هستند و ممکن است سعی کنند با تغییر نام ابزارها، محدودیت‌ها را دور بزنند. Verax با مسدود کردن هر چیزی که صراحتاً اجازه داده نشده، این حملات «ساکت» را خنثی می‌کند. این متدولوژی با اصول مدیریت دسترسی بر اساس کمترین امتیاز همسو است تا ریسک تزریق پرامپت به حداقل برسد.
طبق گزارش dev.to، سیاست‌های Verax با مجموعه‌ای حداقلی از چهار ابزار مجاز آغاز می‌شود:
memory.get(نیازمند مجوزverax:read)memory.put(نیازمند مجوزverax:memory)audit.explain(نیازمند مجوزverax:read)message.read(نیازمند مجوزverax:read)
هر فراخوانی خارج از این لیست، پیش از آنکه به سرور برسد، مسدود می‌شود. برای جلوگیری از تورم سیاست‌ها، اگر دو قانون برای یک ابزار تعریف شود، سیستم از اجرا خودداری می‌کند تا هیچ قانونی به‌طور پنهانی دسترسی‌های قانون اول را گسترش ندهد.
این تغییر، امنیت را از حالت «تشخیص» به «قطعیت ریاضی» می‌برد. با ثبت و امضای هر مورد رد شده — شامل هویت عامل و زمان درخواست — توسعه‌دهندگان یک ردپای جرم‌شناسانه از حملات ناموفق به‌دست می‌آورند. این سوابق روی ماشین محلی ذخیره شده و از طریق دستور verax verify به‌صورت آفلاین قابل تأیید هستند.
برای توسعه‌دهندگان، این یعنی «سطح حمله» (Attack Surface) یک عامل دقیقاً به ابزارهای لیست‌شده در فایل JSON محدود می‌شود. البته بهای این امنیت، افزایش بار پیکربندی است؛ زیرا هر قابلیت باید پیش از اجرا، به‌صورت دستی در لیست سفید قرار گیرد.
گام بعدی شما
- بررسی سورس‌کد Verax در گیت‌هاب که تحت لایسنس Apache-2.0 منتشر شده است.
- جایگزینی مدل‌های «اجازه پیش‌فرض» با سیاست‌های «رد پیش‌فرض» در گردش‌کارهای حساس.
- پیاده‌سازی سیستم‌های ثبت وقایع (Logging) برای شناسایی تلاش‌های توهم‌آمیز عامل‌ها در دسترسی به ابزارها.
اما تأمین سخت‌افزاری برای اجرای این لایه‌های امنیتی در مقیاس بالا چالش جدیدی است — به تحلیل ما درباره‌ی بهینه‌سازی استنتاج در لبه و راهکارهای انتقال حفاظ‌ها به لایه‌ی سخت‌افزار برای مهار عامل‌های خودمختار مراجعه کنید.
گفتگو