اگر امروز عاملهای هوش مصنوعی را با دسترسی به پایگاه داده در محیط عملیاتی مستقر کردهاید، یک توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — میتواند کل لیست مشتریان شما را لو دهد.
اکثر شرکتها در حال حاضر برای حفظ امنیت از «پرامپتهای سیستمی» استفاده میکنند. اما مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — اساساً یک پیشبینیکننده احتمالی است. همین ویژگی باعث میشود حملات تزریق پرامپت (Prompt Injection) بالاخره سد دفاعی مدل را بشکنند و به دادههای حساس دست یابند.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای زبانی اشاره کردیم، اعتماد کورکورانه به ترافیک محلی در پروتکلهای ارتباطی، بزرگترین نقطه ضعف سیستمهای عاملمحور است.
طبق مستندات این پروژه که در ۱۰ ژوئن ۲۰۲۶ منتشر شد، Aegis-Layer یک پروکسی Docker بدون وضعیت است که تماسهای JSON-RPC را رهگیری میکند. این سیستم برای توقف نشت دادهها از دو ابزار کلیدی استفاده میکند:
- کلیدهای عمومی Ed25519 برای تأیید توکنهای قابلیتِ وابسته به هویت (IBCT).
- یک موتور سیاستگذاری JSON-Schema پویا که هر درخواست تغییرشکلیافته یا اشتباه را فوراً حذف میکند.
به نقل از گزارش فنی وبسایت dev.to، کل این فرآیند تأیید هویت و صحت دادهها در کمتر از ۲ میلیثانیه انجام میشود. این یعنی امنیت از لایهی «همراستاسازی» مدل خارج و به لایهی «ریاضیات» زیرساخت منتقل شده است. توسعهدهندگان دیگر لازم نیست برای بستن حفرههای امنیتی، ساعتها وقت صرف مهندسی پرامپت کنند.
با این رویکرد، فراخوانیهای ابزار توسط هوش مصنوعی دیگر به عنوان درخواستهای زبانی پذیرفته نمیشوند، بلکه مانند ترافیک شبکه غیرقابلاعتماد بررسی میشوند. این تغییر اجازه میدهد شرکتها عاملهای خودکار را در محیطهای پرخطر، بدون ترس از خروج غیرمجاز دادهها، مستقر کنند.
گام بعدی شما
- کد متنباز این پروژه را بررسی کنید تا بتوانید آن را بهصورت Sidecar در محیط محلی خود اجرا کنید.
- بررسی کنید آیا استانداردهای آیندهی MCP (پروتکل کانتکست مدل) قابلیتهای رمزنگاریشدهی داخلی را جایگزین پروکسیها میکنند یا خیر.
- لایههای امنیتی فعلی خود را از حالت «اعتماد به مدل» به حالت «اعتبارسنجی زیرساختی» تغییر دهید.
اما داستان سختافزاری این تحول و نحوه مدیریت تأخیر در مقیاس بالا حتی شگفتانگیزتر است؛ به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو