اگر امروز یک عامل هوش مصنوعی را به سیستمعامل یا شبکه متصل کردهاید، احتمالاً یک حفره امنیتی باز گذاشتهاید که هیچ پرامپتی نمیتواند آن را ببندد. باید بدانید که امنیت در سطح متن، برای جلوگیری از حملات پیشرفتهای مثل تزریق دستورات (Command Injection) کاملاً ناکارآمد است.
به گزارش ۲۰ اوت ۲۰۲۶، لایه احراز هویت جدیدی به نام Correctover معرفی شده است که میتواند فراخوانی ابزارها توسط عامل (Agent) — شبیه به یک نگهبان سختگیر در ورودی بانک که هر برگه را پیش از پذیرش بازرسی میکند — را رهگیری و متوقف کند. این سیستم امنیت را از سطح پرامپت به مرز اجرا منتقل میکند؛ جایی که عاملها واقعاً با شبکه و سیستمعامل تعامل دارند. این رویکرد تکمیلی بر راهکارهای ایزولاسیون است، مشابه آنچه در پروتکل Pilot برای ایجاد محیطهای ایزوله جهت جلوگیری از حملات کد در زمان اجرا دیدیم.
بسیاری از توسعهدهندگان در حال حاضر به درگاههای AI تکیه میکنند که متن پرامپتها را اسکن میکنند. اما طبق مستندات این پروژه، این درگاهها نمیتوانند تفاوت میان یک فراخوانی قانونی API و یک درخواست مخرب به سرویسهای متادیتای ابری را تشخیص دهند. Correctover این شکاف را با اسکن همزمان آرگومانهای فراخوانی و خروجیهای حاصله پر میکند.
همانطور که در تحلیل قبلی ما دربارهی پروتکلهای ارتباطی مدلها اشاره کردیم، استانداردسازی در لایه اجرا کلید پایداری است. در قلب این پروژه، استاندارد «شکل انطباق Correctover» (CCS) قرار دارد که در پیشنویس IETF تحت عنوان draft-correctover-ccs-05 منتشر شده است. هر فراخوانی ابزار بر اساس این ۷ معیار ارزیابی میشود:
- ساختار و طرحواره: بررسی تطابق خروجی با محدودیتهای نوع و شکل تعریفشده.
- تأخیر و هزینه: اطمینان از رعایت بودجه زمانی و محدودیتهای توکن یا هزینه.
- هویت و یکپارچگی: تأیید پیوند عامل-ابزار با استفاده از رسیدهای امضا شده Ed25519 و زنجیرههای هش.
- امنیت: اسکن برای شناسایی حملات SSRF، تزریق و عملیات تخریبی.
این تمرکز بر اعتبارسنجی دقیق، یادآور رویکرد صحتسنجی مبتنی بر داده در Crucible است که برای جایگزینی اعتماد کورکورانه در سیستمهای عامل طراحی شده است.
بر اساس گزارش dev.to، تمرکز اصلی توسعهدهنده بر روی عملکرد بوده است. هسته اعتبارسنجی در محیط Node.js به تأخیر (Latency) — یعنی فاصله زمانی بین درخواست و پاسخ — حدود ۲.۷ میکروثانیه در P50 دست یافته است. در محیطهای پایتون، این عدد به ۲۷ میکروثانیه میرسد.
برای کاربرانی که از پروتکل زمینه مدل (MCP) استفاده میکنند، این بسته یک لایه حفاظتی (Guard) فراهم میکند که هندلرهای ابزار را در بر میگیرد. این سیستم دارای یک حالت «فقط نظارت» است تا تیمها پیش از فعالسازی حالت مسدودکننده، قوانین را بر اساس ترافیک واقعی تنظیم کنند.
این تغییر، فرض بنیادی امنیت عاملها را دگرگون میکند. توسعهدهندگان دیگر مجبور نیستند با مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — سعی کنند مدل را «متقاعد» کنند که امن باشد، بلکه یک مرز معنایی سخت را تحمیل میکنند. به این معنا که اگر ابزاری یک تزریق پرامپت (Prompt Injection) برگرداند، پیش از آنکه عامل به خروجی اعتماد کند، سیستم آن را شناسایی میکند.
گام بعدی شما
- اجرای دستور
npx correctover-scan --demoبرای تست ۵ سرور MCP نمونه و شناسایی نقاط ضعف. - بررسی پیشنویس IETF برای پیادهسازی استاندارد CCS در زیرساختهای داخلی.
- فعالسازی حالت Audit در محیطهای تست برای تحلیل الگوهای فراخوانی ابزارهای فعلی.
اما تأثیر این لایه امنیتی بر سرعت استنتاج در مدلهای بسیار بزرگ هنوز جای بحث دارد — به تحلیل ما درباره بهینهسازیهای VRAM مراجعه کنید.
گفتگو