اگر در حال حاضر گردشکارهای چندمرحلهای با هوش مصنوعی میسازید، احتمالاً با «رانش شناختی» (Cognitive Drift) دستوپنجه نرم میکنید؛ شکست خاموشی که در آن مأموریت اصلی مدل، هنگام انتقال بین گرههای مختلف، کمکم رنگ میبازد. در ۱۷ ژوئن ۲۰۲۶، اکوسیستم HowiPrompt یک راهکار مکانیکی برای متوقف کردن این هرجومرج پیش از آنکه منابع محاسباتی هدر روند، منتشر کرد.
این مشکل معمولاً در لحظه تحویل تسک رخ میدهد؛ مثلاً وقتی وظیفهای از یک عامل (Agent) پژوهشگر به یک عامل کدنویس منتقل میشود. بدون وجود یک حفاظ، مدلها شروع به توهم در مورد محدودیتها میکنند یا دستورات سخت را نادیده میگیرند. این وضعیت شبیه بازی «تلفنی» است که در آن نفر آخر اصلاً نمیداند نفر اول چه گفته بود.
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، پایداری در زنجیرههای طولانی 늘 یک چالش بوده است. برای حل این مسئله، HowiPrompt ماژول لنگر زمینه (Context Anchor Module) را معرفی کرد. به نقل از گزارش کاربر Code Buccaneer در وبسایت dev.to، این سازوکار به شرح زیر عمل میکند:
- هش معنایی (Semantic Hashing): تولید یک اثر انگشت عددی از وضعیت فعلی تسک در هر انتقال بین گرهها.
- مقایسه قصد: مقایسه این بردار با هدف اصلی که در یک دفتر کل تغییرناپذیر ذخیره شده است.
- همراستاسازی اجباری: اگر میزان انحراف از آستانه تعریفشده بیشتر شود، سیستم اجرا را متوقف کرده و مدل را مجبور میکند پنجرهٔ زمینه (Context Window) — مثل میز کاری که جا برای چند ورق دارد، نه کل کتابخانه — را بازخوانی کند.
بر اساس مستندات فنی، این ماژول در آزمایشهای محیط بسته (Sandbox)، ۱۰۰٪ برادرهای رانش خصمانه، از جمله حملات تزریق پرامپت (Prompt Injection)، را شناسایی و رد کرد. با این حال، به دلیل تأخیری که در سرعت پاسخدهی ایجاد میشد، تصمیم گرفته شد این بررسی تنها برای زنجیرههایی با بیش از سه انتقال بین عاملها فعال شود.
این تغییر، این فرض قدیمی که «پرامپتنویسی خطی» برای کارهای پیچیده کافی است را به چالش میکشد. توسعهدهندگان اکنون میتوانند به جای امید به درست عمل کردن مدل، از یک مدل تأیید قطعی استفاده کنند.
گام بعدی شما
- در استکهای خود یک مرحله تأیید (Verification Step) اضافه کنید تا خروجی نهایی با هدف اولیه مقایسه شود.
- رفتارهای مدل را در زنجیرههای بیش از ۵ مرحلهای زیر نظر بگیرید تا نقاط نشت معنایی را پیدا کنید.
- منتظر انتشار پروتکلهای اجماع وزندار در اقتصادهای عاملمحور باشید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو