تصور کنید یک مدیر پروژه بهجای سپردن یک وظیفه مشخص به کارمندش، تمام یادداشتهای پراکنده و نامههای سال گذشته را روی میز او میریزد و انتظار نتیجه دارد. این دقیقاً همان اشتباهی است که بسیاری از توسعهدهندگان هنگام طراحی عاملهای هوش مصنوعی (AI Agents) — سیستمهایی که مثل کارمندانی متخصص، کارهای پیچیده را بهصورت مستقل انجام میدهند — مرتکب میشوند.
به گزارش تیم مهندسی Edilec، انتقال کامل تاریخچه گفتگوها بین عاملها در محیطهای نمایشی (Demo) عالی عمل میکند، اما در مقیاس واقعی منجر به فروپاشی سیستم میشود. طبق این گزارش که در ۳۱ اوت ۲۰۲۶ منتشر شد، اکثر توسعهدهندگان انتقال بین عاملها را صرفاً یک جابهجایی ساده داده میبینند، در حالی که این رویکرد ریسک «ارتقای غیرمجاز دسترسی» را ایجاد میکند؛ یعنی توکنهای امنیتی در بستههای داده جابهجا شده و حدسهای مدل در اثر خلاصهسازیهای مکرر، به جای حقیقت جایگزین میشوند. این چالشها در مدیریت حافظه، یادآور راهکارهای Vibsync برای جلوگیری از فراموشی زمینه در کدنویسی AI است که با لایهی حافظه مشترک به این مسئله پاسخ داد.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، بهداشت سیستمهای توزیعشده در لایهی مدلهای زبانی نیز حیاتی است. Edilec تأکید میکند که یک انتقال استاندارد در محیط عملیاتی نیازمند یک «قرارداد سختگیرانه» است. در این مدل، بهجای ارسال متن گفتگو، یک «پاکت» حاوی موارد زیر منتقل میشود:
- هدف: یک هدف شفاف همراه با معیاری مشخص برای تشخیص اتمام کار.
- وضعیت استنادی: وضعیت فعلی وظیفه در لحظه انتقال.
- شواهد مرجعی: ارسال شناسههای رکورد و مسیرهای بازیابی بهجای کپی کردن ردیفهای داده.
- اقدامات مجاز: مجموعهای محدود از حرکات مجاز با تاریخ انقضای مشخص.
- طرح بازگشتی: قالبی ساختاریافته برای پاسخ نهایی.
برای جلوگیری از «انحراف توهم» (Hallucination Drift) — وضعیتی که در آن مدل مثل کسی که یک داستان را از دهان دیگری شنیده، کمکم جزئیات را تغییر میدهد — این تیم توصیه میکند که نوع هر ادعا (مثلاً «مشتری گفت» در مقابل «سیستم بازگرداند») همراه با داده منتقل شود. این کار به عامل گیرنده اجازه میدهد پیش از هر اقدامی، شواهد قدیمی را بهروزرسانی کند. این رویکرد دقیق در مدیریت خطاها، شباهت زیادی به پروتکل ۶۰ دقیقهای برای مهار خطاهای کدنویسی هوش مصنوعی دارد که بر رفع سریع شکستهای محیط عملیاتی تمرکز میکند.
نقطه شکست دیگر، پذیرفتن زبان طبیعی بهعنوان وضعیت نهایی است. وقتی عاملی میگوید «من از آن موضوع رسیدگی کردم»، گردش کار نمیتواند مسیر جدیدی بگیرد. Edilec اصرار دارد که وضعیتهای نهایی باید بهصورت ساختاریافته و محدود باشند: «تکمیلشده»، «شکستخورده»، «لغو شده»، «نیاز به ورودی»، «نیاز به تأیید» یا «اتمام زمان». این نوع ساختاردهی به انتقالهای سیستمی، مشابه چارچوب Codezila برای انتقال بیوقفه تماسها از AI به انسان است که برای حفظ تداوم تجربه کاربر در محیطهای سازمانی طراحی شده است.
این تغییر، فرض بنیادی طراحی عاملمحور را دگرگون میکند. صنعت را از «پرامپتهای هوشمندتر» به سمت قراردادهای صلب و شبیه به API بین مدلها سوق میدهد. با جداسازی تصمیمات غیرقابلتفویض — مانند آزادسازی مبالغ بالای یک حد مشخص — سیستم تضمین میکند که یک متخصص درخواست را ارسال کرده و سرور پس از تأیید، مجدداً آن را بررسی میکند.
برای توسعهدهنده، این یعنی هماهنگکننده دیگر «امیدوار» به نتیجه نیست، بلکه یک بازه مسئولیت پیوسته را مدیریت میکند تا از شکافهای ارتباطی در زمان انتقال جلوگیری شود. در نهایت، این چارچوب با عاملها بهعنوان اجزای یک سیستم توزیعشده برخورد میکند. در اینجا معیار موفقیت دیگر «هوش» نیست، بلکه نبود فیلدهای خالی، عدم انقضای اختیار و تطابق نسخههای طرح داده است.
گام بعدی شما
- در معماری عاملهای خود، ارسال تاریخچه کامل (Full Transcript) را متوقف کرده و از مدل «پاکت هدفمحور» استفاده کنید.
- وضعیتهای خروجی عاملها را از متن آزاد به لیستی از وضعیتهای ساختاریافته (Enum) تغییر دهید.
- برای هر دادهای که بین دو عامل جابهجا میشود، یک برچسب منبع (Source Tag) تعریف کنید تا از توهمات زنجیرهای جلوگیری شود.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو