چرا سیستم‌های چند-عاملی هوش مصنوعی در مقیاس واقعی شکست می‌خورند؟

اگر امروز در حال مقیاس‌بندی یک سیستم چند-عاملی هستید، ممکن است زیرساخت شما حتی در حالی که ترافیک کاربران ثابت است، به‌طور کامل سقوط کند. این هشدار تکان‌دهنده در گزارش فنی ۱۰ ژوئن ۲۰۲۶ در وب‌سایت dev.to منتشر شد؛ جایی که توسعه‌دهندگان دریافتند عامل‌های هوش مصنوعی بسیار بیشتر از انسان‌هایی که آن‌ها را فعال می‌کنند، حجم کاری تولید می‌کنند.

مهندسان معمولاً محدودیت نرخ (Rate Limit) — شبیه به یک پلیس راهنمایی و راند짐 که اجازه نمی‌دهد همه ماشین‌ها هم‌زمان وارد یک خیابان باریک شوند — را در مرز API قرار می‌دهند تا از پایگاه‌های داده یا ارائه‌دهندگان مدل محافظت کنند. این یک طراحی استاندارد است، اما در گردش‌کارهای عاملی، خطر واقعی در فضای بین خودِ عامل‌ها شکل می‌گیرد. طبق گزارش dev.to، در حالی که معماری در ابتدا با تفکیک وظایف تمیز به نظر می‌رسید، فشار واقعی پس از ورود به محیط عملیاتی (Production) ظاهر شد.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی مدیریت منابع در مدل‌های زبانی اشاره کردیم، پیچیدگی‌های پنهان در لایه‌های میانی سیستم اغلب نادیده گرفته می‌شوند. تصور کنید یک درخواست ساده زنجیره‌ای را فعال می‌کند: یک عامل سند را بازیابی می‌کند، دومی آن را دسته‌بندی کرده و سومی نتیجه را تأیید می‌کند. این فرآیند شامل بازیابی، دسته‌بندی، اعتبارسنجی، خلاصه‌سازی، برنامه‌ریزی گردش‌کار و اجرای عملیات است.

بر اساس مستندات این گزارش، این معماری باعث ایجاد اثر «تقویت» (Amplification) می‌شود. یک درخواست کاربر می‌تواند به‌سرعت به ده‌ها یا صدها فراخوانی داخلی تبدیل شود. برای مثال، اگر عامل B به‌دلیل اعتماد پایین به پاسخ خود، درخواست را تکرار کند، یک درخواست به ۱۰، ۱۰ به ۵۰ و ۵۰ به صدها درخواست تبدیل می‌شود. این فشار بر زیرساخت کاملاً مستقل از ترافیک کاربران است.

مکانیسم‌های تقویت عاملی

فشار سیستم نه از تعداد کاربران، بلکه از «موفقیت بیش از حد» عامل‌ها ناشی می‌شود. گزارش مذکور چندین الگوی خطرناک را برجسته می‌کند:

• حلقه‌های بازخورد (Feedback Loops): عامل‌ها وارد چرخه‌های تکراری از اعتبارسنجی یا درخواست‌های بازیابی مشابه می‌شوند. این موارد سخت شناسایی می‌شوند چون خروجی نهایی همچنان درست به نظر می‌رسد.
• سربار استدلالی (Reasoning Overhead): عامل‌های هوشمندتر به برنامه‌ریزی بیشتری نیاز دارند که منجر به فراخوانی‌های بیشتر برای بازیابی و هماهنگی می‌شود.
• مارپیچ‌های عدم اطمینان (Confidence Spirals): خروجی‌های با اطمینان پایین باعث تکرار فوری عملیات شده و حجم درخواست‌ها را چند برابر می‌کند.

این الگوها اغلب نامرئی هستند؛ چراکه در حالی که خروجی نهایی درست است، تأخیر (Latency)، مصرف منابع و هزینه‌های زیرساختی به‌طور خاموش افزایش می‌یابند.

پیاده‌سازی حاکمیت منابع

برای مقابله با این مشکل، تیم توسعه‌دهنده حاکمیت منابع داخلی را اجرا کرد. آن‌ها دیگر با عامل‌ها به‌عنوان توابع ساده برخورد نکردند، بلکه آن‌ها را به عنوان سیستم‌های توزیع‌شده با مرزهای سخت دیدند. آن‌ها به‌طور مشخص موارد زیر را کنترل کردند:

• تعداد درخواست‌ها به‌ازای هر گردش‌کار
• تکرار تعاملات بین عامل‌ها
• حجم تلاش‌های مجدد (Retry)
• چرخه‌های اعتبارسنجی
• نرخ گسترش بازیابی

این تغییر یک مزیت ثانویه غافلگیرکننده داشت: محدودیت نرخ به‌عنوان یک ابزار تشخیص (Diagnostic Tool) عمل کرد. وقتی سیستم به سقف محدودیت رسید، مشکلاتی در معماری آشکار شد که پیش از این پشت اجرای نامحدود پنهان بودند. آن‌ها متوجه مسئولیت‌های تکراری عامل‌ها، مراحل اعتبارسنجی غیرضروری و حلقه‌های برنامه‌ریزی بیش از حد شدند.

برای توسعه‌دهندگان، این بدان معناست که چالش اصلی در طراحی چند-عاملی دیگر «ارتباطات» نیست، بلکه «کنترل» است. چارچوب‌های مدرن ارتباط را آسان کرده‌اند، اما کنترل میزان این ارتباطات، مانع واقعی است. بدون حاکمیت، پیچیدگی سیستم سریع‌تر از توان زیرساخت رشد می‌کند و ظرافت معماری را به ریسک عملیاتی تبدیل می‌کند.

گام بعدی شما

• لاگ‌های تعامل عامل‌های خود را برای شناسایی الگوهای بازگشتی (Recursive) پیش از استقرار بررسی کنید.
• به‌دنبال «پچ‌پچ» (Chatter) بگردید؛ جایی که دو عامل پیام‌های متعددی رد و بدل می‌کنند بدون اینکه وضعیت وظیفه پیش برود.
• برای هر زنجیره از عامل‌ها، یک سقف سخت برای تعداد فراخوانی‌های داخلی تعریف کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.