بافت چندعاملی چگونه وابستگی‌های پیش‌بینی‌ناپذیر هوش مصنوعی را حذف می‌کند؟

تصور کنید تیمی از ده‌ها متخصص دارید که هر کدام در یک حوزه استادند، اما هیچ‌کس نمی‌داند چه کسی باید چه زمانی چه کاری انجام دهد؛ این دقیقاً همان نقطه‌ای است که اکثر سازمان‌ها در استقرار عامل‌های هوش مصنوعی شکست می‌خورند. شکاف میان ساخت یک تک‌عامل توانمند و هماهنگ کردن ده‌ها عامل متخصص، جایی است که گلوگاه‌های عملیاتی ظاهر می‌شوند. برای حل این هرج‌ومرج، پروژه AI-MC2-FABRIC در ۲ سپتامبر ۲۰۲۶ معماری مدولاری را معرفی کرد که طراحی شده تا تعاملات آشفته عامل‌ها را به یک بافت سازمانی نظام‌مند و تحت نظارت تبدیل کند.

همان‌طور که در تحلیل قبلی ما درباره‌ی شکست‌های ارکستراسیون چندعاملی در وظایف مهندسی واقعی اشاره کردیم، صنعت اکنون به سمت ساختارهای سخت‌گیرانه‌تر حرکت می‌کند. این رویکرد شبیه به شبکه برق یک شهر است؛ شما تمام وسایل خانه را به یک باتری غول‌پیکر وصل نمی‌کنید، بلکه یک مرکز کنترل دارید که توزیع برق، فیوزهای ایمنی و مسیریابی را مدیریت می‌کند تا با خرابی یک قطعه، کل سیستم دچار فروپاشی نشود و شهر تاریک نشود.

به نقل از گزارش dev.to، یک بافت در سطح تولید، معماری را به دو لایه مجزا تقسیم می‌کند تا تفکیک وظایف به طور کامل رعایت شود:

• لایه کنترل (Control Plane): مدیریت هویت عامل‌ها، قابلیت‌ها، مجوزها، سیاست‌ها، گراف‌های گردش‌کار و قوانین مسیریابی را بر عهده دارد.
• لایه اجرا (Execution Plane): اجرای واقعی وظایف، فراخوانی ابزارها، انتقال پیام‌ها، مدیریت وضعیت و ثبت نتایج را مدیریت می‌کند.

این جداسازی به تیم‌ها اجازه می‌دهد بدون بازطراحی کل گردش‌کار، یک سیاست را به‌روز کنند یا عاملی جدید اضافه کنند. همچنین، لایه کنترل می‌تواند اثرات مخرب یک عامل غیرقابل‌اعتماد را محدود کند، زیرا قادر است محدودیت‌های زمانی (Timeout)، سقف تلاش مجدد (Retry Limits)، مجوزهای ابزار و مسیرهای ارجاع به سطوح بالاتر (Escalation Paths) را اعمال کند.

چرخه اجرای این بافت برای تبدیل رفتار احتمالی مدل‌های زبانی به کنترل‌های قطعی و پیش‌بینی‌پذیر، از یک توالی سخت‌گیرانه پیروی می‌کند:

• دریافت (Intake): یک API، یک رویداد یا درخواست کاربر، یک هدف ساختاریافته ایجاد می‌کند.
• برنامه‌ریزی (Planning): یک برنامه‌ریز، آن هدف را به وظایفی محدود با معیارهای تکمیل مشخص تبدیل می‌کند.
• کشف (Discovery): بافت برای یافتن قابلیت‌های تأییدشده، از دفتر ثبت عامل‌ها (Agent Registry) استعلام می‌گیرد.
• مسیریابی (Routing): وظایف بر اساس سیاست، زمینه (Context)، هزینه، تأخیر و در دسترس بودن تخصیص می‌یابند.
• اجرا (Execution): عامل‌ها ابزارهای مجاز را در محیط‌های اجرای ایزوله (Isolated Runtime) فراخوانی می‌کنند.
• اعتبارسنجی (Validation): قوانین، مدل‌ها یا بازبین‌های انسانی، خروجی‌ها را پیش از استفاده در مراحل بعدی بررسی می‌کنند.
• تکمیل (Completion): بافت شواهد را ذخیره کرده، وضعیت گردش‌کار را به‌روز می‌کند و نتیجه نهایی را بازمی‌گرداند.

بر اساس مستندات این پروژه، برای جلوگیری از «انتقال توهم» (Hallucination Handoff) — یعنی وضعیتی که در آن یک عامل اشتباه را به عنوان حقیقت به عامل بعدی پاس می‌دهد — از قراردادهای معنایی (Semantic Contracts) استفاده می‌شود. این قراردادها تعریف‌های ماشین‌خوان از ورودی‌هایی هستند که یک عامل می‌پذیرد، خروجی‌های مورد انتظار آن، محدوده مجوزهایش و نحوه رفتار در زمان شکست است. علاوه بر این، معماری با استفاده از لاگ‌های رویداد، شناسه‌های وظیفه و خروجی‌های نسخه‌بندی شده، یک وضعیت گردش‌کار بادوام (Durable State) را حفظ می‌کند. این امر تضمین می‌کند که گردش‌کارهای قطع شده، قابل بازیابی و قابل حسابرسی باشند و سیستم به جای تکیه بر پنجره زمینه (Context Window) محدود یک عامل، به حافظه سیستم متکی باشد.

امنیت در این معماری از طریق «حداقل دسترسی» (Least-Privilege Authorization) مدیریت می‌شود؛ به این معنا که هر عامل فقط به دسترسی‌هایی دست می‌یابد که برای وظیفه خاص خود ضروری است. اقدامات حساس می‌توانند پیش از اجرا، نیازمند بررسی سیاست‌ها یا تأیید انسانی باشند. همچنین سه سیگنال نظارتی حیاتی در سیستم ادغام شده است:

• ردپاها (Traces): نمایش مسیر کامل عبور داده‌ها در میان عامل‌ها، ابزارها و فراخوانی‌های مدل.
• متریک‌ها (Metrics): تحلیل تأخیر، مصرف توکن، فرکانس تلاش مجدد و نرخ تکمیل وظایف.
• ارزیابی‌ها (Evaluations): سنجش صحت واقع‌گرایانه، انطباق با سیاست‌ها و کیفیت نهایی وظیفه.

برای جلوگیری از حلقه‌های بازگشتی (Recursive Loops)، حافظه مسموم یا تزریق پرامپت (Prompt Injection)، سیستم از پاک‌سازی ورودی‌ها، پیام‌های امضا شده، ایزولاسیون شبکه، بودجه‌های اجرایی و سوابق بازرسی تغییرناپذیر استفاده می‌کند. این دیدگاه کاملاً با استانداردهای مهندسی امنیتی شرکت HONEYPOTZ INC همسو است.

برای کاربر حرفه‌ای، این تغییر یعنی هوش مصنوعی از یک تجربه «چت‌بات» به یک تجربه «سرویس پس‌زمینه» تبدیل می‌شود. شما دیگر مدیریت پرامپت را انجام نمی‌دهید، بلکه سیاست‌ها را مدیریت می‌کنید. اثر مرتبه دوم این تحول، کاهش «بدهی فنی هوش مصنوعی» (AI Technical Debt) است، زیرا عامل‌های مدولار را می‌توان بدون شکستن منطق کسب‌وکار، با مدل‌های بهتر جایگزین کرد.

در نهایت، حریم خصوصی و رضایت کاربر، به‌ویژه در کاربردهای انسان‌محور مانند DeepBody از شرکت DEEPBODY INC، یک ضرورت معماری است. این الزامات تضمین می‌کنند که ارجاع شفاف به یک بازبین انسانی، یک ضرورت ساختاری باشد و نه یک الحاقیه یا فکر afterthought.

گام بعدی شما

• با تعریف یک گردش‌کار قابل اندازه‌گیری شروع کنید، قراردادهای عامل‌ها را مشخص کرده و دسترسی به ابزارها را محدود کنید.
• لایه کنترل را از لایه اجرا جدا کنید تا انعطاف‌پذیری سیستم افزایش یابد.
• برای مشاهده پیاده‌سازی متن‌باز و مشارکت در توسعه، به پروژه AI-MC2-FABRIC بپیوندید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.