اگر توسعه‌دهنده‌ای هستید که از توقف ناگهانی یا توهمات عامل‌های (Agent) — شبیه کارمندی تازه‌کار که بدون چک‌لیست دقیق، سعی می‌کند پروژه‌ای عظیم را مدیریت کند — در کدنویسی خسته شده‌اید، بدانید که مشکل از مدل نیست، بلکه نبود یک سامانه کنترل است. در واقع، تکیه بر امید به اینکه هوش مصنوعی خودش را مدیریت کند، در محیط واقعی تولید جواب نمی‌دهد و به توقف‌های سخت و بودجه‌های توکن نیاز داریم.
به گزارش گارتنر (Gartner)، تا ژوئن ۲۰۲۶ تنها ۱۷٪ از سازمان‌ها واقعاً از هوش مصنوعی عامل‌محور استفاده کرده‌اند. دلیل این شکاف، رسیدن عامل‌ها به نقطه «آشفتگی» است؛ جایی که مدل دیگر کدبیس را نمی‌فهمد و خروجی‌های غیرقابل‌اعتمادی تولید می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، انتقال از «پرامپت‌نویسی ساده» به «مهندسی سیستم‌ها»، تنها راه رسیدن به پایداری است.
برای حل این مشکل، الکس و نورین موتور Atomic را بر پایه ساختار Pi توسعه دادند. در این سیستم، هر گردش‌کار یک ماژول تایپ‌اسکریپت (TypeScript) است که حلقه بیرونی اجرا را مدیریت می‌کند. ویژگی‌های فنی کلیدی این سیستم عبارت‌اند از:
- اجرای DAG: سیستم یک گراف جهت‌دار بدون چرخه (DAG) برای ردیابی مراحل و وابستگی‌ها می‌سازد.
- درگاه‌های HIL: استفاده از فراخوانی‌های صریح برای تأیید و هدایت توسط انسان در حلقه (HIL).
- تبادل مصنوعات: جابه‌جایی داده‌های حجیم از طریق فایل‌ها به جای متن پرامپت برای جلوگیری از انفجار توکن‌ها.
- حلقه‌های تأیید: استفاده از حلقه‌های Goal Runner و Ralph که در آن یک بازبین با پنجره متنی تازه، کار را بررسی می‌کند.
این معماری، مدل را به عنوان یک قطعه کوچک در یک سیستم محدود می‌بیند. Atomic با جدا کردن عاملِ اجراکننده از عاملِ بازبین، توهم (Hallucination) — مثل دوستی که با اطمینان کامل، خاطره‌ای را اشتباه تعریف می‌کند — و سوگیری‌های استدلالی را حذف می‌کند. برای شما توسعه‌دهندگان، این یعنی خداحافظی با چک‌لیست‌های متنی و سلام به قراردادهای تایپ‌شده و وضعیت‌های قابل مشاهده.
گام بعدی شما
- معماری Atomic را در سناریوهایی که عامل‌های فعلی شما به دلیل سرریز شدن پنجره متنی شکست می‌خورند، تست کنید.
- به جای نوشتن پرامپت‌های طولانی، برای توالی اجرای Agentها «قراردادهای تایپ‌شده» تعریف کنید.
- فرآیند بازبینی کد را به یک عامل مستقل با Context جداگانه بسپارید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو