قراردادهای سخت‌گیرانه در ابزارها نرخ خطای عامل‌های هوش مصنوعی را ۱۳ برابر کاهش

۲۴۰ پاسخ اشتباه در هر هزار مورد در برابر تنها ۱۸ مورد؛ این همان سقوط شدید نرخ پاسخ‌های «با اطمینان غلط» است که با پیاده‌سازی قراردادهای سخت‌گیرانه در ابزارها به‌دست آمده است. طبق گزارشی که در ۲۳ اوت ۲۰۲۶ توسط dev.to منتشر شد، نحوه مدیریت یک فراخوانی اشتباه توسط عامل (Agent) — شبیه به دستیاری که وقتی دستور مبهمی می‌گیرد، به‌جای حدس زدن، فوراً اعتراض می‌کند — بسیار تعیین‌کننده‌تر از هوش خام مدل است. این رویکرد در واقع پاسخی به چالش‌های بنیادین در تعامل مدل‌ها با ابزارهاست، چرا که پیش‌تر در محک TOOLCALL-300 مشاهده شد که نرخ شکست مدل‌های زبانی در فراخوانی ابزارها به رقم تکان‌دهنده ۹۶.۷ درصد می‌رسد.

بسیاری از عامل‌های هوش مصنوعی از «خطاهای ساکت» رنج می‌برند؛ وضعیتی که در آن ابزار به‌جای اعلام خطا، نتیجه‌ای محتمل اما غلط (مثل یک لیست خالی) برمی‌گرداند. چون عامل خطای سخت را نمی‌بیند، بر اساس داده‌های فاسد پیش می‌رود و در نهایت کاربر نهایی با یک پاسخ غلط مواجه می‌شود. این مسئله دقیقاً همان نقطه‌ای است که مکانیزم‌های ساده‌ی تکرار (Retry) در برابر حلقه‌های Lease برای پایداری API شکست می‌خورند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مدیریت خروجی‌ها در لایه‌های میانی، کلید پایداری سیستم‌های پیچیده است.

به نقل از گزارش dev.to، تفاوت اصلی در «لایه ابزار» است، نه در پرامپت یا خود مدل. این مطالعه دو پیکربندی را با یک مدل و سیاست بازتلاش یکسان مقایسه کرد:

• قراردادهای سخت‌گیرانه: (نرخ خطای ساکت ۰.۲۰، احتمال تحریک ۰.۳۵) که منجر به ۹۱.۵٪ موفقیت و تنها ۱۸ پاسخ غلط در هر ۱۰۰۰ تسک شد.
• قراردادهای سهل‌گیرانه: (نرخ خطای ساکت ۰.۸۵، احتمال تحریک ۰.۰۵) که منجر به ۶۸.۶٪ موفقیت و ۲۴۰ پاسخ غلط در هر ۱۰۰۰ تسک شد.

این پژوهش همچنین جایگاه بررسی‌های اعتبارسنجی را در یک فرآیند ۱۲ مرحله‌ای آزمایش کرد. نتایج برخلاف انتظار بود: قرار دادن یک بررسی واحد در آخرین مرحله، هم از نظر هزینه و هم از نظر دقت، بهتر از سه بررسی پراکنده در طول مسیر عمل کرد. دلیل این اتفاق آن است که خطاهای ابتدایی زنجیره، اغلب به‌طور رایگان توسط مراحل بعدی که ورودی‌های خود را اعتبارسنجی می‌کنند، شناسایی می‌شوند.

هزینهٔ دقت

داده‌ها نشان می‌دهند که استراتژی «مدل ارزان + اعتبارسنجی کلی» بهینه‌ترین مسیر است. پیکربندی‌ای که تمام ۱۲ مرحله را بررسی می‌کرد، هزینه ۱۷.۰۵ واحد برای هر تسک داشت و به موفقیت ۹۳.۹٪ رسید. در مقابل، استفاده از یک مدل ۴ برابر بزرگ‌تر (4x model) هزینه ۴۷.۸۶ واحد داشت — یعنی تقریباً ۳ برابر بیشتر — اما موفقیت کمتری (۹۳.۰٪) و نرخ خطای بالاتری (۲.۷٪) ثبت کرد.

این یافته، فرض رایج صنعت مبنی بر اینکه مقیاس‌بندی به مدل‌های بزرگ‌تر تنها راه رفع عدم‌پایداری عامل‌هاست را به چالش می‌کشد. در واقع، «بودجه اعتبارسنجی» باید روی لایه ابزار هزینه شود. برای توسعه‌دهندگان، این یعنی اولویت دادن به نقض سخت‌گیرانه طرح‌واره‌ها (Schema) به‌جای پذیرش پیش‌فرض‌های سهل‌گیرانه. این تغییر رویکرد از تمرکز بر پرامپت‌ها به سمت ساختارهای کنترلی، مشابه با استفاده از کدهای بازبینی‌شده برای افزایش امنیت عامل‌هاست.

اگر در حال ساخت عامل هستید، برای رفع توهم (Hallucination) — شبیه به دوستی که با اطمینان خاطره‌ای ساختگی تعریف می‌کند — به سراغ ارتقای مدل نروید. به‌جای آن، خروجی ابزارهای خود را بازبینی کنید تا مطمئن شوید در صورت خطا، به‌شدت واکنش نشان می‌دهند و وضعیت نهایی را پیش از ارسال پاسخ به مشتری اعتبارسنجی کنید.

گام بعدی شما

• خروجی ابزارهای فعلی خود را بررسی کنید و هرگونه مقدار پیش‌فرض (Default) که می‌تواند خطای ساکت ایجاد کند را حذف کنید.
• به‌جای افزایش تعداد مراحل اعتبارسنجی در میانه زنجیره، یک لایه بررسی سخت‌گیرانه در گام نهایی پیاده‌سازی کنید.
• هزینه استنتاج مدل‌های کوچک‌تر را با لایه اعتبارسنجی سخت‌گیرانه مقایسه کنید تا نقطه بهینه هزینه-دقت را بیابید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.