اگر امروز برای توسعهی عاملهای هوش مصنوعی از زنجیرهی پرامپتها استفاده میکنید، احتمالاً با نرخ خطای بالای ۴۰ درصد دستوپنجه نرم میکنید. اما جابهجایی از ساختارهای ضمنی به گردشهای کاری ساختاریافته و تایپشده، میتواند این نرخ موفقیت را از ۶۰٪ به ۹۴٪ جهش دهد.
طبق یک راهنمای فنی که در ۲۱ ژوئیه ۲۰۲۶ منتشر شد، جایگزینی پرامپتهای باز با «درگاههای اعتبارسنجی» سختگیرانه، تلهی زنجیرهی پرامپت را میبندد؛ وضعیتی که در آن یک خروجی نادرست یا بدقالب در یک گام، کل فرآیند چندمرحلهای را متوقف کرده و باعث کرش سیستم میشود.
بسیاری از توسعهدهندگان ابتدا عاملها را به شکل توالی پرامپتها میسازند. برای مثال، از مدل میخواهند ابتدا یک پرسش را تجزیه کند، سپس برنامهای برای جستوجو بریزد و در نهایت حقایق را استخراج نماید. در ژانویه ۲۰۲۴، یک «عامل پژوهشی» نمونه با استفاده از ۱۲ پرامپت زنجیرهای ساخته شد. این زنجیره شامل مراحلی چون تجزیه سؤال، برنامهریزی جستوجو، اجرای جستوجوها، استخراج حقایق، ترکیب دادهها، بررسی صحت واقعیتها و در نهایت قالببندی خروجی بود. این روش در ظاهر بسیار ساده است اما در عمل به شدت شکننده است.
در این ساختار پایه، سیستم تنها در ۶۰٪ مواقع درست کار میکرد. ۴۰٪ باقیمانده به دلیل خطاهای آبشاری شکست میخوردند: برای مثال، گام سوم ممکن بود یک JSON ناقص یا بدقالب برگرداند که باعث میشد گام چهارم کاملاً کرش کند. یا گام پنجم ارجاعاتی توهمی میساخت که گام ششم متوجه آنها نمیشد و در نهایت گام هفتم خروجی را با فرمت اشتباه ارسال میکرد و باعث شکست مصرفکننده پاییندستی میشد. از آنجا که هیچ بصریتی نسبت به اینکه دقیقاً کدام گام شکست خورده است وجود نداشت، عیبیابی نیازمند خواندن لاگهای ۱۲ فراخوانی مختلف مدل زبانی بزرگ (LLM) بود و افزودن هر گام جدید، اغلب باعث شکست سه گام دیگر میشد. به همین دلیل است که بسیاری از راهکارهای سازمانی در مرحلهی تولید متوقف میشوند، چرا که شکاف هماهنگی میان مدل و نیازهای عملیاتی منجر به شکست ۸۰٪ پروژههای هوش مصنوعی میگردد.
همانطور که در تحلیلهای قبلی ما دربارهی پایداری سیستمهای عاملمحور اشاره کردیم، اتکا به احتمال در مراحل حیاتی یک ریسک بزرگ است. برای حل این مشکل، چارچوب agent-eval-framework پارادایمی را معرفی میکند که در آن عاملها مانند «ماشینهای وضعیت» (State Machines) با قراردادهای ورودی و خروجی سختگیرانه عمل میکنند. در این حالت، بهجای امیدواری به اینکه مدل لزوماً از دستورات پیروی کند، هر گام توسط یک طرحواره Pydantic کنترل میشود تا نوع داده و ساختار آن تضمین شود.
مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — در این سیستم دیگر آزاد نیست و باید طبق فرمت دقیقی پاسخ دهد.
سازوکارهای گردشهای کاری ساختارمند
این چارچوب چهار ستون اصلی را برای تضمین قابلیت اطمینان پیاده میکند:
طرحوارههای تایپشده (Typed Schemas): هر انتقال داده از یک طرح مشخص پیروی میکند. برای مثال، یک خروجی تجزیه (
DecomposeOutput) باید شامل لیستی از پرسشهای فرعی (حداقل ۱، حداکثر ۵ مورد)، یک مقدار بولی برایrequires_tools(نیاز به ابزار) و یک رشته متنی برای استدلال (reasoning) باشد. به همین ترتیب، خروجی برنامهریزی (PlanOutput) نیازمند لیستی از اشیاءStepاست که هر کدام شامل یک پرسش، یک منبع (که محدود به گزینههای "web"، "internal" یا "api" است) و یک اولویت از ۱ تا ۳ باشد، و همچنین یک عدد اعشاری برایestimated_confidence(اطمینان تخمینی) بین ۰ و ۱.حفاظهای مسدودکننده (Blocking Guardrails): اینها درگاههای سختی هستند که در صورت شکست بررسیهای ایمنی یا کیفی، کل فرآیند را متوقف میکنند. یک «اعتبارسنج ارجاعات» (
CitationValidator) تضمین میکند هر ادعایی در پاسخ نهایی حتماً در اسناد بازیابیشده وجود داشته باشد تا توهمات (Hallucination) کاملاً حذف شوند. یک «درگاه اطمینان» (ConfidenceGate) هر خروجیای را که امتیاز اطمینان آن پایینتر از یک آستانه خاص (مثلاً ۰.۷) باشد مسدود میکند و یک «حفاظ ایمنی» (SafetyGuardrail) با استفاده از مدلgpt-4o-miniبرای شناسایی اطلاعات شناسایی شخصی (PII) یا نقض سیاستها به کار میرود.ارزیابی گامبهگام: بهجای تست تنها پاسخ نهایی، سیستم از یک
StepEvaluatorبا «داوران» تخصصی برای هر مرحله استفاده میکند. گامهای تجزیه بر اساس کامل بودن و نرخ توهم (آستانه ۰.۹) سنجیده میشوند. گامهای برنامهریزی بر اساس امکانپذیری (۰.۸۵) و کارایی (۰.۷) بررسی میشوند. مراحل استخراج بر اساس وفاداری به متن (۰.۹) و جامعیت (۰.۸) و در نهایت مراحل ترکیب بر اساس دقت (۰.۹)، کیفیت ارجاعات (۰.۸۵) و رعایت لحن (۰.۸) داوری میشوند. این رویکرد یادآور مدل تحلیل تصمیمگیری در Maxim AI است که با ردیابی دقیق فرآیندهای چندمرحلهای، شفافیت سیستم را افزایش میدهد.منطق تکرار خودکار: با استفاده از کتابخانه instructor، سیستم خطاهای اعتبارسنجی (
ValidationErrors) را شکار کرده و آنها را مجدداً به مدل بازمیگرداند. استخراجکننده ساختاریافته (StructuredExtractor) که بهصورت پیشفرض تا ۳ بار تلاش میکند، به مدل اطلاع میدهد که «اعتبارسنجی شکست خورده است» و به آن دستور میدهد: «خطاهای اعتبارسنجی را اصلاح کن. فقط JSON معتبر را خروجی بده.»
جزئیات پیادهسازی و منطق فنی
سیستم این اجزا را از طریق کلاس StructuredAgent عملیاتی میکند. حلقه اجرا برای هر گام از این توالی دقیق چهار مرحلهای عبور میکند:
۱. اجرا: گام با استخراج خروجی ساختاریافته اجرا میشود.
۲. اعتبارسنجی: خروجی با استفاده از Pydantic در برابر output_model مربوط به آن گام چک میشود.
۳. بررسی حفاظ: حفاظهای مسدودکننده اجرا میشوند؛ اگر هر کدام شکست بخورد، عامل نتیجهای تحت عنوان AgentResult برمیگرداند که با علامت «مسدود شده» و دلیل دقیق نقض قانون مشخص شده است.
۴. ارزیابی: یک ارزیابی غیرمسدودکننده برای اهداف مشاهدهپذیری (Observability) انجام شده و نتیجه به لیستی از اشیاء StepResult اضافه میگردد.
جریان داده در یک درخواست معمولی به این صورت است: DecomposeInput (پرسش و زمینه) وارد سیستم شده و به یک DecomposeOutput تبدیل میشود، که سپس ورودی PlanInput (پرسشهای فرعی و ابزارهای موجود) را تغذیه میکند و در نهایت منجر به SynthesizeOutput میشود که حاوی پاسخ نهایی، ارجاعات، سطح اطمینان و هرگونه هشدار احتمالی است.
بر اساس مستندات این پروژه، اثر این گذار در شاخصهای کلیدی عملکرد (KPI) کاملاً مشهود است. صحت قالب خروجی (Format Validity) از ۷۲٪ به ۹۹.۸٪ رسید (۲۷.۸+ درصد وجهه). نرخ توهم از ۲۳٪ به تنها ۳٪ سقوط کرد (۲۰- درصد وجهه). نرخ موفقیت کلی تکالیف از ۶۰٪ به ۹۴٪ افزایش یافت (۳۴+ درصد وجهه). همچنین، کارایی سیستم بهبود یافت و میانگین گامهای لازم برای تکمیل یک تکلیف از ۴.۲ به ۲.۸ کاهش یافت (۳۳٪-).
شاید تاثیرگذارترین بخش برای تیمهای مهندسی، کاهش زمان عیبیابی باشد؛ زمان لازم برای رفع یک خطا از ۴۵ دقیقه به ۸ دقیقه در هر مورد کاهش یافت (۸۲٪-). علاوه بر این، نرخ شناسایی رگرسیونها در تستهای CI از ۱۲٪ به ۸۷٪ جهش کرد.
به نقل از توسعهدهندگان این چارچوب، این تغییر یک جابهجایی ذهنی بنیادی در مهندسی هوش مصنوعی است. هدف از «نوشتن پرامپتی که جواب دهد» به «تعریف قرارداد ورودی-خروجی (I/O Contract) برای هر گام» تغییر یافته است. این یعنی جایگزینی ذهنیتی که معمولاً بر اساس تست ۵ نمونه بود، با یک مجموعه تست رگرسیون سختگیرانه و یک «مجموعه طلایی» (Golden Set) شامل بیش از ۲۰۰ مورد طبقهبندی شده.
این معماری، بار قابلیت اطمینان را از ماهیت احتمالی مدل زبانی بزرگ به کد قطعی (Deterministic) توسعهدهنده منتقل میکند. هرچند هزینه اولیه تعریف طرحوارهها و حفاظها بیشتر است، اما این سرمایهگذاری به محض اینکه پیچیدگی یک عامل از سه گام فراتر رود، بهصرفه میشود و در گام پنجم، برای پایداری سیستم کاملاً اجباری است.
برای کسانی که قصد پیادهسازی دارند، این چارچوب از طریق سه کتابخانه با مجوز MIT در دسترس است: agent-eval-framework برای منطق اصلی عامل و ارزیابی، llm-eval-harness برای مجموعه داوران و یکپارچگی با CI، و structured-output برای استخراج universal با قابلیت تکرار خودکار.
گام بعدی شما
- نقاط شکست (Failure Points) را در زنجیرههای پرامپت فعلی خود شناسایی کنید.
- برای مراحل حساس، طرحوارههای Pydantic را جایگزین دستورات متنی کنید تا کنترل خروجی و مشاهدهپذیری را دوباره به دست آورید.
- یک مجموعه داده مرجع (Golden Set) شامل حداقل ۵۰ مورد متنوع برای تست رگرسیون ایجاد کنید.
اما داستان سختافزاری مدیریت این حجم از اعتبارسنجیها حتی شگفتانگیزتر است — به تحلیل ما دربارهی بهینهسازی هزینه استنتاج در مدلهای کوچک مراجعه کنید.
گفتگو