نتایج عددی در برابر پاسخ‌های متنی در معماری جدید OpenAI

اگر امروز برای استخراج یک پاسخ «بله» یا «خیر» از مدل‌های هوش مصنوعی روی کدهای Regex حساب می‌کنید، در واقع یک بمب ساعتی را در خط تولید خود جای داده‌اید. تصور کنید یک خط لوله تولید AI که برای استخراج کلمه «استرداد وجه» از میان یک پاسخ متنی مانند «من معتقدم این مورد یک درخواست استرداد وجه محسوب می‌شود» تکیه کرده است؛ چنین سیستمی بسیار شکننده است. ممکن است مدل در روز دوشنبه درست عمل کند، اما تا جمعه، لحن مدل تغییر کرده، Regex پاسخ را پیدا نکند و در نهایت یک تیکت پشتیبانی به صف اشتباه هدایت شود.

به همین دلیل، OpenAI در ۶ اکتبر ۲۰۲۶ نسخه بتای Decisions API را منتشر کرد؛ یک نقطه اتصال (Endpoint) اختصاصی که به‌جای تولید متن (Prose)، «احکام ساختاریافته» را برمی‌گرداند. این حرکت نشان‌دهنده چرخش از چت‌های همه‌منظوره به سمت ابزارهای کاربردی است که ماشین‌ها بتوانند بدون خطا آن‌ها را بخوانند. این رویکرد جدید در واقع فرآیند طبقه‌بندی متنی را بهینه‌تر کرده و نیاز به پردازش‌های متنی پیچیده را کاهش می‌دهد.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی رقابت Google و Meta در چشم‌انداز مدل‌های پیشرو اشاره کردیم، این اقدام سیگنالی از تغییر رویکرد به سمت کاربردهای تخصصی و ماشین‌خوان است. برای اکثر توسعه‌دهندگان، چالش اصلی هرگز هوش مدل نبوده، بلکه «مایل آخر» مهندسی بوده است؛ یعنی فرآیند خسته‌کننده متقاعد کردن مدل تا در حالت JSON باقی بماند یا از اضافه کردن جملات مودبانه و پرکننده به یک تسک ساده‌ی طبقه‌بندی خودداری کند. حالا نقطه اتصال POST /v1/decisions این نیاز به تجزیه پاراگراف‌ها یا اصرار بر حالت JSON را حذف کرده و به‌جای آن، یک احتمال، یک انتخاب یا یک امتیاز را تحویل می‌دهد.

هوش مصنوعی زاینده (Generative AI) — شبیه آشپزی است که به‌جای ارائه دستور پخت طولانی، مستقیماً غذای آماده را روی میز می‌گذارد — در این API از سه نوع پرسش پشتیبانی می‌کند تا خروجی‌ها از یک قرارداد سخت‌گیرانه پیروی کنند:

• گزاره (Predicate): یک شرط بله یا خیر. این پرسش با احتمالی بین ۰ و ۱ پاسخ داده می‌شود. یک مورد کاربردی، پرسیدن این سوال است: «آیا این عکس آسیب قابل مشاهده‌ی محصول را نشان می‌دهد؟»
• انتخاب (Choice): مجموعه‌ای از پاسخ‌های کاندید که توسط توسعه‌دهنده تعریف شده است. API گزینه برنده، احتمالات برای تمام گزینه‌ها و یک مقدار اطمینان (Confidence) را برمی‌گرداند. برای مثال: «این تیکت متعلق به کدام دپارتمان است؟»
• امتیاز (Score): یک معیار رتبه‌بندی شده (Rubric) که توسط توسعه‌دهنده تعریف می‌شود. پاسخ به صورت یک میانگین وزنی احتمالات در سطوح مختلف، به همراه یک مقدار اطمینان است. مثال: «شدت این حادثه چقدر است؟»

طبق مستندات، این API در حال حاضر منحصراً از مدل gpt-6-luna پشتیبانی می‌کند. در حالی که OpenAI انتظار دارد دسترسی عمومی (General Availability) در «هفته‌های آینده» فراهم شود، نسخه بتا به توسعه‌دهندگان اجازه می‌دهد چندین پرسش مستقل را در یک درخواست ارسال کنند؛ مثلاً همزمان یک تیکت را به یک دپارتمان مسیریابی کنند و یک امتیاز شدت به آن اختصاص دهند. این کار به‌جای یک بلوک متنی برای کالبدشکافی، لیستی مرتب از پاسخ‌ها را تحت نام‌هایی که برای پرسش‌ها تعریف شده، برمی‌گرداند.

برای پیاده‌سازی یک فراخوان مسیریابی پشتیبانی، توسعه‌دهندگان می‌توانند از یک درخواست ساده curl یا SDK پایتون استفاده کنند. یک درخواست معمولی شامل مدل، متن ورودی (مثلاً «برای سفارش شماره ۴۸۲۱۰ دو بار از من پول کسر شد») و لیستی از پرسش‌ها است. برای نوع «انتخاب»، توسعه‌دهنده مقدار و توضیحی برای هر گزینه ارائه می‌دهد؛ مثلاً «billing» برای پرداخت‌ها و استردادها، یا «technical» برای مشکلات محصول.

یک جزئیات فنی حیاتی که اغلب در آموزش‌ها نادیده گرفته می‌شود، نوع «امتناع» (Refusal) است. امتناع یک نوع پاسخ مجزا است و نباید با امتیاز پایین یا یک دسته‌بندی جایگزین (Fallback) اشتباه گرفته شود. مدل می‌تواند صراحتاً از پاسخ دادن به یک پرسش امتناع کند و کد شما باید پیش از تلاش برای خواندن احتمال، انتخاب یا امتیاز، روی این امتناع شاخه (Branch) شود تا از کرش کردن سیستم جلوگیری شود.

به نظر ما، پیاده‌سازی یک دستیار مسیریابی (Routing Helper) ضروری است تا سیاست‌ها صریح باشند. برای مثال، یک Helper می‌تواند هر پاسخی که answer.type == "refusal" است یا هر پاسخی که اطمینان آن پایین‌تر از یک حد مشخص است را مستقیماً به صف manual_review (بررسی دستی) هدایت کند. یک پاسخ اشتباه اما با اطمینان بالا، برای یک کسب‌وکار معمولاً پرهزینه‌تر از یک «نمی‌دانم» صادقانه است.

در بخش اقتصادی، OpenAI مدل قیمت‌گذاری متفاوتی را برای این نقطه اتصال معرفی کرده است. در نسخه بتا، هزینه ۰.۱۰ دلار به ازای هر میلیون توکن ورودی است و هیچ هزینه‌ای برای توکن‌های خروجی، خواندن یا نوشتن حافظه پنهان (Cache) دریافت نمی‌شود. البته باید توجه داشت که ممکن است هزینه‌های اضافی مربوط به پردازش منطقه‌ای یا ضرایب مربوط به بافت‌های متنی طولانی (Long-context multipliers) اعمال شود، به این معنی که عدد ذکر شده باید به عنوان کف قیمتی در نظر گرفته شود.

برای درک بهتر، یک خط لوله نظارتی که روزانه ۵۰ هزار تصمیم با ۵۰۰ توکن برای هر مورد پردازش می‌کند، ۲۵ میلیون توکن مصرف می‌کند که هزینه آن حدود ۲.۵۰ دلار در روز یا ۷۵ دلار در ماه است. برای تیم‌های اتحادیه اروپا که بودجه خود را به یورو محاسبه می‌کنند، این نرخ تقریباً ۰.۰۹ یورو به ازای هر میلیون توکن ورودی است.

اگرچه این صرفه‌جویی در مقایسه با Responses API استاندارد برای پاسخ‌های کوتاه اندک است — چرا که توکن‌های خروجی در همان مدل با نرخ ۰.۵۰ دلار به ازای هر میلیون توکن محاسبه می‌شوند — اما ارزش اصلی در بهره‌وری مهندسی است. این یعنی انتظار کمتر در جریان‌های کاری سریال، کدهای کمتر برای تجزیه پاسخ‌ها و بیداری‌های کمتر در ساعت ۲ صبح به دلیل اینکه مدل تصمیم گرفته پاسخ را به صورت شعر هایکو بنویسد. در واقع، این مدل قیمت‌گذاری هزینه استنتاج را برای نظارت بر عامل‌ها به شدت کاهش داده و امکان پیاده‌سازی لایه‌های حفاظتی ارزان‌قیمت را فراهم کرده است.

به گزارش OpenAI، سرعت این تصمیمات تا ۱۰ برابر بیشتر از استفاده از gpt-6-luna در APIهای استاندارد است. با این حال، شرکت هیچ معیار مستقلی برای اثبات این ادعا منتشر نکرده و توسعه‌دهندگان باید تأخیر (Latency) را روی بارهای کاری خاص خود بسنجند. این افزایش چشمگیر سرعت، همان دلیلی است که رابط Decisions توانسته است سرعت طبقه‌بندی داده‌ها را ۱۰ برابر کند و گلوگاه‌های پردازشی را از بین ببرد.

محدودیت‌های نسخه بتا را نباید نادیده گرفت:

• در دسترس بودن مدل: فقط gpt-6-luna موجود است و در حال حاضر راهی برای تعادل بین دقت و هزینه (مثلاً استفاده از مدل کوچک‌تر) وجود ندارد.
• مدیریت تصاویر: تصاویر باید به صورت رشته‌های inline base64 ارسال شوند. این روش برای یک عکس از بسته آسیب‌دیده کافی است اما برای خط لوله‌های حجیم (Bulk) دشوار و ناکارآمد است.
• وابستگی: API نمی‌تواند پرسش‌های وابسته را در یک فراخوان مدیریت کند. اگر معنای یک پرسش تکمیلی به پاسخ پرسش قبلی وابسته است، باید در درخواست‌های بعدی ارسال شود.
• پایداری: به دلیل ماهیت بتا در SDK، ساختار پاسخ‌ها و سطوح دسترسی ممکن است پیش از عرضه عمومی تغییر کند؛ لذا توصیه می‌شود نسخه SDK پین شود و پاسخ‌ها به صورت تدافعی (Defensively) اعتبارسنجی شوند.

نکته کلیدی این است که این API تلاش برای تجزیه متن را حذف می‌کند، اما تلاش برای طبقه‌بندی را نه. امتیاز اطمینان ۰.۷۲ تضمینی برای صحت نیست، بلکه یک سیگنال مدل است که نیاز به کالیبراسیون (Calibration) تجاری دارد. OpenAI هیچ عدد کالیبراسیونی ارائه نکرده و توسعه‌دهندگان باید بر اساس نمونه‌های برچسب‌گذاری شده خود، حد آستانه را تعیین کنند و هزینه مثبت‌های کاذب (False Positives) را در برابر منفی‌های کاذب (False Negatives) بسنجند.

طبق راهنمای توسعه‌دهندگان، یک چرخه کالیبراسیون عملی به این صورت است:

• جمع‌آوری چند صد مورد قدیمی برای هر پرسش و برچسب‌گذاری پاسخ صحیح توسط یک متخصص حوزه.
• بررسی تغییرات حد آستانه (Cutoff) و رسم نمودار موازنه: تعداد تخصیص‌های اشتباه به صف در مقابل سهم مواردی که برای بررسی انسانی ارسال می‌شوند.
• انتخاب نقطه‌ای از آستانه که در آن هزینه بررسی دستی دیگر دقت معناداری اضافه نکند.
• نگهداری یک مجموعه داده مجزا (Held-out set) برای اندازه‌گیری مجدد پیش از ارتقای مدل به محیط تولید.

تیم‌ها باید مدل را در «حالت سایه» (Shadow Mode) اجرا کنند؛ یعنی ترافیک زنده را امتیازدهی کنند بدون اینکه اقدامی بر اساس آن انجام دهند و تنها زمانی آن را جایگزین کنند که بر اساس قوانین پذیرش مکتوب، از روش فعلی بهتر عمل کند، در حالی که مسیر قدیمی برای بازگشت (Rollback) در دسترس باقی بماند.

این ابزار برای دسته‌های پایداری که اشتباهات آن‌ها قابل مشاهده است و نظارت انسانی دارند، بسیار مناسب است. موارد ایده‌آل عبارتند از:

• مسیریابی تیکت‌های پشتیبانی و برچسب‌گذاری داده‌ها.
• صف‌های نظارت بر محتوا (با توجه به اینکه طبق قانون خدمات دیجیتال اتحادیه اروپا، تصمیمات خودکار برای اقدامات جدی همچنان به نظارت انسانی نیاز دارند).
• فیلتر کردن بازیابی در خط لوله‌های تولید بازیابی‌افزا (RAG).
• گیت‌های تصمیم‌گیرنده در حلقه‌های عامل (Agent) که در آن یک بررسی ارزان و تایپ‌شده پیش از یک اقدام گران‌قیمت، ادعای سرعت ۱۰ برابری را بسیار ارزشمند می‌کند.

در مقابل، این ابزار برای کارهایی که نیاز به تولید متن دارند یا جایی که یک طبقه‌بندی‌کننده آموزش‌دیده scikit-learn با کسری از تأخیر فعلی، دقت لازم را می‌دهد، مناسب نیست. همان‌طور که در راهنما آمده، امتیاز «۹۴٪ اطمینان» یک معیار فنی است، نه یک استراتژی انطباق قانونی.

با تبدیل مدل از یک چت‌بات به یک طبقه‌بندی‌کننده تایپ‌شده، OpenAI تلاش می‌کند مدل‌های زبانی را به لایه‌های زیرین نرم‌افزارهای سازمانی ببرد؛ جایی که پیش‌بینی‌پذیری بیش از خلاقیت ارزش دارد. Decisions API نخستین نقطه اتصالی است که بر اساس نحوه مصرف واقعی کد در محیط تولید طراحی شده است: مقداری در یک مجموعه ثابت، همراه با امتیاز اطمینان و یک مسیر روشن برای امتناع.

گام بعدی شما

• اگر از JSON Mode برای طبقه‌بندی استفاده می‌کنید، یک نمونه کوچک از داده‌های خود را با gpt-6-luna در این API تست کنید تا کاهش تأخیر را بسنجید.
• برای هر پرسش، یک مجموعه داده مرجع (Ground Truth) کوچک بسازید تا حد آستانه (Threshold) اطمینان را برای هدایت به بررسی انسانی کالیبره کنید.
• در کد خود، ابتدا شرط answer.type == "refusal" را بررسی کنید تا از خطاهای زمان اجرا در محیط تولید جلوگیری شود.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.