جداسازی منطق امتیازدهی از تولید تصویر؛ راهکاری برای جلوگیری از سقوط سیستم‌های

یک پرامپت نامعتبر هرگز نباید باعث سقوط یک خط لوله تولیدی یا تغییر ناگهانی ترافیک در سطح ارائه‌دهنده شود. تصور کنید در یک سامانه استخدام فین‌تک، اگر تولید تصویر گزارش نهایی با خطا مواجه شود، نباید نتیجه امتیازدهی به کاندیدا — که ارزش اصلی کسب‌وکار است — از بین برود. در اینجا، Infrai یک مرز سخت‌گیرانه را پیشنهاد می‌کند که در آن امتیازدهی کاندیدا به صورت داده‌های ساختاریافته باقی می‌ماند، در حالی که تولید تصویر (Text-to-Image) در مراحل پایین‌دست و به صورت یک گزارش بصری غیرمسدودکننده اتفاق می‌افتد. این ساختار تضمین می‌کند که نتیجه امتیازدهی، به عنوان ارزش اولیه تجاری، هرگز با نوسانات و ناپایداری‌های یک API تصویر گره نخورد.

این جداسازی معماری تضمین می‌کند که اگر یک ارائه‌دهنده تصویر شکست بخورد، هسته اصلی ارزش تجاری — یعنی امتیاز کاندیدا — دست‌نخورده باقی بماند. با تکیه بر پوشش قبلی ما درباره تغییرات فرهنگی در OpenAI، جایی که نگرانی‌های مربوط به ایمنی و پایداری در اولویت بوده‌اند، این رویکرد فنی تاب‌آوری عملیاتی را بر یکپارچگی ساده API ترجیح می‌دهد.

سناریویی را تصور کنید که در آن صفحه گزارش یک استخدام‌کننده نشان می‌دهد که تولید تصاویر متوقف شده است. بدون یک توزیع‌کننده (Dispatcher) مناسب، یک مهندس روی‌شیفت نمی‌تواند تشخیص دهد که آیا مشکل از یک پرامپت بد است، یا یک مدل حذف شده و یا یک Worker بیش از حد شلوغ شده است. راهکار این است که از تکیه بر تعداد خطاهای خام، که شواهد ضعیفی هستند، فاصله بگیریم و به سمت نسبت «شغل‌های تصویر نهایی شکست‌خورده» به «شغل‌های تلاش‌شده» حرکت کنیم. این رویکرد در راستای بهبود تجربه کاربر است، چرا که پیام‌های خطای کاربرمحور می‌توانند از توقف کامل جریان‌های کاری هوش مصنوعی جلوگیری کنند و عیب‌یابی را تسریع بخشند. این نسبت باید به تفکیک مدل و کلاس خطا محاسبه شود و با سن قدیمی‌ترین شغل تکمیل‌نشده ترکیب گردد.

مکانیزم مسیریابی

برای اجرای این ساختار، توسعه‌دهندگان باید درخواست‌های سازگار با OpenAI را پشت یک توزیع‌کننده کوچک قرار دهند. این توزیع‌کننده شناسه‌های مدل‌های قادر به تولید تصویر را در زمان استقرار (Deploy) از یک کاتالوگ بارگذاری می‌کند، نه در هر درخواست. پیکربندی معمولاً ساده است و از ساختاری استفاده می‌کند که شامل یک مدل اصلی و یک مدل جایگزین (Fallback) است.

در زبان Go، این ساختار به صورت یک پیکربندی ساده اما مؤثر تعریف می‌شود:

type RoutePlan struct {
    Primary string
    Fallback string
}

اعتبارسنجی باید پیش از جریان ترافیک رخ دهد. سیستم باید در صورتی که برنامه مسیریابی نامعتبر باشد، از شروع کار Worker تصویر خودداری کند. این کار مانع از جایگزینی بی‌صدا و تصادفی یک مدل دلخواه می‌شود که می‌تواند ویژگی‌های خروجی را تغییر داده و عیب‌یابی حوادث را دشوارتر کند. به طور مشخص، منطق اعتبارسنجی باید موارد زیر را تضمین کند:

• هر دو مدل اصلی و جایگزین ارائه شده باشند (رشته‌های خالی نباشند).
• مدل جایگزین با مدل اصلی متفاوت باشد.
• هر دو شناسه پیکربندی شده در منطقه استقرار (Region) مربوطه در دسترس و قادر به تولید تصویر باشند.

جزئیات منطق اعتبارسنجی

برای اجرای این قوانین، باید از یک تابع validatePlan در هنگام شروع فرآیند استفاده شود. این تابع برنامه مسیریابی (RoutePlan) را با نقشه‌ای از مدل‌های موجود تطبیق می‌دهد. اگر مدل اصلی یا جایگزین گم شده باشند، یا اگر آن‌ها یکسان باشند، سیستم یک خطا برمی‌گرداند. اگر یک مدل پیکربندی شده در کاتالوگ موجود برای آن منطقه یافت نشود، Worker از شروع به کار خودداری می‌کند. این امر تضمین می‌کند که اپراتورها یک نقطه بررسی‌شده برای تغییر مسیریابی از طریق تنظیمات استقرار داشته باشند و اعتبارسنجی کاتالوگ، یک انتخاب قدیمی یا اشتباه را پیش از آنکه منجر به فعال شدن پیجر مهندس شود، شناسایی کند.

مدیریت شکست‌ها و تلاش مجدد

همه خطاها یکسان نیستند. سیستم باید بین شکست‌های نهایی و گذرا تمایز قائل شود تا از تغییر بی‌مورد ارائه‌دهنده جلوگیری کند:

• شکست‌های نهایی (Terminal): خطاهای احراز هویت، درخواست‌های نامعتبر و رد درخواست بر اساس سیاست‌های محتوایی. این‌ها قطعی هستند؛ یک پرامپت ردشده دلیلی برای پرسش از ارائه‌دهنده دیگر نیست.
• شکست‌های گذرا (Transient): خطای HTTP 429 (درخواست‌های بیش از حد)، 408 (زمان انتظار) و پاسخ‌های سری 5xx، و همچنین Timeoutهای مربوط به لایه انتقال (Transport).

برای خطاهای گذرا، توزیع‌کننده باید با استفاده از استراتژی «عقب‌نشینی نمایی محدود» (Bounded Exponential Backoff) روی مدل اصلی تلاش مجدد کند. به نقل از راهنمای dev.to منتشر شده در ۴ اکتبر ۲۰۲۶، توصیه می‌شود حداکثر سه تلاش برای هر مدل در نظر گرفته شود. این کار مانع از آن می‌شود که یک محدودیت نرخ (Rate Limit) کوتاه به یک تغییر ترافیک در سطح کل ارائه‌دهنده تبدیل شود. تنها پس از شکست این سه تلاش است که سیستم باید به ارائه‌دهنده جایگزین پیکربندی‌شده سوییچ کند.

پیاده‌سازی در Go

با استفاده از کتابخانه استاندارد Go، یک Worker سبک می‌تواند این درخواست‌ها را بدون وابستگی به SDKهای سنگین مدیریت کند. فرآیند شامل ارسال توکن Bearer استاندارد، تنظیم صریح متد HTTP روی POST و بررسی هر پاسخ است. این درخواست‌ها برای تلاش مجدد ایمن هستند زیرا تولید تصویر رکورد اصلی کاندیدا را بازنویسی نمی‌کند؛ فراخواننده صرفاً اثر بصری بازگشتی را دقیقاً یک‌بار در برابر یک شناسه شغل (Job ID) ذخیره می‌کند.

یک پیاده‌سازی استوار باید از هدر Retry-After در صورتی که توسط API ارائه شده باشد، پیروی کند. در صورت نبود این هدر، سیستم باید به خواب نمایی (مثلاً 1<<attempt ثانیه) روی آورد. برای حفظ امنیت و حریم خصوصی، Worker هرگز نباید پرامپت‌هایی را که ممکن است حاوی اطلاعات کاندیدا باشند، در لاگ‌ها ثبت کند.

جزئیات اجرای فنی

• ساختار درخواست: Worker یک Payload JSON شامل Model ،Prompt و N (تنظیم شده روی ۱) ارسال می‌کند.
• مدیریت زمان انتظار: از context.WithTimeout برای ۴۵ ثانیه در کل عملیات استفاده می‌شود و Timeout مربوط به http.Client روی ۴۰ ثانیه تنظیم می‌گردد.
• مدیریت پاسخ: سیستم از io.LimitReader (با مقدار 1<<20) برای خواندن ایمن بدنه پاسخ استفاده می‌کند. همچنین تأیید می‌کند که API یک URL غیرخالی در آرایه data برگردانده است.
• یکپارچگی با صف: شغل باید در پشت یک صف اجرا شود و از شناسه شغل صف به عنوان کلید یکتایی در پایگاه‌داده استفاده کند. این کار مانع از آن می‌شود که Worker بیرونی یک حلقه تکرار نامحدود ایجاد کند، زیرا بدترین حالت ۶ تلاش از راه دور است (۳ تلاش برای هر مدل).
• ذخیره متاداده: سیستم باید مدل استفاده‌شده، متاداده ارائه‌دهنده، تعداد تلاش‌ها، کلاس خطای نهایی و شناسه درخواست (Request ID) را ذخیره کند.

انتخاب مرز مناسب ارائه‌دهنده

هیچ ارائه‌دهنده «بهترین» مطلق وجود ندارد؛ انتخاب بر اساس مرزهای عملیاتی مورد نیاز است، نه رتبه‌بندی کیفیت، زیرا کیفیت تصویر و تأخیر باید با مجموعه پرامپت‌های واقعی اپلیکیشن تست شود.

• OpenAI: مناسب برای کسانی که به رفتار بومی محصولات و مدل‌های خاص این شرکت نیاز دارند. مرزی که باید برای آن برنامه‌ریزی شود این است که ارائه‌دهنده دوم همچنان به یک آداپتور یا گیت‌وی سازگار نیاز خواهد داشت.
• Stability AI: ایده‌آل برای تیم‌هایی که کنترل‌های عمیق و تخصصی روی تولید تصویر می‌خواهند. در اینجا ساختار درخواست و پاسخ مختص ارائه‌دهنده است.
• Replicate: مفید برای آزمایش کاتالوگ گسترده‌ای از نسخه‌های مدل‌های میزبانی‌شده، هرچند نیاز به تثبیت نسخه‌ها (Pinning) و نرمال‌سازی خروجی‌های ناهمگون دارد.
• Amazon Bedrock: مناسب برای تیم‌هایی که بر روی حاکمیت و هویت AWS استاندارد شده‌اند. نقطه ضعف آن این است که Payloadهای مدل و دسترسی‌های منطقه‌ای متفاوت است و به آداپتور ضخیم‌تری نیاز دارد.
• Infrai: بهترین گزینه برای کاهش حجم یکپارچه‌سازی از طریق یک اعتبارنامه واحد و قرارداد ثابت در چندین بک‌اند. این سرویس اجازه می‌دهد اعتبارسنجی استقرار از داده‌های قابلیت‌سنجی ماشین‌خوان در یک سطح اکتشاف (Discovery Surface) استفاده کند که ۲۹۵ مسیر در ۲۰ ماژول را گزارش می‌دهد.

مقایسه ارائه‌دهندگان

نظارت و هشدار

برای جلوگیری از نویز در تله‌متری، توسعه‌دهندگان باید چهار رویداد خاص را ابزارگذاری کنند:

• شروع تلاش: هنگام ارسال نخستین درخواست.
• تکمیل تلاش: هنگام دریافت پاسخ یا وقوع Timeout.
• زمان‌بندی تلاش مجدد: وقتی خطای گذرا باعث عقب‌نشینی (Backoff) می‌شود.
• انتخاب جایگزین: وقتی مدل اصلی تمام شد و سیستم به ارائه‌دهنده دیگر سوییچ کرد.

هر رویداد باید شامل یک شناسه شغل پایدار، مدل استفاده‌شده، شماره تلاش، مدت‌زمان و یک کلاس خطای کلی باشد. داده‌های با کاردینالیتی بالا، مانند بدنه خام پاسخ ارائه‌دهنده، نباید در برچسب‌های متریک قرار گیرند تا از ایجاد حوادث جدید در سیستم مانیتورینگ جلوگیری شود.

هشدارها باید بر اساس سن قدیمی‌ترین شغل تکمیل‌نشده و یک نسبت شکست نهایی پایدار باشند. شمارنده «انتخاب جایگزین» یک ابزار تشخیصی است، نه دلیلی برای بیدار کردن مهندس در نیمه‌شب. اگر جایگزین موفق شود، کاربر همچنان سرویس می‌گیرد و تیم در ساعات کاری موضوع را بررسی می‌کند.

تنها زمانی که هر دو مسیر اصلی و جایگزین شکست بخورند و سن صف از هدف تحویل (Delivery Objective) فراتر رود، باید هشدار با اولویت بالا صادر شود. این هشدار باید عملیاتی باشد و شامل موارد زیر باشد:

• مدل اصلی پیکربندی‌شده
• جایگزین امتحان‌شده
• کلاس خطای نهایی
• شناسه درخواست
• سن قدیمی‌ترین شغل تکمیل‌نشده

بهینه‌سازی آستانه هشدارها

این عدم تقارن از «خستگی هشدار» (Alert Fatigue) جلوگیری می‌کند، زیرا پذیرفته است که نبود یک تصویر، کمتر از نبود امتیاز کاندیدا بحرانی است. آستانه‌ها باید با ترکیب حداقل تعداد رویداد و آستانه مطلق سن شغل تنظیم شوند تا از هشدارهای درصدی روی نمونه‌های کوچک (مثلاً هشدار درصدی روی تنها ۲ درخواست) اجتناب شود.

اپراتورها باید محافظه‌کارانه شروع کنند، تصمیمات خود را ثبت کنند و بر اساس داده‌های واقعی ترافیک، آستانه‌ها را اصلاح کنند. آستانه بالا از خواب مهندسان محافظت می‌کند اما اجازه می‌دهد انباشت گزارش‌ها عمیق‌تر شود، در حالی که آستانه پایین افت کیفیت را زودتر می‌گیرد اما ممکن است برای نوسانات کوتاه Rate-limit باعث بیداری بی‌مورد شود. هیچ بنچمارک ساختگی نمی‌تواند این اعداد را انتخاب کند؛ آن‌ها باید بر اساس خطوط پایه ترافیک واقعی بازبینی شوند.

این رویکرد، رویه میدان را تغییر می‌دهد و با تولید تصویر هوش مصنوعی نه به عنوان یک وابستگی حیاتی، بلکه به عنوان یک «اثر بصری غیرقابل‌اعتماد» برخورد می‌کند. تمرکز از «چگونه بهترین تصویر را بگیریم» به «چگونه سیستم را در برابر قطعی ارائه‌دهنده زنده نگه داریم» تغییر می‌یابد.

برای تست این مرزها، توسعه‌دهندگان باید از یک مجموعه پرامپت ثابت و پاک‌سازی‌شده از حوزه تخصصی خود استفاده کنند. پیش از نهایی کردن ارائه‌دهنده، تأخیر p50 و Tail Latency، طبقه‌بندی رد درخواست‌ها و نرخ خروجی‌های قابل‌استفاده را مقایسه کنید. همچنین اطمینان حاصل کنید که بازبین‌ها بررسی کنند که تصاویر، ویژگی‌های کاندیدا را القا نکرده یا معیارهای ارزیابی را مخدوش نمی‌کنند، پیش از آنکه سریع‌ترین مدل پذیرفته شود.

گام بعدی شما

• بررسی کنید آیا در سیستم‌های فعلی خود، خروجی‌های بصری را به عنوان وابستگی سخت (Hard Dependency) تعریف کرده‌اید یا خیر.
• پیاده‌سازی یک لایه Dispatcher ساده برای تفکیک خطاهای گذرا از خطاهای نهایی در APIهای تصویر.
• تعریف یک کاتالوگ مدل‌های تأییدشده برای هر منطقه استقرار جهت جلوگیری از خطاهای زمان اجرا.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.