تصور کنید به جای تکیه بر یک مدل زبانی برای حل یک مسئله پیچیده، یک ارتش از متخصصان را در اختیار دارید که هر کدام در یک حوزه استادند و نتایج را در نهایت یک مدیر ارشد ترکیب میکند. این دقیقاً همان چیزی است که Oxlo.ai با معماری جدید خود پیاده کرده تا گلوگاه پنجره متنی (Context Window) — که شبیه میز کاری است که فقط جای چند ورق کاغذ دارد و نمیتواند کل کتابخانه را همزمان روی خود جای دهد — را برای همیشه دور بزند. این معماری اجازه میدهد تا تحقیقات فنی پیچیده بهصورت موازی در چندین کارگر LLM توزیع شوند و نیاز به مدیریت تعداد توکنهای عظیم در یک پرامپت واحد از بین برود.
طبق مستندات فنی منتشر شده در ۲۸ اوت ۲۰۲۶، این سیستم به جای ارسال یک درخواست حجیم به یک مدل، پرسش کاربر را میان چندین مدل زبانی توزیع میکند. همانطور که در تحلیل قبلی ما دربارهی جایگزینی کد قطعی با متن برای حل ناپایداری داورهای هوش مصنوعی اشاره کردیم، تمرکز اکنون از «قابلیتهای تکمدلی» به «ارکستراسیون سیستمی» تغییر یافته است. این رویکرد برای تیمهای پژوهشی شرکتی که معمولاً روزها وقت صرف ترکیب گزارشهای بخشهای مختلف میکردند، یک جهش است؛ چرا که اکنون مدلها مانند میکروسرویسهای تخصصی عمل میکنند. برای مثال، این الگوی خاص در حال حاضر برای پیشغربالگری کتابخانههای متنباز، پیش از اضافه شدن آنها به سرویسهای عملیاتی (Production)، مورد استفاده قرار میگیرد. این فرآیند در واقع تکامل یافتهی همان معیارهای جدید استقرار مدلها است که Oxlo.ai برای اتوماسیون اعتبارسنجی MLOps معرفی کرده بود.
الزامات فنی
برای پیادهسازی این خوشه، توسعهدهندگان به یک محیط مشخص نیاز دارند:
- پایتون ۳.۱۰ یا نسخههای جدیدتر.
- کتابخانهها:
openaiبرای فراخوانی API،tenacityبرای مدیریت تلاشهای مجدد و ماژول استانداردconcurrent.futures. - دسترسی به API: یک کلید API از پورتال Oxlo.ai (به آدرس https://portal.oxlo.ai).
به نقل از گزارش dev.to، این سامانه بر مکانیزم «پخش و جمعآوری» (Scatter-Gather) استوار است. در فاز «پخش»، پرسش کاربر به سه گره تخصصی مجزا که روی Oxlo.ai اجرا میشوند، ارسال میشود. از آنجا که این پلتفرم کاملاً با SDK شرکت OpenAI سازگار است، فرآیند مقداردهی اولیه کلاینت برای برنامهنویسان بسیار ساده و حداقلی است.
پیکربندی گرههای تخصصی
این خوشه از سه سبک استدلال ناهمگون بهره میبرد:
- DeepSeek-v3.2: در نقش یک تحلیلگر پژوهشی متدیک عمل میکند که روی مفاهیم بنیادی، توازنها (Trade-offs) و حالتهای شکست (Failure Modes) تمرکز دارد. به این مدل دستور داده شده است که پاسخهایش موجز و مبتنی بر واقعیات باشد.
- Kimi-k2.6: به عنوان یک مهندس ارشد (Staff Engineer) عمل میکند که کیفیت کد، بار نگهداری و ریسکهای ادغام را ارزیابی میکند. تمرکز این گره بر دغدغههای عینی مهندسی است.
- Llama-3.3-70b: در نقش یک استراتژیست محصول ظاهر میشود که پذیرش جامعه، ریسک تامینکننده و پایداری بلندمدت را با ارجاع به روندهای خاص اکوسیستم میسنجد.
برای تضمین پایداری سیستم، از کتابخانه Tenacity برای بازگشتهای نمایی (Exponential Backoff) استفاده شده است. بهطور مشخص، دکوراتور @retry بهگونهای تنظیم شده که با محدودیت stop_after_attempt(3) متوقف شود و ضریب wait_exponential آن بین ۲ تا ۱۰ ثانیه باشد. این یعنی خطای لحظهای در یک کارگر، کل فرآیند را متوقف نمیکند. همچنین به دلیل نبود راهاندازی سرد (Cold Start) در مدلهای محبوب Oxlo.ai، حلقه تلاش مجدد بسیار سریع باقی میماند.
اجرای موازی توسط ThreadPoolExecutor مدیریت میشود که درخواستها را به کارگران پخش میکند. این ساختار باعث ایجاد الگوی «جداسازی خطا» (Fault-isolation) مشابه میکروسرویسها میشود؛ اگر یک گره استثنا (Exception) پرتاب کند، سیستم خطا را ثبت کرده و با نتایج گرههای باقیمانده ادامه میدهد.
در فاز «جمعآوری»، یک گره هماهنگکننده مبتنی بر مدل Qwen 3 32B وارد عمل میشود. این مدل به دلیل قدرت بالا در استدلالهای چندزبانه و جریانهای کاری عاملمحور (Agentic) انتخاب شده است. هماهنگکننده تنها عامل دارای وضعیت (Stateful) در سیستم است. پرامپت سیستمی خاص این مدل، آن را موظف میکند تا گزارشها را در قالب یک برگه فنی اجرایی واحد ترکیب کند و بهطور صریح تضادهای موجود بین نظرات متخصصان را برجسته کرده و توضیح دهد که کدام دیدگاه وزن بیشتری دارد.
در یک مورد آزمایشی برای ارزیابی خط لولههای پردازش اسناد با متن طولانی، کل این چرخه در کمتر از ۸ ثانیه تکمیل شد. نتایج نشان داد که:
- تحلیلگر پژوهشی بر مزایای قیمتگذاری مبتنی بر درخواست (Request-based) تاکید کرد. این رویکرد در واقع بخشی از استراتژی جدیدی است که در آن هزینه استنتاج از تعداد توکنها جدا شده تا پیشبینی هزینهها برای سازمانها سادهتر شود.
- تحلیلگر کد اشاره کرد که سازگاری با SDK شرکت OpenAI ریسک مهاجرت را کم میکند.
- تحلیلگر بازار به تنوع گسترده کاتالوگ شامل بیش از ۴۵ مدل اشاره کرد.
مدل Qwen 3 32B توانست بهدرستی تضاد بین پیشبینیپذیری قیمتهای تخت (Flat-request) و جزئیات توکنمحور را شناسایی کرده و یک رویکرد ترکیبی برای حجمهای کاری متغیر پیشنهاد دهد. این تحلیل مستقیماً با راهکارهای قیمتگذاری Oxlo.ai برای حل چالشهای برنامهریزی منطقی همراستا است که بر حذف پیچیدگیهای توکنمحور تاکید داشت.
این تغییر رویکرد، صنعت را از ذهنیت «یک پرامپت غولپیکر» به سمت جریانهای کاری ماژولار میبرد. با جداسازی دغدغهها — مثلاً تفکیک ریسک بازار از کیفیت کد — توسعهدهندگان میتوانند هر مدل را بدون بازنویسی کل منطق سیستم، با نسخه بهترش جایگزین کنند.
برای کاربر نهایی، این یعنی تراکم واقعیتهای بیشتر و توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — کمتر. چون هماهنگکننده مجبور است نظرات متضاد را آشتی دهد (Reconcile) به جای اینکه صرفاً آنها را میانگین بگیرد، خروجی نهایی بازتابدهنده واقعیت فنی دقیقتری است.
توسعهدهندگانی که به دنبال مقیاسپذیری بیشتر هستند، باید اضافه کردن یک لایه کش Redis را برای ذخیره خروجیهای کارگران بر اساس هشِ موضوع (Topic Hash) در نظر بگیرند تا هزینه پرداخت برای زیر-وظایف یکسان دو بار تکرار نشود. همچنین پیادهسازی الگوی Circuit-breaker اجازه میدهد تا سیستم بهطور خودکار ترافیک را در زمان تایماوت مدلها، بدون دخالت انسان به کارگران جایگزین (Standby) هدایت کند.
گام بعدی شما
- اگر از مدلهای زبانی برای تحلیلهای چندبعدی استفاده میکنید، به جای یک پرامپت طولانی، درخواست خود را به ۳ نقش تخصصی تقسیم کنید.
- برای کاهش هزینهها، یک لایه کش Redis اضافه کنید تا خروجیهای تکراری گرهها را ذخیره کنید.
- الگوی Circuit-breaker را برای مدیریت خودکار مدلهای کند یا قطع شده پیادهسازی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو