تصور کنید به جای استخدام یک متخصص گران‌قیمت که ادعا می‌کند همه کاره است، تیمی از متخصصان ارزان‌قیمت را داشته باشید که هر کدام در یک موضوع خاص استادند. این دقیقاً همان اتفاقی است که سامانه Echo در دنیای محاسبات مدل‌های زبانی ایجاد کرده است.
طبق اعلام تیم توسعه در ۲۳ جولای ۲۰۲۶، این سامانه توانسته است عملکردی مشابه سیستم‌های پیشرفته‌ای مثل Fable ارائه دهد، اما با هزینه‌ای که تنها یک‌سوم است. Echo به جای تکیه بر یک مدل زبانی بزرگ (LLM) — که شبیه کتابداری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — از مجموعه‌ای از مدل‌های وزن‌های باز (Open Weights) استفاده می‌کند؛ یعنی مدل‌هایی که دستور پخت یا معماری آن‌ها علناً منتشر شده است.
همان‌طور که در تحلیل قبلی ما درباره‌ی بهینه‌سازی هزینه‌های استنتاج اشاره کردیم، اکثر توسعه‌دهندگان در حال حاضر یک مدل واحد را برای تمام وظایف انتخاب می‌کنند. اما Echo این الگو را می‌شکند و در لحظه تصمیم می‌گیرد که هر درخواست به چه میزان محاسبات نیاز دارد و کدام مدل‌ها باید در پاسخ مشارکت کنند.
سازوکار فنی
بر اساس مستندات این پروژه، سامانه از استخر متنوعی از مدل‌ها از جمله GLM-5.2 و Kimi K2.7 بهره می‌برد. این بهره‌گیری از مدل‌های متنوع، در راستای جنگ قیمتی و تغییر پارادایم در هزینه‌های API است که مدل‌های چینی برای جذب توسعه‌دهندگان به راه انداخته‌اند. منطق عملیاتی این سیستم به شرح زیر است:
- تخصیص پویا: Echo بودجه محاسباتی مورد نیاز برای هر پرامپت را تعیین می‌کند.
- انتخاب مدل: بخش‌های مختلف یک مسئله را به مدل‌های مکمل می‌سپارد.
- ترکیب خروجی‌ها: نقاط قوت مدل‌های مختلف را برای رسیدن به پاسخ نهایی ادغام می‌کند.
یک یافته غافلگیرکننده در روند توسعه این است که مدل‌هایی که به‌طور کلی «ضعیف‌تر» شناخته می‌شوند، در حل مسائل تخصصی و کوچک (Niche) درون یک جریان کاری ترکیبی، بسیار کارآمد هستند.
این رویکرد نشان می‌دهد که رقابت برای ساخت یک مدل غول‌پیکر واحد، ناکارآمد است. برای متخصصان این بدان معناست که می‌توان با مدیریت یک «کمیته» از مدل‌های کوچک و تخصصی، به استدلال‌های سطح پیشرو رسید، بدون آنکه هزینه‌های سنگین APIهای بسته را پرداخت کنند. در حال حاضر Echo از طریق یک رابط چت و API سازگار با OpenAI برای آزمایش در دسترس است.
گام بعدی شما
- بررسی مدل‌های وزن‌باز جایگزین برای وظایف تکراری در سازمان خود.
- آزمایش رویکرد «ترکیب مدل‌ها» (Model Orchestration) به جای تکیه بر یک مدل جامع.
- دنبال کردن نتایج Echo در وظایف پیچیده کدنویسی که معیار سنجش کیفیت آن‌ها سخت‌تر است.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو