اگر به دنبال کاهش هزینه‌های محاسباتی در سیستم‌های تصمیم‌گیر هستید، معماری جدید Darwin-27B-ZTC-v2 قواعد بازی را تغییر داده است. این مدل توانست در جامع‌ترین جدول رده‌بندی عمومی موتورهای تصمیم‌گیر هوش مصنوعی، از ۱۰۱ رقیب دیگر پیشی بگیرد.
طبق گزارش فنی منتشر شده در ۹ اکتبر ۲۰۲۶، این مدل در ۱۳۷ محک مختلف برتری خود را به اثبات رساند. موتورهای تصمیم‌گیر برخلاف مدل‌های زبانی بزرگ (LLM)، به‌جای تولید متن‌های باز، احتمالات را به مجموعه‌ای از گزینه‌های ثابت اختصاص می‌دهند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی بهینه‌سازی استنتاج اشاره کردیم، حذف مراحل تولید توکن می‌تواند گلوگاه‌های پردازشی را از بین ببرد.
این مدل در سه قالب «بله/خیر»، «چندگزینه‌ای» و «امتیازدهی» مورد ارزیابی قرار گرفت و نتایج خیره‌کننده‌ای ثبت کرد.
معماری فنی و عملکرد
مرکز قدرت این مدل در مکانیزمی به نام طبقه‌بندی بدون توکن (Zero-Token Classification یا ZTC) نهفته است. در این روش، مدل به‌جای تولید تک‌تک کاراکترها، گزینه‌ها را در پرامپت لیست کرده و احتمالات تمام انتخاب‌ها را تنها در یک گذر پیشرو (Forward Pass) از آخرین حالت نهان (Hidden State) می‌خواند. این رویکرد باعث می‌شود یک مدل با ۲۷ میلیارد پارامتر، تصمیمات را با کمترین سربار محاسباتی اجرا کند.
بر اساس مستندات S1MB، شاخص‌های کلیدی عملکرد این مدل عبارت‌اند از:
- امتیاز بوردا (Borda Score): ۸۹.۵۸ (رتبه ۱)
- میانگین وظایف: ۶۶.۴۶ (رتبه ۱)
- عملکرد امتیازدهی: ۶۰.۲۱ (در حالی که رتبه دوم تنها ۵۴.۸۳ امتیاز کسب کرد)
فرآیند توسعه و جلوگیری از فراموشی
مدل Darwin-27B-ZTC-v2 بر پایه نسخه اول ساخته شده که پیش‌تر با امتیاز ۰.۷۴۳ در حالت صفر-شات (Zero-shot)، صدرنشین جدول Hugging Face Typed Decisions بود. برای نسخه دوم، آموزش روی داده‌های عمومی با تمرکز بر کنترل و تصمیم‌گیری ادامه یافت. توسعه‌دهندگان برای جلوگیری از فراموشی فاجعه‌بار (Catastrophic Forgetting)، وزن‌های نسخه دوم را با نسبت ۵۰/۵۰ با نسخه اول ادغام کردند.
این استراتژی ادغام مدل (Model Merging) اجازه داد تا قابلیت‌های عمومی نسخه اول حفظ شده و مهارت‌های تخصصی جدید به آن افزوده شود. همچنین تأیید شده است که هیچ‌یک از سؤالات آزمون S1MB در داده‌های آموزشی نبوده‌اند تا احتمال نشت داده (Data Leakage) منتفی شود.
برای جامعه فنی، این موفقیت کارایی ZTC را در برابر طبقه‌بندی‌های مولد سنتی به اثبات می‌رساند. با حذف فاز تولید توکن، موتورهای تصمیم‌گیر در محیط‌های عملیاتی با دقت بالاتر و تأخیر (Latency) بسیار کمتری عمل می‌کنند.
گام بعدی شما
- بررسی وزن‌های باز و کد استنتاج در صفحه رسمی Hugging Face مدل Darwin.
- تست جایگزینی لایه‌های Softmax سنتی با رویکرد ZTC در پروژه‌های طبقه‌بندی داخلی.
- مطالعه مستندات سرور System-One برای استقرار بهینه مدل‌های تصمیم‌گیر.
اما تأثیر این معماری بر کاهش مصرف انرژی در مراکز داده حتی چشمگیرتر است — به تحلیل ما درباره‌ی سخت‌افزارهای استنتاج کم‌مصرف مراجعه کنید.
گفتگو