پرش به محتوای اصلی
پرش به محتوای مقاله

Inkling 2 Mini: ترنسفورمر حلقه‌ای ۲۶.۴ میلیاردی رکورد کدنویسی را شکست

·۳۰ آبان ۱۴۰۵۲۰ دقیقه مطالعه
لوگو Inkling 2 Mini با پس‌زمینه بصری شبکه عصبی
لوگو Inkling 2 Mini با پس‌زمینه بصری شبکه عصبی
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

نخستین مدل وزن‌باز زیر ۱۰۰ میلیارد پارامتر که با معماری ترنسفورمر حلقه‌ای در بنچمارک‌های عامل‌محور کدنویسی رکورد زده و هم‌زمان گونه متغیرِ حلقه‌ای برای کنترل پویای عمق استدلال در زمان استنتاج منتشر شده است.

FutureHouse امروز Inkling 2 Mini را منتشر کرد: یک مدل ۲۶.۴ میلیارد پارامتری که با چرخش لایه‌های میانی، سقف کارایی در کلاس زیر ۱۰۰ میلیاردی را بالا برده است. این مدل در DeepSWE v1.1 نمره ۴۸.۲٪ و در Vals Index v2.2 نمره ۴۶.۵٪ ثبت کرده و هم‌تیارهای وزن‌باز را در کدنویسی عامل‌محور پشت سر گذاشته است. مدل Inkling 2 Small هم‌اکنون در SWE‑Bench Pro نمره ۸۶.۳٪ را ثبت کرده که بیش از Inkling 2 Mini است.

معماری ترنسفورمر حلقه‌ای

معماری ترنسفورمر حلقه‌ای (Looped Transformer) لایه‌های میانی شبکه را برای هر توکن تولیدی سه بار طی می‌کند. این مکانیزم محاسبات موثر را از ۳.۴ میلیارد پارامتر فعال به ۵.۴ میلیارد فعال‌سازی وزنی در هر پاس افزایش می‌دهد، بدون اینکه تعداد پارامترها رشد یابد. سرعت رمزگشایی نظری به ۶۱۴ گیگابایت بر ثانیه در دقت BF16 و اندازه دسته یک می‌رسد.

نتایج بنچمارک‌های کلیدی

  • DeepSWE v1.1: ۴۸.۲٪ (پیشتاز مدل‌های زیر ۱۰۰B)
  • Vals Index v2.2: ۴۶.۵٪ (پیشتاز مدل‌های زیر ۱۰۰B)
  • SWE-bench Pro v2 Hard: ۷۷.۹٪ در زیرمجموعه ۵۱ وظیفه سخت
  • BrowseComp: ۷۹.۰٪ در جستجوی عاملان
  • DeepSearchQA: ۸۵.۳٪ در پاسخ‌دهی با جستجوی عمیق

نظارت‌پذیری و استدلال درونی

روش‌های سنتی نظارت بر زنجیره‌تفکر (CoT) نیازمند استدلال صریح در متن‌اند، که راه را برای مبهم‌سازی قصد یا کدگذاری‌های استگانوگرافیک باز می‌گذارد. رویکرد حلقه‌ای Inkling 2 Mini «افق زمانی بدون CoT» را فراهم می‌کند: استدلال درونی ممتد بدون نوشتن مراحل میانی.

در آزمایش‌های کنترل‌شده، گونه متغیرِ حلقه‌ای افق استدلال موثر را از ۱۶ ثانیه در پاس واحد به ۳۷ ثانیه با سه حلقه گسترش داد. کارایی در وظایف استدلال متوالی تا ده حلقه بهبود یافت — دو برابر پیکربندی آموزشی. ردیق‌های CoT با افزایش حلقه‌ها خلاصه‌تر شدند اما کاملاً خوانا ماندند، و هیچ افزایشی در رفتارهای تخریبی عامل‌محور مشاهده نشد. گزارش‌های جدید نشان می‌دهند Inkling 2 Small پیشرفت ۴۱٪ در اتوماسیون و ۲۰٪ در کدنویسی داشته که در تحلیل مقایسه‌ای بررسی شده است.

انتشار و دسترسی

FutureHouse هم Inkling 2 Mini با سه حلقه ثابت و هم گونه متغیرِ حلقه‌ای برای پژوهش را منتشر کرده است. بسته انتشار شامل وزن‌های مدل، کد استنتاج و چارچوب‌های ارزیابی است. حافظه کل مدل حدود ۲۰ گیگابایت است و روی لپ‌تاپ‌های مصرف‌کننده (مانند MacBook Pro با ۴۸ گیگابایت حافظه) به‌صورت آفلاین اجرا می‌شود.

پیامدها برای اکوسیستم متن‌باز

معماری حلقه‌ای پارادایم را از «مقیاس‌دهی افقی» (Scaling Out) با رشد پارامتر به «مقیاس‌دهی درونی» (Scaling In) با بازاستفاده از عمق محاسباتی می‌برد. مدلی که در حافظه ویدیویی محدود جا می‌شود، اکنون در وظایف پیچیده کدنویسی با غول‌های دروازه‌دار API رقابت می‌کند. برای محققان ایمنی، بستر تستی فراهم شده تا رابطه عمق محاسبه درونی و شفافیت رفتاری بررسی شود.

چرا این موضوع مهم است؟

این مدل ثابت می‌کند که نوآوری معماری می‌تواند هم کارایی بنچمارک را در کلاس پارامتری کوچک به اوج برساند و هم چالش نظارت‌پذیری را با حذف نیاز به زنجیره‌تفکر صریح مخفف نماید. توسعه‌دهندگان محلی و محققان ایمنی به‌صورت همزمان از این پیشرفت بهره‌مند می‌شوند.

تأثیر برای ایران

مدل با حدود ۲۰ گیگابایت حافظه روی لپ‌تاپ‌های مصرف‌کننده اجرا می‌شود و بدون نیاز به API ابری کار می‌کند — جایگزین قدرتمند و کاملاً محلی برای توسعه‌دهندگان ایرانی با محدودیت دسترسی به سرویس‌های خارجی.

·نگاه ما
تحریریه دات‌هوش

ترنسفورمر حلقه‌ای نشان می‌دهد که «اندازه مدل» تنها متغیر قدرت نیست — نحوه گردش محاسبه در لایه‌ها می‌تواند بدون اضافه کردن پارامتر، عمق استدلال را چندبرابر کند. این الگو احتمالاً به سمت مدل‌های کوچک‌تر اما عمیق‌ترِ فکری سوق می‌دهد که برای استقرار محلی و نظارت ایمنی هم‌زمان بهینه‌اند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.