FutureHouse امروز Inkling 2 Mini را منتشر کرد: یک مدل ۲۶.۴ میلیارد پارامتری که با چرخش لایههای میانی، سقف کارایی در کلاس زیر ۱۰۰ میلیاردی را بالا برده است. این مدل در DeepSWE v1.1 نمره ۴۸.۲٪ و در Vals Index v2.2 نمره ۴۶.۵٪ ثبت کرده و همتیارهای وزنباز را در کدنویسی عاملمحور پشت سر گذاشته است. مدل Inkling 2 Small هماکنون در SWE‑Bench Pro نمره ۸۶.۳٪ را ثبت کرده که بیش از Inkling 2 Mini است.
معماری ترنسفورمر حلقهای
معماری ترنسفورمر حلقهای (Looped Transformer) لایههای میانی شبکه را برای هر توکن تولیدی سه بار طی میکند. این مکانیزم محاسبات موثر را از ۳.۴ میلیارد پارامتر فعال به ۵.۴ میلیارد فعالسازی وزنی در هر پاس افزایش میدهد، بدون اینکه تعداد پارامترها رشد یابد. سرعت رمزگشایی نظری به ۶۱۴ گیگابایت بر ثانیه در دقت BF16 و اندازه دسته یک میرسد.
نتایج بنچمارکهای کلیدی
- DeepSWE v1.1: ۴۸.۲٪ (پیشتاز مدلهای زیر ۱۰۰B)
- Vals Index v2.2: ۴۶.۵٪ (پیشتاز مدلهای زیر ۱۰۰B)
- SWE-bench Pro v2 Hard: ۷۷.۹٪ در زیرمجموعه ۵۱ وظیفه سخت
- BrowseComp: ۷۹.۰٪ در جستجوی عاملان
- DeepSearchQA: ۸۵.۳٪ در پاسخدهی با جستجوی عمیق
نظارتپذیری و استدلال درونی
روشهای سنتی نظارت بر زنجیرهتفکر (CoT) نیازمند استدلال صریح در متناند، که راه را برای مبهمسازی قصد یا کدگذاریهای استگانوگرافیک باز میگذارد. رویکرد حلقهای Inkling 2 Mini «افق زمانی بدون CoT» را فراهم میکند: استدلال درونی ممتد بدون نوشتن مراحل میانی.
در آزمایشهای کنترلشده، گونه متغیرِ حلقهای افق استدلال موثر را از ۱۶ ثانیه در پاس واحد به ۳۷ ثانیه با سه حلقه گسترش داد. کارایی در وظایف استدلال متوالی تا ده حلقه بهبود یافت — دو برابر پیکربندی آموزشی. ردیقهای CoT با افزایش حلقهها خلاصهتر شدند اما کاملاً خوانا ماندند، و هیچ افزایشی در رفتارهای تخریبی عاملمحور مشاهده نشد. گزارشهای جدید نشان میدهند Inkling 2 Small پیشرفت ۴۱٪ در اتوماسیون و ۲۰٪ در کدنویسی داشته که در تحلیل مقایسهای بررسی شده است.
انتشار و دسترسی
FutureHouse هم Inkling 2 Mini با سه حلقه ثابت و هم گونه متغیرِ حلقهای برای پژوهش را منتشر کرده است. بسته انتشار شامل وزنهای مدل، کد استنتاج و چارچوبهای ارزیابی است. حافظه کل مدل حدود ۲۰ گیگابایت است و روی لپتاپهای مصرفکننده (مانند MacBook Pro با ۴۸ گیگابایت حافظه) بهصورت آفلاین اجرا میشود.
پیامدها برای اکوسیستم متنباز
معماری حلقهای پارادایم را از «مقیاسدهی افقی» (Scaling Out) با رشد پارامتر به «مقیاسدهی درونی» (Scaling In) با بازاستفاده از عمق محاسباتی میبرد. مدلی که در حافظه ویدیویی محدود جا میشود، اکنون در وظایف پیچیده کدنویسی با غولهای دروازهدار API رقابت میکند. برای محققان ایمنی، بستر تستی فراهم شده تا رابطه عمق محاسبه درونی و شفافیت رفتاری بررسی شود.




گفتگو