تنها ۴۱ میلیارد پارامتر؛ این است مقدار دقیقی از ظرفیتی که مدل Inkling در هر توکن (Token) فعال می‌کند. طبق تحلیل فنی منتشر شده در ۲۲ ژوئیه ۲۰۲۶ توسط رسانه thesequence.substack.com، این رویکرد پراکنده اجازه می‌دهد Inkling به‌جای یک مغز یکپارچه، مانند انبار تخصص‌های مجزا عمل کند تا از فروپاشی محاسباتی ناشی از فعال شدن هم‌زمان یک تریلیون پارامتر جلوگیری شود.
در فضای فعلی هوش مصنوعی، افزایش پارامترها معمولاً منجر به رشد خطی هزینه‌های استنتاج (Inference) می‌شود. همان‌طور که در تحلیل قبلی ما درباره‌ی قوانین مقیاس‌پذیری مدل‌های بنیادی اشاره کردیم، مدیریت این هزینه‌ها چالشی حیاتی است. Inkling این مشکل را با سازماندهی معماری خود شبیه به یک دانشگاه با ۲۵۶ دپارتمان تخصصی حل کرده است؛ به‌طوری که به‌جای فراخوانی تمام اساتید برای هر پرسش، یک مسیریاب (Router) تنها زیرمجموعه کوچکی از متخصصان مرتبط را انتخاب می‌کند.
مشخصات فنی Inkling بر اساس مستندات منتشر شده عبارت است از:
- ظرفیت کل: ۹۷۵ میلیارد پارامتر
- پارامترهای فعال: ۴۱ میلیارد در هر توکن
- نرخ فعال‌سازی: تقریباً ۴.۲٪ از کل شبکه
- منطق مسیریابی: ۶ «دپارتمان» تخصصی به‌علاوه‌ی دو واحد همه‌منظوره
به گزارش منابع فنی، این سازوکار به مدل اجازه می‌دهد به‌طور پویا بین حوزه‌های کاملاً متفاوت تغییر وضعیت دهد. برای مثال، یک خط کد پایتون مجموعه‌ای از متخصصان کدنویسی را فعال می‌کند، در حالی که یک عبارت یونانی یا یک برچسب صوتی، کلاستر متفاوتی از پارامترها را فرا می‌خواند. این مکانیسم خروجی‌هایی با دقت بالا در حالت‌های چندوجهی (Multimodal) را تضمین می‌کند، بدون اینکه منابع محاسباتی روی نورون‌های نامرتبط تلف شوند.
برای متخصصان، این رویکرد معیار «اندازه مدل» را از تعداد کل پارامترها به «بهره‌وری فعال در هر توکن» تغییر می‌دهد. این موضوع ثابت می‌کند که ظرفیت ذخیره‌سازی عظیم می‌تواند با استنتاج سبک هم‌زیستی داشته باشد، مشروط بر اینکه مکانیسم مسیریابی به‌اندازه کافی دقیق باشد. در این حالت، گلوگاه از توان محاسباتی به چالش‌های حافظه و شبکه منتقل می‌شود، زیرا ۹۷۵ میلیارد پارامتر همچنان باید ذخیره و در دسترس باشند.
بزرگ‌ترین پرسش پیش‌رو این است که آیا این مسیریابی پراکنده در مقیاس‌های حتی بزرگ‌تر نیز پایدار می‌ماند یا خیر. توسعه‌دهندگان باید اثر این معماری بر تأخیر (Latency) در کاربردهای چندوجهیِ آنی را در مقایسه با مدل‌های متراکم سنتی رصد کنند.
گام بعدی شما
- بررسی متدهای Routing در معماری‌های MoE برای بهینه‌سازی هزینه استنتاج.
- تحلیل اثر حجم VRAM بر سرعت بارگذاری مدل‌های با ظرفیت تریلیونی.
- تست مدل‌های مشابه در سناریوهای چندزبانه برای سنجش دقت سوئیچ بین متخصصان.
اما تأثیر این معماری بر دسترسی به سخت‌افزارهای لبه حتی پیچیده‌تر است. این چالش‌های زیرساختی در حالی رخ می‌دهد که غول‌های فناوری بر تصاحب لایه‌ی استقرار مدل‌ها متمرکز شده‌اند تا برتری عملیاتی خود را تثبیت کنند — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو