مایکروسافت: اجرای مدل‌های ۱۰۰ میلیارد پارامتری روی یک CPU

تصور کنید یک لپ‌تاپ معمولی بتواند مدل‌های غول‌پیکر هوش مصنوعی را بدون نیاز به کارت‌های گرافیکی گران‌قیمت، اشتراک‌های ابری و سخت‌افزارهایی که ده‌ها هزار دلار قیمت دارند، اجرا کند. مایکروسافت با معرفی BitNet این رویای دسترسی محلی به مدل‌های ۱۰۰ میلیاردی را به واقعیت نزدیک کرده است. این چارچوب استنتاج متن‌باز اجازه می‌دهد یک CPU لپ‌تاپ، مدلی با ۱۰۰ میلیارد پارامتر را با سرعتی مشابه مطالعه‌ی انسان اجرا کند و نیاز اجباری به شتاب‌دهنده‌های رده‌بالا را از بین ببرد.

این تحول در حالی رخ می‌دهد که صنعت با بحران هزینه‌های سرسام‌آور سخت‌افزاری و مصرف انرژی مدل‌های زبانی دست‌وپنجه نرم می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی اینکه چگونه بهینه‌سازی‌های مبتنی بر LLM می‌تواند هزینه‌های نمونه‌سازی را تا ۹۹٪ کاهش دهد اشاره کردیم، کاهش هزینه‌ها در لایه‌ی نرم‌افزاری حیاتی است، اما BitNet مستقیماً ریشه‌ی مشکل را در لایه‌ی سخت‌افزار هدف قرار می‌دهد. این چارچوب، بار محاسباتی را از تراشه‌های تخصصی AI به پردازنده مرکزی (CPU) — که در تقریباً هر کامپیوتری وجود دارد — منتقل می‌کند.

مایکروسافت ریسرچ (Microsoft Research) این پروژه را به‌صورت ۱۰۰٪ متن‌باز و تحت مجوز MIT منتشر کرده است. این پروژه مورد استقبال گسترده‌ای قرار گرفته و تا کنون بیش از ۳۹,۹۰۰ ستاره (Star) و ۳,۷۰۰ فورک (Fork) در گیت‌هاب به دست آورده است.

طبق مستندات این مخزن، BitNet از مکانیزم کوانتایزیشن (Quantization) ۱.۵۸ بیتی استفاده می‌کند. برخلاف مدل‌های استاندارد که از اعداد اعشاری ۱۶ بیتی یا ۳۲ بیتی استفاده می‌کنند، BitNet وزن‌ها را به صورت مقادیر سه‌گانه (Ternary) ذخیره می‌کند: ۱+، ۰ یا ۱-. این مکانیزم ضرب‌های ماتریسی پیچیده را با عملیات ساده‌ی اعداد صحیح جایگزین می‌کند؛ عملیاتی که CPUها به‌طور بومی برای مدیریت بهینه آن‌ها طراحی شده‌اند.

بر اساس گزارش‌های فنی مایکروسافت، دستاوردهای این معماری در پردازنده‌های مختلف خیره‌کننده است و بهره‌وری را در معماری‌های گوناگون افزایش می‌دهد:

• پردازنده‌های x86: سرعت اجرا ۲.۳۷ تا ۶.۱۷ برابر بیشتر از لاماسی‌پلاس‌پلاس (llama.cpp) است و مصرف انرژی بین ۷۱.۹٪ تا ۸۲.۲٪ کاهش یافته است.
• پردازنده‌های ARM: افزایش سرعت بین ۱.۳۷ تا ۵.۰۷ برابری مشاهده شده و مصرف انرژی بین ۵۵.۴٪ تا ۷۰٪ کاهش یافته است.
• بهینگی حافظه: نیاز به حافظه در مقایسه با مدل‌های با دقت کامل (Full-precision)، ۱۶ تا ۳۲ برابر کمتر شده است.
• تخمین مدل ۱۰۰ میلیاردی: گزارش فنی تخمین می‌زند که یک مدل ۱۰۰ میلیارد پارامتری می‌تواند روی یک CPU واحد با سرعت ۵ تا ۷ توکن (Token) در ثانیه اجرا شود.

مایکروسافت پیش از این چندین مدل را در هاگینگ فیس (Hugging Face) منتشر کرده است. مدل پرچم‌دار BitNet-b1.58-2B-4T دارای ۲.۴ میلیارد پارامتر است که روی ۴ تریلیون توکن آموزش دیده و در آوریل ۲۰۲۵ عرضه شده است. سایر مدل‌های منتشر شده شامل BitNet-embedding-0.6B و BitNet-embedding-270M هستند که هر دو در جولای ۲۰۲۶ منتشر شدند.

با این حال، یک محدودیت حیاتی وجود دارد که باید به آن توجه کنید: شما نمی‌توانید مدل‌های موجود مثل Llama، Qwen یا DeepSeek را به‌سادگی به ۱.۵۸ بیت تبدیل کنید. برای حفظ دقت و کیفیت، مدل‌ها باید از همان ابتدا با استفاده از معماری BitNet آموزش ببینند. اگر یک مدل استاندارد را پس از آموزش کوانتایز کنید، کیفیت پاسخ‌ها به‌شدت افت می‌کند.

علاوه بر این، در حالی که مدل ۱۰۰ میلیاردی یک بنچمارک تئوریک در گزارش فنی است، هنوز برای دانلود عمومی در دسترس نیست. مدل‌های فعلی موجود بسیار کوچک‌تر هستند، مانند نسخه ۲.۴ میلیاردی.

برای کاربر عادی، این به معنای آن است که هوش مصنوعی با کیفیت بالا می‌تواند در نهایت به‌طور کامل آفلاین روی دستگاه‌های لبه (Edge Devices) مستقر شود. این فناوری لپ‌تاپ را از یک ترمینال که به GPUهای ابری متصل است، به یک ایستگاه کاری AI خودکفا تبدیل می‌کند. برنامه‌هایی که حریم خصوصی را در اولویت قرار می‌دهند و دستگاه‌های اینترنت اشیا (IoT) بیشترین سود را می‌برند، زیرا داده‌های حساس دیگر نیازی به خروج از سخت‌افزار محلی ندارند.

با این حال، سرعت ۵ تا ۷ توکن در ثانیه برای دستیارهای کدنویسی آنی یا چت‌بات‌های با سرعت بالا، بیش از حد کند است. بنابراین GPUها همچنان برای محیط‌های تولیدی با تأخیر کم (Low-latency) و توان عملیاتی بالا ضروری هستند. BitNet یک پیروزی برای دسترسی‌پذیری و بهره‌وری است، اما جایگزینی کامل برای محاسبات رده‌بالا نیست.

مخزن گیت‌هاب BitNet را دنبال کنید تا زمان انتشار وزن‌های مدل‌های در مقیاس ۱۰۰ میلیاردی مطلع شوید و ببینید آیا سرعت‌های تئوریک CPU در تست‌های استرس واقعی نیز پابرجا می‌مانند یا خیر.

گام بعدی شما

• مخزن گیت‌هاب BitNet را دنبال کنید تا زمان انتشار وزن‌های مدل‌های ۱۰۰ میلیاردی مطلع شوید.
• اگر توسعه‌دهنده هستید، مدل‌های ۲.۴ میلیاردی را روی CPUهای ARM (مثل مک‌های سری M) تست کنید تا تفاوت مصرف انرژی را ببینید.
• برای کاربردهای حساس به حریم خصوصی، استقرار مدل‌های کوانتایز شده را جایگزین APIهای ابری کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.