تصور کنید بتوانید یک مدل هوش مصنوعی را روی سخت‌افزاری آموزش دهید که سازنده‌اش ادعا می‌کرد فقط برای «اجرای» مدل است، نه «یادگیری». در ۱۴ اکتبر ۲۰۲۶، شرکت VIDRAFT با معرفی مدل VKORE-46M-NPU این تصور رایج را شکست و ثابت کرد که پیش‌آموزش (Pre-training) یک مدل زبانی کوچک (SLM) با ۴۶ میلیون پارامتر، بدون نیاز به GPU ممکن است.
بسیاری از مهندسان هوش مصنوعی با تراشه‌های استنتاج‌محور مانند یک خیابان یک‌طرفه برخورد می‌کنند؛ یعنی مدل را روی آن‌ها اجرا می‌کنند، اما باور دارند این سخت‌افزارها توانایی یادگیری ندارند. این سخت‌افزارها معمولاً فاقد دسترسی منعطف به حافظه و بافرهای با دقت بالا هستند که برای محاسبات گرادیان در زمان آموزش ضروری است. به طور مشخص، NPUهای استنتاج‌محور برای مسیرهای رفت (Forward Pass) بهینه شده‌اند و اغلب فاقد قابلیت تغییر تانسورها در لحظه (In-place tensor mutation) و بافرهای میانی با دقت بالا هستند؛ قابلیت‌هایی که آموزش‌های مبتنی بر GPU آن‌ها را بدیهی می‌پندارند. این محدودیت‌های ساختاری دقیقاً همان نقاط ضعفی هستند که سرمایه‌گذاری‌های اخیر انویدیا و آمازون بر سخت‌افزارهای حافظه‌محور برای رفع گلوگاه‌های استنتاج را توجیه می‌کند.
همان‌طور که در تحلیل قبلی ما درباره‌ی نحوه استفاده از SSDهای فیزیکی برای دور زدن دانلودهای کند مدل‌های زبانی بزرگ اشاره کردیم، صنعت به طور فزاینده‌ای به دنبال راه‌هایی برای گسست از سلطه انویدیا و انحصار GPUهای آن است. VIDRAFT برای رسیدن به این هدف، لایه‌ی نرم‌افزاری VKORE را توسعه داده است تا نقش «کودا (CUDA) برای NPUها» را ایفا کند.
چشم‌انداز VKORE
طبق اعلام این شرکت، هدف از توسعه VKORE ایجاد یک لایه‌ی شتاب‌دهنده بومی برای NPU است تا مجموعه‌ای جامع از قابلیت‌ها را فراهم کند که کاربرد CUDA را برای سخت‌افزارهای انویدیا بازسازی کند. این قابلیت‌ها شامل موارد زیر است:
- پیش‌آموزش کامل (که در مدل VKORE-46M-NPU به اثبات رسید).
- شتاب‌دهی به استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه به خودِ آشپزی و نه دوره‌ی آموزش آشپز — برای مدل‌های عمومی.
- تنظیم دقیق (Fine-tuning) از طریق روش لورا (LoRA) برای انطباق بهینه مدل با نیازهای خاص.
برای دستیابی به این هدف، VIDRAFT یک انتزاع نرم‌افزاری سفارشی پیاده کرد که NPU را مجبور می‌کند مانند یک بستر محاسباتی قابل آموزش رفتار کند. آن‌ها به‌جای تکیه بر پشته‌های آموزشی سازنده سخت‌افزار — که معمولاً برای سیلیکون‌های استنتاج‌محور وجود ندارند — عملیات پس‌انتشار (Backpropagation) را مستقیماً از طریق لایه‌ی VKORE خود پیاده‌سازی کردند.
آن‌ها برای اطمینان از اینکه نتیجه یک پیش‌آموزش واقعی است و نه صرفاً تنظیم دقیق یا یادگیری انتقالی، از روش‌های «شروع گرم» (Warm-starts) یا نقاط بازگشت پیش‌آموزشده (Pre-trained checkpoints) اجتناب کردند و مدل را با وزن‌های تصادفی (Random Weights) آغاز کردند. این اقدام ثابت می‌کند که NPU می‌تواند کل چرخه حیات آموزش را از یک صفحه سفید مدیریت کند.
اعتبارسنجی فنی
به گزارش این تیم، برای تایید نتایج، یک فرآیند آموزشی کاملاً یکسان روی یک GPU با عملکرد بالا تحت شرایط مشابه اجرا شد. این اجرای مرجع موازی به آن‌ها اجازه داد تا مسیرهای کاهش زیان (Loss Trajectories) را مستقیماً با هم مقایسه کنند. نتایج این مقایسه نشان داد:
- همبستگی مسیر زیان: ضریب همبستگی ۰.۹۹ بین اجرای NPU و GPU ثبت شد.
- ثبات عددی: مدل آموزش‌دیده روی NPU در مسیری از نظر آماری تقریباً یکسان با مدل GPU همگرا شد که نشان می‌دهد محاسبات گرادیان از نظر عددی سازگار بوده‌اند و نه تقریبی یا واگرا.
- توانایی: مدل نهایی که روی یک مجموعه‌داده عمومی آموزش دیده بود، توانست داستان‌های کوتاهی به زبان انگلیسی تولید کند.
VIDRAFT صراحتاً اشاره کرد که این پروژه تاییدکننده «صحت» روش است، نه «سرعت» آن. ضریب همبستگی ۰.۹۹ شباهت دینامیک‌های آموزش — یعنی نحوه تکامل منحنی زیان در طول گام‌ها — را اندازه‌گیری می‌کند، نه توان عملیاتی (Throughput) یا بهره‌وری نمونه‌ها در زمان واقعی. NPUهای استنتاج‌محور عموماً برای بارهای کاری آموزشی کندتر از GPUها هستند، اما این نتیجه ثابت می‌کند که محاسبات استاندارد گرادیان در حالت معکوس (Reverse-mode gradient computation) روی این سیلیکون‌ها قابل دستیابی است.
جزئیات پیاده‌سازی
بر اساس مستندات منتشر شده، اگرچه کد اصلی آموزش به دلیل حفظ مالکیت معنوی (IP) منتشر نشده، اما پروژه بر چندین مانع مهندسی کلیدی تأکید دارد:
- مدیریت حافظه: غلبه بر الگوهای محدود دسترسی به حافظه در نسل اول NPUها. در این راستا، بهینه‌سازی‌های پیشرفته‌ای مانند استفاده از حافظه مجازی در برابر تخصیص ایستا برای مدیریت بهینه حافظه در مدل‌های زبانی، اهمیت دوچندانی می‌یابند.
- ادغام عملگرها (Operator Fusion): پیاده‌سازی استراتژی‌های خاص برای بهینه‌سازی جریان محاسبات (جزئیات در مقاله فنی آتی منتشر می‌شود).
- تجمع گرادیان: ایجاد مکانیزم‌هایی برای مدیریت به‌روزرسانی وزن‌ها روی سخت‌افزاری که اساساً برای این کار طراحی نشده است.
نقشه راه VKORE
این شرکت VKORE را به عنوان یک لایه‌ی شتاب‌دهنده برای تمام چرخه حیات مدل معرفی کرده است. علاوه بر نقطه عطف پیش‌آموزش، برنامه‌های آتی شامل موارد زیر است:
۱. شتاب‌دهی استنتاج برای مدل‌های عمومی.
۲. اجرای مدل‌های کوانتیده (Quantized) روی همین سخت‌افزار، که VIDRAFT پیش از این امکان‌پذیر بودن آن را تایید کرده است.
۳. پیاده‌سازی قابلیت‌های تنظیم دقیق لورا (LoRA)، که در نقشه راه ذکر شده اما هنوز تاریخ دقیقی برای انتشار آن اعلام نشده است.
برای توسعه‌دهندگان، این تغییر به معنای کاهش «دیوار آموزش» است. اگر NPUهای استاندارد بتوانند پس‌انتشار را از طریق لایه‌های نرم‌افزاری مدیریت کنند، نیازهای سخت‌افزاری برای ساخت مدل‌های زبانی کوچک (SLM) به‌شدت کاهش می‌یابد.
این بدان معناست که مانع ورود به دنیای مدل‌های سفارشی از «مالکیت خوشه H100» به «داشتن انتزاع نرم‌افزاری درست» تغییر می‌کند. در حالی که کد اصلی آموزش اختصاصی باقی مانده، وزن‌های مدل و مواد تحلیل مقایسه‌ای اکنون در Hugging Face عمومی شده‌اند.
شما می‌توانید اکنون با استفاده از دستور huggingface-cli download vidraft/VKORE-46M-NPU وزن‌ها را دریافت کرده، خروجی مدل را تست کنید و تحلیل مقایسه‌ای آموزش GPU در مقابل NPU را بررسی نمایید.
گام بعدی شما
- اگر روی سخت‌افزارهای لبه (Edge) کار می‌کنید، مدل VKORE-46M-NPU را دانلود کنید تا محدودیت‌های استنتاج‌محور را درک کنید.
- مقاله فنی آتی VIDRAFT درباره «ادغام عملگرها» را دنبال کنید تا متوجه شوید چگونه محدودیت‌های حافظه NPU دور زده شده است.
- بررسی کنید آیا سخت‌افزار NPU دستگاه شما با لایه‌های انتزاعی مشابه سازگار است یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو