تصور کنید یک زنگ درب هوشمند یا ترموستات، بدون نیاز به اینترنت و سرورهای ابری، دستورات پیچیده شما را بفهمد و اجرا کند. این رویای کنترل محلی، اکنون با مدلی که تنها ۱۴ مگابایت فضا اشغال میکند، به واقعیت تبدیل شده است.
طبق بررسی فنی منتشر شده در ۲۶ اوت ۲۰۲۶، مدل Needle 2 محصول شرکت Cactus Compute در محدوده حافظه ۲۶ تا ۲۸ مگابایت عمل میکند. این یعنی مدل میتواند روی ارزانترین سختافزارهای رایانش لبه (Edge Computing) — شبیه به یک ماشینحساب پیشرفته که حالا قدرت تصمیمگیری دارد — بدون نیاز به واحد پردازش گرافیکی (GPU) اجرا شود.
همانطور که در تحلیلهای قبلی ما دربارهی مدلهای زبانی کوچک اشاره کردیم، حذف دانش عمومی برای افزایش کارایی یک روند رو به رشد است. Needle 2 دقیقاً همین مسیر را طی کرده و تمام اطلاعات عمومی جهان را کنار گذاشته تا فقط روی تحلیل دستورات تمرکز کند.
به نقل از گزارش dev.to، این مدل از دو تغییر معماری کلیدی برای رسیدن به این حجم کم استفاده کرده است:
- تبدیلهای هادامارد (Hadamard Transforms): این مدل لایههای پیشخور (Feed-Forward) سنتی را حذف کرده تا نیاز به ذخیرهسازی وزنها در برخی محاسبات از بین برود.
- جداول هش N-gram: حافظهٔ واقعگرایانه بهجای پارامترهای متراکم، از طریق جداول جستوجو مدیریت میشود که محاسبات را به ۷۰ مگافلاپس (Megaflops) بهازای هر توکن (Token) — تکههای کوچکی از متن شبیه برشهای کیک — کاهش میدهد.
این مدل در سه حوزهٔ فراخوانی ابزار، کنترل دستگاه و استخراج دادههای ساختاریافته تخصص دارد. با این حال، تستهای دنیای واقعی نقاط ضعفی را افشا کردهاند. مدل دچار «انحراف پاسخ» میشود؛ مثلاً اگر دستور دهید «روشنایی را روی ۵۰٪ بگذار»، ممکن است در طول گفتگو این عدد بهتدریج به ۳۰٪ تغییر کند، مگر اینکه متد agent.reset() فراخوانی شود.
علاوه بر این، امتیازات اطمینان مدل بهصورت وارونه عمل میکنند؛ یعنی برای فراخوانیهای درست، اطمینان ۰.۰۰۰۰ و برای خطاها ۰.۷۱ گزارش میدهد. همچنین مدل در مواجهه با تاریخهای غیر استاندارد و استخراج بیش از ۸ فیلد داده بهطور همزمان، دچار توهم (Hallucination) — شبیه به دوستی که خاطرهای را اشتباه تعریف میکند — میشود.
برای توسعهدهندگان، این مدل معیار «هوش مصنوعی لبه» را از گوشیهای موبایل به میکروکنترلرهای ساده تغییر میدهد. اگرچه Needle 2 نمیتواند گپ بزند یا درباره جهان استدلال کند، اما ثابت میکند که قابلیتهای عاملمحور (Agentic) را میتوان از تعداد پارامترهای عظیم جدا کرد.
گام بعدی شما
- نصب مدل از طریق PyPI برای تست ردپای استدلالی روی سختافزارهای آفلاین.
- بررسی متد
agent.reset()برای جلوگیری از انحراف پاسخ در گفتگوهای طولانی. - تست مدل روی میکروکنترلرهای کمتوان برای سنجش نرخ خطای استخراج داده.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو