اگر مدیر یک کسبوکار هستید و هزینه استنتاج مدلهای غولآسا بودجه شما را میبلعد، خبر خوب این است که دوران «بزرگتر، بهتر است» به پایان رسیده است. در ۶ ژوئیه ۲۰۲۶، شرکت تنسنت (Tencent) از Hy3 پردهبرداری کرد؛ مدلی که ثابت میکند برای رسیدن به کیفیت سطح اول، نیاز به سختافزارهای نجومی نیست.
دنیای هوش مصنوعی اکنون از مقیاس خام به سمت بهرهوری حرکت میکند. بسیاری از سازمانها با هزینههای سنگین اجرای مدلهای زبانی بزرگ دستوپنجه نرم میکنند؛ به همین دلیل معماری ترکیب خبرهها (Mixture of Experts) — شبیه تیمی از متخصصان که در هر لحظه فقط فرد مناسب برای پاسخ به سؤال فراخوانده میشود — برای محیطهای عملیاتی بسیار جذاب است. همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، دموکراتیزه شدن دسترسی به وزنهای مدل، رقابت را از مراکز داده غولآسا به سمت بهینهسازیهای هوشمند میبرد.
به نقل از وبسایت the-decoder.com، مدل Hy3 در مجموع ۲۹۵ میلیارد پارامتر دارد، اما در لحظه استنتاج (Inference) — یعنی همان لحظهای که مدل واقعاً جواب تولید میکند، مثل خودِ آشپزی و نه دورهی آموزش آشپز — تنها ۲۱ میلیارد پارامتر فعال هستند. این ساختار توسط یک لایه MTP با ۳.۸ میلیارد پارامتر پشتیبانی میشود. مشخصات فنی این مدل عبارتند از:
- پنجرهٔ زمینه (Context Window): تا ۲۵۶,۰۰۰ توکن — شبیه میز کاری که جای چندین ورق دارد، نه کل کتابخانه.
- ارزیابی انسانی: کسب امتیاز ۲.۶۷ از ۴ در تست کور ۲۷۰ متخصص (برتر از GLM-5.1 با امتیاز ۲.۵۱).
- نرخ توهم (Hallucination): کاهش از ۱۲.۵٪ به ۵.۴٪ در تستهای داخلی — حالتی که مدل با اطمینان چیزی میگوید که وجود ندارد، مثل دوستی که خاطرهای را اشتباه تعریف میکند.
- مجوز: Apache 2.0
طبق گزارش منتشر شده، تنسنت پیش از این Hy3 را در ویچت (WeChat)، یوانبائو (Yuanbao)، ورکبادی (WorkBuddy) و یک دستیار تخصصی برای بازی Path of Exile: Advent مستقر کرده است. انتشار وزنهای این مدل در Hugging Face و GitHub، بهویژه نسخه کوانتیده شده FP8، نشاندهنده تلاش جدی تنسنت برای تسلط بر فضای وزنهای باز (Open Weights) — یعنی انتشار «دستور پخت» مدل بهجای فقط غذای آماده — در آسیا است.
برای کاربران تجاری، این یعنی تأیید استراتژی «کوچکتر اما هوشمندتر». کاهش نرخ توهم به کمتر از نصف، در حالی که پنجره متنی وسیعی در دسترس است، Hy3 را به گزینهای ایدهآل برای تحلیل اسناد پیچیده و اتوماسیون سازمانی تبدیل میکند، بدون آنکه نیاز به ابرکامپیوتر باشد.
گام بعدی شما
- وزنهای مدل را از ModelScope یا GitHub دریافت کرده و در محیطهای محلی تست کنید.
- برای کاهش هزینههای عملیاتی، معماری MoE را جایگزین مدلهای متراکم (Dense) کنید.
- فعال شدن پشتیبانی از این مدل در OpenRouter و Cline را دنبال کنید.
اما اثر این بهینهسازی بر سختافزارهای لبه حتی شگفتانگیزتر است؛ به بررسی ما درباره آینده رایانش لبه مراجعه کنید.
گفتگو