مدل Hy-Memory تنسنت در مدیریت حافظه محلی از Claude Opus 5 پیشی گرفت

اگر امروز برای مدیریت حافظه بلندمدت عامل‌های خود به مدل‌های ابری گران‌قیمت متکی هستید، احتمالاً هزینه‌های توکن شما به زودی به صفر می‌رسد. مدل جدید تنسنت ثابت کرد که برای تبدیل کردن یک مدل زبانی به یک مدیر حافظه دقیق، نیازی به ابعاد غول‌آسای مدل‌های تجاری نیست.

طبق اعلام تنسنت در ۱۷ اکتبر ۲۰۲۶، مدل Hy-Memory-30B-A3B با اختلاف ۰.۸۷ امتیاز در شش محک مختلف، از Claude Opus 5 پیشی گرفته است. این مدل تخصصی ۳۰ میلیارد پارامتری با معماری ترکیب خبره‌ها (MoE)، توسعه‌دهندگان را قادر می‌سازد تا مدیریت حافظه با کارایی بالا را به صورت محلی اجرا کنند. این مدل برخلاف مدل‌های رایج، سعی نمی‌کند اطلاعات را در وزن‌های خود ذخیره کند؛ بلکه مانند یک نویسنده حرفه‌ای عمل می‌کند که تصمیم می‌گیرد کدام واقعیت‌های خاص باید در یک پایگاه‌داده برداری (Vector Database) — شبیه به یک بایگانی منظم که هر سند را بر اساس معنای آن در جای خاصی می‌گذارد — ذخیره شوند.

بسیاری از عامل‌های هوش مصنوعی فعلی برای استخراج ترجیحات کاربر و به‌روزرسانی حافظه در هر نوبت گفتگو، از مدل‌های زبانی بزرگ (LLM) میزبانی شده و گران‌قیمت استفاده می‌کنند. این فرآیند معمولاً بر اساس تعداد توکن صورت می‌گیرد و یک گلوگاه حریم خصوصی ایجاد می‌کند. همان‌طور که در تحلیل قبلی ما درباره‌ی حافظه‌های مبتنی بر فایل اشاره کردیم، پایداری داده‌ها کلید موفقیت عامل‌هاست و این مدل جدید، بار سنگین تطبیق و آشتی دادن حافظه (Memory Reconciliation) را از ابر به ماشین محلی منتقل می‌کند.

تصور کنید عامل هوش مصنوعی شما یک منشی است. اکثر مدل‌ها سعی می‌کنند همه چیز را در ذهن خود به خاطر بسپارند که محدود است و منجر به فراموشی می‌شود. اما Hy-Memory-30B-A3B منشی‌ای است که دقیقاً می‌داند هر سند را در کدام کشوی فایل قرار دهد تا بعداً به راحتی پیدا شود. این مدل خودِ گفتگو را به خاطر نمی‌سپارد، بلکه فقط می‌داند چگونه یک یادداشت بی‌نقص برای آرشیو بنویسد.

معماری فنی و مشخصات

این مدل از معماری HYV3ForCausalLM (hy_v3) استفاده می‌کند که یک طراحی ترکیب خبره‌ها (Mixture of Experts) از خانواده مدل‌های Hy3 تنسنت است. اگرچه مدل در مجموع ۳۰ میلیارد پارامتر دارد، اما در هر توکن تنها حدود ۳ میلیارد پارامتر فعال هستند که سرعت استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند — را به شدت افزایش می‌دهد. با این حال، به دلیل اینکه مسیریاب (Router) می‌تواند هر یک از ۱۲۸ خبره را برای توکن بعدی انتخاب کند، تمام ۳۰ میلیارد وزن باید در رم (RAM) جای بگیرند. در واقع شما هزینه رم را برای ۳۰ میلیارد پارامتر و هزینه محاسباتی را برای ۳ میلیارد پارامتر می‌پردازید.

مشخصات کلیدی مدل عبارتند از:

پارامترهای کل/فعال: ۳۰ میلیارد / حدود ۳ میلیارد
خبره‌ها: ۱۲۸ خبره مسیریاب (۸ خبره به ازای هر توکن)
لایه‌ها / اندازه پنهان: ۴۸ / ۲۰۴۸
حداکثر پنجره متنی: ۲۶۲,۱۴۴ توکن (هرچند تست‌کنندگان نسخه‌های GGUF پایداری را در ۳۲ هزار توکن گزارش کرده‌اند)
مجوز: Apache-2.0 (اجازه استفاده تجاری بدون محدودیت‌های MAU)
زبان‌ها: انگلیسی و چینی
مقاله: arXiv 2610.22196

نحوه اجرای مدل Tencent Hy-Memory-30B-A3B به صورت محلی (با اختلاف ۰.۸۷ امتیاز از Opus 5)

مکانیزم‌های آموزش

بر اساس مستندات تنسنت، این مدل در دو مرحله مجزا و درون محیط‌های واقعی حافظه (Memory Harnesses) آموزش دیده است تا کاربرد عملی در دنیای واقعی داشته باشد:

تقطیر (Distillation) سیاست-محور حافظه: در این مرحله، یک مدل استاد (Teacher Model) بر زنجیره وضعیت‌های حافظه مدل شاگرد نظارت می‌کند تا نحوه ردیابی اطلاعات توسط مدل اصلاح و بهینه شود.
یادگیری تقویتی (RL) حافظه «منسوب»: در این مرحله از یادگیری تقویتی، اعتبار و پاداش در سطح تکه‌های داده (Chunk) تخصیص می‌یابد و بانک حافظه انتخاب‌شده در پنجره‌های مختلف منتقل می‌شود تا تداوم اطلاعات حفظ شود.

بررسی ادعای «قاتل Opus»

در گزارش فنی منتشر شده در arXiv 2610.22196، تنسنت ادعا می‌کند که این مدل از Claude Opus 5 بهتر عمل می‌کند. در آزمونی روی شش محک شامل LoCoMo، LongMemEval، PersonaMem-v2، Travel، Shopping و Code Memory Bench، مدل Hy-Memory-30B-A3B میانگین ۵۵.۴۹ امتیاز کسب کرد، در حالی که امتیاز Opus 5 برابر با ۵۴.۶۲ بود. این نتایج در حالی به دست آمده که چالش‌های ارزیابی دقیق حافظه در بنچمارک‌هایی مانند Glasshouse نشان داده است که هزینه بالای تست‌های با دقت بالا می‌تواند مانع از مشارکت گسترده توسعه‌دهندگان شود.

رتبه‌بندی دقیق میانگین امتیازات در این چارچوب‌ها:

Hy-Memory-30B-A3B: ۵۵.۴۹
Claude Opus 5: ۵۴.۶۲
DeepSeek V4.1 Flash: ۵۳.۶۴
Qwen3.6-35B-A3B: ۵۰.۳۷
Qwen3-30B-A3B: ۴۴.۳۷

با این حال، منتقدانی مانند OrcaRouter معتقدند اختلاف ۰.۸۷ امتیازی بیشتر شبیه به نویز آماری است، به ویژه اینکه تست‌ها با ابزارهای خود تنسنت و روی یک زیرنمونه ۲۰ درصدی انجام شده است. حاشیه امتیاز در محک Hy-Memory تنها ۰.۰۲ و در MemOS تنها ۰.۰۱ بود. همان‌طور که OrcaRouter بیان کرد، این مدل «حق دارد تست شود، اما هنوز حق ندارد مورد اعتماد قرار گیرد».

اما پیروزی واقعی در برابر مدل‌های محلی کوچک‌تر است. این مدل به طور میانگین ۱۱ امتیاز از Qwen3-30B-A3B جلوتر است. نکته قابل توجه این است که مدل در EverMemOS — چارچوبی که هرگز در طول آموزش ندیده بود — عملکرد بسیار خوبی داشت. این موضوع برای کسانی که از چارچوب‌های حافظه محلی مثل Mem0 یا MemOS استفاده می‌کنند، یک ارتقای عظیم است.

الزامات استقرار محلی

به دلیل ساختار MoE، اجرای این مدل به حافظه ویدیویی (VRAM) قابل توجهی نیاز دارد. بسته به نوع کوانتایزاسیون (Quantization) و بیلد مورد استفاده، کف سخت‌افزاری شما به شرح زیر خواهد بود:

BF16 (نسخه اصلی): حدود ۶۰ گیگابایت روی دیسک. نیاز به یک کارت A100 ۸۰ گیگابایتی یا دو کارت ۴۸ گیگابایتی از طریق vLLM.
Q8_0 GGUF (۳۲ گیگابایت): نیاز به ۶۴ گیگابایت رم برای مدیریت پنجره‌های متنی طولانی.
Q6_K GGUF (۲۴.۷ گیگابایت): دقت بالا، نیاز به VRAM زیاد.
Q5_K_M GGUF (۲۱.۴ گیگابایت): عملکرد متوازن.
Q4_K_M GGUF (۱۸.۲ گیگابایت): نیاز به یک GPU ۲۴ گیگابایتی یا یک مک ۳۲ گیگابایتی.
MLX Mixed 4/6-bit (حدود ۱۷ تا ۱۸.۲ گیگابایت): بهینه شده برای تراشه‌های اپل (Apple Silicon).

مسیرهای پیاده‌سازی

توسعه‌دهندگان می‌توانند از چندین مسیر مدل را مستقر کنند. برای کسانی که از llama.cpp استفاده می‌کنند، پشتیبانی از این مدل در نسخه b9993 (PR #25395) اضافه شده است و نسخه‌های قدیمی‌تر این معماری را نمی‌شناسند. کاربران Ollama می‌توانند مدل را مستقیماً از مخزن GGUF کاربر rapatsky با دستور ollama run hf.co/rapatsky/Hy-Memory-30B-A3B-GGUF:Q4_K_M اجرا کنند. برای انتخاب بهینه بین این ابزارها، مقایسه موتورهای LLM محلی نشان می‌دهد که معیار اصلی انتخاب بین vLLM و Ollama، میزان هم‌زمانی و نوع کاربرد (سروری یا شخصی) است.

برای کاربران مک، یک بیلد Mixed 4/6-bit توسط hermitdave اجازه می‌دهد مدل روی MLX اجرا شود و روی یک M3 Max با ۶۴ گیگابایت رم، سرعت تقریبی ۶۵ توکن در ثانیه را ثبت کرده است. میزان Perplexity این نسخه تنها ۰.۹۴٪ با نسخه ۸ بیتی تفاوت داشت. کاربران باید از نسخه‌های "-omlx" دوری کنند، زیرا از کلیدهای خبره متفاوتی استفاده می‌کنند و در mlx-lm با خطا مواجه می‌شوند.

برای استقرار کامل BF16، مسیر مستند شده استفاده از vLLM v0.31.0 است. این روش مستلزم سرو کردن مدل به عنوان hy-memory و پیش‌بینی حدود ۶۰ گیگابایت فضا برای وزن‌ها، پیش از اضافه شدن KV Cache است.

ادغام با چارچوب‌های حافظه

هدف این مدل جایگزینی LLMهای عمومی در Hy-Memory SDK (نسخه ۲.۰.۳)، Mem0 یا MemOS است. این چارچوب‌ها از مدل می‌خواهند اطلاعات جدید را با داده‌های قدیمی تطبیق دهد؛ مثلاً برای اطمینان از اینکه عبارت «کاربر از برلین به سیاتل نقل مکان کرد» شهر قدیمی را بازنویسی کند، نه اینکه شهر دوم را به لیست اضافه کند.

برای استفاده، باید MEMORY_LLM_BASE_URL در SDK خود را به نقطه اتصال (Endpoint) محلی vLLM یا llama-server تغییر دهید. شما باید حتماً از حالت «Pro Mode» استفاده کنید، زیرا در حالت «Lite Mode» هیچ فراخوانی از LLM صورت نمی‌گیرد و مدل نویسنده هرگز اجرا نخواهد شد. همچنین همچنان به یک مدل بردار معنایی مجزا (که توسط MEMORY_EMBEDDER_MODEL و MEMORY_EMBEDDING_DIMS تعریف می‌شود) برای ذخیره‌ساز برداری نیاز دارید.

این مدل برای بازگرداندن خروجی‌های ساختاریافته JSON طراحی شده است. یک پرامپت سیستمی معمولی به مدل دستور می‌دهد که واقعیت‌ها و ترجیحات صریح کاربر را استخراج کند، از استنتاج (Inference) بپرهیزد و لیستی از رشته‌های JSON را با دمای ۰ و حداکثر ۵۱۲ توکن بازگرداند.

سقف کیفیت

با وجود بنچمارک‌ها، مدل بی‌نقص نیست. یک تست صحت‌سنجی روی ۶۸ گفتگو (۳۴ انگلیسی و ۳۴ روسی) نشان داد که اگرچه هر نوع کوانتایزاسیون خروجی JSON معتبری تولید کرد، اما تنها ۲۳ مورد از ۳۴ گفتگوی انگلیسی «موفقیت سخت‌گیرانه» (Strict Success) داشتند. خطاهای رایج شامل تکرار واقعیت‌ها، ذخیره‌سازی بیش از حد و استنتاج‌های گاه‌به‌گاه غیرمجاز است.

این موضوع نشان‌دهنده یک «سقف کیفیت نوشتن» است که حتی بزرگ‌ترین مدل‌ها هم هنوز به طور کامل آن را شکافته‌اند. در محک «Shopping»، هیچ مدلی — حتی Opus 5 — نتوانست امتیازی بالاتر از ۲۴ کسب کند (Hy-Memory بین ۱۸.۳۳ تا ۲۱.۱۱ قرار گرفت)، که ثابت می‌کند برخی وظایف حافظه فارغ از اینکه نویسنده چه کسی باشد، همچنان حل نشده باقی مانده‌اند.

چرا حافظه خارجی برنده است؟

این طراحی نشان‌دهنده چرخش از تلاش برای گنجاندن حافظه در وزن‌های مدل به سمت استفاده از یک مدل متخصص برای نوشتن در ذخیره‌سازی است که شما کنترل آن را دارید (مانند Mem0 یا یک DB برداری سفارشی). با این روش، شما شفافیت کامل به دست می‌آورید. اگر کاربر بخواهد «آدرسم را فراموش کن»، شما می‌توانید یک دستور DELETE سخت در پایگاه‌داده خود اجرا کنید و تأیید کنید که داده‌ها واقعاً پاک شده‌اند.

این رویکرد، فراخوانی‌های گران‌قیمت LLM برای هر بار نوشتن را ارزان و محلی می‌کند و در عین حال حاکمیت داده‌ها (Data Sovereignty) را حفظ می‌کند. این کار مدل زبانی را از یک «پایگاه‌داده» به یک «مدیر پایگاه‌داده» تبدیل می‌کند.

اگر در حال حاضر برای مدیریت حافظه عامل‌های خود به GPT-4 یا Claude پول می‌دهید، مهاجرت به یک نویسنده محلی می‌تواند هزینه‌های توکن شما در هر نوبت گفتگو را به طور کامل حذف کند. هزینه جایگزین، سرمایه‌گذاری اولیه روی سخت‌افزار با VRAM بالا یا یک دستگاه مک است.

گام بعدی شما

اگر از Mem0 یا MemOS استفاده می‌کنید، مدل Hy-Memory را جایگزین LLM فعلی خود کنید تا هزینه API را حذف کنید.
برای کاربران مک، نسخه MLX Mixed 4/6-bit را برای رسیدن به سرعت ۶۵ توکن در ثانیه امتحان کنید.
در پرامپت سیستمی، حتماً دما (Temperature) را روی ۰ تنظیم کنید تا خروجی JSON مدل پایدار بماند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما