اگر امروز در حال توسعهی یک سیستم تولید بازیابیافزا (RAG) — مثل دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — هستید، دیگر مجبور نیستید بین سرعت و دقت یکی را انتخاب کنید. تصور کنید مدلی با اندازه یکسوم رقبا، نتایجی بهتر از آنها بگیرد.
تا پیش از این، بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که میگوید این کلمه «همسایهی» چه کلمات دیگری است — با یک تضاد همیشگی روبرو بود. همانطور که در تحلیلهای قبلی ما دربارهی مدلهای زبانی کوچک (SLM) اشاره کردیم، مدلهای حجیم دقیقتر بودند اما سرعت استنتاج (Inference) — یعنی همان لحظهی تولید جواب، شبیه به خودِ آشپزی نه دورهی آموزش آن — در آنها پایین بود.
به نقل از IBM، این شرکت در ۱۴ مه ۲۰۲۶ سری Granite Embedding Multilingual R2 را برای پشتیبانی از جستوجوهای سازمانی چندزبانه معرفی کرد.
این مدلها بر پایه معماری ModernBERT ساخته شدهاند و در دو نسخه عرضه شدند: یک مدل کامل ۳۱۱ میلیون پارامتری و یک مدل فشرده ۹۷ میلیون پارامتری. طبق گزارش Hugging Face، مدل ۹۷ میلیونی در آزمون MTEB Multilingual Retrieval نمره ۶۰.۳ گرفت؛ در حالی که مدل multilingual-e5-base با ۳۰۰ میلیون پارامتر، نمره ۵۲.۷ را کسب کرد.
ویژگیهای فنی کلیدی این سری عبارتاند از:
- پنجره متنی ۳۲,۷۶۸ توکنی (افزایش ۶۴ برابری نسبت به نسل R1).
- پشتیبانی از ۲۰۰ زبان، با تنظیم دقیق برای ۵۲ زبان از جمله فارسی.
- قابلیت بازیابی کد در ۹ زبان برنامهنویسی.
- لایسنس Apache 2.0 برای استفادههای تجاری.
مدل ۳۱۱ میلیون پارامتری از قابلیت Matryoshka Representation Learning بهره میبرد. این ویژگی اجازه میدهد ابعاد بردارها را از ۷۶۸ به ۱۲۸ کاهش دهید، بدون اینکه کیفیت بهشدت افت کند. برای مثال، کاهش ۶ برابری ابعاد، نمره MTEB را تنها از ۶۵.۲ به ۶۳.۷ میرساند.
این عرضه، استانداردهای رایانش لبه (Edge Computing) را تغییر میدهد. با انتقال کیفیت مدلهای ۳۰۰ میلیونی به ابعاد ۹۷ میلیون، استنتاج با کیفیت بالا روی CPU و دستگاههای موبایل ممکن میشود. همچنین پنجره متنی ۳۲ هزار توکنی باعث میشود قراردادهای حقوقی و دفترچههای فنی دیگر نیاز به تکهتکه کردنهای شدید نداشته باشند.
گام بعدی شما
- مدلکارتهای Hugging Face را برای جایگزینی در خطلولههای LangChain یا LlamaIndex بررسی کنید.
- اثر پنجره متنی گسترده را روی اسناد طولانی تست کنید تا حفظ بافت متن را بسنجید.
- اگر محدودیت سختافزاری دارید، مدل ۹۷ میلیونی را جایگزین مدلهای حجیمتر کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو