LFM3 لیکوئید ای‌آی: مدل متنی ۴ بیتی با حدود ۱ گیگابایت حافظه

لیکوئید ای‌آی (Liquid AI) روز ۲۷ اکتبر ۲۰۲۶ خانواده LFM3 را معرفی کرد: شش مدل با وزن‌های باز که همه از یک مدل پایهٔ ۱٫۷ میلیارد پارامتری ساخته شده‌اند. این مدل‌ها متن، بینایی، صدا و تصمیم‌گیری را پوشش می‌دهند و مجوزشان استفادهٔ تجاری را مجاز می‌کند.

جزئیات این انتشار در پستی در وبلاگ هاگینگ فیس (Hugging Face) آمده است. همهٔ مدل‌ها با مجوز LFM Open License v1.0 عرضه شده‌اند.

شش مدل خانواده LFM3 روی یک مدل پایه

همهٔ مدل‌های LFM3 از یک مدل پایه به نام LFM3-1.7B-Base منشعب شده‌اند. هر مدل ورودی و خروجی متفاوتی دارد:

• LFM3-1.7B: متن می‌گیرد و متن برمی‌گرداند.
• LFM3-VL-2B: متن، تصویر و ویدیو می‌گیرد و متن برمی‌گرداند.
• LFM3-Audio-2B: متن یا صدا می‌گیرد و متن یا گفتار برمی‌گرداند.
• LFM3-Omni-2B: متن، تصویر، ویدیو و صدا می‌گیرد و متن و گفتار تولید می‌کند. لیکوئید ای‌آی آن را نخستین مدل همه‌کارهٔ (Omni) خود می‌نامد.
• d1-2B و d1-omni-2B: دو مدل تصمیم که از مدل‌های بینایی و Omni ساخته شده‌اند و به‌جای تولید متن، پاسخ‌های کالیبره‌شده برمی‌گردانند.

مشخصات کارت مدل

طبق کارت مدل LFM3-1.7B، مدل متنی ۱٫۷۳ میلیارد پارامتر دارد. پنجرهٔ زمینهٔ آن ۲۵۶ هزار توکن، واژگانش ۱۲۸٬۰۰۰ توکن است و از ۱۶ زبان پشتیبانی می‌کند. مدل‌های پایه و پس‌آموزش‌دیده روی هاگینگ فیس، Liquid AI Playground و API لیکوئید ای‌آی در دسترس‌اند.

شرکای عرضه و آزمایش‌کنندگان

لیکوئید ای‌آی این شرکت‌ها را شریک روز نخست عرضه معرفی کرده است: Ambarella، AMD، Arm، اینتل از طریق OpenVINO، انویدیا، OpenRouter، کوالکام از طریق Qualcomm AI Hub و GenieX، و Vercel. مرسدس‌بنز و شاپیفای (Shopify) هم در آزمایش و ارزیابی پیش از عرضه همکاری کردند.

معماری سه‌گانهٔ LFM3

لیکوئید ای‌آی معماری این مدل‌ها را سه‌ترکیبی (Tri-Hybrid) می‌نامد. ویژگی‌های اصلی آن این‌هاست:

• ۲۴ لایه: ۱۳ لایهٔ کانولوشن کوتاه دریچه‌دار (Gated Short Convolutions)، ۵ لایهٔ توجه با پنجرهٔ لغزان (Sliding-Window Attention) با پنجرهٔ ۲۵۶ توکنی و ۶ لایهٔ توجه سراسری
• افزایش اندازهٔ هستهٔ کانولوشن از ۳ در LFM2 به ۷
• توجه دریچه‌دار در سطح هر سر (Head-wise Gated Attention): یک دریچهٔ سیگموئید خروجی هر سر توجه را مقیاس می‌دهد و مقادیر پرت فعال‌سازی را که به کوانتیزه‌سازی (Quantization) آسیب می‌زنند مهار می‌کند
• RoPE جزئی (Partial RoPE): لایه‌های توجه سراسری فقط نیمهٔ پربسامدتر هر سر را می‌چرخانند، اما لایه‌های پنجرهٔ لغزان RoPE کامل دارند
• نرمال‌سازی ساندویچی (Sandwich Norm): ورودی و خروجی هر بلوک نرمال‌سازی می‌شود

جست‌وجوی معماری روی سخت‌افزار واقعی

این طراحی حاصل جست‌وجوی معماری با سخت‌افزار در حلقه (Hardware-in-the-Loop) است. لیکوئید ای‌آی این جست‌وجو را برای LFM3 به ۱۴ ترکیب دستگاه و بک‌اند گسترش داد: این بهبود عملکرد در ادامه‌ی پیشرفت‌های مدل LFM 2.5 در اجرای محلی به‌دست آمده است.

• گوشی‌ها: سامسونگ گلکسی S26 اولترا و وان‌پلاس ۱۵
• رزبری پای ۵
• لپ‌تاپ‌ها: اپل M4 Max و AMD Ryzen AI
• پردازنده‌های ابری Arm و x86
• واحدهای پردازش گرافیکی (GPU)
• واحد پردازش عصبی (NPU) هگزاگون کوالکام

مراحل آموزش

• پیش‌آموزش: ۲۲ تریلیون توکن
• میان‌آموزش (Mid-training): ۳٫۵ تریلیون توکن پایانی روی داده‌های گزینش‌شده با سهم بیشتری از ردپاهای عامل‌محور و فراخوانی ابزار؛ پنجرهٔ زمینه در این مرحله به ۲۵۶ هزار توکن رسید
• پس‌آموزش در چهار مرحله:
  1. تنظیم دقیق نظارت‌شده روی ۱٫۷۵ تریلیون توکن
  2. یادگیری تقویتی ترکیبی
  3. distillation چندحوزه‌ای درون‌سیاستی (On-policy) از شش مدل معلم متخصص یادگیری تقویتی
  4. یادگیری تقویتی عامل‌محور در محیط‌های واقعی عامل‌ها

عملکرد مدل متنی به ادعای شرکت

• LFM3-1.7B با ۳۵ درصد پارامتر کمتر از مدل قبلی، LFM2.5-2.6B، بهتر عمل می‌کند.
• به ازای هر پارامتر، روی پرامپت‌های کوتاه هم‌سطح LFM2-1.2B است و با ۸ هزار توکن در زمینه حدود ۲۵ درصد سریع‌تر اجرا می‌شود.
• مدل متنی با Precision چهاربیتی حدود ۱ گیگابایت حافظه می‌گیرد.
• در محک WebArena-Verified امتیاز ۳۸٫۴۲ گرفته، در برابر ۳٫۰۲ برای LFM2.5-2.6B؛ بیشترین بهبود در کارهای عامل‌محور بوده است.

با این حال، کارت مدل تصریح می‌کند که این مدل به‌دلیل اندازهٔ کوچکش برای کدنویسی عامل‌محور یا استدلال پیچیدهٔ چندمرحله‌ای توصیه نمی‌شود.

مدل بینایی LFM3-VL-2B

• نخستین مدل بینایی LFM است که ورودی ویدیو می‌پذیرد.
• میانگین امتیازش در ۶۲ محک بینایی، در مقایسه با LFM2.5-VL-3B، از ۵۷٫۶ به ۷۱٫۴ رسیده است.
• با ۱٫۹ میلیارد پارامتر در برابر ۳٫۱ میلیارد، به گفتهٔ شرکت هم‌سطح Gemma 4 12B است؛ مدلی که بیش از شش برابر بزرگ‌تر است.
• رمزگذار بینایی جدید و داخلی آن ۱۶۴ میلیون پارامتر دارد و ۳ برابر محاسبات کمتری از رمزگذار SigLIP2 در مدل‌های VL قبلی LFM مصرف می‌کند.
• طبق اندازه‌گیری شرکت، با ۲٫۲ برابر عملیات اعشاری در ثانیه (FLOPs) کمتر، به صحت رمزگذار بینایی Qwen3.5-2B می‌رسد.

مدل‌های صوتی و Omni

• LFM3-Audio-2B از ۱۸ زبان پشتیبانی می‌کند.
• کیفیت گفتار آن در UTMOSv2 برابر ۳٫۸۳ است، در برابر ۳٫۲۲ برای LFM2.5-Audio-1.5B.
• رمزگذار صوتی آن کاملاً علّی (Fully Causal) است و زمان تا نخستین توکن آن به ۵۰ میلی‌ثانیه هم می‌رسد.
• توکن‌ساز LiquidCodec روی یک رشتهٔ پردازشی CPU در اپل M4 Max گفتار را حدود ۸۷ برابر سریع‌تر از زمان واقعی تولید می‌کند.
• LFM3-Omni-2B با ۲٫۲ میلیارد پارامتر، به گفتهٔ شرکت، در محک‌های درک صوتی‌تصویری Daily-Omni، WorldSense و AV-SpeakerBench از مدل‌هایی تا ۱۰٫۷ میلیارد پارامتر، از جمله Qwen2.5-Omni-7B، بهتر است.

مدل‌های تصمیم d1

این مدل‌ها فهرستی از پرسش‌ها را در یک گذر رو به جلو (Forward Pass) پاسخ می‌دهند و برای هر پاسخ احتمالی کالیبره‌شده ارائه می‌کنند. پاسخ‌های نوع‌دار هم دارند: اشاره به اشیا، خواندن مقادیر از اسناد، تخمین عدد با بازه و انتخاب همهٔ گزینه‌های درست.

d1-2B جای d1-3B را می‌گیرد و یک‌سوم پارامتر کمتری دارد. امتیاز آن در ImajevBench برابر ۷۵٫۵ است، در برابر ۶۴٫۰.

تنظیم دقیق و رباتیک

همهٔ مدل‌های LFM3 را می‌توان روی یک GPU تنظیم دقیق کرد. لیکوئید ای‌آی نوت‌بوک‌هایی برای تنظیم دقیق نظارت‌شده، بهینه‌سازی مستقیم ترجیح (DPO)، GRPO و ادامهٔ پیش‌آموزش در مدل‌های متنی، بینایی، صوتی و Omni منتشر کرده است.

در یک نمونهٔ شرکت، LFM3-VL-2B روی حدود ۳٬۰۰۰ عکس عمومی از پرهٔ توربین بادی، چند ساعت روی یک A100 تنظیم دقیق شد. صحت طبقه‌بندی عیب روی عکس‌های کنارگذاشته‌شده به ۶۷ درصد رسید و F1 تشخیص از ۰٫۰۰۳ به ۰٫۱۱ افزایش یافت.

لیکوئید ای‌آی سه مدل رباتیک برای هماهنگ‌سازی، ناوبری و دست‌کاری اشیا هم از LFM3-VL-2B ساخته است:

• مدل بینایی-زبان-عمل دست‌کاری روی ۱۵ بدنهٔ رباتیک (Embodiment) آموزش دیده است.
• میانگین موفقیت آن در چهار مجموعهٔ LIBERO برابر ۹۶٫۲ درصد و در کارهای روی‌میزی RoboCasa-GR1 برابر ۴۵٫۷ درصد بوده است.
• این مدل روی Jetson AGX Orin با TensorRT FP16 بسته‌های عمل (Action Chunks) را در کمتر از ۵۰ میلی‌ثانیه تولید می‌کند.

توان عملیاتی و اجرا روی سخت‌افزار

• LFM3-1.7B روی یک انویدیا B300 با ۱٬۰۲۴ درخواست هم‌زمان می‌تواند روزانه ۳٫۶ میلیارد توکن تولید کند.
• پشتیبانی بومی از لاما‌سی‌پلاس‌پلاس (llama.cpp)، MLX و vLLM روی سخت‌افزار اپل، AMD، انویدیا و کوالکام
• نسخه‌های نقطهٔ بازرسی: BF16، FP8، NVFP4، GGUF، MLX و ONNX

گام بعدی شما

• نوت‌بوک‌های تنظیم دقیق مربوط به کار خود (متن، بینایی، صدا یا Omni) را بردارید و روی یک GPU امتحان کنید.
• اگر می‌خواهید مدل را روی دستگاه اجرا کنید، نسخه‌های GGUF یا NVFP4 را روی سخت‌افزار مقصد بسنجید؛ ادعای حدود ۱ گیگابایت حافظه را شرکت گزارش کرده و باید در محیط خودتان آزموده شود.
• برای کارهای تصمیم‌گیری و طبقه‌بندی، d1-2B را امتحان کنید؛ این مدل برای هر پاسخ احتمالی کالیبره‌شده می‌دهد.