پرش به محتوای اصلی
پرش به محتوای مقاله

Liquid AI: حذف توکن‌های خروجی برای طبقه‌بندی دقیق‌تر داده‌ها

·۸ مهر ۱۴۰۵۵ دقیقه مطالعه
مدل تصمیم‌گیری d1 شرکت Liquid AI: بازگرداندن احتمالات کالیبره‌شده بدون توکن خروجی
مدل تصمیم‌گیری d1 شرکت Liquid AI: بازگرداندن احتمالات کالیبره‌شده بدون توکن خروجی
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

معماری «صفر توکن خروجی» (Zero-output-token)؛ مدل به‌جای تولید متن برای بیان پاسخ، مستقیماً احتمال آماری هر گزینه را برمی‌گرداند و بدین ترتیب تأخیر رمزگشایی را حذف می‌کند.

استفاده از یک مدل زبانی بزرگ برای طبقه‌بندی‌های ساده، شبیه به استخدام یک استاد دانشگاه برای مرتب کردن پرونده‌های اداری است؛ هزینه‌ای گزاف برای کاری که نیاز به خلاقیت ندارد. لکوئید ای‌آی (Liquid AI) با معرفی مدل d1 این الگوی ناکارآمد را به چالش کشیده است تا پاسخ‌های تایپ‌شده و احتمالات دقیق را بدون تولید حتی یک توکن خروجی ارائه دهد.

در حال حاضر اکثر تیم‌های عملیاتی، مدل‌های زبانی را مجبور می‌کنند تا با استفاده از پرامپت‌های سخت‌گیرانه، خروجی را در قالب یک برچسب خاص یا طرح‌واره JSON ارائه دهند. طبق گزارش مارک‌تک‌پست (Marktechpost) در ۲۹ سپتامبر ۲۰۲۶، این فرآیند ذاتاً شکننده است و اغلب منجر به تولید JSONهای ناقص یا تأخیر‌های پیش‌بینی‌ناپذیر در حین رمزگشایی می‌شود. مدل d1 با دور زدن کامل حلقه رمزگشایی (Decoding)، مقدار usage.output_tokens را همیشه روی صفر نگه می‌دارد.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی بهینه‌سازی هزینه‌های استنتاج اشاره کردیم، حذف مراحل غیرضروری در لایه خروجی، کلید مقیاس‌پذیری در محیط‌های تولیدی است. لکوئید ای‌آی مدل d1 را به‌طور خاص برای انتخاب‌های ساختاریافته طراحی کرده است، نه برای تولید متن. این مدل برای حجم بالای کارهایی هدف‌گذاری شده که هنوز به مدل‌های عمومی سپرده می‌شوند؛ مواردی مثل مسیریابی تیکت‌ها، امتیازدهی، نظارت بر محتوا، بازرتبه‌بندی (Reranking) و بررسی‌های مدل زبانی به‌مثابه داور (LLM-as-judge).

راهنمای مهاجرت این شرکت یک قاعده ساده برای توسعه‌دهندگان تعریف کرده است: اگر پاسخ شما یکی از N گزینه مشخص است، از مدل تصمیم‌گیری استفاده کنید؛ اما اگر مدل باید یک رشته متنی جدید بسازد، همان مدل زبانی بزرگ را نگه دارید. این رویکرد اجازه می‌دهد یک پشته ترکیبی ایجاد شود که در آن d1 دروازه‌های ساختاریافته را مدیریت کند و یک LLM به سنتز خلاقانه، خلاصه‌سازی، پیش‌نویس، چت‌های چندمرحله‌ای، تولید کد و استدلال‌های پیچیده بپردازد.

این مدل از سه ابزار اولیه (Primitive) برای وظایف محدود استفاده می‌کند:

  • Noul: یک ابزار باینری بله/خیر که احتمالی بین ۰ و ۱ برمی‌گرداند. برای مثال، در پاسخ به سؤال «آیا این پیام یک شکایت است؟»، ممکن است عدد ۰.۹۹۹ را برگرداند.
  • Choice: یک گزینه را از مجموعه‌ای پیش‌تعریف‌شده انتخاب می‌کند و برترین گزینه، توزیع کامل احتمالات و مقدار اطمینان را ارائه می‌دهد. در یک نمونه، یک تیکت مربوط به شارژ مضاعف، امتیاز ۰.۹۹۹۷ را در دسته‌بندی «صورت‌حساب» کسب کرد.
  • Score: ورودی را بر اساس یک معیار رتبه‌بندی‌شده (از شاخص ۰) ارزیابی کرده و موقعیتی با وزن احتمالی برمی‌گرداند. برای یک معیار فوریت ۴ سطحی (۰ تا ۳)، یک قطعی outage در تولید ممکن است امتیاز ۲.۹۹۹۵ بگیرد.

این ساختار به توسعه‌دهندگان اجازه می‌دهد چندین سؤال را در یک فراخوانی API تجمیع کنند. مدل تمام سؤالات را در یک رفت‌وبرگشت (Round trip) و بر اساس یک وضعیت واحد ارزیابی می‌کند. برای مثال، یک درخواست واحد می‌تواند هم‌زمان تشخیص دهد که آیا تیکت یک شکایت است، آن را به بخش «صورت‌حساب» مسیریابی کند و امتیاز فوریت آن را تعیین نماید.

استقرار این مدل در حال حاضر محدود به یک API میزبانی‌شده با نام d1:free از طریق Liquid API است. شرکت وزن‌های مدل را در قالب‌های GGUF، MLX یا ONNX منتشر نکرده است، به این معنا که d1 فعلاً برای میزبانی شخصی (Self-hosting) یا تنظیم دقیق (Fine-tuning) در دسترس نیست. برای درک بهتر اینکه چگونه وزن‌ها و توکن‌سازها ریاضیات را به هوش مصنوعی تبدیل می‌کنند، بررسی مفاهیم زیرساختی مدل‌ها ضروری است.

هر درخواست شامل سه بخش است: مدل، وضعیت (به صورت متن ساده یا شیء JSON) و سؤالات. فراخوانی‌ها به آدرس POST https://api.liquid.ai/decisions/v1/systemone ارسال می‌شوند. مدیریت کلیدهای API از طریق console.liquid.ai انجام می‌شود و این کلیدها با پیشوند liquid_ آغاز می‌گردند.

یکپارچه‌سازی این مدل از طریق SDKهای TypeSafe AI انجام می‌شود: typesafe-sdk برای پایتون و @typesafe-ai/sdk برای تایپ‌اسکریپت. در یک فراخوانی معمولی پایتون، از TypeSafeClient برای ارسال وضعیت و دستور Noul جهت دریافت احتمال کالیبره‌شده استفاده می‌شود.

انتقال فراخوانی‌های طبقه‌بندی به d1 مزایای ملموسی نسبت به مدل‌های زبانی با خروجی ساختاریافته دارد:

  • بهینگی هزینه: هیچ توکن خروجی برای صورت‌حساب وجود ندارد، در حالی که LLMها حتی برای یک برچسب تک‌کلمه‌ای هزینه دریافت می‌کنند.
  • تأخیر پیش‌بینی‌پذیر: به دلیل نبود حلقه رمزگشایی که با طول خروجی رشد کند، زمان پاسخ‌دهی ثابت است.
  • یکپارچگی طرح‌واره: پاسخ‌ها همیشه با نوع سؤال مطابقت دارند و خطاهای JSON یا نیاز به تلاش مجدد (Retry) حذف می‌شوند.
  • ثبات: ارزیابی‌های مکرر از یک ورودی یکسان، سازگارتر هستند و «تغییر رای» مدل کاهش می‌یابد.

از منظر فنی، این تغییر باعث می‌شود معیار موفقیت در طبقه‌بندی از «مهندسی پرامپت» به «طراحی وضعیت» (State Design) تغییر کند. در دموی Road Decider — یک بازی مسابقه‌ای با جاوااسکریپت روی Node.js 18+ — لکوئید ای‌آی دریافت کرد که ارائه خلاصه‌های هر خط با فاصله موانع، اطمینان بیشتری نسبت به داده‌های خام شبکه ایجاد می‌کند. در این دمو، d1 هر ثانیه ۲ تا ۵ بار تصمیم Choice (چپ، مرکز یا راست) می‌گیرد.

این معماری، مفروضات هزینه و قابلیت اطمینان را برای جریان‌های کاری نظارت بر محتوا و مدل زبانی به‌مثابه داور تغییر می‌دهد. با ارائه احتمالات کالیبره‌شده به‌جای اعداد اطمینانِ خوداظهاری، توسعه‌دهندگان می‌توانند آستانه‌های سخت تعیین کنند. برای مثال، یک سامانه نظارت می‌تواند محتوای بالای ۰.۸ را مسدود، زیر ۰.۲ را تایید و محدوده میانی را برای بررسی انسانی ارسال کند. به همین ترتیب، یک مسیریاب می‌تواند در صورت افت اطمینان به زیر ۰.۵، درخواست را به یک مدل سطح بالاتر ارجاع دهد.

در مقایسه با سایر مدل‌های تصمیم‌گیر غیرمولد مانند TypeSafe Jev 1.13، Convai Laya و AutoTrust JEV-27B، مدل d1 به دلیل معماری «صفر توکن خروجی» متمایز است. در حالی که مدل Laya توانسته است تأخیر تصمیم‌گیری را به زیر ۳۵ میلی‌ثانیه برساند، d1 بر حذف کامل توکن‌های خروجی برای بهینگی بیشتر تمرکز کرده است. در حالی که Jev 1.13 پنجره زمینه ۳۲ هزار توکنی دارد و Laya وزن‌های باز با ۴۲۱ میلیون پارامتر ارائه می‌دهد، d1 بر تجربه API میزبانی‌شده تمرکز کرده است. برخلاف AutoTrust JEV-27B که از یک بدنه ۲۷ میلیارد پارامتری استفاده می‌کند، d1 در حال حاضر توسط کاربر نهایی قابل آموزش نیست.

توسعه‌دهندگان اکنون می‌توانند این مدل را از طریق Liquid API آزمایش کنند یا با بررسی Cookbook مدل Road Decider، عملکرد حلقه‌های تصمیم‌گیر غیرمولد را در محیط‌های بلادرنگ مشاهده نمایند.

گام بعدی شما

  • اگر از LLMها برای طبقه‌بندی (Classification) استفاده می‌کنید، یک بخش از جریان کاری خود را به مدل‌های تصمیم‌گیر منتقل کنید تا هزینه توکن‌های خروجی را صفر کنید.
  • به جای تکیه بر «اطمینان» مدل در متن، از احتمالات کالیبره‌شده برای تعریف آستانه‌های سخت (Hard Thresholds) در سیستم‌های نظارتی استفاده کنید.
  • طراحی وضعیت (State Design) را جایگزین مهندسی پرامپت کنید؛ داده‌های ورودی را به صورت خلاصه‌های ساختاریافته ارسال کنید تا دقت مدل افزایش یابد.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این مدل با حذف توکن‌های خروجی، هزینه و تأخیر استنتاج را در مقیاس صنعتی به شدت کاهش می‌دهد. اعتبار این رویکرد در توانایی آن است که خطاهای ساختاری JSON را به‌طور کامل حذف کرده و قابلیت اطمینان سیستم‌های اتوماسیون را افزایش دهد.

تأثیر برای ایران

به‌دلیل محدودیت‌های API و تحریم‌ها، دسترسی توسعه‌دهندگان ایرانی به Liquid API دشوار است، اما معماری این مدل برای تیم‌های داخلی که روی مدل‌های کوچک (SLM) برای طبقه‌بندی کار می‌کنند، یک الگوی بهینه‌سازی هزینه است.

·نگاه ما
تحریریه دات‌هوش

جایگزینی رمزگشایی متنی با احتمالات مستقیم، در واقع بازگشت به ریشه‌های طبقه‌بندی آماری است اما با قدرت استخراج ویژگی‌های مدل‌های بنیادی. این رویکرد نشان می‌دهد که صنعت در حال حرکت به سمت «تخصصی کردن لایه‌های خروجی» است تا از اتلاف محاسبات برای کارهای غیرمولد جلوگیری کند. به نظر ما، این مدل نقطه شروعی برای ایجاد سیستم‌های ترکیبی است که در آن مدل‌های کوچک و سریع (Decision Models) به عنوان فیلتر و مسیریاب برای مدل‌های غول‌پیکر عمل می‌کنند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.