تصور کنید در میانه‌ی یک پاسخ پیچیده و استدلالی از مدل محلی خود هستید و ناگهان یک رفرش ساده یا به‌خواب‌رفتن لپ‌تاپ، تمام آن متنی که در حال تولید بود را برای همیشه پاک می‌کند. این کابوس همیشگی کاربران مدل‌های محلی را ابزار جدیدی به نام Liquid Local AI Client به‌طور کامل به پایان رسانده است.
طبق مستندات منتشر شده در ۱۱ ژوئیه ۲۰۲۶، این پروژه با معرفی یک لایه‌ی پایداری در سمت بک‌اِند (Backend)، تضمین می‌کند که فرآیند تولید متن حتی در صورت قطع اتصال کاربر، متوقف نشود. استنتاج محلی — یا همان لحظه‌ای که مدل واقعاً جواب تولید می‌کند و شبیه به خودِ آشپزی است، نه دوره‌ی آموزش آشپز — اکنون از طریق ابزارهایی مثل Ollama، LM Studio، llama.cpp و vLLM بسیار در دسترس شده است، اما رابط‌های کاربری این ابزارها معمولاً بسیار ابتدایی هستند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی اکوسیستم مدل‌های بازمتن دیدیم، اکثر رابط‌های چت، پاسخ هوش مصنوعی را به یک نشست (Session) فعال HTTP گره می‌زنند؛ به همین دلیل با هرگونه اختلال در اتصال، پاسخ‌ها ناپدید می‌شوند.
این کلاینت با انتقال مدیریت وضعیت به یک لایه‌ی سرور اختصاصی، این شکاف را پر کرده است. بر اساس بررسی فنی، این سامانه از ترکیبی از Angular، NestJS و MongoDB استفاده می‌کند. برخلاف کلاینت‌های استاندارد، این ابزار پیش از آغاز پاسخ مدل، شناسه چت را در پایگاه‌داده ذخیره می‌کند. اگر کاربر در میانه‌ی تولید متن صفحه را رفرش کند، بک‌اِند همچنان تکه‌های متن را در یک بافر سمت سرور می‌نویسد.
نوشتارها در سوکت‌های قطع‌شده به‌جای متوقف کردن کل فرآیند، به‌طور خاموش جذب می‌شوند. سپس یک نقطه اتصال (Endpoint) مخصوص برای بازگشت داده‌ها (SSE)، محتوای ازدست‌رفته را پس از اتصال مجدد کاربر بازپخش می‌کند تا ترتیب بلوک‌های استدلالی و فراخوانی ابزارها به‌هم نریزد.
علاوه بر پایداری، این کلاینت یک مدیریت‌کننده‌ی مستقل برای پروتکل زمینهٔ مدل (MCP) — که شبیه به یک استاندارد مشترک برای اتصال مدل به ابزارهای خارجی است — پیاده کرده است. این قابلیت در واقع پیاده‌سازی عملی از استاندارد جدید انتروپیک برای یکپارچه‌سازی ابزارها است که هدف آن تسهیل ارتباط مدل‌های زبانی با داده‌های خارجی است. در حالی که برخی سرورها مانند LM Studio اخیراً برخی ویژگی‌های MCP محلی را غیرفعال کرده‌اند، این کلاینت نسخه‌ی خود را در بک‌اِند NestJS اجرا می‌کند.
این سیستم ابزارها را به تعاریف استاندارد توابع OpenAI تبدیل کرده و فراخوانی ابزارها را در یک حلقه اجرا می‌کند؛ فارغ از اینکه سرور استنتاج به‌طور بومی از MCP پشتیبانی کند یا خیر. این رویکرد یادآور تغییر پارادایم در مدیریت ابزارهای AI است که در آن کنترل ابزارها از حالت سخت‌افزاری به مدل‌های سبک‌تر منتقل شده است. کاربران می‌توانند سرورهای سفارشی MCP را مستقیماً از رابط کاربری ثبت کنند و سیستم به‌طور خودکار نام و ابزارهای آن سرور را شناسایی می‌کند.
بر اساس مستندات فنی، ویژگی‌های کلیدی این ابزار عبارتند از:
- سفارشی‌سازی MCP: امکان فعال یا غیرفعال کردن ابزارها برای کل حساب یا یک چت خاص بدون تغییر تنظیمات سراسری.
- ورودی صوتی: ضبط صدا با فرمت WAV در سمت کلاینت برای پشتیبانی از ورودی‌های صوتی llama.cpp.
- تولید تصویر: استفاده از ابزار
generate-image-toolبرای ارسال درخواست به یک نمونه محلی InvokeAI. - امنیت: رمزنگاری سرتاسری (End-to-End) با استاندارد AES که داده‌ها را پیش از رسیدن به لاگ‌های سرور رمز می‌کند.
- ابزارهای مدیریتی: یک CMS کامل برای مدیریت کاربران، دسترسی‌های نقش‌محور و محدودیت نرخ توکن بر اساس اشتراک.
- رابط کاربری: استریم زنده با پشتیبانی از نمایش «تفکر» (Thinking) مدل و آپلود تصاویر برای مدل‌های بینایی.
این تغییر معماری، «هوش» نشست را از مرورگر به یک میان‌افزار (Middleware) پایدار منتقل می‌کند. با جداسازی فرآیند تولید از سوکت، نوسانات رابط وب حذف شده و تجربه کار با هوش مصنوعی محلی از یک آزمایش شکننده به یک محصول نرم‌افزاری حرفه‌ای تبدیل شده است.
برای کاربرانی که مدل‌های محلی اجرا می‌کنند، این یعنی پایان عصر «تلاش و دعا» برای اینکه یک چرخه خواب لپ‌تاپ، زنجیره تفکر پیچیده مدل را نابود نکند. همچنین یک نشانگر بصری در نوار کناری — موج متحرک و نقطه‌ی چشمک‌زن — به کاربر اجازه می‌دهد تولیدات پس‌زمینه را هنگام گشت‌وگذار در سایر چت‌ها رصد کند.
گام بعدی شما
- مخزن گیت‌هاب پروژه را کلون کرده و آن را به هر سرور سازگار با OpenAI متصل کنید.
- اگر از ابزارهای MCP استفاده می‌کنید، سرورهای سفارشی خود را در رابط کاربری تعریف کنید تا وابستگی به محدودیت‌های LM Studio از بین برود.
- برای پروژه‌های حساس، رمزنگاری AES را فعال کنید تا داده‌های شما در لاگ‌های سرور استنتاج قابل خواندن نباشند.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو