تصور کنید برنامه‌نویسی هستید که به‌جای جست‌وجوی بی‌پایان برای یک مدل «برتر» و همه‌فن‌حریف، سه مدل کوچک و تخصصی را روی سیستم خود اجرا می‌کند. این تغییر رویکرد، مسیری پایدارتر برای استفاده از هوش مصنوعی محلی را ترسیم می‌کند.
طبق گزارشی که در ۲۴ اوت ۲۰۲۶ در وب‌سایت dev.to منتشر شد، این مدل ماژولار باعث می‌شود کاربر از چرخهٔ تکراری «پرش بین مدل‌ها» (model-hop) و دانلود مداوم وزن‌های جدید برای یافتن یک مدل جامع و کامل رها شود. اکثر کاربران با هوش مصنوعی مانند یک سرویس ابری برخورد می‌کنند که در آن یک مغز غول‌پیکر همه کارها را انجام می‌دهد. اما در محیط‌های خانگی یا Home-lab، این کار شبیه استفاده از یک پتک سنگین برای تمام کارهای ظریف خانه است. نویسنده پیشنهاد می‌کند که مالکیت مدل‌ها به شما این امکان را می‌دهد تا وظایف را بر اساس نقاط قوت و ضعف هر مدل تقسیم کنید.
مدل زبانی بزرگ (LLM) — مثل کتابخانداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — در مقیاس محلی می‌تواند سنگین باشد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی بهینه‌سازی مدل‌های بازمتن اشاره کردیم، توزیع وظایف بر اساس نقاط قوت هر مدل، کلید بهره‌وری است. این رویکرد در تضاد با استراتژی‌های کاهش هزینه است که در آن جایگزینی سخت‌افزار محلی با APIها منجر به کاهش چشمگیر هزینه‌های پردازشی شده است.
بر اساس مستندات این گزارش، یک چیدمان بهینه محلی از سه مدل کوانتیده (Quantized) — یعنی مدل‌هایی که برای اشغال فضای کمتر، با دقت پایین‌تر فشرده شده‌اند — تشکیل شده است:
- مدل کاربردی (Chat): برای کارهای روزمره مثل پیش‌نویس ایمیل، خلاصه‌سازی متن و عیب‌یابی فایل‌های YAML. این مدل سریع و سبک است و برای استفاده‌های خانوادگی کاملاً مناسب است.
- مدل متخصص (Coding): برای ویرایش‌های دقیق کد و مدیریت Importها بدون نیاز به بازنویسی (Refactoring) کل فایل‌ها. این مدل کندتر اما منضبط‌تر از مدل‌های جامع است.
- مدل منطقی (Math): مدلی لجباز و سخت‌گیر که اگرچه اغلب اوقات اشتباه می‌کند، اما زمانی که پاسخ درست می‌دهد، نتایجی پیش‌بینی‌پذیر و با دقت بسیار بالا ارائه می‌کند.
این ساختار از طریق ابزارهایی مانند LM Studio، Open WebUI و Docker مدیریت می‌شود. نویسنده اشاره می‌کند که هزینه افزودن مدل دوم یا سوم تقریباً صفر است؛ چرا که این کار تنها مقدار اندکی فضای دیسک اشغال می‌کند و مصرف برق آن در حد یک «خطای گرد کردن» (rounding error) است. این ایده بر اهمیت کنترل کامل کاربر بر داده‌ها تأکید دارد، مشابه آنچه در رویکرد مالکیت واقعی در همراهان هوش مصنوعی محلی مورد بحث قرار گرفت.
این چرخش، پرسش بنیادین از عملکرد هوش مصنوعی را تغییر می‌دهد. به‌جای اینکه بپرسیم «آیا مدل محلی من به اندازه بهترین مدل ابری باهوش است؟»، کاربر می‌پرسد «آیا این مدل از گردش‌کار هفته گذشته من بهتر است؟». در واقع، معیار از «هوش انتزاعی» به «کاربرد عملی» تغییر می‌کند.
برای کاربر عادی، این یعنی سخت‌افزاری که در گوشه میز است، به‌جای اینکه صرفاً محیطی برای تست بنچمارک‌ها باشد، به یک ابزار تولیدی تبدیل می‌شود. شما دیگر یک «مغز بزرگ» را اجاره نمی‌کنید، بلکه یک جعبه‌ابزار تخصصی می‌سازید.
برای پیاده‌سازی این رویکرد، کاربران می‌توانند از ابزارهای بسته‌بندی مانند Open WebUI استفاده کنند تا پرامپت‌های مختلف را به بک‌اندهای محلی متفاوتی هدایت کنند. این متدولوژی شباهت زیادی به تلاش‌های AIBridge برای یکپارچه‌سازی چندین مدل در یک نقطه اتصال واحد دارد تا دسترسی به تخصص‌های مختلف تسهیل شود. گام بعدی برای علاقه‌مندان به Home-lab، بررسی روش‌های اتوماسیون برای مسیریابی بین این مدل‌ها بر اساس «قصد کاربر» (Prompt's Intent) است.
گام بعدی شما
- بررسی ابزارهای بسته‌بندی مانند Open WebUI برای مسیریابی پرامپت‌ها به مدل‌های مختلف.
- آزمایش مدل‌های کوچک تخصصی (SLM) برای وظایف تکراری در محیط محلی.
- مطالعه روش‌های اتوماسیون برای تشخیص قصد کاربر و ارسال پرامپت به مدل مناسب.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو