مدل‌های کوچک و وزن‌باز هزینه‌ی استنتاج عامل‌های هوش مصنوعی را تا ۷۰٪ کاهش دادند

اگر امروز برای اجرای عامل‌های هوش مصنوعی خود به APIهای گران‌قیمت متکی هستید، احتمالاً بخش بزرگی از بودجه‌ی شما صرف پردازش‌های ساده‌ای می‌شود که نیازی به مدل‌های غول‌پیکر ندارند. طبق گزارشی که در ۵ سپتامبر ۲۰۲۶ در وب‌سایت dev.to منتشر شد، صنعت در حال گذار به سمت مدل‌های کوچک با وزن‌های باز (Open Weights) — یعنی مدل‌هایی که دستور پخت آن‌ها علناً منتشر شده و روی سخت‌افزارهای معمولی اجرا می‌شوند — است.

این تغییر مسیر زمانی رخ داد که توسعه‌دهندگان دریافتند استدلال‌های پیچیده برای اکثر نیازهای عملیاتی، در واقع یک «بیش‌پردازش» غیرضروری است. همان‌طور که در تحلیل قبلی ما درباره‌ی آموزش مهارت‌های هنری به مدل‌های کوچک اشاره کردیم، اکنون تمرکز بر کاربردهای عملی است. برای اکثر کسب‌وکارها، هوش مصنوعی کمتر به معنای خلق آثار هنری و بیشتر به معنای انجام ۸۰٪ کارهای «کسل‌کننده» مثل طبقه‌بندی، استخراج داده و مسیریابی است. این روند را می‌توان در برتری مدل‌های زبانی کوچک در محیط‌های عملیاتی که هزینه‌های استنتاج را به شدت کاهش داده‌اند، مشاهده کرد.

پذیرش فنی این رویکرد با سرعت زیادی در حال رشد است. پروژه deepseek-harness که هر چیزی را به عنوان یک پلاگین می‌بیند، به‌تازگی از مرز ۲۰۰ هزار ستاره در گیت‌هاب گذشت و تنها در یک روز ۲۲۰۰ ستاره جذب کرد. هم‌زمان، مدل‌های خانواده GLM-5.3 (با اندازه ۷ تا ۳۰ میلیارد پارامتر) اکنون از طریق حلقه‌های «برنامه‌ریز-کارگر-منتقد»، قابلیت‌های قابل‌اعتمادی در فراخوانی تابع (Function Calling) ارائه می‌دهند. در همین راستا، مدل‌های جدیدی مانند مدل ۲۷ میلیارد پارامتری علی‌بابا به عنوان جایگزین‌هایی اقتصادی برای APIهای ابری معرفی شده‌اند.

اقتصاد این تحول بسیار تکان‌دهنده است. به نقل از داده‌های منتشر شده، هزینه استنتاج (Inference) — یعنی لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه خودِ آشپزی و نه دوره‌ی آموزش آشپز — برای وظایف طبقه‌بندی در APIهای ابری بین ۰.۱۵ تا ۳ دلار به ازای هر میلیون توکن است؛ در حالی که مدل‌های کوچک محلی، با احتساب هزینه برق و سخت‌افزار، تنها ۰.۰۱ دلار هزینه دارند. در حلقه‌های فراخوانی ابزار نیز هزینه‌ها از بازه ۱ تا ۸ دلار در API، به حدود ۰.۰۵ دلار در حالت محلی سقوط کرده است. این کاهش شدید هزینه‌ها را می‌توان در تحلیل سقوط شتابان هزینه‌های هوش مصنوعی که ماهیت پروژه‌های این حوزه را تغییر داده است، بررسی کرد.

توسعه‌دهندگان این ساختار را از طریق سه الگوی اصلی پیاده می‌کنند:

• پلاگین‌های اجرایی: استفاده از Ollama برای متصل کردن مدل‌های وزن‌باز به گردش‌کارهای خاص مثل استخراج فاکتور یا دسته‌بندی ایمیل‌ها.
• لایه‌های حفاظتی محلی: اجرای یک مدل کوچک برای حذف اطلاعات حساس و رد کردن تزریق پرامپت (Prompt Injection) پیش از آنکه داده‌ها به APIهای گران‌قیمت ارسال شوند.
• مسیریاب‌های ترکیبی: یک مدل کوچک تصمیم می‌گیرد که آیا درخواست به اندازه کافی ساده است که محلی پردازش شود یا نیاز به «مدل بزرگ» دارد؛ به گونه‌ای که ۶۰ تا ۸۰٪ درخواست‌ها هرگز دستگاه محلی را ترک نمی‌کنند.

این انتقال، ارزش افزوده را از خودِ مدل‌ها — که در حال تبدیل شدن به یک کالای عمومی و ارزان هستند — به لایه گردش‌کار (Workflow) منتقل می‌کند. فرصت واقعی اکنون در «فروش بیل و کلنگ» است: یعنی مشاوره برای کاهش هزینه‌های API، ارائه بسته‌های قالب‌های تخصصی برای هر صنعت و بررسی‌های امنیتی برای زیرساخت‌های درون‌سازمانی.

برای یک توسعه‌دهنده مستقل، مزیت رقابتی دیگر در داشتن بهترین پرامپت نیست، بلکه در ساخت کارآمدترین سیستم ارکستراسیون محلی است. تمرکز از اندازه مدل به معماری سیستم تغییر کرده است.

گام بعدی شما

• یک مسیریاب محلی را در خط لوله API فعلی خود ادغام کنید تا دقیقاً بسنجید یک مدل ۷ میلیارد پارامتری چه مقدار از ترافیک شما را بدون افت کیفیت جذب می‌کند.
• ابزارهای میزبانی شخصی مانند Ollama را برای وظایف تکراری و کم‌پیچیده جایگزین مدل‌های ابری کنید.
• لایه‌ی حفاظتی محلی را برای کاهش ریسک نشت داده‌های حساس پیاده‌سازی کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.