اگر همین حالا بودجهای برای استقرار مدلهای زبانی در مقیاس سازمانی دارید، باید برای یک شوک قیمتی آماده شوید. طبق گزارش Token Ledger در ۱۵ ژوئیه ۲۰۲۶، هزینه استنتاج (Inference) — که همان لحظهی تولید جواب توسط مدل و شبیه به هزینه هر وعده در یک آشپزخانه صنعتی است — برای مدل NVIDIA Nemotron 3 Ultra ۶۴٪ افزایش یافت.
این جهش قیمتی در حالی رخ میدهد که این مدل پیش از این به دلیل توانمندیهای استدلالی برابری با مدلهای بسته مورد توجه قرار گرفته بود.
به نقل از این گزارش، قیمت توکنهای خروجی در این مدل از ۲.۲۰ دلار به ۳.۶۰ دلار برای هر میلیون توکن رسید. همچنین هزینه پرامپتها (Prompt) با ۱۰ سنت افزایش، به ۰.۶۰ دلار در هر میلیون توکن رسید.
همانطور که در تحلیل قبلی ما دربارهی نوسانات هزینه در مدلهای لبه اشاره کردیم، این تغییرات زمانی رخ میدهد که شرکتها در حال گسترش حجم تولید متون طولانی هستند. بازار اکنون به شدت قطبی شده است؛ از یک سو مدلهای سطح بالا گران میشوند و از سوی دیگر، نسخههای «فلش» یا «میکرو» قیمتها را به کف میرسانند.
طبق دادههای منتشر شده، چندین ارائهدهنده دیگر نیز در همان تاریخ قیمتها را بالا بردند:
- Z.ai GLM 5: نرخ خروجی از ۱.۹۲ به ۳.۱۵ دلار رسید.
- MoonshotAI Kimi K2.5: هزینه خروجی از ۲.۰۳ به ۲.۸۵ دلار افزایش یافت.
- Qwen Qwen3.5 397B A17B: قیمت پرامپت به ۰.۴۵ و خروجی به ۳.۰۰ دلار رسید.
در مقابل، برخی مدلها روند کاهشی داشتند. Google Gemma 4 26B A4B قیمت خروجی خود را از ۰.۳۳ به ۰.۳۰ دلار کاهش داد. همچنین Z.ai GLM 5.2 هر دو هزینه ورودی و خروجی را کمی پایین آورد. در حال حاضر ارزانترین گزینهها inclusionAI Ling-2.6-flash و IBM Granite 4.0 Micro هستند که قیمت پرامپت آنها از ۰.۰۱ دلار شروع میشود.
این شکاف قیمتی نشاندهنده یک استراتژی «لایهبندی» است. ارائهدهندگان احتمالاً حاشیه سود مدلهای پرچمدار (Ultra) را بالا میبرند تا جنگ قیمتی شدید در دستهبندی مدل زبانی کوچک (SLM) — که شبیه به آموزش یک متخصص در یک حوزه بسیار محدود است — را تأمین کنند. برای کاربر تجاری، این یعنی هزینه خروجیهای استدلالی پیچیده دیگر با هزینه اتوماسیونهای ساده یکی نیست.
کاربران نسخه Sao10K Llama 3.1 70B Hanami x1 باید فوراً مدل خود را جایگزین کنند، زیرا این مدل بهطور کامل از فهرست حذف شده است.
گام بعدی شما
- تمام نقاط اتصال (Endpoints) مدلهای خود را بررسی کنید تا از هزینههای پیشبینینشده در این فصل جلوگیری کنید.
- برای وظایف ساده، مهاجرت از مدلهای Ultra به مدلهای Flash یا Micro را ارزیابی کنید.
- بودجه استنتاج ماهانه خود را بر اساس نرخهای جدید ۱۵ ژوئیه بهروزرسانی نمایید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو