اگر امروز بودجهای برای استنتاج مدلهای زبانی در نظر گرفتهاید، احتمالاً با یک شوک مالی روبرو خواهید شد. مرز ۲۰۰ هزار توکن، خط نامرئیای است که در آن هزینههای API بسیاری از مدلهای برتر بهطور ناگهانی دوبرابر میشود.
طبق گزارش ۱۳ سپتامبر ۲۰۲۶ در وبسایت dev.to، جداول مقایسهای رایج معمولاً این آستانههای قیمتی را نادیده میگیرند. این موضوع باعث میشود توسعهدهندگانی که با حجم دادههای زیاد کار میکنند، با هزینههایی بسیار فراتر از پیشبینیهای خود مواجه شوند.
این نوسانات قیمتی درست زمانی رخ میدهد که شرکتها از رابطهای سادهٔ چت به سمت تولید بازیابیافزا (RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — و عاملهای هوش مصنوعی (AI Agents) حرکت میکنند. همانطور که در تحلیل قبلی ما دربارهی مزایای سختافزارهای محلی مثل RTX 3060 اشاره کردیم، وجود این هزینههای پنهان در APIها، انگیزه برای میزبانی شخصی (Self-hosting) را برای کارهای سنگین دوچندان میکند.
لایههای پنهان قیمتگذاری
بر اساس بررسی مستندات، چندین ارائهدهنده جهشهای قیمتی شدیدی را بر اساس طول پرامپت اعمال میکنند:
- Gemini 3.1 Pro: هزینه هر میلیون توکن ورودی تا ۲۰۰ هزار توکن ۲ دلار است، اما پس از این مرز، نرخ قیمت دوبرابر میشود.
- Grok 4.6: همین آستانه ۲۰۰ هزار توکنی را دنبال میکند و قیمت را از ۲/۶ دلار به ۴/۱۲ دلار میرساند.
- OpenAI: نرخهای منتشرشده تنها برای زمینههای زیر ۲۷۰ هزار توکن است و هیچ قیمت رسمی برای پرامپتهای طولانیتر اعلام نکرده است.
در مقابل، Claude 4.6 نرخ ثابتی را در کل پنجره متنی یک میلیون توکنی خود حفظ میکند. این یعنی یک پرامپت ۹۰۰ هزار توکنی، دقیقاً همان هزینهٔ هر توکن در یک پرامپت ۹ هزار توکنی را دارد. این رویکرد تفاوت چشمگیری با مدلهای متغیر دارد، مشابه تجربهی شرکت Oxlo.ai که با بهرهگیری از مدل قیمتگذاری ثابت توانست هزینههای ترجمه را بهطور قابلتوجهی کاهش دهد. از سوی دیگر، DeepSeek لایهبندی زمینه ندارد اما از قیمتگذاری زمانی استفاده میکند؛ بهطوری که در ساعات پیک UTC نرخها دوبرابر میشوند.
تلهٔ محیط تولید
این جزئیات منجر به ایجاد «مالیات حلقهٔ عاملمحور» میشود. وقتی یک عامل بهصورت خودکار بین ابزارهای مختلف جابهجا میشود، حجم زمینه بهصورت هندسی رشد میکند. به گزارش یک تیم تولید، صورتحساب سه ماهه آنها بهجای ۱۲ هزار دلار، به ۳۱ هزار دلار رسید؛ چون محاسبات سادهٔ توکن، اثر تجمعی این زمینه را در نظر نگرفته بود. برای مقابله با چنین جهشهای هزینهای، برخی تیمها از استراتژیهای اندازهگیریمحور برای بهینهسازی زیرساخت استفاده میکنند تا هزینههای ماهانه را به شدت کاهش دهند.
سیستمهای حافظه موقت یا KV Cache — شبیه یادداشتهای سریع روی حاشیه کتاب برای عدم نیاز به خواندن دوباره کل متن — نیز تفاوتهای زیادی دارند. در حالی که بسیاری هزینه حافظه موقت را ۱۰٪ فرض میکنند، Claude Fable 5.1 با نرخ ۰.۰۲۵ برابر قیمت پایه میخواند، اما Gemini 3.5 Flash-Lite اصلاً قابلیت حافظه موقت زمینه را ندارد.
برای جیب شما، این یعنی «ارزانترین» مدل در جداول تبلیغاتی، اغلب گرانترین گزینه برای بارهای کاری واقعی است. مدلی که نصف قیمت است اما برای انجام یک کار به سه برابر توکن نیاز دارد، در نهایت یک ضرر خالص است. این چالش در انتخاب مدل، یادآور محاسبات نقطهٔ سربهسر برای ارتقای اشتراکهاست که نشان میدهد ارزانتر بودن لایهی ورودی همیشه به معنای کاهش هزینه نهایی نیست.
گام بعدی شما
- بهجای محاسبه هزینه بر اساس توکن، معیار «هزینه بهازای هر تسک» (Cost-per-task) را پیادهسازی کنید.
- برای مدلهای Gemini و Grok، سقف سختگیرانهای برای طول پرامپتها تعریف کنید تا از جهش قیمتی جلوگیری شود.
- از لیدربوردهای LLM Waves برای رصد اقتصاد واقعی مدلها در تسکهای عملی استفاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو