تصور کنید لولهکشی دادههای یک کارخانه را به هوش مصنوعی بسپارید، اما هر ثانیه تپشِ سنسورها، صورتحساب شما را هزاران برابر کند. اگر از مدلهای فعلی برای کنترل بلادرنگ سیستمها استفاده میکنید، با بمب ساعتی هزینههای استنتاج روبهرو هستید.
زمانی که مدلهای زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — از پنجرههای چت به لایههای کنترل منتقل میشوند، هزینه پردازش تلهمتری سنسورها بهصورت خطی رشد میکند. برای درک بهتر این پیچیدگیهای زیرساختی، میتوان به لایههای پنهانی که هر فراخوانی API در مدلهای زبانی را مدیریت میکنند رجوع کرد تا دلیل این هزینههای پردازشی روشن شود. این یعنی استقرار شبانهروزی این سیستمها عملاً از نظر اقتصادی غیرممکن است و مدل قیمتگذاری توکنمحور را به شکست میکشاند.
همانطور که در تحلیل قبلی ما دربارهی جایگزینی خطلولههای ایستا با سامانههای شناختی اشاره کردیم، صنعت اکنون به یک دیوار مالی برخورد کرده است. در یک حلقه کنترل استاندارد، یک عامل (Agent) باید وضعیت را مشاهده کند، اقداماتی را پیشنهاد دهد و محدودیتها را ارزیابی کند. در محیطی مثل کف یک کارخانه، هر تیکِ سنسور، متن بیشتری به پرامپت اضافه میکند و هزینه فقط رشد نمیکند، بلکه منفجر میشود.
به نقل از گزارشی که ۲۲ ژوئیه ۲۰۲۶ در وبسایت dev.to منتشر شد، این بارهای کاریِ عاملمحور (Agentic) بهطور معمول طول پنجرههای زمینه (Context Window) — یا همان میز کاری که جای چند ورق دارد و نه کل کتابخانه — را به بیش از ۸ هزار، ۳۲ هزار یا حتی ۱۲۸ هزار توکن میرسانند. این وضعیت در نگهداری پیشبینانه (Predictive Maintenance) بحرانیتر است؛ جایی که سیستم باید حجم عظیمی از دادههای نیمهساختاریافته، از جمله گزارشهای لرزش و تصویربرداری حرارتی را تحلیل کند تا سیگنالهایی را بیابد که آستانههای قانونمحور نادیده میگیرند.
برای حل این معضل، شرکت Oxlo.ai مدل قیمتگذاری را به سمت «درخواستمحور» تغییر داده است. طبق اعلام این شرکت، در این ساختار جدید، هزینه از طول پنجره متنی جدا میشود. یعنی بهجای پرداخت هزینه برای تکتک توکنهای یک گزارش تاریخی عظیم، هزینه بر اساس هر درخواست محاسبه میشود.
این چرخش، فرضیه بنیادین این حوزه را تغییر میدهد: بهرهوری دیگر فقط به معنای distillation یا کوانتش (Quantization) نیست، بلکه به معماری صورتحساب بازمیگردد. در کنار این تغییرات مالی، استقرار محلی مدلهای زبانی نیز به عنوان راهکاری برای کاهش تأخیر و افزایش امنیت در محیطهای صنعتی مورد توجه است. برای یک اپراتور صنعتی، این تغییر یعنی تبدیل هوش مصنوعی از یک آزمایش گرانقیمت به یک ابزار کاربردی در مقیاس صنعتی.
گام بعدی شما
- اگر در حال طراحی عاملهای صنعتی هستید، مدلهای قیمتگذاری ثابت را جایگزین مدلهای توکنمحور کنید.
- تحلیل هزینه استنتاج (Inference) خود را در پنجرههای متنی بالای ۳۲ هزار توکن بازبینی کنید.
- رفتارهای سایر ارائهدهندگان زیرساختی را در پاسخ به فشار قیمتی Oxlo.ai زیر نظر بگیرید.
اما گلوگاه هوش مصنوعی عاملمحور اکنون از توانایی خام مدلها به اقتصاد استنتاج تغییر مکان داده است و این تنها آغاز ماجراست؛ اثر موجگونهی این تصمیم بر اکوسیستم مدلهای بازمتن را در گزارش بعدی بررسی خواهیم کرد.
گفتگو