تصور کنید یک گردش‌کار ساده که باید ۲ دلار هزینه داشته باشد، ناگهان به صورت‌حسابی ۲۰ دلاری تبدیل شود، بدون اینکه هیچ هشدار امنیتی یا محدودیتی فعال شود. این اتفاق زمانی رخ می‌دهد که یک عامل (Agent) — شبیه کارمندی که در یک دستور مبهم گیر کرده و مدام یک کار را تکرار می‌کند تا جواب بگیرد — در حلقه‌ای از تلاش‌های ناموفق برای جست‌وجو و بررسی داده‌ها گرفتار شود. در این حالت، عامل مدام یک مرحله را تکرار می‌کند، دوباره جست‌وجو می‌کند و دوباره بررسی می‌کند؛ در حالی که از نظر فنی هر فراخوانی به‌تنهایی زیر سقف مجاز است، اما مجموع آن‌ها بودجه کل را می‌بلعد.
این نقطه کور زمانی شکل می‌گیرد که هر فراخوانی به‌تنهایی زیر سقف مجاز باشد، اما مجموع آن‌ها بودجه را ببلعد. همان‌طور که در تحلیل قبلی ما درباره‌ی پنهان شدن تأخیرهای بحرانی در گیت‌وی‌های هوش مصنوعی اشاره کردیم، این شکاف بودجه‌ای نیز نوعی شکست در مشاهده‌پذیری است. در حال حاضر، اکثر سامانه‌ها هر فراخوانی API را به‌صورت مجزا و در انزوا می‌بینند و هزینه کل یک گردش‌کار تا لحظه دریافت صورت‌حساب نهایی، نامرئی می‌ماند.
برای حل این مشکل، ابزار TokenOps بودجه‌ای را در سطح هر اجرا (Run-scoped budget) معرفی کرده است که کل چرخه حیات یک وظیفه را مدیریت می‌کند. به نقل از گزارشی در وب‌سایت dev.to که در ۳ سپتامبر ۲۰۲۶ منتشر شد، این ابزار پیش از هر فراخوانی، مجموع هزینه‌ها را بررسی می‌کند تا از تخطی از بودجه جلوگیری کند، نه اینکه صرفاً پس از وقوع هزینه، آن را گزارش دهد.
هزینه نقاط کور
وقتی یک عامل در حلقه گیر می‌کند، اثر مالی به‌سرعت مقیاس می‌گیرد. طبق گزارش‌های فنی، اگر یک گردش‌کار ۲ دلاری به ۲۰ دلار برسد، ۱۸ دلار ضرر ایجاد شده است. حال اگر این فرآیند ۱۰,۰۰۰ بار در روز اجرا شود، این شکاف به ۱۸۰,۰۰۰ دلار در روز تبدیل می‌شود. این حجم از هزینه‌های پیش‌بینی‌نشده می‌تواند منجر به بحران‌های مالی گسترده شود، مشابه اتفاقی که اخیراً رخ داد و اوبر بودجه سالانه هوش مصنوعی خود را تنها در چهار ماه تمام کرد.
TokenOps هزینه توکن (Token) — تکه‌های کوچکی از متن که مدل مانند برش‌های کیک آن‌ها را می‌خورد — را به عنوان یک اولویت اصلی در نظر می‌گیرد و به آن همان توجهی را می‌کند که به قدرت پردازشی یا تأخیر (Latency) می‌شود. این رویکرد با این دیدگاه همسو است که توکن به‌ازای هر وظیفه، معیار کلیدی و تعیین‌کننده‌ای برای بهینه‌سازی هزینه‌های AI است. این ابزار نه یک گیت‌وی ساده و نه یک داشبورد ردیابی، بلکه یک لایه حاکمیتی است که در کنار ابزارهای مسیریابی و مشاهده‌پذیری فعلی کار می‌کند.
مکانیزم‌های حاکمیتی
این سامانه برای جلوگیری از هزینه‌های اضافی، کنترل‌های دقیقی را اجرا می‌کند:
- اجرای پیش از فراخوانی: سیستم پیش از ارسال درخواست، بودجه را چک می‌کند و اگر فراخوانی باعث شکست بودجه شود، آن را رد می‌کند، به‌جای اینکه صرفاً آن را برای کشف در آینده ثبت (Log) کند.
- دفاتر حساب مشترک: سرویس‌های مختلف (مثل جست‌وجو، تلخیص و بازبینی) می‌توانند سه سرویس مجزا باشند اما از یک دفتر حساب مشترک استفاده کنند تا هر کدام به‌طور مخفیانه تصور نکنند کل بودجه در اختیار آن‌هاست.
- هدایت فعال: به‌جای توقف سخت، ابزار می‌تواند اندازه پرامپت بعدی را کوچک کند، مدل را به نسخه‌ای ارزان‌تر تغییر دهد یا به عامل هشدار دهد که در حال چرخش است، پیش از آنکه اتصال را به‌طور کامل قطع کند.
- حسابداری فراخوانی ابزار: توکن‌های حاصل از نتایج جست‌وجو که در پرامپت‌ها تزریق می‌شوند، حتی اگر توسط مدل تولید نشده باشند، محاسبه می‌شوند.
- سیاست‌های قابل تعویض: ۱۰ سیاست مستند در سیستم وجود دارد که کاربر می‌تواند آن‌ها را تغییر دهد یا گسترش دهد.
در یک دموی ارائه شده، عاملی که ۴۰ فراخوانی انجام داد، بدون محافظت ۵.۸۰ دلار هزینه کرد. اما با TokenOps، اجرا در فراخوانی دوازدهم و پس از رسیدن به سقف ۲ دلاری متوقف شد و در یک بار اجرا، ۳.۷۷ دلار صرفه‌جویی کرد.
ادغام این ابزار از طریق «مهارت‌های ادغام» برای دستیارهای کدنویسی انجام می‌شود. کاربران می‌توانند با دستور /integrate-tokenops آن را به Claude Code یا با ارجاع به فایل SKILL.md به Cursor و GitHub Copilot متصل کنند. در این فرآیند، دستیار کد عامل را می‌خواند، تنظیمات مناسب را انتخاب می‌کند و نقطه نظارت بر هزینه را سیم‌کشی و فعال می‌کند.
این تغییر، مدیریت هزینه را از «ثبت غیرفعال» به «حاکمیت فعال» تبدیل می‌کند. برای توسعه‌دهندگان، این یعنی تیم مالی دیگر مجبور نیست بپذیرد که فراخوانی‌ها «از نظر فنی زیر سقف بودند» در حالی که پروژه در حال ضرر دادن است. این رویکرد، این فرض را که سقف‌های هر-درخواست (per-request caps) برای عامل‌های خودمختار کافی هستند، تغییر می‌دهد.
مشارکت در اکوسیستم
این پروژه در حال حاضر در نسخه 0.x است و برای مشارکت باز است. توسعه‌دهندگان می‌توانند در دو بخش اصلی بدون دست زدن به هسته حاکمیتی کمک کنند:
- سیاست‌های جدید: افزودن تشخیص‌ها و تصمیمات در مسیر
src/tokenops/control/policies/. - آداپتورهای جدید: ایجاد پشتیبانی برای SDKهای دیگر در مسیر
src/tokenops/adapters/.
پروژه دارای مسائل (Issues) بازی است که با برچسب‌های «good first issue» و «help wanted» مشخص شده‌اند، از جمله رفع مشکل پاسخ‌دهی رابط کاربری (UI) و تثبیت وابستگی‌ها (dependency pin). توسعه‌دهندگان می‌توانند با کلون کردن مخزن و اجرای دستورات make install ، make lint و make test کار خود را آغاز کنند.
گام بعدی شما
- اگر از عامل‌های خودکار در محیط تولید استفاده می‌کنید، سقف هزینه‌ها را از سطح API به سطح هر «اجرا» منتقل کنید.
- ابزار TokenOps را در محیط Cursor یا Claude Code تست کنید تا حلقه‌های تکرار مدل را شناسایی کنید.
- سیاست‌های کنترل هزینه را بر اساس حساسیت پروژه (توقف سخت یا تغییر مدل) تنظیم کنید.
اما مدیریت هزینه تنها بخشی از چالش است؛ تأثیر این محدودیت‌ها بر کیفیت استدلال مدل‌ها را در تحلیل بعدی بررسی خواهیم کرد.
گفتگو