پروژه Caveman هزینه توکن‌های ورودی عامل‌های هوش مصنوعی را ۳۳.۲٪ کاهش داد

اگر امروز برای اجرای عامل‌های هوش مصنوعی هزینه پرداخت می‌کنید، احتمالاً بخش بزرگی از صورت‌حساب شما صرف خواندن تکراریِ لاگ‌ها و فایل‌های حجیم می‌شود، نه تولید جواب. پروژه Caveman با معرفی نسخه ۴.۰، این معادله را تغییر داده و توکن‌های ورودی را تا ۳۳.۲٪ کاهش می‌دهد. این تغییر رویکرد، تکامل پروژه‌ای است که در آوریل ۲۰۲۶ به عنوان یک شوخی با پرامپت‌هایی برای واداشتن مدل Claude به صحبت‌های تکه‌تکه (شبیه انسان‌های غارنشین) شروع شد و اکنون به یک جعبه‌ابزار پیچیده برای کاهش هزینه‌های عملیاتی عامل‌ها تبدیل شده است.

این ابزار در واقع یک پروکسی محلی است که داده‌ها را پیش از رسیدن به مدل فشرده می‌کند. به عبارت ساده‌تر، هوش مصنوعی زاینده (Generative AI) — مثل آشپزی است که برای پختن یک غذا، به جای خواندن کل کتاب دستور پخت، فقط جملات کلیدی را می‌بیند — اکنون می‌تواند با داده‌های بهینه‌شده سریع‌تر و ارزان‌تر عمل کند. همان‌طور که در تحلیل قبلی ما درباره‌ی ابزارهای همگام‌سازی پیکربندی مانند ivar اشاره کردیم، بهینه‌سازی لایه‌ی انتقال داده، کلید کاهش هزینه‌های مقیاس‌پذیر است. برای اکثر توسعه‌دهندگان، «صورت‌حساب» یک عامل هوش مصنوعی، هزینه پاسخی نیست که مدل می‌دهد، بلکه هزینه حجم عظیم زمینه‌ای (Context) شامل فایل‌ها، لاگ‌ها و خروجی ابزارهاست که مدل باید برای یافتن یک خط کد ساده بخواند.

اعداد صادقانه در مورد صدای غارنشین

پروژه Caveman ابتدا به دلیل «صدای غارنشین» خود که مدل‌ها را مجبور می‌کرد بدون سلام و احوالپرسی یا بازگویی مطالب، در قطعات کوتاه پاسخ دهند، وایرال شد. این پروژه با کسب ۹۰۴ امتیاز به رتبه اول Hacker News رسید، هرچند ThePrimeagen در ویدئوی اولیه خود با تردید گفت: «امکان ندارد این واقعاً کار کند». با وجود این تردیدها، مخزن پروژه تاکنون از ۱۱۱,۰۰۰ ستاره و ۶,۴۰۰ فورک عبور کرده است.

با این حال، صفحه «اعداد صادقانه» (Honest Numbers) در خود پروژه فاش می‌کند که این لحن بیشتر یک انتخاب استایلی است تا راهکاری برای کاهش هزینه. طبق گزارش منتشر شده در dev.to در ۱۵ اکتبر ۲۰۲۶، یک دستور ساده مانند «مختصر پاسخ بده» (Answer concisely) بخش بزرگی از کار را انجام می‌دهد. در آزمایشی روی ۱۰ سوال توسعه‌دهندگان با استفاده از مدل claude-opus-5-5، مهارت غارنشین تنها ۳٪ توکن‌های خروجی را نسبت به حالت «مختصر» کاهش داد. به طور دقیق‌تر، توکن‌های خروجی از ۶,۹۸۳ (بدون دستور) به ۴,۳۳۴ (در حالت مختصر) و سپس به ۴,۱۱۹ با دستور /caveman رسید.

در حالی که نسخه /ultracave می‌تواند خروجی را تا ۳۵٪ (تا ۲,۶۹۳ توکن) کاهش دهد، اما این کار به قیمت کاهش شدید خوانایی تمام می‌شود. افراطی‌ترین نسخه، یعنی /megacave است که پاسخ‌ها را به زبان چینی کلاسیک در ۱۳ توکن ارائه می‌دهد که فشرده‌ترین و در عین حال غیرقابل‌فهم‌ترین حالت است.

مهم‌تر از این، تست‌های A/B خارجی نشان می‌دهند که توکن‌های خروجی معمولاً تنها ۰.۳٪ از کل یک جلسه عامل را تشکیل می‌دهند. یکی از مشارکت‌کنندگان ۶۶۲ جلسه واقعی Claude Code را تحلیل کرد و دریافت که اثر خالص این لحن بر صورت‌حساب در محدوده ±۰.۲٪ است. کاربر LemonCrow نیز ۳۰۰ اجرا در هر بازو روی مدل claude-opus-4-8 انجام داد؛ در حالی که خروجی صورت‌حساب ۴۴.۱٪ کاهش یافت، هزینه کل در واقع ۰.۰۶٪ افزایش یافت، زیرا قوانین جدید ۱,۵۳۲ توکن زمینه کش‌شده (Cached Context) به هر اجرا اضافه کردند. نصف کردن یک بخش بسیار کوچک از صورت‌حساب، تأثیر چندانی بر هزینه نهایی ندارد.

شش «سنگ» برای بهره‌وری توکن‌ها

نسخه ۴.۰ که در ۱۳ اکتبر ۲۰۲۶ منتشر شد، پروژه را به شش مؤلفه سازماندهی می‌کند که نویسنده، Julius Brussee، آن‌ها را «سنگ‌ها» (Rocks) می‌نامد. این پروژه تحت لایسنس Apache-2.0 منتشر شده است، هرچند نام «Caveman» و لوگوی سنگ، علائم تجاری Brussee هستند. تنها یکی از این‌ها مربوط به لحن است و بقیه روی ورودی‌ها تمرکز دارند:

• Read Less: پروکسی فشرده‌ساز لاگ‌ها، JSON, CSV و YAML پیش از خواندن توسط مدل. در بنچمارک‌ها، این ابزار توکن‌های ورودی هر جلسه را ۳۳.۲٪ کاهش داد.
• Auto: یک مسیریاب (Router) که مدل و سطح تلاش برای استدلال (Reasoning Effort) را برای هر درخواست انتخاب می‌کند. مشخص شد که این روش در ۸۵ تسک کدنویسی، ۵۴٪ ارزان‌تر از اجرای مدل Opus 5.5 در حالت 'xhigh' است. این رویکرد بهینه‌سازی لایه‌های میانی، مشابه بهبودهای عملکردی در لایه‌ی Harness است که پیش‌تر منجر به ارتقای ۱۳.۷ درصدی عامل‌های کدنویس شد.
• Blocks: سیستمی برای ذخیره اسکریپت‌های قابل استفاده مجدد در مخزن، تا مدل مجبور نباشد یک ابزار کاربردی ساده را ۴۰۰ بار در هفته بازنویسی کند. این سیستم می‌تواند یک اجرای تست را از ۳۹۷ توکن به ۷۶ توکن کاهش دهد.
• Browse: ابزاری برای فشرده‌سازی صفحات وب که یک اسنپ‌شات Playwright از یک جدول ۲۰۰ سطری با ۱۵,۷۰۴ توکن را به تنها ۱۲۱ توکن تبدیل می‌کند.
• Waste Fixes: ابزاری برای گرم نگه داشتن حافظه موقت پرامپت در زمان توقف کاربر، تا درخواست بعدی هزینه کامل را پرداخت نکند.
• Say Less: همان مهارت لحن غارنشین اولیه.

نصب و سازگاری

کل این جعبه‌ابزار با یک دستور واحد نصب می‌شود: npx @caveman-ai/cli@latest. نصب‌کننده به Node.js نسخه ۲۲.۱۳ یا بالاتر نیاز دارد. این ابزار به طور خودکار عامل‌ها و لاگین‌های موجود در سیستم را شناسایی کرده، تغییرات پیشنهادی را نمایش می‌دهد و منتظر تایید کاربر می‌ماند.

پس از نصب، Caveman به عنوان یک لایه برای claude معمولی و همچنین Codex، Gemini CLI، OpenCode و بیش از ۳۰ عامل دیگر عمل می‌کند. این ابزار به صورت محلی و با استفاده از کلیدهای API کاربر یا اکانت‌های Claude Pro/Max اجرا می‌شود. کاربران می‌توانند سنگ‌ها را از طریق سوئیچ‌ها مدیریت کنند (مثلاً caveman off browse) و وضعیت مؤلفه‌های فعال را با caveman status بررسی کنند.

برای کسانی که فقط لحن غارنشین را می‌خواهند و نیازی به پروکسی یا CLI ندارند، این مهارت را می‌توان به صورت مستقل نصب کرد: npx skills add JuliusBrussee/caveman -g. در Codex، این قابلیت با $caveman و در سایر عامل‌ها با /caveman فعال می‌شود. برای بازگشت به حالت استاندارد، کاربر کافی است بگوید "stop caveman".

مکانیسم‌های فشرده‌سازی ورودی

پروکسی «Read Less» تاثیرگذارترین ابزار برای کاربران با حجم داده بالا است. این ابزار از فشرده‌سازی تخریبی (Lossy) و آگاه از پرس‌وجو استفاده می‌کند تا فقط بخش‌های مرتبط با سوال کاربر از یک فایل را نگه دارد. اگر در نمای فشرده‌شده چیزی گم شود، عامل می‌تواند نسخه اصلی را از یک ذخیره‌ساز بازیابی محلی فراخوانی کند.

در یک بنچمارک شامل شش فایل حجیم، این پروکسی به کاهش‌های چشمگیری در هر فایل دست یافت:

• CSV: از ۲۸,۰۴۱ به ۳۱۴ توکن (۵۵.۱٪ صرفه‌جویی در جلسه)
• Logs: از ۲۲,۸۱۰ به ۳۴۸ توکن (۵۰.۲٪ صرفه‌جویی در جلسه)
• YAML: از ۲۰,۴۴۷ به ۱۷۸ توکن (۴۶.۲٪ صرفه‌جویی در جلسه)
• Test output: از ۱۸,۸۰۶ به ۲۰۳ توکن (۲۷.۸٪ صرفه‌جویی در جلسه)
• JSON: از ۱۸,۸۳۷ به ۲۸۱ توکن (۲۶.۴٪ صرفه‌جویی در جلسه)

با این حال، صرفه‌جویی کل جلسه کمتر بود (۳۳.۲٪) زیرا پرامپت سیستم، تعاریف ابزارها و خود مهارت Caveman باید در هر درخواست ارسال شوند. جالب است که پروژه اعتراف می‌کند فشرده‌سازی HTML در حال حاضر وجود ندارد و در واقع جلساتی که محتوای HTML زیادی دارند، به دلیل سربار مهارت، ۹.۹٪ بدتر شده‌اند.

برش‌های بدون تلفات و ساختار داده‌ها

برای درک محدودیت‌های این صرفه‌جویی‌ها، پروژه ساختارهای داده بدون تلفات (Lossless) را با استفاده از توکنایزر o200k تحلیل کرد. نتایج نشان می‌دهد که توصیه رایج به استفاده از YAML برای خوانایی بیشتر، در مقایسه با JSON فشرده‌شده (Minified)، منجر به اتلاف توکن می‌شود.

• ۵۰ رکورد مشتری: JSON زیبا (۳,۹۹۴ توکن) در مقابل YAML (۳,۰۷۲) در مقابل JSON فشرده (۲,۴۹۰).
• پیکربندی استقرار ۲۰ سرویس: JSON زیبا (۴,۰۳۸) در مقابل YAML (۲,۷۸۸) در مقابل JSON فشرده (۲,۳۱۰).

فشرده‌سازی JSON توکن‌ها را ۳۸٪ تا ۴۳٪ کاهش داد. اگرچه YAML بهتر از JSON با تورفتگی است، اما در برابر JSON فشرده شکست می‌خورد زیرا YAML هر نام کلید را حفظ می‌کند و برای تورفتگی‌ها توکن مصرف می‌کند، در حالی که JSON فشرده از براکت‌ها استفاده می‌کند. برای توسعه‌دهندگانی که داده‌ها را دستی کپی می‌کنند، یک Minifier برای JSON بهینه‌ترین راه بدون تلفات است.

قوانین لحن غارنشین

برای اطمینان از اینکه این لحن باعث خرابی عامل نشود، در README تاکید شده است که این «یک لحن است، نه گرامر شکسته». قوانین این لحن از استاندارد ASD-STE100 (انگلیسی فنی ساده شده برای دفترچه‌های هواپیما) وام گرفته شده است: حداکثر ۲۰ کلمه، صدای فعال و یک اصطلاح برای هر چیز. این دقت در تعریف دستورالعمل‌ها برای جلوگیری از خطاهای رفتاری ضروری است، مشابه ۷ مهارت مهندسی که برای واداشتن Claude Code به پیروی دقیق از دستورات توسعه‌دهنده توصیه شده است.

محدودیت‌های خاص عبارتند از:

• ساختار: ابتدا پاسخ. [شیء] [عمل] [دلیل]. [گام بعدی].
• ممنوعات: بدون سلام، بدون «اجازه دهید»، بدون بازگویی و بدون تئاتر «من فکر می‌کنم». هر جمله فقط یک ایده.
• حفاظت: کدها، دستورات، مسیرها و پیام‌های خطا دقیقاً همان‌طور که هستند باقی می‌مانند. اعداد و واحدها دقیق می‌مانند. محتوای Payload تغییر نمی‌کند.
• ایمنی: «قانون نفی» کلماتی مانند «نه»، «هرگز» و «نکن» را محافظت می‌کند تا از خطاهای خطرناک جلوگیری شود (مثلاً تبدیل «این را روی محیط تولید اجرا نکن» به «روی محیط تولید اجرا کن»).

هشدارهای امنیتی و اقدامات غیرقابل بازگشت باعث می‌شوند سیستم موقتاً به جملات کامل بازگردد و سپس دوباره به حالت غارنشین برگردد. این باعث می‌شود توضیح یک رندر مجدد در React از ۶۳ توکن به ۲۰ توکن کاهش یابد («شیء جدید در هر رندر، پس ری‌رندر می‌شود. پراپ را در useMemo بپیچ.»)، اما هشدارهای حیاتی ایمنی شفاف باقی بمانند.

اتوماسیون تلاش و اسکریپت‌نویسی

سنگ Auto روی «تلاش استدلال» (Reasoning Effort) تمرکز دارد. به جای استفاده پیش‌فرض از گران‌ترین تنظیمات، درخواست‌های ساده را به مدل‌های ارزان‌تر یا سطوح تلاش پایین‌تر هدایت می‌کند. در تست‌های استفاده از مجموعه‌داده‌های SWE-Interact و SWE-Together، این روش هزینه‌ها را بیش از ۵۰٪ کاهش داد در حالی که نرخ موفقیت در تسک‌ها مشابه باقی ماند.

در یک استخر مدل‌های فقط Claude، ابزار Auto حدود ۸۷٪ درخواست‌ها را به Opus 5.5 با تلاش متوسط، ۸٪ به Opus با تلاش بالا و ۵٪ به Sonnet 5.5 ارسال کرد. این ثابت می‌کند که صرفه‌جویی بیشتر از طریق کاهش سطح تلاش است تا تغییر مدل. بنچمارک نشان داد هزینه از ۷.۸۳ دلار (Opus 5.5 xhigh) به ۳.۵۹ دلار (Auto Claude-only) کاهش یافت و زمان میانه از ۳۵.۲ دقیقه به ۱۵.۹ دقیقه رسید.

در همین حال، Blocks مشکل «اسکریپت‌های تکراری» را حل می‌کند. عامل‌ها اغلب اسکریپت‌های کوچک پایتون یا Bash یکسانی را می‌نویسند؛ یک کاربر دریافت که عامل‌ها یک اسکریپت مشابه را ۳۹۴ بار در یک هفته نوشته‌اند. مطالعه‌ای در دانشگاه Purdue این عادت را تا ۹.۵۷٪ از هزینه تسک اندازه‌گیری کرد. Blocks این اسکریپت‌ها را به عنوان دارایی‌های دائمی در فایل AGENTS.md ذخیره می‌کند.

هشت بلوک پیش‌فرض با Caveman ارائه می‌شوند، از جمله json-peek ،jsonl-stats ،test-summary ،first-error ،wait-for ،grep-defs ،http-json و replace-in-file. این قابلیت می‌تواند تولید یک اسکریپت ۱۰,۵۶۱ توکنی را به یک ارجاع ۷۶ توکنی تبدیل کند. لازم به ذکر است که Blocks در حال حاضر در نسخه پیش‌انتشار (v0.1.0-rc.5) است و فقط از پایتون پشتیبانی می‌کند.

سایر ابزارهای جعبه‌ابزار

فراتر از سنگ‌های اصلی، Caveman ابزارهای تخصصی‌تری را شامل می‌شود:

• /caveman-compress <file>: فایل‌های حافظه مانند CLAUDE.md را کوچک می‌کند. در تست‌های روی پنج فایل، توکن‌ها از ۶,۱۹۸ به ۴,۱۳۸ کاهش یافت (۲۲.۸٪ تا ۴۹.۱٪ برای هر فایل) در حالی که تیترها و مسیرها حفظ شدند.
• caveman learn: میزان مصرف توکن را با استفاده از تاریخچه عامل روی دیسک رتبه‌بندی می‌کند و اصلاحات را تنها پس از تایید کاربر از طریق caveman learn implement اعمال می‌کند.
• caveman-review: یافته‌ها را در قالبی بسیار کوتاه برمی‌گرداند (مثلاً: "L42: 🔴 null deref. Guard it.").
• cavecrew: زیر-عامل‌هایی را برای یافتن، ویرایش و بررسی کد اجرا می‌کند و گزارش‌ها را با لحن غارنشین ارائه می‌دهد.
• Middleware: فشرده‌سازی را به فراخوانی‌های Vercel AI SDK، LangChain، OpenAI و Anthropic SDK گسترش می‌دهد.

حریم خصوصی و جریان داده‌ها

کاربران باید بدانند که «سنگ‌های» مختلف، پروفایل‌های حریم خصوصی متفاوتی دارند. مهارت پایه روی دستگاه شما اجرا می‌شود و چیزی ارسال نمی‌کند، هرچند /caveman-compress فایل را به ارائه‌دهنده مدل شما ارسال می‌کند.

نسخه CLI به طور پیش‌فرض تله‌متری‌های پایه شامل دستورات اجرا شده، تعداد توکن‌ها، یک ID نصب تصادفی، سیستم‌عامل و IP را ارسال می‌کند. این قابلیت با caveman telemetry off یا تنظیم DO_NOT_TRACK=1 غیرفعال می‌شود.

با این حال، مسیریاب Auto به یک حساب رایگان نیاز دارد و آخرین پرامپت و زمینه پیوست شده (شامل CLAUDE.md یا فایل‌های @-mention شده) را به Caveman Cloud ارسال می‌کند تا بهترین مسیر را تعیین کند. در طرح رایگان، Caveman ممکن است این داده‌ها را برای بهبود مسیریابی نگه دارد. این بدان معناست که کدها و پرامپت‌های سیستم شما هنگام استفاده از قابلیت مسیریابی، دستگاه شما را ترک می‌کنند. کاربران می‌توانند با caveman off routing یا caveman providers cloud off جلوی این اتفاق را بگیرند.

تحلیل: تغییر هدف بهینه‌سازی

نسخه ۴.۰ Caveman نشان‌دهنده درک بالغ‌تری از اقتصاد هوش مصنوعی است. صنعت در حال حرکت از «مهندسی پرامپت» به سمت «مهندسی زمینه» (Context Engineering) است.

برای یک توسعه‌دهنده عمل‌گرا، این بدان معناست که بردهای واقعی نه در نحوه صحبت کردن هوش مصنوعی، بلکه در نحوه تغذیه داده‌هاست. تست‌های برش‌های بدون تلفات نشان داد که JSON فشرده‌شده برای صرفه‌جویی در توکن، YAML را شکست می‌دهد. برای ۵۰ رکورد مشتری، JSON زیبا ۳,۹۹۴ توکن، YAML ۳,۰۷۲ توکن و JSON فشرده تنها ۲,۴۹۰ توکن مصرف کرد. این ثابت می‌کند که تعداد توکن‌های خام اغلب با شهود انسانی درباره داده‌های «تمیز» در تضاد است.

در نهایت، ارزش این پروژه در شفافیت آن است. Brussee با انتشار «اعداد صادقانه» — حتی در ردیف‌هایی که ابزار شکست می‌خورد یا ضرر می‌دهد — نقشه‌ای برای نحوه اندازه‌گیری واقعی بهره‌وری هوش مصنوعی بدون هایپ‌های بازاریابی ارائه داده است.

اگر از Claude Code، Codex یا Gemini CLI استفاده می‌کنید، سریع‌ترین برد برای شما پیاده‌سازی یک Minifier برای داده‌های کپی‌شده یا تست پروکسی «Read Less» روی حجیم‌ترین فایل‌های لاگ شماست. دستور caveman trial -- claude را اجرا کنید تا ببینید آیا این صرفه‌جویی‌ها در کدبیس خاص شما نیز اتفاق می‌افتد یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.