پرش به محتوای اصلی
پرش به محتوای مقاله

سربار توکن در عامل‌های چندابزاری با Tool Retrieval کاهش می‌یابد

·۲۸ آبان ۱۴۰۵۴ دقیقه مطالعه
لوگو Gemini API با متن درباره تأخیر اسکیم‌های ابزار برای کاهش سربار توکن
لوگو Gemini API با متن درباره تأخیر اسکیم‌های ابزار برای کاهش سربار توکن
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

گوگل برای Gemini API امکان defer loading ابزار را با Tool Retrieval معرفی کرد. این یک تغییر در مدل بار است، نه در معماری بنیادی.

اسکیماهای ابزار: از بارگذاری استاتیک تا بازیابی درخواستی (Tool Retrieval) در Gemini API (در ۱۹ نوامبر ۲۰۲۶، گوگل نسخهٔ پیش‌نمایش «Tool Retrieval» را برای Gemini API معرفی کرد. این ویژگی به عامل‌ها (agents) اجازه می‌دهد صدها ابزار (tool) را در حالت انتظار نگه دارند و اسکیماهای پارامتر (parameter schemas) را تنها در لحظه نیاز بارگذاری کنند. هدف کاهش سربار توکن (token overhead) و تأخیر (latency) است. این تغییر برای توسعه‌دهندگانی که قبلاً مجبور بودند همه اسکیماها را از ابتدا بارگذاری می‌کردند، گزینه‌ای جدید و کارآمد محسوب می‌شود.

چرا این موضوع مهم است؟

این تغییر نحوهٔ مدیریت ابزار در سیستم‌های عاملی را عوض می‌کند. توسعه‌دهندگان دیگر مجبور نیستند مدل را برای همهٔ توابع آماده کنند. تأثیر اصلی بر هزینهٔ استنتاج و دقت انتخاب ابزار است.

تأثیر برای ایران

برای توسعه‌دهندگان ایرانی که به Gemini API دسترسی دارند، این ویژگی هزینه توکن برای پروژه‌های با ابزارهای متعدد را به‌شدت کاهش می‌دهد. توجه به این نکته ضروری است که این قابلیت فقط در Interactions API (در دسترس از ژوئن ۲۰۲۶) فعال است و در متد قدیمی generateContent پشتیبانی نمی‌شود.

·نگاه ما
تحریریه دات‌هوش

این ویژگی بار ابزار را از «تعداد کل» به «تعداد نیاز» تغییر می‌دهد. برای کاتالوگ‌های بزرگ، این صرفه‌جویی توکن قابل توجهی دارد، اما برای کاتالوگ‌های کوچک یا جستجوهای مکرر، هزینه تکرار زمینه (context) ممکن است بیشتر از صرفه‌جویی باشد. باید دید پس از انتشار نسخه نهایی، توسعه‌دهندگان چگونه این توازن را محاسبه می‌کنند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.