سربار توکن در عاملهای چندابزاری با Tool Retrieval کاهش مییابد

گوگل برای Gemini API امکان defer loading ابزار را با Tool Retrieval معرفی کرد. این یک تغییر در مدل بار است، نه در معماری بنیادی.
این تغییر نحوهٔ مدیریت ابزار در سیستمهای عاملی را عوض میکند. توسعهدهندگان دیگر مجبور نیستند مدل را برای همهٔ توابع آماده کنند. تأثیر اصلی بر هزینهٔ استنتاج و دقت انتخاب ابزار است.
برای توسعهدهندگان ایرانی که به Gemini API دسترسی دارند، این ویژگی هزینه توکن برای پروژههای با ابزارهای متعدد را بهشدت کاهش میدهد. توجه به این نکته ضروری است که این قابلیت فقط در Interactions API (در دسترس از ژوئن ۲۰۲۶) فعال است و در متد قدیمی generateContent پشتیبانی نمیشود.
این ویژگی بار ابزار را از «تعداد کل» به «تعداد نیاز» تغییر میدهد. برای کاتالوگهای بزرگ، این صرفهجویی توکن قابل توجهی دارد، اما برای کاتالوگهای کوچک یا جستجوهای مکرر، هزینه تکرار زمینه (context) ممکن است بیشتر از صرفهجویی باشد. باید دید پس از انتشار نسخه نهایی، توسعهدهندگان چگونه این توازن را محاسبه میکنند.
منابع
راهنماهای داتهوش
راهنماهای کاربردیِ داتهوش برای کار با هوش مصنوعی — از همینجا شروع کنید:
- راهنمای پرامپتنویسیچطور درست بپرسی تا جوابِ بهتری بگیری
- ۱۰ پرامپتِ آمادهٔ فارسیقالبهای آماده برای کارهای روزمره
- ابزارهای رایگانِ هوش مصنوعیکدامها از داخلِ ایران باز میشوند
- معلمِ انگلیسیِ هوش مصنوعیهوش مصنوعی را به معلمِ خصوصیِ زبانت تبدیل کن
- تشخیصِ عکس و ویدیوی جعلینشانههای جعلِ هوش مصنوعی و دفاعِ پایدار
- امنیتِ داده در هوش مصنوعیچه چیزهایی را هرگز نباید وارد کنی
- اجرای هوش مصنوعی روی کامپیوترِ خودتراهنمای عملیِ مدلهای متنباز
- پرداخت برای هوش مصنوعیِ خارجیواقعیت، خطرها و جایگزینِ رایگان
- هوش مصنوعی و تکلیفِ درسیمرزِ کمکگرفتن و تقلب کجاست
- چرا هوش مصنوعیِ ایران عقب ماندریشههای عقبماندگی و راهِ واقعبینانهٔ جبران
داتهوش
راهنمای فارسی هوش مصنوعی — با نگاه به ایران
اخبار روزانه، معرفی ابزارها و مدلها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار میکند و چه چیزی نه.



گفتگو