اگر امروز هزینههای استنتاج مدلهای زبانی در سازمانتانout of control است، کاهش ۶۰ درصدی فراخوانیها در یک محیط عملیاتی واقعی، خبر مهمی برای شماست. این نتیجهی یک چرخه بهینهسازی سختگیرانه است که تیم Elastic InfoSec برای مدیریت مرکز عملیات امنیت (SOC) عاملمحور خود طراحی کرده است.
به نقل از گزارش ۲۹ جولای ۲۰۲۶ در وبسایت dev.to، این تیم ۱۴ عامل (Agent) — شبیه به کارمندانی دیجیتال که میتوانند ابزارهای مختلف را برای حل یک مسئله به کار بگیرند — را مدیریت میکند. این عاملها در ابتدا با مصرف توکنهای بسیار بالا و هزینههای عملیاتی سنگین مواجه بودند. این چالش با یافتههای اخیر همسو است که نشان میدهد مصرف انرژی عاملها در مقایسه با چتباتهای ساده به طور قابل توجهی بیشتر است. همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، عبور از مرحله «دمو» به مرحله «تولید»، نیازمند مهندسی دقیق است، نه فقط پرامپتهای جذاب.
این تلاش در واقع واکنشی به ضعفهای رایج در پیادهسازیهای اولیه است. بسیاری از سیستمها بر پایه APIهای بیحافظه و حلقههای فراخوانی ابزار سادهای هستند که مستعد تکرار بیپایاناند. در مقابل، Elastic به سمت مهندسی در سطح تولید حرکت میکند تا قابلیت اطمینان را جایگزین حدس و گمان کند. این رویکرد در راستای تغییر دیدگاههای صنعتی است، چرا که برخی از پیشگامان سختافزاری معتقدند موفقیت مدلهای عاملمحور بیش از آنکه به تعداد عاملها وابسته باشد، به مدیریت چگالی پردازشی بستگی دارد.
بر اساس مستندات منتشرشده، این فرآیند بهینهسازی از یک نظم پنجمرحلهای پیروی میکند:
- اندازهگیری خطبنیاد (Baseline) عملکرد فعلی.
- استخراج گفتگوهای نمونه و representative.
- تحلیل ردپای (Trace) گفتگوها برای شناسایی الگوهای تکراری.
- بازنگری در دستورالعملهای عامل بر اساس الگوهای شناساییشده.
- تایید نهایی در محیط QA پیش از استقرار.
برای رسیدن به کاهش ۶۰ درصدی، Elastic InfoSec «بودجههای متنی» مبهم را با چکلیستهای توقف concrete جایگزین کرد. آنها همچنین قوانینی صریح اضافه کردند تا عاملها از درخواست مجدد دادههایی که پیشتر در تاریخچه گفتگو موجود بود، منع شوند. این یعنی مدل دیگر نباید برای هر پاسخ، تمام پرونده را از ابتدا بخواند.
برای متخصصان، این تغییر معنای آن است که هدف از توسعه عامل، از مهندسی پرامپت (Prompt Engineering) — یعنی هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — به یک «چرخه مهندسی تکرارپذیر» تغییر یافته است. این رویکرد نشان میدهد که هزینههای پایین و پیشبینیپذیر در تولید، نیازمند نظارت مداوم بر «رانش» (Drift) است؛ جایی که تغییر در ورودیهای واقعی دنیا، میتواند ناگهان ناکارآمدیها را بازگرداند.
گام بعدی شما
- ردپاهای (Traces) عاملهای خود را برای شناسایی حلقههای «بازگشت بینهایت» (Infinite Recursion) بازبینی کنید.
- معیارهای توقف صریح (Explicit Stopping Criteria) را برای جلوگیری از نشت توکنها پیاده کنید.
- برای کاهش وابستگی به تأخیر APIهای گرانقیمت، روی استقرار مدلهای با وزنهای باز (Open Weights) تمرکز کنید.
اما داستان سختافزاری این بهرهوری حتی شگفتانگیزتر است؛ برای درک لایهی زیرساختی این کاهش هزینهها، تحلیل ما دربارهی تراشههای Blackwell را بخوانید.
گفتگو