یک دستور تخریبی مانند DROP TABLE میتواند در چند میلیثانیه کل پایگاهداده شما را پاک کند و در این حالت، هشدارهای پس از اجرا عملاً بیفایده هستند. Bartholomew که در ۱۱ سپتامبر ۲۰۲۶ عرضه شد، با اجرا در داخل فرآیند عامل، فراخوانی ابزارها را پیش از رسیدن به سیستمعامل یا لایه پایگاهداده رهگیری میکند.
بسیاری از سامانههای ایمنی فعلی بر پایه پروکسیهای معکوس HTTP یا گزارشهای بازرسی (Audit Logs) هستند. این روشها یا تأخیری بین ۵۰ تا ۲۰۰ میلیثانیه به هر فراخوانی اضافه میکنند یا تنها پس از وقوع خسارت، توسعهدهندگان را مطلع میسازند. این چالشها در واقع تکرار همان نقاط ضعفی است که در بررسی باگهای بحرانی اتصال عاملها به API به آنها اشاره کرده بودیم. Bartholomew این وقفه را با یک سامانه ارزیابی درخت نحو انتزاعی (AST) — شبیه به یک ویراستار سختگیر که پیش از چاپ کتاب، ساختار جملات را برای یافتن خطاهای منطقی بررسی میکند — جایگزین کرده است.
به نقل از گزارش محک (Benchmark) این پروژه، سامانه مذکور به میانگین تأخیر ۲۹.۴۴ میکروثانیه (کمتر از ۰.۰۳ میلیثانیه) دست یافته و بیش از ۳۳,۹۰۰ ارزیابی را در هر ثانیه پردازش میکند. ویژگیهای فنی کلیدی این ابزار عبارتاند از:
- پشتیبانی از مدلهای پیشرو: نرمالسازی بومی برای OpenAI GPT-Astra، Anthropic Claude 3.7، Google Gemini 3.8/2.0 و DeepSeek-R1.
- همراهِ نگهبان (The Sentinel Companion): بهجای نمایش خطای خشک ۴۰۳، راهنماییهای همدلانهای ارائه میدهد تا عاملها بتوانند توهم (Hallucination) — مثل دوستی که با اطمینان خاطرهای اشتباه تعریف میکند — را بهصورت ایمن اصلاح کنند.
- آداپتورهای چندعاملی: لایههای حفاظتی آماده برای CrewAI، LangGraph، Microsoft AutoGen و LlamaIndex.
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، جابهجایی از مدل «بازرسی پس از اجرا» به «رهگیری پیش از اجرا»، فرض بنیادین امنیت عاملها را تغییر میدهد. این رویکرد در واقع تکاملیافتهی مفاهیمی است که در مقایسه GuardRail با فیلترهای متنی برای جلوگیری از حذف دادههای عملیاتی بررسی کردیم. طبق مستندات پروژه، با انتقال حفاظها (Guardrails) به داخل فرآیندهای پایتون، گو یا راست، توسعهدهندگان میتوانند بدون کاهش توان عملیاتی یا ریسک تزریق دستورات مخرب به شل (Shell Injection)، دستههای بزرگی از عاملها را مستقر کنند. این اقدام برای جلوگیری از تبدیل شدن عاملها به نایبهای سردرگمی که دسترسیهای مدیریتی خطرناکی دارند، حیاتی است.
گام بعدی شما
- با دستور
pip install --upgrade btp-guardاین سامانه را نصب کنید تا اثرات دستورات تخریبی را در ترمینال خود شبیهسازی کنید. - بررسی کنید که آیا مدلهای استدلالی شما در زنجیرههای پیچیده، همچنان از این فیلترهای AST عبور میکنند یا خیر.
- ساختار حفاظهای داخلی خود را با استانداردهای Bartholomew مقایسه کنید تا گلوگاههای تأخیر را شناسایی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو