تصور کنید یک برنامهنویس برای افزایش سرعت، دسترسی کامل به فایلهای تنظیمات سرور را به یک عامل هوش مصنوعی میدهد؛ در همین لحظه، ریسک نشت کلیدهای امنیتی به یک سرور خارجی آغاز میشود. اگر هنوز برای امنیت عاملهای خود تنها به محیطهای ایزوله (Sandbox) تکیه میکنید، باید بدانید که این ابزارها حافظهای از دادههای خواندهشده ندارند و در برابر حملات ترکیبی ناتواناند. این آسیبپذیریها پیشتر در موارد متعددی مشاهده شده است، از جمله حادثهای که در آن خطای تشخیص کلید امنیتی منجر به هزینههای سنگین شد.
به گزارش یک راهنمای فنی منتشر شده در ۹ سپتامبر ۲۰۲۶، ابزار Doberman برای حل این مشکل از روشی به نام ردیابی آلودگی (Taint Tracking) استفاده میکند. این تکنیک — شبیه به علامتگذاری قطرات رنگی در یک سیستم لولهکشی برای یافتن محل نشت — اجازه میدهد سیستم بفهمد دادهای که اکنون قصد خروج دارد، از کدام فایل خصوصی استخراج شده است. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، ترکیب دادههای خصوصی و دسترسی به شبکه، خطرناکترین نقطه برای هر سیستم عاملمحور است.
طبق مستندات این پروژه، Doberman با مدیریت وضعیت نشست (Session State) و طی یک جریان منطقی دقیق عمل میکند:
- تشخیص اسرار: وقتی یک عامل (Agent) — مثل دستیاری که کدهای شما را مینویسد — دادهای با ساختار «رمز یا کلید» را میخواند، سطح امنیتی نشست برای عملیات خروجی بالا میرود.
- ردیابی آلودگی: اگر در ادامه، یک درخواست شبکه حاوی مقداری باشد که با اسرار خواندهشده مطابقت دارد، سیستم بلافاصله دستور BLOCK را صادر میکند.
- گزارشهای حفظ حریم خصوصی: برای جلوگیری از ایجاد نسخههای جدید از رمزها، این ابزار بهجای ذخیره خودِ داده، اثر انگشت آن را با الگوریتم HMAC-SHA256 ذخیره میکند. این رویکرد به نوعی مشابه تلاشهای آنتروپیک برای نشانگذاری دیجیتال متنهای کلود است تا ردی از دادهها برای انطباق با قوانین امنیتی باقی بماند.
این رویکرد پارادایم امنیتی را از «آیا این دستور مجاز است؟» به «آیا این دستور با توجه به اتفاقات قبلی مجاز است؟» تغییر میدهد. در واقع، ابزارهای قانونی مثل curl که برای انتقال داده استفاده میشوند، دیگر نمیتوانند به سلاحی برای سرقت اطلاعات تبدیل شوند. در این راستا، برخی متخصصان پیشنهاد دادهاند که ثبت سوابق روی زنجیره (Blockchain) میتواند به کاهش خطاهای عملیاتی عاملهای هوش مصنوعی کمک کند.
با این حال، این سیستم محدودیتهایی دارد. Doberman بر اساس شکل و مقدار دادهها تطبیق میدهد؛ بنابراین هنوز قادر به شناسایی «نشت کدگذاریشده» نیست — یعنی زمانی که عامل، رمز را رمزنگاری کرده یا آن را در چندین درخواست تکهتکه میکند. این نقاط ضعف بهطور شفاف در بنچمارکهای مستندات پروژه ثبت شده است.
گام بعدی شما
- اگر از عاملهای کدنویسی در محیط محلی استفاده میکنید، ترکیب یک Sandbox برای محدود کردن اثر تخریب و Doberman برای کنترل دسترسیها را پیاده کنید.
- لیست فایلهای حساس (مانند .env) را در اولویت نظارت Doberman قرار دهید.
- برای دادههای بسیار حساس، از لایههای رمزنگاری پیش از دسترسی عامل استفاده کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو