تصور کنید یک عامل هوش مصنوعی در محیط عملیاتی سازمان شما، بهدلیل یک خطای استدلالی، دسترسیهای غیرمجاز پیدا کند و دادههای حساس را به بیرون ارسال کند. برای جلوگیری از این کابوس، شرکت Brex سیستم CrabTrap را معرفی کرد؛ یک پروکسی HTTP/HTTPS که میان عامل و تمامی درخواستهای شبکه قرار میگیرد تا بدون محدود کردن کاربردی بودن ابزار، امنیت را در سطح شبکه تضمین کند.
اکثر شرکتها سعی میکنند امنیت را با نوشتن طرحهای دسترسی سختگیرانه در SDKها تامین کنند، اما این روش با پیچیدهتر شدن عاملها شکست میخورد. پدرو فرانسشی (Pedro Franceschi)، مدیرعامل Brex، بر اساس مستندات داخلی شرکت استدلال میکند که هرچه یک عامل (Agent) — شبیه کارمندی است که میتواند بهتنهایی ابزارها را مدیریت کند — توانمندتر شود، خطرناکتر خواهد بود. به همین دلیل، CrabTrap بهجای کدهای ایستا، ترافیک واقعی را میپاید و سیاستهای امنیتی را بر اساس رفتار مشاهدهشده تدوین میکند.
همانطور که در تحلیل قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، لایههای حفاظتی باید با تکامل مدلها تغییر کنند. طبق گزارشی که در ۱۹ ژوئیه ۲۰۲۶ منتشر شد، این سامانه در لایه انتقال (Transport Layer) عمل میکند تا از بحثهای طولانی درباره دسترسی به کدها یا محدوده عملیاتی عبور کند. مکانیزم این ابزار بر سه محور استوار است:
- رصد ترافیک: پروکسی درخواستهای لحظهای را مانیتور میکند تا یک خط مبنای رفتاری (Behavioral Baseline) ایجاد کند.
- داوری مدل زبانی: یک مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — موارد استثنا را قضاوت میکند؛ البته این فرآیند تنها برای ۳ درصد درخواستها لازم است.
- سیاست پیشبینانه: پس از شناسایی الگو، سیستم بخش بزرگی از رفتار عامل را پیشبینیپذیر تشخیص داده و اتوماتیک مدیریت میکند.
با این حال، CrabTrap یک نقطه کور دارد: نمیتواند خروج دادهها را از طریق فراخوانیهای API قانونی و احرازشده متوقف کند. سایر بازیگران صنعت نیز از زوایای مختلف به این شکاف اعتماد حمله کردهاند. برای مثال، ابزار Agentic Guard MCP که هفته گذشته در PyPI منتشر شد، از تحلیل ایستا برای یافتن تزریق در توضیحات ابزار استفاده میکند. همچنین Tycho CLI تأیید آفلاین کدهای خروج فرآیند و تاریخچه گیت را فراهم میکند. در این مسیر، بهینهسازی هزینههای عملیاتی نیز اهمیت دارد؛ چنانکه سازوکار Headroom AI توانست تورم متنی در عاملهای هوشمند را به شکل چشمگیری کاهش دهد تا بهرهوری عاملها در محیطهای پیچیده افزایش یابد.
در کنار امنیت، حافظه نیز در حال تکامل است. شرکت Weaviate سرویس Engram را عرضه کرد؛ یک سرویس مدیریت زمینه که حافظههای معنایی، اپیزودیک و رویهای را مستقیماً در پایگاهداده برداری (Vector Database) — مثل یک بایگانی دیجیتال که مفاهیم را بهجای کلمات، کنار هم میچیند — ادغام میکند. این قابلیت اجازه میدهد توسعهدهندگان حافظه را بر اساس کاربر یا سازمان ایزوله کنند، که هزینه آن برای سطوح پولی از ۴۵ دلار در ماه شروع میشود.
برای کسانی که حریم خصوصی اولویت دارند، ابزار طراحی Paper امکان اتصال مدلهای محلی را از طریق پروتکل زمینه مدل (MCP) فراهم کرده است. این ابزار که توسط خالق Radix UI تاسیس شده، با هر المان بوم را بهصورت HTML/CSS واقعی میبیند و گامهای ترجمه برای عاملها را حذف میکند. در سطح رایگان، تا ۱۰۰ فراخوانی MCP در هفته پشتیبانی میشود.
این تغییرات نشان میدهد «عصر دمو» برای عاملهای هوش مصنوعی به پایان رسیده است. اکنون به سمتی میرویم که امنیت دیگر یک چکلیست نیست، بلکه نظارتی زنده بر سیمهای شبکه است. اثر ثانویه این روند، فاصله گرفتن از پوستههای ایمنی عمومی و حرکت به سمت زیرساختهای تخصصی مانند لایههای حافظه اختصاصی و دیوارههای آتش لایه انتقال است.
برای کسانی که عاملهای هوش مصنوعی را در محیط Production اجرا میکنند، بررسی کنید که آیا کنترل دسترسی شما در سطح SDK است یا لایه شبکه.
- پروتکل MCP را برای یکپارچهسازی مدلهای محلی با ابزارهای طراحی بررسی کنید تا وابستگی به APIهای ابری کم شود.
- مدلهای حافظه اپیزودیک در Weaviate را برای شخصیسازی عمیقتر تجربه کاربر مطالعه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو