اگر امروز در حال استقرار عامل‌های هوش مصنوعی در محیط عملیاتی هستید، احتمالاً متوجه شده‌اید که چک‌لیست‌های امنیتی قدیمی دیگر جواب نمی‌دهند. خطر «عامل‌های سرکش» که از محدوده اختیارات خود فراتر می‌روند یا حافظه را نشت می‌دهند، اکنون با یک استاندارد صنعتی قابل مدیریت است. این چالش‌ها در واقع تداوم همان مشکلاتی است که در شکست لیست‌های ابزارهای تأییدشده در برابر نشت داده‌های سازمانی به آن‌ها پرداختیم.
طبق اعلام trustcontrols.ai، در ۳۱ اوت ۲۰۲۶ چارچوبی به نام Agentic Trust Controls منتشر شد تا ریسک‌های خاص عامل‌های هوش مصنوعی (AI Agents) — که شبیه دستیارهای دیجیتالی هستند که می‌توانند به‌جای شما تصمیم بگیرند و ابزارها را اجرا کنند — مدیریت شود. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، استانداردهای سنتی برای نرم‌افزارهای ایستا طراحی شده‌اند، نه برای سیستم‌های خودمختاری که به‌طور پویا با محیط تعامل دارند.
بسیاری از سازمان‌ها برای حاکمیت داده‌ها به استانداردهایی مثل ISO 27001 یا ISO 42001 تکیه می‌کنند. بر اساس مستندات این پروژه، این استانداردها هرچند زیربنای محکمی هستند، اما از تیم‌ها می‌خواهند کنترل‌های تکمیلی برای فناوری‌های نوظهور را خودشان تعریف کنند؛ یعنی شرکت‌ها باید بدون نقشه راه، همه‌چیز را از صفر بسازند.
برای حل این مشکل، این چارچوب دو خط‌مشی یا بیس‌لاین مجزا معرفی کرده است:
- بیس‌لاین توسعه‌دهنده: شامل ۴۳ کنترل برای کسانی که عامل‌ها را می‌سازند. تمرکز این بخش بر هویت و صلاحیت، حفاظ‌ها (Guardrails) — که مثل نرده‌های ایمنی کنار جاده، مانع خروج مدل از مسیر تعیین‌شده می‌شوند — حفاظت از حافظه، یکپارچگی دستورات و تست‌های خصمانه است. این رویکرد تکمیلی برای ۱۵ قانون مهندسی تبدیل عامل‌ها به ابزارهای قابل‌اعتماد است که پیش‌تر بررسی کردیم.
- بیس‌لاین کاربر: شامل ۲۲ کنترل برای سازمان‌هایی که عامل‌های ساخته‌شده توسط دیگران را مستقر می‌کنند. این بخش مواردی چون بررسی تأمین‌کننده، کنترل اعتبارنامه‌ها، نظارت انسانی و آموزش کارکنان را پوشش می‌دهد.
این رویکرد، ایمنی هوش مصنوعی را از سیاست‌های انتزاعی به یک چک‌لیست «آماده برای فعال‌سازی» تبدیل می‌کند. با گسترش استانداردهای ISO به‌جای جایگزینی آن‌ها، موانع ورود عامل‌ها از آزمایشگاه‌های تحقیقاتی به محیط‌های تولیدی کاهش می‌یابد. این گام برای پر کردن شکاف میان تست و تضمین در مقیاس‌پذیری عامل‌ها حیاتی است تا سازمان‌ها با اطمینان بیشتری پیش بروند.
به باور تحلیلگران، این تغییر به معنای آن است که مدیریت ریسک دیگر بر پایه حدس و گمان نیست، بلکه بر اساس یک معیار صنعتی است.
گام بعدی شما
- فهرست تمام عامل‌های هوش مصنوعی فعال در سازمان خود را استخراج کنید.
- این موجودیت‌ها را با ۶۵ کنترل تعریف‌شده در Agentic Trust Controls تطبیق دهید.
- شکاف‌های امنیتی بحرانی را پیش از مقیاس‌دهی گردش‌کارهای عامل‌محور شناسایی و رفع کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو