تصور کنید یک عامل هوش مصنوعی مسئول بازپرداخت وام‌های مسکن یا مدیریت مراقبت‌های بهداشتی بیماران باشد؛ در چنین جایگاهی، یک خطای کوچک می‌تواند فاجعه‌بار باشد. اکنون بیش از ۴۰٪ از شرکت‌های لیست Fortune 50 برای مدیریت عملیات حساس خود به Sierra اعتماد کرده‌اند. علاوه بر این، یک از هر سه بانک پیشرو و پنج شرکت از هر ۱۰ شرکت بزرگ مراقبت‌های بهداشتی در سطح جهان نیز با این پلتفرم همکاری می‌کنند.
طبق اعلام این شرکت در ۱۷ سپتامبر ۲۰۲۶، پلتفرم آن‌ها موفق به دریافت گواهینامه AIUC-1 شد. این گواهینامه یک استاندارد امنیتی تخصصی برای عامل‌های هوش مصنوعی است. برخلاف استانداردهای مدیریتی کلی، AIUC-1 مستقیماً روی رفتار عامل (Agent) — شبیه به کارمندی دیجیتال که می‌تواند به‌جای صرفاً حرف زدن، واقعاً کارهایی را در سیستم انجام دهد — در محیط واقعی تمرکز دارد. این گواهینامه در زمانی صادر شده که سازمان‌ها از چت‌بات‌های ساده به سمت عامل‌های خودمختاری حرکت می‌کنند که قادر به عیب‌یابی مسائل فنی، حل دعاوی بیمه و تغییر داده‌های حساب‌های کاربری هستند.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های زبانی اشاره کردیم، گذار به عامل‌های خودمختار، ریسک‌های جدیدی مانند نشت داده‌های محافظت‌شده یا اجرای دستورات فراتر از سطح دسترسی را به همراه می‌آورد. استاندارد AIUC-1 توسط شرکت بیمه هوش مصنوعی (AIUC) تدوین شده است. این سازمان توسط متخصصانی از Anthropic تأسیس شد و با همکاری دفتر حقوقی Orrick، اتحادیه امنیت ابری (Cloud Security Alliance) و مؤسسه MITRE توسعه یافت. در تدوین این استاندارد، نظرات بیش از ۲۵۰ رهبر امنیتی از شرکت‌های Fortune 500 به کار گرفته شد تا شکاف موجود در تضمین فنی و قابل بازرسی عامل‌های هوش مصنوعی پر شود.
بر اساس مستندات منتشر شده، فرآیند تأیید شامل یک رویکرد سخت‌گیرانه دو محوره بود: نخست، اجرای هزاران سناریوی خصمانه توسط AIUC برای تحریک توهم (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که وجود ندارد — یا شکستن حفاظ‌ها (Jailbreaks). این تست‌ها شامل ۱,۰۰۰ تا ۵,۰۰۰ مورد تست مختلف بود که تعاملات روزمره و طیفی از شرایط صوتی واقعی را برای هر دو نوع عامل‌های متنی و صوتی پوشش می‌داد. دوم، بازرسی فنی، حقوقی، عملیاتی و حاکمیتی توسط شرکت Schellman که نخستین بازرس مجاز این استاندارد در ۳ فوریه ۲۰۲۶ شد، انجام گرفت تا اطمینان حاصل شود که Sierra تمام الزامات لازم را برآورده کرده است.
این چارچوب امنیتی ۶ حوزه حیاتی را پوشش می‌دهد تا تضمین شود عامل‌ها «سرکش» نمی‌شوند:
- امنیت: مقابله با تزریق پرامپت (Prompt Injection)، شکستن حفاظ‌ها و جلوگیری از اقدامات غیرمجاز.
- ایمنی: جلوگیری از تولید خروجی‌های مضر و تضمین نظارت انسانی بر فرآیندها.
- قابلیت اطمینان: کاهش توهمات و جلوگیری از فراخوانی‌های ناامن از ابزارها (Tool Calls).
- داده و حریم خصوصی: جلوگیری از نشت اطلاعات شناسایی شخصی (PII) و محافظت از داده‌های حساس.
- پاسخگویی: ثبت دقیق وقایع (Logging)، پاسخ به حوادث و حاکمیت سازمانی.
- جامعه: کاهش سوءاستفاده‌های سایبری و مدیریت ریسک‌های فاجعه‌بار.
فرآیند دریافت گواهینامه از چهار مرحله مجزا عبور می‌کند: تعیین محدوده (Scoping)، ارزیابی‌ها (Evals)، بازرسی (Audit) و در نهایت صدور گواهینامه. گواهینامه و گزارش بازرسی حاصل، تنها برای یک سال اعتبار دارند. برای حفظ این وضعیت، Sierra باید حداقل هر سه ماه یک‌بار ارزیابی‌های فنی و هر سال یک بازرسی کامل را پشت سر بگذارد. این چرخه تکرارشونده تضمین می‌کند که پلتفرم همگام با تهدیدات جدید هوش مصنوعی تکامل یابد.
استاندارد AIUC-1 با چندین چارچوب بزرگ دیگر هم‌راستا و متقاطع است، از جمله ISO 42001، MITRE ATLAS، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act)، چارچوب مدیریت ریسک هوش مصنوعی NIST و لیست ۱۰ مورد برتر OWASP. سازمان‌های دیگری که این گواهینامه را دریافت کرده‌اند شامل Cursor، Fin، ElevenLabs، Harvey، UiPath و KPMG هستند.
به گزارش پست معماری Sierra در ۱۳ اوت ۲۰۲۶، این پلتفرم از استراتژی «دفاع در عمق» (Defense-in-Depth) استفاده می‌کند تا از هرگونه شکست سیستمی جلوگیری کند. به‌جای تکیه بر یک فیلتر واحد، چهار لایه حفاظتی مجزا وجود دارد:
۱. مبنی‌سازی (Grounding) — شبیه به دانش‌آموزی که قبل از جواب دادن، اول کتاب درسی را باز می‌کند تا دقیقاً از روی منبع پاسخ دهد — پاسخ‌ها به پایگاه دانش خاص مشتری متصل می‌شوند تا صحت آن‌ها تضمین شود.
۲. سیاست‌های زبان طبیعی: قوانین و سیاست‌های صریحی که عامل باید در هر تعامل بدون استثنا رعایت کند.
۳. مدل‌های ناظر: بازرسانی در لحظه (Real-time) که می‌توانند پاسخ عامل را قبل از رسیدن به کاربر، مسدود، بازنویسی یا اصلاح کنند.
۴. حفاظ‌های قطعی: چک‌های سخت‌افزاری و کدگذاری‌شده که اصول مطلق را اجرا می‌کنند؛ مثلاً ابزارهای تغییر حساب را تا زمانی که مشتری به‌طور کامل احراز هویت نشده باشد، غیرقابل دسترس نگه می‌دارند.
این لایه‌ها باعث می‌شود هر پیام کاربر پیش از ارسال پاسخ، تا ۶ مرحله بررسی شود. علاوه بر این، Sierra میلیون‌ها تلاش خصمانه را با همکاری شخص ثالث انجام می‌دهد تا یافته‌ها را به سیستم بازگرداند. برای جلوگیری از پس‌رفت‌های امنیتی (Regressions)، Sierra از شبیه‌سازها برای تست استرس عامل‌ها پیش از انتشار هر تغییر استفاده می‌کند و ترافیک زنده را از طریق «تشخیص تهدید در سطح پلتفرم» و «ناظران اختصاصی هر عامل» مانیتور می‌کند.
این گواهینامه در کنار سبد انطباق فعلی Sierra قرار می‌گیرد. مرکز اعتماد Sierra استانداردهایی چون ISO/IEC 27001:2022، ISO/IEC 42001:2023، SOC 2، HIPAA، PCI DSS 4.0.1، GDPR، CCPA، CSA STAR، قانون هوش مصنوعی اتحادیه اروپا و FedRAMP High را لیست کرده است. در حالی که گواهینامه‌های SOC 2 Type II و ISO سیستم مدیریت را تأیید می‌کنند، AIUC-1 مدرکی فنی ارائه می‌دهد که ثابت می‌کند خودِ عامل‌ها در محیط عملیاتی ایمن هستند.
برای مدیران کسب‌وکار، این یعنی ریسک «هوش مصنوعی سرکش» اکنون به یک معیار قابل اندازه‌گیری و بازرسی تبدیل شده است. وقتی یک عامل قرار است خسارت‌های بیمه‌ای یا داده‌های بهداشتی را مدیریت کند، یک گزارش بازرسی مستقل ۵۰ صفحه‌ای بسیار ارزشمندتر از وعده‌های شفاهی فروشنده است. Sierra تأکید می‌کند که با وجود گواهینامه، این کسب‌وکارها هستند که تصمیم می‌گیرند عامل‌هایشان چگونه رفتار کنند، چه چیزهایی بدانند و به کدام سیستم‌ها دسترسی داشته باشند.
گام بعدی شما
- اگر در حال استقرار عامل‌های هوش مصنوعی در سازمان هستید، لیست ریسک‌های ۶گانه AIUC-1 را به‌عنوان چک‌لیست امنیتی خود به کار ببرید.
- در قرارداد با تأمین‌کنندگان AI، به‌جای گواهینامه‌های کلی مدیریتی، درخواست گزارش‌های بازرسی فنی (Technical Audit) کنید.
- معماری «دفاع در عمق» را با ترکیب مدل‌های ناظر و حفاظ‌های قطعی در سیستم خود پیاده کنید.
اما تأمین زیرساخت‌های سخت‌افزاری برای اجرای این لایه‌های حفاظی بدون افزایش تأخیر، چالش بعدی است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو