تصور کنید یک مدیر محصول که به جای نوشتن دستورات مکرر، به یک عامل هوشمند اجازه می‌دهد مستقیماً روی پایگاه‌داده‌های حساس شرکت تغییرات ایجاد کند، اما با این اطمینان که هیچ دسترسی غیرمجازی رخ نمی‌دهد. در ۲۸ سپتامبر ۲۰۲۶، آنتروپیک (Anthropic) با معرفی Claude Managed Agents، گامی بلند برای تبدیل هوش مصنوعی از یک ابزار پرسش‌وپاسخ به نیرویی اجرایی برداشت. این مجموعه از APIهای ترکیب‌پذیر طراحی شده است تا عامل‌هایی در سطح تولید (Production-grade) مستقر کند که بتوانند به‌جای کاربران، اقدامات عملی انجام دهند.
این گذار، شکاف امنیتی بزرگی ایجاد می‌کند. وقتی یک عامل (Agent) — شبیه به کارمندی که اجازه دارد در جای شما ایمیل بزند یا فایل‌ها را جابه‌جا کند — به داده‌های محرمانه و سیستم‌های داخلی دسترسی پیدا می‌کند، خطر اقدامات غیرمجاز افزایش می‌یابد. طبق اعلام آنتروپیک، با پیشرفت مدل‌ها و یافتن کاربردهای بیشتر برای عامل‌ها، افزایش سطح دسترسی نیازمند کنترل‌های سخت‌گیرانه‌تر و بررسی دقیق‌تر رفتار عامل‌ها است. همان‌طور که در تحلیل قبلی ما درباره‌ی مدیریت تداخل عامل‌ها در Claude Code از طریق Git worktrees اشاره کردیم، تمرکز اکنون از مدیریت کد به لایه‌ی امنیتی گسترده‌تر محیط اجرای عامل منتقل شده است.
برای پر کردن این شکاف، آنتروپیک با انویدیا (NVIDIA) همکاری کرد تا OpenShell را که یک محیط اجرای امن و متن‌باز است، یکپارچه کند. هم‌زمان، انویدیا از Open Agent Safety Platform پرده‌برداری کرد؛ یک طراحی مرجع برای سیستم‌های تقویت امنیت هوش مصنوعی. این پلتفرم ترکیبی از محیط اجرای امن OpenShell، سیستم NVIDIA Sentry و اجرای امنیتی در سطح سخت‌افزار (In-silicon) توسط تراشه‌های BlueField-4 است.
در حالی که حفاظ‌ها در داخل مدل وجود دارند، OpenShell لایه‌ای از محافظت را در بیرون از مدل ایجاد می‌کند. آنتروپیک این رویکرد را «لایه‌بندی شده» می‌نامد؛ یعنی حفاظ‌های داخلی مدل و محدودیت‌های خارجی محیط به‌طور مستقل مرزها را اجرا می‌کنند. این طراحی ماژولار تضمین می‌کند که محافظت به هیچ لایه‌ی واحدی وابسته نباشد و به مشتریان اجازه می‌دهد قطعات امنیتی خاصی را که با زیرساخت آن‌ها سازگار است، انتخاب کنند. این رویکرد در راستای جلوگیری از وابستگی شدید به یک ارائه‌دهنده خاص (Vendor Lock-in) است که در آن زیرساخت‌های ماژولار جایگزین اکوسیستم‌های بسته می‌شوند.
معماری عامل‌های مدیریت‌شده
سیستم Claude Managed Agents منطق عامل را از محیط اجرای آن جدا می‌کند. این ساختار ردپای تمامی اقدامات (Audit trails) را ثبت کرده و مستقیماً با کنترل‌های دسترسی فعلی شرکت‌ها یکپارچه می‌شود. ویژگی‌های فنی کلیدی عبارت‌اند از:
- سندباکس‌های ایزوله: حلقه اجرای عامل روی سروری جدا از محیط عملیاتی (Sandbox) قرار دارد تا عامل نتواند به سیستم میزبان دسترسی پیدا کند. شرکت‌ها می‌توانند تنظیمات سندباکس خود را ارائه دهند و محل اجرای آن را انتخاب کنند.
- گاوصندوق اعتبارنامه‌ها: رمزها و کلیدهای دسترسی در یک فضای مجزا (Vault) ذخیره می‌شوند و برای عامل نامرئی هستند.
- هماهنگی چندعاملی: عامل‌ها می‌توانند عامل‌های دیگر را ایجاد و برای تقسیم وظایف پیچیده، آن‌ها را هدایت کنند.
- تداوم عملیاتی: جلسات طولانی می‌توانند ساعت‌ها به‌طور خودکار اجرا شوند و حتی در صورت قطع اتصال کاربر، پیشرفت‌ها و خروجی‌ها را حفظ کنند.
- حکمرانی: مدیریت هویت داخلی و ردیابی اجرا (Execution tracing) اجازه می‌دهد عامل‌ها با مجوزهای بسیار محدود و تعریف‌شده به سیستم‌های واقعی دسترسی داشته باشند.
نظارت سخت‌گیرانه‌ی NVIDIA OpenShell
OpenShell در واقع «نرده‌های ایمنی» (Guardrails) رفتار عامل است. این سیستم بر اساس اصل «رد پیش‌فرض» (Deny by default) کار می‌کند؛ یعنی عامل اجازه ندارد به هیچ فایل یا اتصال شبکه‌ای دسترسی داشته باشد، مگر اینکه قانونی صریح و مکتوب برای آن اجازه داده باشد. این سیستم هر ابزاری را که عامل سعی در استفاده از آن دارد غربال کرده و هر تصمیم مربوط به اجازه یا مسدودسازی را ثبت می‌کند.
طبق مستندات انویدیا، این سیستم از چهار جزء اصلی برای تضمین امنیت استفاده می‌کند:
۱. سندباکس‌های عامل: ایزولاسیون در سطح هسته (Kernel) را فراهم کرده و تماس‌های سیستمی را در هسته فیلتر می‌کنند تا از دسترسی مستقیم به شبکه جلوگیری شود.
۲. درگاه (Gateway): به عنوان لایه‌ی کنترل (Control plane) عمل می‌کند، چرخه حیات سندباکس را مدیریت، کاربران را احراز هویت و تمام دسترسی‌ها به سندباکس‌ها را میانجی‌گری می‌کند.
۳. ناظر (Supervisor): هر درخواست شبکه را در لحظه بر اساس سیاست‌های مربوط به فایل باینری، مقصد، متد و مسیر (Path-level) می‌سنجد و اعتبارنامه‌ها را فقط در صورت تایید سیاست‌ها صادر می‌کند.
۴. اثبات‌گر سیاست (Policy Prover): با استفاده از تایید رسمی ریاضی (Mathematical formal verification) ثابت می‌کند که قوانین نوشته‌شده در مرزهای دسترسی مجاز باقی می‌مانند و تضمین می‌کند قوانین پیشنهادی شبکه، دسترسی‌های ریسکی ایجاد نکنند.
سیاست‌ها در قالب فایل‌های YAML تعریف می‌شوند و چهار لایه‌ی سیستم فایل، شبکه، فرآیندها و اعتبارنامه‌های ارائه‌دهنده را پوشش می‌دهند. این ساختار به‌طور مستقیم ریسک‌هایی مثل نشت داده‌ها (Data exfiltration)، سرقت اعتبارنامه‌ها، استفاده غیرمجاز از API و ارتقای سطح دسترسی (Privilege escalation) را کاهش می‌دهد. تیم‌ها می‌توانند با مجوزهای محدود شروع کنند، گزارش‌ها را بررسی کرده و سپس با کمک خودِ کلود، قوانین را به سمت «حداقل دسترسی» (Least access) مورد نیاز برای هر وظیفه سخت‌گیرانه‌تر کنند.
سازگاری و استقرار در دنیای واقعی
انویدیا اعلام کرده است که OpenShell مستقل از نوع مدل (Model-agnostic) و مستقل از نوع چارچوب (Harness-agnostic) است. این سیستم از مسیرهای مختلف عامل‌ها، از جمله Claude Code، Codex، GitHub Copilot CLI، Hermes، LangChain Deep Agents، OpenClaw و OpenCode پشتیبانی می‌کند. این زیرساخت را می‌توان در ابر، محیط‌های ترکیبی (Hybrid)، درون‌سازمانی (On-premises)، لبه (Edge) و حتی زیرساخت‌های کاملاً ایزوله (Air-gapped) مستقر کرد.
سه شرکت پیشرو در حال حاضر از این ابزارها در محیط تولید استفاده می‌کنند:
- Notion: به تیم‌ها اجازه می‌دهد کارها را به کلود در داخل فضای کاری خود بسپارند. مهندسان از آن برای ارسال کد (Ship code) استفاده می‌کنند، در حالی که سایر کارکنان وب‌سایت‌ها و ارائه‌های خود را با اجرای ده‌ها وظیفه به‌صورت موازی تولید می‌کنند.
- Rakuten: عامل‌های متخصص را در بخش‌های مهندسی، محصول، فروش، بازاریابی و مالی مستقر کرده است، به‌طوری که هر عامل در کمتر از یک هفته فعال شده است.
- Asana: عامل‌ها را به عنوان «هم‌تیمی‌های هوش مصنوعی» (AI Teammates) برای برعهده گرفتن وظایف و پیش‌نویس خروجی‌ها به کار گرفته است و از Managed Agents برای افزودن سریع‌تر ویژگی‌های پیشرفته استفاده می‌کند.
برای یک مدیر کسب‌وکار، این یعنی مشکل «جعبه سیاه» هوش مصنوعی با یک ردپای قابل حسابرسی جایگزین شده است. دیگر نیازی نیست «امیدوار» باشید که مدل درست رفتار کند؛ بلکه می‌توانید به‌صورت ریاضی ثابت کنید عامل چه کارهایی را فیزیکی می‌تواند انجام دهد. این موضوع مانع اصلی برای دادن دسترسی به پایگاه‌های داده حساس شرکتی را از بین می‌برد.
شرکت‌ها اکنون می‌توانند انتخاب کنند که این سندباکس‌ها را روی زیرساخت خود یا از طریق یک ارائه‌دهنده مدیریت‌شده اجرا کنند. OpenShell تحت مجوز Apache 2.0 در گیت‌هاب و صفحه منابع توسعه‌دهندگان انویدیا در دسترس است.
گام بعدی شما
- اگر از عامل‌های هوش مصنوعی در محیط تولید استفاده می‌کنید، مدل «دسترسی حداقلی» (Least Privilege) را جایگزین دسترسی‌های گسترده کنید.
- مستندات OpenShell را در گیت‌هاب بررسی کنید تا متوجه شوید چگونه می‌توانید محیط اجرای مدل‌های خود را ایزوله کنید.
- برای کاهش ریسک نشت داده، اعتبارنامه‌های API را از محیط اجرای مدل جدا کرده و در یک Vault قرار دهید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell و نقش آن‌ها در استنتاج سریع‌تر مراجعه کنید.
گفتگو