گارتنر: ۴۰٪ از عامل‌های هوش مصنوعی سازمانی تا سال ۲۰۲۷ بازنشسته می‌شوند

اگر امروز در حال استقرار عامل‌های هوش مصنوعی در سازمان خود هستید، احتمالاً با بمب ساعتیِ مدیریتی رو‌به‌رو هستید که تا سه سال آینده فعال می‌شود. طبق پیش‌بینی گارتنر (Gartner)، ۴۰ درصد از سازمان‌ها تا سال ۲۰۲۷ مجبور خواهند شد عامل‌های هوش مصنوعی (AI Agents) خود را کاهش داده یا به‌طور کامل متوقف کنند.

این شکست نتیجه‌ی ضعف در خودِ فناوری نیست، بلکه حاصل فروپاشی چارچوب‌های حکمرانی است که نمی‌توانند با سرعتِ نرم‌افزارهای ماشین‌محور همگام شوند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شکاف میان سرعت توسعه و سرعت نظارت، بزرگ‌ترین نقطه ضعف زیرساخت‌های فعلی است.

به نقل از شیوا وارما (Shiva Varma)، مدیر ارشد تحلیلگران گارتنر، اکثر سازمان‌ها در حال حاضر تحت چیزی به نام «حکمرانی دوتایی» عمل می‌کنند. در این مدل، عامل‌ها یا کاملاً محدود می‌شوند یا به‌طور کامل مورد اعتماد قرار می‌گیرند و هیچ فضای میانی برای مدیریت دقیق ریسک وجود ندارد.

شکست کنترل‌های ایستا

وقتی بخش‌های IT ممنوعیت‌های مطلق وضع می‌کنند، ناخواسته باعث ایجاد «هوش مصنوعی سایه» (Shadow AI) می‌شوند. توسعه‌دهندگان، که تحت فشار نیاز به حل سریع مشکلات هستند، کنترل‌های بوروکراتیک را دور می‌زنند تا از ابزارهای آزمایش‌نشده استفاده کنند. در مقابل، استقرار عامل‌ها بدون حفاظ‌ها (Guardrails) کافی، سازمان را در معرض ریسک‌های امنیتی، انطباقی (Compliance) و عملیاتی قرار می‌دهد که با رشد تعداد عامل‌ها، به‌صورت تصاعدی افزایش می‌یابند.

عصر حکمرانی «یک نسخه برای همه» به پایان رسیده است؛ زیرا این سیستم‌ها پروفایل‌های ریسک یکسانی ندارند. آن‌ها در نرم‌افزار زیربنایی، قابلیت‌ها، سطح دسترسی و درجه استقلال با هم متفاوت‌اند. اعمال کنترل‌های ایستا و صنعتیِ دوران گذشته بر نرم‌افزارهای با سرعت ماشین، عملاً بی‌فایده است و هرگز جواب نخواهد داد.

پشته نرم‌افزاری عامل‌محور

حکمرانی مؤثر مستلزم این است که با عامل‌های هوش مصنوعی به‌جای ابزارهای یکپارچه و تک‌بعدی، به‌عنوان اکوسیستم‌های پیچیده نرم‌افزاری برخورد شود. کنترل واقعی به معنای مدیریت تمام عناصر نرم‌افزاری است که در ساخت یک عامل به کار می‌روند. هر عامل مستقل از یک پشته (Stack) شناخته‌شده ساخته شده که هر لایه از آن، آسیب‌پذیری‌های خاص خود را معرفی می‌کند:

• مدل‌های بنیادی (Foundation Models): لایه اصلی هوش و هسته مرکزی پردازش.
• سرورهای پروتکل زمینه مدل (MCP Servers): این‌ها عامل‌ها را به داده‌های داخلی شرکت و سیستم‌های خارجی متصل می‌کنند. از آنجا که این سرورها مانند هر نرم‌افزار دیگری قابل دانلود هستند، نسخه‌های تأییدنشده می‌توانند به دروازه‌ای باز برای هکرها تبدیل شوند.
• پلاگین‌ها (Plugins): افزونه‌هایی که قابلیت‌های خاصی را اضافه می‌کنند. این‌ها بسته به پلتفرم متفاوت‌اند؛ برای مثال، یک پلاگین OpenAI در Microsoft Copilot کار نمی‌کند. این یعنی شرکت‌ها باید نسخه‌های متعددی را مدیریت کنند، در حالی که تنها یک پلاگین مخرب می‌تواند اطلاعات حساس را سرقت کند.
• فایل‌های مهارت (Skill Files): مجموعه‌ای از دستورالعمل‌ها که رفتار عامل را تعریف می‌کنند. از آنجا که توسعه‌دهندگان اغلب این فایل‌ها را از منابع جامعه (Community) دریافت می‌کنند، یک فایل مهارت فاسد یا دست‌کاری شده می‌تواند به‌طور خاموش نحوه عملکرد عامل را تغییر دهد.
• نرم‌افزارهای متن‌باز: در زیربنای قابلیت‌های کدنویسیِ عامل‌ها، بهره‌برداری از باینری‌های متن‌باز قرار دارد. عامل‌های کدنویس ممکن است بدون اینکه متوجه ریسک شوند، به‌جای بسته‌های امن، از پکیج‌های مخرب استفاده کنند.

آسیب‌پذیری‌های زنجیره تأمین

از آنجا که این اجزا اغلب به‌جای «کد»، به‌عنوان «تنظیمات» (Configuration) دیده می‌شوند، از بررسی‌های امنیتی استاندارد عبور می‌کنند. بسیاری از تیم‌ها به‌اشتباه عامل‌ها را «قابل اعتماد و مطمئن» می‌بینند و وابستگی‌ها را بر اساس اعتماد مدیریت می‌کنند، نه بر اساس بررسی‌های دقیق و فنی.

به گزارش JFrog Security Research، اخیراً ریسک‌های بحرانی در سرور mcp-run-python شناسایی شده است. این تحقیق یک نقص جعل درخواست سمت سرور یا SSRF با شناسه (CVE-2026-25904) و یک آسیب‌پذیری مربوط به نبود ایزولاسیون با شناسه (CVE-2026-25905) را شناسایی کرد. این نقص‌ها می‌توانند منجر به تسلط کامل بر MCP شوند و به مهاجم اجازه دهند از یک فراخوانی ابزار توسط عامل، به کل شبکه سازمانی نفوذ کند.

به همین ترتیب، فایل‌های مهارت فاسد شده که از مخازن جامعه دریافت می‌شوند، می‌توانند منطق عملیاتی یک عامل را بدون فعال کردن هشدارهای سنتی تغییر دهند. این نبودِ دید (Visibility) باعث می‌شود عامل‌ها در برابر حملات زنجیره تأمین به‌شدت آسیب‌پذیر باشند.

پیاده‌سازی سامانه ثبت (System of Record)

برای عبور از کنترل‌های سخت‌گیرانه و صلب، سازمان‌ها باید یک «سامانه ثبت» برای تمام اجزای هوش مصنوعی ایجاد کنند. رقابت برای استقرار عامل‌های هوش مصنوعی سازمانی را نمی‌توان با طرز فکر دیروز برد. تحمیل زنجیره‌های تأیید دستی، سنگین و یکپارچه، نوآوری را خفه می‌کند و در مقابل، رها کردن عامل‌ها بدون نظارت، ریسک‌های غیرضروری می‌آفریند.

یک سامانه ثبت به سازمان‌ها اجازه می‌دهد رویکردی لایه‌ای برای ایمن‌سازی بسته‌ها، باینری‌ها، MCPها، مهارت‌ها و وابستگی‌ها اتخاذ کنند. این سیستم آن‌ها را قادر می‌سازد تا:

• تمام اجزای مورد استفاده در سراسر سازمان را کیوریت (Curate) و فهرست کنند.
• هر المان را پیش از استفاده به‌طور کامل اسکن کنند.
• سیاست‌ها را در زمان درست از چرخه حیات توسعه اعمال کنند.
• قابلیت بازگشت (Rollback) فوری در صورت بروز مشکل را داشته باشند.

با داشتن این سطح از دید، وقتی آسیب‌پذیری بعدی افشا می‌شود، پاسخ به سؤال «آیا ما در معرض خطر هستیم؟» به‌جای چند روز، در عرض چند دقیقه داده می‌شود.

اجرای پویا در زمان اجرا (Runtime)

بررسی‌های ایستا برای عامل‌هایی که در هر دقیقه صدها تصمیم می‌گیرند، کافی نیست. این عامل‌ها سریع‌تر از آنکه کنترل‌های سنتی بتوانند با آن‌ها همگام شوند، ابزارها را به صورت زنجیره‌ای فراخوانی کرده، به داده‌ها دسترسی پیدا می‌کنند و کد اجرا می‌کنند. آن‌ها یک سطح حمله گسترده‌تر و به‌مراتب سریع‌تر ایجاد می‌کنند.

این سیستم‌ها به «اجرای پویای زمان اجرا» نیاز دارند؛ در واقع یک «کلید قطع‌کننده» (Circuit Breaker) که بتواند رفتار غیرعادی را در لحظه وقوع شناسایی کند. این قابلیت به تیم‌های امنیتی اجازه می‌دهد پیش از گسترش آسیب، با روش‌های زیر مداخله کنند:

• لغو دسترسی به یک مهارتِ به خطر افتاده.
• قطع اتصال از یک بستر داده‌ای (Context) غیرقابل اعتماد.
• مسدود کردن یک فراخوانی ابزار خاص در همان لحظه‌ای که اتفاق اشتباهی رخ می‌دهد.

مسیر چهار مرحله‌ای برای بازیابی

حکمرانی یکنواخت و سخت‌گیرانه، مسیری تضمین شده به سوی شکست است. «بدهی حکمرانی» (Governance Debt) همزمان با شتاب در استقرار عامل‌ها، انباشته می‌شود. رهبران امنیت و مهندسی می‌توانند با پیروی از یک چارچوب لایه‌ای، این ریسک را کاهش دهند:

۱. سرمایه‌گذاری روی موجودی (Inventory): تمام عامل‌ها، سرورهای MCP، پلاگین‌ها و فایل‌های مهارت در حال اجرا در سازمان خود را نقشه‌برداری کنید. اکثر سازمان‌ها نمی‌توانند این اجزا را به‌طور کامل شناسایی کنند، و شما نمی‌توانید چیزی را که نمی‌دانید وجود دارد، مدیریت کنید.

۲. برخورد با اجزا به‌عنوان آرتیفکت: سرورهای MCP، فایل‌های مهارت و پلاگین‌ها «کد» هستند، نه «تنظیمات». همان فرآیندهای بررسی، اسکن و ردیابی منشأ (Provenance) را که برای هر کتابخانه شخص ثالث به کار می‌برید، برای این‌ها نیز اعمال کنید.

۳. کالیبره کردن بر اساس استقلال: تعریف کنید که «استقلال بالا» (High-Autonomy) برای سازمان شما دقیقاً به چه معناست. یک چارچوب سیاست‌گذاری لایه‌ای بسازید که در آن عامل‌های با استقلال بالا، تحت نظارت زمان اجرا (Runtime Enforcement) باشند؛ این کار را از حساس‌ترین سیستم‌ها شروع کرده و به بیرون گسترش دهید.

۴. اتوماسیون تأییدیه: هوش مصنوعی سایه، در واقع مشکلی ناشی از اصطکاک است. اگر تأیید یک سرور MCP جدید دو هفته زمان ببرد، توسعه‌دهندگان راهی برای دور زدن آن پیدا می‌کنند. زنجیره‌های تأیید دستی را با اسکن‌های خودکار و اجرای شفاف سیاست‌ها جایگزین کنید تا بتوانید با سرعت توسعه هوش مصنوعی مقیاس‌پذیر شوید.

این تغییر، فرض بنیادی استقرار هوش مصنوعی را تغییر می‌دهد: حکمرانی دیگر مانعی نیست که باید در ابتدای راه از آن عبور کرد، بلکه یک فرآیند مستمر و خودکار است که دقیقاً بازتاب‌دهنده پروفایل ریسک هر عامل به‌صورت مجزا است.

اما تهدیدات امنیتی تنها بخشی از این معادله است؛ اثر این نقص‌های ساختاری بر هزینه‌های استنتاج در مقیاس سازمانی را در گزارش بعدی بررسی خواهیم کرد.