اگر امروز برای کنترل عامل‌های هوش مصنوعی روی پرامپت‌های طولانی حساب می‌کنید، در واقع در حال باختن یک جنگ فرسایشی هستید. تصور کنید تمام تلاش شما برای امن کردن یک سیستم، به چند خط دستور متکی باشد که مدل هر لحظه ممکن است نادیده بگیرد.
در ۲ ژوئن ۲۰۲۶، مایکروسافت استاندارد ACS (Agent Control Specification) را معرفی کرد. این ابزار قرار است پرامپت‌های شکننده را با یک لایه‌ی حاکمیتی جایگزین کند. عامل (Agent) — مثل کارمند متخصصی که فقط حرف نمی‌زند، بلکه واقعاً کارهای اداری را برای شما انجام می‌دهد — حالا نیاز به نظارت دقیق‌تری دارد. همان‌طور که در تحلیل قبلی ما درباره‌ی کاهش هزینه‌های مدل MAI-Code-1-Flash اشاره کردیم، مایکروسافت حالا تمرکز خود را از قیمت به قابلیت اطمینان در زمان اجرا تغییر داده است.
به گزارش TechCrunch، استاندارد ACS از فایل‌های سیاست‌گذاری واحد استفاده می‌کند. این قوانین در چهار نقطه کلیدی اعمال می‌شوند:
- قبل از دریافت ورودی توسط عامل
- قبل از فراخوانی یک ابزار
- بعد از بازگشت نتیجه از ابزار
- قبل از رسیدن پاسخ نهایی به کاربر
این سیاست‌ها می‌توانند دسترسی‌ها را مسدود کنند یا داده‌های حساس را پاک کنند. طبق اعلام مایکروسافت، SDK این ابزار در حال حاضر افزونه‌هایی برای LangChain، AutoGen، CrewAI و Semantic Kernel دارد. همچنین ابزاری به نام ASSERT برای تست رفتارهای مدل با توصیحات متنی ساده معرفی شده است.
این تغییر، ایمنی هوش مصنوعی را از یک «هنر پرامپت‌نویسی» به یک «رشته مهندسی» تبدیل می‌کند. با جدا کردن قوانین از پرامپت، تیم‌های امنیتی می‌توانند همان سیاست‌ها را روی مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — مختلف اعمال کنند. دیگر لازم نیست به شهود مدل اعتماد کنید؛ حالا می‌توانید به یک فایل سیاست‌گذاری سخت‌کد شده تکیه کنید.
گام بعدی شما
- SDK متن‌باز ACS را بررسی کنید تا ببینید عامل‌های فعلی شما با استانداردهای امنیتی جدید هم‌خوانی دارند یا خیر.
- ابزار ASSERT را برای تست خودکار رفتارهای عامل‌هایتان به کار بگیرید.
- منتظر بمانید و ببینید آیا سایر ارائه‌دهندگان فریم‌ورک برای جلوگیری از انحصار مایکروسافت، این استاندارد را می‌پذیرند یا خیر.
اما این استاندارد تنها بخشی از پازل است؛ برای درک نحوه تعامل این لایه با سخت‌افزارهای جدید، تحلیل ما درباره‌ی تراشه‌های Blackwell را بخوانید.
گفتگو