تصور کنید یک مدیر فناوری اطلاعات در شرکتی بزرگ باشد که ناگهان متوجه شود صدها عامل هوش مصنوعی بدون نظارت مرکزی، به حساسترین دادههای سازمان دسترسی دارند. این کابوس امنیتی زمانی رخ میدهد که کاربران بدون خواندن شرایط، روی دکمه «Allow» در پاپآپهای مرورگر کلیک میکنند.
به نقل از میگل پدریگوسا (Miguel Pedregosa)، مهندس ارشد نرمافزار در Auth0، این مجوزهای کورکورانه اغلب خارج از سیستمهای مدیریت هویت سازمان رخ میدهند و شرکتها را نسبت به آنچه عاملها به آن دسترسی دارند، کاملاً بیخبر میگذارند. این آسیبپذیری درست زمانی ظاهر شده که کسبوکارها برای استقرار عامل (Agent) — شبیه به کارمندی دیجیتال که میتواند بهجای شما ابزارها را اجرا کند — عجله دارند.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، اعتماد مطلق به خروجی مدلها ریسک بالایی دارد. در حال حاضر، جریان اعطای دسترسی برای اکثر بخشهای IT یک «جعبه سیاه» است؛ یعنی مجوزها توسط کاربران نهایی داده میشوند، نه بر اساس سیاستهای امنیتی متمرکز. این چالش در مدیریت دسترسیها، یادآور مشکلات مربوط به توقف عاملها در گیتهای تایید است که میتواند منجر به اختلال در جریان کاری سازمان شود.
برای حل این مشکل، Auth0 در ۳۰ سپتامبر ۲۰۲۶ نسخه بتای Cross-App Access را عرضه کرد. این سازوکار با انتقال فرآیند احراز هویت به یک کانال پشتی (Back-channel) و از طریق ارائهدهنده هویت سازمان، پاپآپهای مرورگر را بهطور کامل حذف میکند.
طبق مستندات این بهروزرسانی، تغییرات فنی کلیدی عبارتاند از:
- صدور مستقیم توکن: عاملها بدون نیاز به کلیک کاربر در رابط کاربری، توکنهای دسترسی دریافت میکنند.
- حسابرسی متمرکز: تیمهای IT دید کاملی نسبت به هر مجوزی که به یک عامل داده شده پیدا میکنند.
- استانداردسازی: دادههای این اجرا در حال ارسال به پیشنویس استاندارد IETF است تا شکافهای موجود در استانداردهای نوظهور پر شود.
این چرخش، امنیت هوش مصنوعی را از مدل «اعتماد به کاربر» به مدل «حکمرانی سیستمی» منتقل میکند. برای سازمانها، مزیت اصلی تنها امنیت نیست، بلکه سازگاری است. در حالی که استارتاپها روی کارکرد ابزار تمرکز میکنند، سازمانهای بزرگ نیاز دارند ابزارها با سیستمهای قدیمی — که برخی تا ۴۰ سال قدمت دارند — بدون ایجاد نقاط حمله جدید کار کنند.
از منظر مدلسازی تهدید، هدف جلوگیری از «دسترسیهای ناشی از توهم» است. اگر یک عامل دچار توهم (Hallucination) — مثل دوستی که خاطرهای را اشتباه تعریف میکند — شود و دستوری غلط صادر کند، یک توکن شناسایی محدودشده تضمین میکند که مدل نتواند به دادههای حساسی که صراحتاً اجازه دسترسی به آنها را نداشته، دست بزند.
امروز امنیت دیگر به معنای خواندن یک مستند و ساخت محصول بر اساس آن نیست، بلکه به معنای شناسایی شکافها در پیشنویسهای اولیه برای شکل دادن به استاندارد نهایی است. سختترین بخش برای توسعهدهندگان، به یاد آوردن نقشهبرداری دسترسیهای سیستمی پیش از ارسال عامل به محیط عملیاتی است.
گام بعدی شما
- دسترسیهای فعلی عاملهای خود را بررسی کنید تا مطمئن شوید بیش از حد نیاز مجوز ندارند.
- استانداردهای در حال شکلگیری IETF برای احراز هویت عاملها را دنبال کنید.
- مدلهای دسترسی کاربر-محور را به مدلهای سیاست-محور تغییر دهید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو