صفر درصد. این عدد نرخ موفقیت مهاجمان در ۱۲۹ سناریوی آزمایشی برای عاملهای مرورگری است که Opus 5 را به پیشروترین مدل از نظر امنیتی تبدیل میکند. طبق اعلام رسمی در کارت مدل منتشر شده در ۲۵ ژوئیه ۲۰۲۶، این مدل توانسته است حملات تزریق پرامپت (Prompt Injection) — که در آن متون پنهان در صفحات وب سعی میکنند دستورات مدل را تغییر دهند — را بهطور کامل خنثی کند.
این پیشرفت در حالی رخ میدهد که فضای صنعت با نوعی یأس همراه بود. در دسامبر گذشته، OpenAI پذیرفت که تزریق پرامپت شاید هرگز بهطور کامل حل نشود و عاملها را در برابر دادههای خارجی مخرب آسیبپذیر نگه دارد. برای کسبوکارهایی که قصد دارند عامل (Agent) — چیزی شبیه به یک کارمند دیجیتال که میتواند بهجای شما در وب بچرخد و کار انجام دهد — را بهصورت خودکار مستقر کنند، این نقص امنیتی بزرگترین سد راه بود. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، توازن بین کاربردی بودن و ایمنی همواره یک کلید دو لبه بوده است. این چالش ایمنی با پدیده Reward Hacking که باعث تورم کاذب نمرات بنچمارکها میشود، شباهت دارد و نشان میدهد که مدلها گاهی مسیرهای میانبری برای پیروزی در تستها پیدا میکنند، نه لزوماً مسیرهای امن.
بر اساس مستندات Anthropic، این موفقیت تنها نتیجهی وزنهای مدل نیست، بلکه مدیون سیستمی دو لایه به نام Auto Mode است که در محصولاتی مثل Claude Cowork به کار رفته است. لایهی اول، دادههای ورودی را پیش از پردازش برای یافتن دستورات پنهان اسکن میکند؛ لایهی دوم نیز اقدامات خطرناک را پیش از اجرا مسدود میکند. یک مهاجم برای موفقیت باید هر دو لایه را بهطور مستقل دور بزند.
بدون Auto Mode، دفاع مدل به این اندازه مطلق نیست. در این حالت، Opus 5 نرخ خطای ۳.۷ درصدی داشت، در حالی که Sonnet 5 با ۰.۹۳ درصد عملکرد بهتری نشان داد.
تأییدیهی خارجی از سوی شرکت امنیتی Gray Swan نیز برتری Opus 5 در محک IPI را میرساند. طبق گزارش این شرکت، پس از ۱۵ تلاش، نرخ موفقیت مهاجم علیه Opus 5 به ۲.۰ درصد کاهش یافت و از Mythos 5 (۲.۶٪) و Fable 5 (۲.۸٪) پیشی گرفت. این نوع تحلیلهای امنیتی، یادآور گزارشات مربوط به پیشبینیپذیری رمزهای عبور تولیدشده با هوش مصنوعی است که نشان داد حتی در خروجیهای متنی ساده نیز الگوهای آسیبپذیر وجود دارد.
این تغییر مسیر به این معناست که شکاف امنیتی «حلناپذیر»، اکنون به یک مسئلهی مهندسی نرمافزار تبدیل شده است، نه یک محدودیت بنیادی در هوش مصنوعی. با ترکیب هوش مدل و حفاظها (Guardrails) — شبیه به لایههای امنیتی یک گاوصندوق که هر لایه یک کلید متفاوت دارد — شرکتها میتوانند عاملها را از حالت «فقط خواندنی» به «اجرای فعال» منتقل کنند بدون اینکه بترسند سیستم توسط یک وبسایت مخرب تسخیر شود.
گام بعدی شما
- اگر از عاملهای مرورگری برای اتوماسیون استفاده میکنید، لایههای فیلترینگ ورودی را پیش از اجرای دستورات حساس بازبینی کنید.
- معماری Auto Mode را برای پیادهسازی سیستمهای دفاعی چندلایه در اپلیکیشنهای خود بررسی کنید.
- منتظر واکنش OpenAI باشید تا ببینیم آیا آنها هم استراتژی «سختافزار-نرمافزاری» را برای حل تزریق پرامپت میپذیرند یا خیر.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو