تصور کنید یک سیستم امنیتی دارید که هر لحظه توسط باهوش‌ترین هکر جهان مورد حمله قرار می‌گیرد تا نقاط ضعفش را پیدا کند. اوپن‌ای‌آی دقیقاً همین کار را با مدل جدید خود به نام GPT-Red انجام داده است تا قبل از اینکه مهاجمان واقعی دست به کار شوند، حفره‌های امنیتی مدل‌هایش را ببندد.
طبق گزارش the-decoder.com در ۱۵ ژوئیه ۲۰۲۶، GPT-Red در ۸۴٪ سناریوهای آزمایشی توانست به موفقیت در حمله دست یابد. این عدد در مقایسه با تیم‌های قرمز انسانی — که تنها در ۱۳٪ موارد موفق شدند — یک جهش خیره‌کننده است. این سیستم در واقع یک تیم قرمز (Red Teaming) — شبیه به یک گروه نفوذی که برای تست استحکام قلعه، سعی می‌کند از هر دری وارد شود — اما در مقیاس مدل‌های زبانی است. این رویکرد در واقع تکامل یافتگی اتوماسیون Red-Teaming است که اوپن‌ای‌آی برای شناسایی سریع‌تر حفره‌های امنیتی به کار گرفته است.
همان‌طور که در تحلیل قبلی ما درباره‌ی سخت‌افزارهای هوشمند اوپن‌ای‌آی اشاره کردیم، این شرکت حالا تمرکز خود را بر استواری نرم‌افزاری گذاشته تا جلوی تزریق پرامپت (Prompt Injection) — مثل لغزاندن یک دستور مخفی در متن ایمیل برای تغییر رفتار مدل — را بگیرد. مکانیزم کار GPT-Red بر پایه یادگیری تقویتی از طریق بازی با خود (Self-play Reinforcement Learning) است؛ یعنی مدل در نقش مهاجم قرار می‌گیرد و مدل‌های مدافع سعی می‌کنند او را متوقف کنند. در یکی از تست‌های داخلی، این مدل توانست با تغییر قیمت‌ها و لغو سفارش‌ها، یک دستگاه فروش خودکار اداری را به طور کامل دستکاری کند.
اثرات امنیتی بر GPT-5.6 Sol
بر اساس مستندات داخلی، یافته‌های این حملات مستقیماً در آموزش مدل‌های پرچم‌دار جدید اثر گذاشته است:
- مدل GPT-5.6 Sol در برابر تزریق‌های مستقیم پرامپت، ۶ برابر کمتر از بهترین مدل چهار ماه پیش شکست می‌خورد.
- نرخ موفقیت حملات تزریق پرامپت از نسخه GPT-5.3 تا GPT-5.6 Sol به‌طور مستمر کاهش یافته است.
- تنها ۳.۸٪ از حملات «سخت» هنوز موفق می‌شوند، عددی که با عملکرد Claude Opus 4.5 برابری می‌کند.
جایگزینی انسان با یک «ابر-هکر» مبتنی بر مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا می‌داند هر کجای کتابخانه سوراخ است — امنیت را از یک بازرسی دستی به یک چرخه مقیاس‌پذیر تبدیل می‌کند. برای کاربران تجاری، این یعنی فاصله میان توقعات و واقعیت در مورد پایداری مدل‌ها در حال بسته شدن است. با این حال، موفقیت ۳.۸٪ حملات پیچیده ثابت می‌کند که امنیت مطلق یک هدف غیرممکن است و هیچ مدلی را نباید کاملاً «مصون» دانست.
اوپن‌ای‌آی فعلاً قصد دارد GPT-Red را داخلی نگه دارد. در ادامه باید منتظر انتشار یک مقاله فنی باشیم که جزئیات رسیدن به نرخ ۸۴٪ موفقیت در کشف آسیب‌پذیری‌ها را توضیح می‌دهد.
گام بعدی شما
- اگر از API برای اتوماسیون‌های حساس استفاده می‌کنید، استراتژی «لایه‌های دفاعی» را جایگزین اعتماد مطلق به مدل کنید.
- در گزارش‌های فنی آتی اوپن‌ای‌آی، به دنبال الگوریتم‌های «بازی با خود» برای بهبود استواری مدل‌های شخصی خود باشید.
- رفتارهای غیرعادی مدل‌های خود را در سناریوهای پیچیده رصد کنید تا الگوهای احتمالی تزریق پرامپت را شناسایی کنید.
اما تأثیر این سطح از امنیت بر رقابت با مدل‌های بازمتن حتی پیچیده‌تر است — به تحلیل ما درباره‌ی استراتژی‌های مدل‌های Open Weights مراجعه کنید.
گفتگو