تصور کنید ارتشهای دیجیتال پیش از آنکه حتی یک خط کد به بازار برسد، ساعتها به دنبال راهی برای شکستن آن باشند. اگر امروز مدیر محصول یا مهندس امنیتی هستید، باید بدانید که OpenAI با معرفی GPT-Red، بازی «گربه و موشه» در ایمنی مدلها را به سطح جدیدی از سرعت برده است.
به طور معمول، فرآیند «تیم قرمز» (Red Teaming) شامل تلاشهای دستی و عمدی برای شکستن یا ربودن یک سیستم است تا شکافهای امنیتی پیش از آنکه مهاجمان واقعی آنها را پیدا کنند، شناسایی شوند. اما OpenAI اکنون در حال تغییر این مرز است. این شرکت در حال استقرار GPT-Red است؛ یک سامانه تخصصی که برای خودکارسازی شکار آسیبپذیریهای نرمافزاری طراحی شده است.
به طور سنتی، تیمهای قرمز به گروههایی از آزمایشکنندگان انسانی متکی هستند تا روشهای خلاقانه برای دور زدن فیلترهای ایمنی را تصور کنند. با تکیه بر پوششهای قبلی ما درباره موازیسازی چند-عاملی در GPT-5.6 Sol برای بازبینیهای امن، GPT-Red این بار بار سنگین را از دوش انسانها به دوش هوش مصنوعی منتقل میکند. این تمرکز بر ایمنی در حالی صورت میگیرد که دولت ایالات متحده پیشتر عرضهٔ GPT-۵.۶ را به تأییدیه رسمی گره زده بود تا ریسکهای بالقوه این مدلهای پیشرفته کنترل شود. طبق گزارش ۱۶ جولای ۲۰۲۶ از MIT Technology Review، این انتقال در حالی رخ میدهد که شرکتهای AI با تهدیدات واقعی در دنیای فیزیکی و یک جنبش جهانی رو به رشد علیه هوش مصنوعی روبرو هستند.
زمینه افزایش ریسکها
نیاز به ایمنی خودکار با افزایش بیثباتی در محیط پیرامون تشدید شده است. گزارشها حاکی از آن است که مدیران ارشد فناوری به دلیل تبدیل تهدیدات خشونتآمیز علیه شرکتهای AI به اقدامات واقعی در دنیای فیزیکی، برای جان خود بیمناکند. این فضای ناپایدار باعث شده است که توانایی یافتن آسیبپذیریها با سرعتی بیشتر از مهاجمان انسانی، به یک ضرورت استراتژیک تبدیل شود.
علاوه بر این، رقابت ژئوپلیتیکی برای رسیدن به استقلال در حوزه هوش مصنوعی شدت یافته است. در حالی که اروپا به دلیل مشکلات تامین بودجه، علیرغم درآمدهای بالا، بلندپروازیهای خود را تعدیل میکند، هند نیز برای دستیابی به استقلال AI در تلاش است. این فشار رقابتی، سرعت استقرار مدلها را افزایش میدهد و در نتیجه ریسک وجود نقصهای وصلنشده (unpatched) را بیشتر میکند.
GPT-Red با شبیهسازی بردارهای حمله متنوع عمل میکند تا شرکت را یک گام جلوتر از دشمنان انسانی نگه دارد. در همین تاریخ (۱۶ جولای)، تحولات کلیدی دیگری در چشمانداز کلی AI گزارش شده است:
جزئیات صنعت
- Thinking Machines: این استارتاپ که توسط میرا موراتی (CTO سابق OpenAI) تأسیس شده، مدل Inkling را روانه بازار کرد. این اولین مدل ساخته شده توسط این شرکت است و به عنوان یک جایگزین آمریکایی با «وزنهای باز» (Open-weight) در مقابل مدلهای متنباز چینی عمل میکند.
- ایلون ماسک و انرژی: در ماه مه، ماسک به صورت پنهانی شرکت APR Energy را خرید؛ شرکتی در حوزه توربینهای گاز با سوخت فسیلی به ارزش ۱ میلیارد دلار. یک پرونده در FTC این معامله را فاش کرد و محتملترین کاربرد آن، تامین برق برای مراکز داده هوش مصنوعی Grok است. این استراتژی تامین انرژی ماسک در کنار تلاشهای او برای ادغام AI در سختافزارها، یادآور مسیر SpaceX برای عبور از آمازون از طریق تلفیق هوش مصنوعی و فضا است که نشاندهنده دیدگاه کلنگر او به زیرساختهای آینده است.
- Suno AI: یک هک فاش کرد که این تولیدکننده موسیقی، دههها محتوای موسیقیایی را از یوتیوب و Deezer برای آموزش مدلهای خود استخراج (Scrape) کرده است. این اتفاق نگاهی نادر به «جعبههای سیاه» هوش مصنوعی زاینده فراهم کرد.
- رباتیک انساننما: شرکت Prosper در حال توسعه Alfie است؛ یک ربات انساننما برای استفاده در منازل، بیمارستانها و هتلها. شاریق هاشمه، مؤسس این شرکت، با ساخت شخصیتی که «شبیه انسان باشد اما نه بیش از حد انسان»، اولویت را بر جلب اعتماد کاربران گذاشته است.
این گذار به سمت ایمنی خودکار، یک ضرورت برای بقاست. در حالی که آزمایشکنندگان انسانی دقیق هستند، اما نمیتوانند با سرعت استقرار هوش مصنوعی زاینده مقیاسپذیر شوند. OpenAI با بهکارگیری «هوش مصنوعی برای حمله به هوش مصنوعی»، یک حلقه بازخورد مداوم برای کشف آسیبپذیریها و وصله کردن آنها ایجاد کرده است.
برای کاربران تجاری، این بدان معناست که «لایه ایمنی» ابزارهای AI دیگر یک مجموعه استاتیک از قوانین نیست، بلکه به یک محصول نرمافزاری پویا تبدیل شده است. با ورود مدلهایی مثل Inkling به بازار وزنهای باز، فشار برای خودکارسازی ایمنی احتمالاً به سایر آزمایشگاهها نیز سرایت خواهد کرد تا از شکستهای فاجعهبار در مرحله تولید جلوگیری کنند.
فراتر از آزمایشگاهها، تلاقی AI و فناوری سبز بر زیرساختهای حیاتی تأثیر میگذارد. در ایالات متحده، فروش پمپهای حرارتی در ۱۵ سال گذشته دو برابر شده است. این دستگاههای الکتریکی در رقابت با سوختهای فسیلی پیروز شدهاند و در سه ماهه اول ۲۰۲۶، حتی با وجود پایان یافتن یک اعتبار مالیاتی کلیدی، رشد آنها ۳۲٪ بیشتر از کورههای گاز طبیعی بوده است. در همین حال، از AI برای امدادرسانیهای شهروندی در ونزوئلا جهت مکانیابی افراد مفقود و هماهنگی کمکها از راه دور استفاده میشود.
باید منتظر ماند و دید که عرضه Inkling چگونه بر اکوسیستم وزنهای باز تأثیر میگذارد و آیا «تیم قرمز خودکار» به یک الزام استاندارد برای مقررات هوش مصنوعی در اروپا و ایالات متحده تبدیل خواهد شد یا خیر.
گام بعدی شما
- اگر از مدلهای وزنباز استفاده میکنید، معیارهای امنیتی Inkling را با مدلهای فعلی خود مقایسه کنید.
- در مستندات API خود به دنبال قابلیتهای جدید «گواهینامه ایمنی خودکار» باشید.
- استراتژیهای Red Teaming دستی خود را به سمت مدلهای ارزیاب (Model-as-a-Judge) ببرید.
اما تأثیر این رقابت بر استانداردهای رگولاتوری اروپا و آمریکا چه خواهد بود؟ پاسخ را در تحلیل هفته آینده درباره قوانین جدید اتحادیه اروپا بررسی خواهیم کرد.
گفتگو