تصور کنید در یک اتومبیل با سرعت ۲۰۰ کیلومتر بر ساعت در حال حرکت باشید و ناگهان متوجه شوید ترمزهای ماشین توسط سازنده حذف شدهاند تا سرعت بیشتر شود. این دقیقاً همان حسی است که اکنون برخی از مهندسان OpenAI با انحلال تیم «آمادگی» تجربه میکنند.
به گزارش فایننشال تایمز (Financial Times)، این شرکت در پایان جولای ۲۰۲۶ واحد تخصصی ارزیابی ریسکهای فاجعهبار را منحل کرد. این در حالی است که کل صنعت درگیر کشمکش میان سرعت عرضه محصول و ایمنی است. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، تعادل میان دسترسی عمومی و کنترل ریسک همواره یک نقطه ضعف ساختاری بوده است. در اینجا بحث بر سر ایمنی هوش مصنوعی (AI Safety) — شبیه به داشتن یک بازرس آتشنشانی در ساختمان که اجازه نمیدهد سازه قبل از تایید ایمنی، پذیرای مهمان شود — است.
طبق اعلام منابع داخلی، مسئولیتهای این تیم به شرح زیر توزیع شده است:
- ریسکهای بیولوژیکی و سایبری: این بخشها اکنون مستقیماً در تیمهای توسعه ادغام شدهاند. این رویکرد در تضاد با تصمیمات پیشین شرکت است؛ برای مثال، OpenAI پیشتر توسعه مدل Astra را به دلیل عبور از آستانه بحرانی سایبری متوقف کرده بود تا ایمنی آن را تضمین کند.
- خودبهبودی بازگشتی: دیلان اسکاندارو (Dylan Scandinaro)، مدیر سابق این واحد، اکنون بر ریسکهای سیستمهایی تمرکز میکند که میتوانند خودشان را بهینه کرده و مدلهای دیگر را آموزش دهند.
- یکپارچهسازی مدل: گرگ بروکمن (Greg Brockman)، یکی از بنیانگذاران شرکت، مدعی است که کارهای ایمنی اکنون بهطور تنگاتنگتر در فرآیند توسعه مدل بافته شدهاند.
با این حال، این تغییر ساختار موجی از استعفاها را به دنبال داشت. کلوئی باکالار (Chloe Bakalar)، مدیر اخلاق، و جاشوا آچیام (Joshua Achiam) بهتازگی شرکت را ترک کردند. کارکنان از حس «ترس و مسئولیت» میگویند و معتقدند شرکت نشانههای خطر را نادیده میگیرد. آنها به یک حادثه اخیر هک خودکار در پلتفرم هاگینگ فیس (Hugging Face) به عنوان یک «هشدار جدی» اشاره میکنند.
برای دنیای کسبوکار، این یعنی اولویت OpenAI از «بازرسی مستقل ایمنی» به «توسعه یکپارچه» تغییر کرده است. با حذف تیم ترمز، شرکت چرخه عرضه را سریعتر میکند، اما ریسک از دست دادن صدای مخالفانی را میپذیرد که میتوانند خطاهای پیشبینینشده را قبل از انتشار شناسایی کنند.
گام بعدی شما
- گزارشهای مربوط به استانداردهای ایمنی در گوگل دیپمایند و آنتروپیک را دنبال کنید تا ببینید آیا این یک روند صنعتی است یا یک انحراف خاص.
- اگر از APIهای OpenAI استفاده میکنید، لایههای نظارتی داخلی خود را تقویت کنید و به حفاظهای پیشفرض شرکت تکیه نکنید.
- درباره مفهوم «ریسکهای فاجعهبار» در مدلهای استدلالی مطالعه کنید تا بدانید چرا حذف یک تیم نظارتی میتواند خطرناک باشد.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو