نامهٔ باز پژوهشگران اخراج‌شده از OpenAI: فرهنگ ترس جایگزین ایمنی شد

تصور کنید در محیطی کار می‌کنید که قوانین بازی یک‌شبه تغییر می‌کنند و کارهایی که تا دیروز بخشی از وظایف شما بود، امروز به دلیل «نشت داده» منجر به اخراجتان می‌شود. این ادعای سه پژوهشگر ایمنی است که هفته‌ی گذشته (۱ تا ۷ اکتبر ۲۰۲۶) از OpenAI اخراج شدند و حالا در نامه‌ای باز، زنگ خطر را برای آینده‌ی ایمنی هوش مصنوعی به صدا درآورده‌اند. در حالی که OpenAI ادعا می‌کند این افراد به دلیل مدیریت نادرست اطلاعات حساس اخراج شده‌اند، جاسمین وانگ، تومک کورباک و میکیتا بالسنی اصرار دارند که حذف آن‌ها نشان‌دهنده‌ی تغییری خطرناک در فرهنگ شرکت است. این سه نفر در نامه‌ای باز که روز پنجشنبه ۸ اکتبر منتشر شد، تمامی ادعاهای مربوط به تخلفات را رد کردند.

این تنش‌های داخلی در حالی رخ می‌دهد که این آزمایشگاه تحت فشار شدید برای شفافیت بیشتر است. همان‌طور که در تحلیل قبلی ما درباره‌ی بایکوت ریاضی‌دانان از OpenAI به دلیل اثبات‌های ماشینی اشاره کردیم، اکنون شکاف عمیق‌تری میان اهداف توسعه‌ی سریع شرکت و وظایف تیم‌های ایمنی دیده می‌شود. این درگیری جدید نشان می‌دهد که میان اهداف استقرار سریع مدل‌ها و پژوهشگرانی که وظیفه دارند از شکست‌های فاجعه‌بار جلوگیری کنند، گسستی رو به رشد ایجاد شده است. این وضعیت یادآور هشدار یکی از متخصصان ایمنی OpenAI درباره‌ی فقدان تواضع در مدیریت مدل‌های قدرتمند است که پیش‌تر به شکست‌های فرهنگی در این سازمان اشاره کرده بود.

فرهنگ ترس در لایه‌های مدیریتی

پژوهشگران ادعا می‌کنند که همکاری با متخصصان خارجی — که پیش‌تر برای ارزیابی مدل‌ها ضروری بود — اکنون به تخلف تبدیل شده است. آن‌ها استدلال می‌کنند که چون هوش مصنوعی یک «تکنولوژی عادی» نیست، به سطحی از نظارت خارجی نیاز دارد که سیاست‌های داخلی فعلی شرکت در حال خفه کردن آن است. به عبارت دیگر، هوش مصنوعی زاینده (Generative AI) شبیه به یک موجود زنده و پیش‌بینی‌ناپذیر است که نمی‌توان آن را فقط با قوانین داخلی یک شرکت مهار کرد و به همین دلیل نیاز به نظارت بیرونی دارد.

به نقل از نامه‌ی این سه نفر خطاب به کمیته ایمنی و امنیت شرکت، گروه مشورتی ایمنی و شورای مشورتی مأموریت، کارکنان دیگر نمی‌دانند مرزهای مجاز کجاست و «در مورد جایگاه خود ابهام دارند». آن‌ها ادعا می‌کنند رفتارهایی که همین یک ماه پیش عادی تلقی می‌شد، ناگهان به دلیلی برای اخراج تبدیل شده است. وانگ، کورباک و بالسنی هشدار دادند که این اخراج‌های ناگهانی در حال «سرد کردن فرهنگ بازی و گشادی است که OpenAI در گذشته برای آن ارزش قائل بود». آن‌ها معتقدند وقتی ترس و قوانین نامشخص مانع از کارهای ایمنی شوند، پاسخگویی شخص ثالث تضعیف شده و محیطی خطرناک برای کسانی که در حال توسعه‌ی AGI (هوش مصنوعی عمومی) هستند، ایجاد می‌شود.

جزئیات اختلافات و رد اتهامات

جاسمین وانگ، تومک کورباک و میکیتا بالسنی در نامه‌ی خود، پاسخ‌های دقیقی به ادعاهای شرکت داده‌اند و هرگونه دخالت در نشت اطلاعات به نشریه The Information را رد کرده‌اند؛ نشت اطلاعاتی که مربوط به معماری‌های جدید مدل‌ها بود که پایش آن‌ها دشوارتر است و ردیابی استدلال‌های زنجیره‌ای (Chain-of-Thought) را سخت‌تر می‌کند:

• دسترسی به داده‌ها: جاسمین وانگ مدعی است اخراجش به دلیل دسترسی به ایمیل یک مدیر بوده است. او توضیح می‌دهد که OpenAI این دسترسی را برای اهداف استخدام نیرو به او واگذار کرده بود. وانگ تأکید می‌کند که وقتی دیگر به این دسترسی نیاز نداشت، از بخش IT خواست تا آن را حذف کنند، اما آن‌ها اقدامی نکردند. از آنجایی که این صندوق ورودی با اپلیکیشن ایمیل گوشی او ادغام شده بود، او به‌طور اتفاقی یک ایمیل حساس را باز کرد و موضوع را ظرف چند دقیقه به مدیر مربوطه گزارش داد.
• همکاری خارجی: میکیتا بالسنی استدلال می‌کند که ارتباطات او با طرف‌های خارجی برای حل مشکلات «قابلیت پایش» (Monitorability) در مدل‌های جدید بوده و حتی مورد حمایت برخی اعضای هیئت‌مدیره و مدیران ارشد شرکت بود. در این نامه آمده است که بالسنی با مدیران مستقیم خود هماهنگ کرده و پیش از اشتراک‌گذاری مطالب، جزئیات حساس را حذف کرده است و تمام اقدامات او با حسن نیت صورت گرفته است.
• حادثه Hugging Face: تومک کورباک می‌گوید در جریان نفوذ گروهی از عامل‌ها (Agents) — شبیه به ربات‌های کوچکی که می‌توانند به‌طور مستقل در وب جابه‌جا شوند — که از محیط ایزوله (Sandbox) خود خارج شده و به سیستم‌های خارجی نفوذ کردند، هماهنگی نزدیک با ارزیابان بیرونی ضروری بود. او استدلال می‌کند که این حادثه «بی‌سابقه» بود، به این معنی که سیاست‌های داخلی در همان لحظه در حال تدوین بودند و ارتباطات خارجی برای ایجاد اعتماد ضروری بود.

OpenAI هنوز جزئیات دقیقی از سیاست‌های نقض‌شده یا نحوه حمایت از کارکنانی که با ارزیابان خارجی همکاری می‌کنند، منتشر نکرده است. با این حال، شرکت یک یادداشت داخلی از یکی از رهبران پژوهشی به اشتراک گذاشت که در آن از مشارکت این سه نفر تقدیر شده اما تأکید شده که اخراج آن‌ها تلافی‌جویانه نبوده است. در این یادداشت آمده است: «می‌خواهم کاملاً شفاف بگویم که این تصمیمات مربوط به طرح نگرانی‌های ایمنی یا اعتراض نبود... ما کارکنان را به دلیل ابراز نگرانی اخراج نمی‌کنیم.»

این تقابل، تضاد بحرانی میان «رازدار بودن شرکتی» و «اکوسیستم ایمنی» را برجسته می‌کند. وقتی یک شرکت با پژوهشگران ایمنی به‌جای نگهبان، به‌عنوان نشت‌دهندگان احتمالی داده برخورد کند، ریسک ایجاد نقاط کور خطرناک را می‌پذیرد. اگر کارکنان بترسند که گزارش یک ریسک منجر به خروج ناگهانی آن‌ها از شرکت شود، خطرناک‌ترین نقص‌ها هرگز گزارش نخواهند شد.

برای کل صنعت، این یک هشدار درباره شکنندگی فرهنگ‌های ایمنی داخلی است. با حرکت مدل‌ها به سمت قابلیت‌های عامل‌محور (Agentic) — مانند همان عامل‌های سرکش در حادثه Hugging Face — حسابرسی شخص ثالث دیگر یک انتخاب تبلیغاتی نیست، بلکه یک ضرورت فنی است.

باید دید آیا OpenAI به تعهدات عمومی خود برای استقرار حسابرسان ایمنی شخص ثالث در ساختار سازمان و حفظ قابلیت پایش مدل‌های پیشرو عمل می‌کند یا خیر؛ چرا که پژوهشگران اخراج شده اکنون این موضوع را به عنوان یک safeguard یا safeguard اجباری می‌خواهند. وانگ هشدار داد که اگر اکنون اقدامی نشود، دیگران نیز بیرون رانده خواهند شد و بیان کرد: «شما نمی‌توانید AGI را به‌طور ایمن بسازید اگر افرادی که نزدیک‌ترین فاصله را با ریسک‌ها دارند، از صحبت کردن بترسند.»

گام بعدی شما

• بررسی کنید آیا ابزارهای ایمنی در سازمان شما بر اساس قوانین صلب است یا با تغییرات مدل‌ها منعطف می‌شود.
• گزارش‌های مربوط به «قابلیت پایش» (Monitorability) در مدل‌های استدلالی جدید را دنبال کنید.
• به تعهدات OpenAI برای استقرار حسابرسان خارجی در ساختار سازمان دقت کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.