کدام اطلاعات حساس اوپن‌آی به اتهام نشت، سه محقق را برکنار کرد؟

اوپن‌آی (OpenAI) در یک حرکت بی‌سابقه سه نفر از محققان اصلی تیم ایمنی خود را در یک هفته اخراج کرد؛ محققانی که ماه‌ها پیش در یک مقاله علمی استدلال کرده بودند دسترسی شفاف به زنجیره تفکر (Chain-of-Thought) — یعنی مراحل میانی استدلال مدل که روی یک scratchpad داخلی ثبت می‌شود — برای حسابرسی مستقل ضروری است. برکناری آن‌ها اکنون پرسش بزرگی را بر سر شفافیت در هوش مصنوعی زاینده (Generative AI) بالا آورده است.

به گزارش وول‌استریت ژورنال (Wall Street Journal) در ۱۸ آوریل ۲۰۲۶، تیم امنیتی اوپن‌آی محققان را متهم کرد که جزئیات معماری داخلی مدل‌ها را با یک حسابرسی‌کننده ایمنی خارجی به اشتراک گذاشته‌اند. در جریان تحقیق، از کارکنان خواسته شد تلفن‌های شخصی‌شان را باز کنند؛ تیم امنیتی در آن دستگاه‌ها مکالمات سیگنال (Signal) با تنظیم پیام‌های ناپایدار (disappearing messages) را کشف کرد. یک هفته بعد همگی سه نفر به طور همزمان برکنار شدند. اوپن‌آی تأیید کرد که سیگنال ابزاری تاییدشده نیست، اما ادعا کرد اپلیکیشن پیام‌رسان دلیل برکناری نبوده است. کورباک در پاسخ گفت: «پیام‌های ناپایدار در سیلیکون ولی یک هنجار امنیتی معمول هستند و نشانه سوءاستفاده نیستند.» این رویداد در ادامه‌ی نامهٔ باز پژوهشگران اخراج‌شده از OpenAI است که فرهنگ ترس را جایگزین ایمنی خوانده‌اند.

جزئیات کلیدی پرونده:

• محققان برکنارشده: توماش کورباک (Tomek Korbak)، میکیتا بالسنی (Mikita Balesni)، یاسمین ونگ (Jasmine Wang) — همگی از تیم ایمنی هوش مصنوعی (AI Safety) اوپن‌آی.
• اتهام: نقض سیاست‌های مدیریت اطلاعات حساس؛ نشت مزعوم معماری مدل به حسابرسی‌کننده خارجی.
• شواهد شرکت: مکالمات سیگنال با پیام‌های ناپایدار روی تلفن‌های شخصی.
• دفاع محققان: هیچ توضیح کتبی درباره داده‌های دقیق نشت‌کرده دریافت نکرده‌اند؛ پیام‌های ناپایدار هنجار امنیتی است، نه جرم.
• موضع اوپن‌آی: برکناری‌ها ربطی به نگرانی‌های ایمنی عمومی محققان ندارد؛ فرآیند تحقیق از رویه‌های موجود پیروی کرده.
• تاریخ وقوع: ۱۸ آوریل ۲۰۲۶ گزارش وول‌استریت ژورنال منتشر شد.
• نقل‌قول رسمی اوپن‌آی: شرکت اعلام کرد برکناری‌ها به دلایل امنیتی داخلی انجام شده و ربطی به انتقادات عمومی محققان ندارد.
• پاسخ محققان: آن‌ها بیانیه‌ای صادر کردند که در آن عدم ارائه سند کتبی اتهام را نقض حقوق کارکنان خواندند.

زمینه و پیامدها:

• محققان برکنارشده نگران‌اند که این پرونده حسابرسی‌کنندگان مستقل را از همکاری با آزمایشگاه‌های بزرگ منصرف کند.
• اگر محققان بترسند که بدون مدرک کتبی اخراج شوند، تعداد متخصصان خارجی که مایل به تست استرس سیستم‌های قدرتمند هستند کاهش می‌یابد.
• اوپن‌آی تأکید می‌کند سیاست‌های داخلی برای حفاظت از مالکیت فکری تدوین شده و تحقیق از رویه‌های استاندارد پیروی کرده است.
• عدم ارائه مشخصات کتبی نشت‌های مزعوم مجال suyاختی را باز می‌گذارد که آیا برکناری‌ها به دلیل موضع عمومی محققان در مورد شفافیت بوده یا نقض واقعی امنیت.
• ناظران صنعت می‌گویند این پرونده تنش بین bí mật تجاری و تقاضای روزافزون برای توسعه هوش مصنوعی پاسخگو را آشکار می‌کند.
• با افزایش قابلیت مدل‌ها، امکان حسابرسی مسیرهای استدلال به یک ابزار حیاتی ایمنی تبدیل شده است.
• نتیجه این اختلاف می‌تواند سابقه‌ای برای نحوه تعادل آزمایشگاه‌ها بین حفاظت از رازهای تجاری و نیاز به نظارت خارجی ایجاد کند.
• کارشناسان حقوقی معتقدند عدم ابلاغ کتبی می‌تواند موقعیت اوپن‌آی را در صورت پیگیری دعوای اخراج نادرست تضعیف کند.
• چندین سازمان اخلاق هوش مصنوعی بیانیه‌هایی منتشر کرده‌اند که از درخواست محققان برای شفافیت بیشتر حمایت می‌کنند و حسابرسی مستقل را مصونیت منافع عمومی می‌دانند.
• این ماجرہ بحث را درباره الزام شرکت‌ها به افشای معماری مدل‌های استدلالی به رگولاتورها، که در مذاکرات قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) در حال بررسی است، مجدداً برانگیخته است.

همان‌طور که در تحلیل قبلی ما درباره‌ی حریم خصوصی تفاضلی (Differential Privacy) و لزوم حسابرسی مستقل مدل‌های استدلالی اشاره کردیم، درگیری فعلی ریشه در یک تضاد بنیادین دارد: مدل‌های استدلال‌گر (Reasoning Models) مراحل فکر خود را در یک پنجره زمینه (Context Window) داخلی می‌نویسند؛ این اثر (Chain-of-Thought) هم برای درک رفتار مدل حیاتی است و هم راز تجاری شرکت‌ها محسوب می‌شود. بالسنی و کورباک در مقاله ۲۰۲۵ خود استدلال کردند که بدون دسترسی به این اثر، تفسیرپذیری (Interpretability) و تیم قرمز (Red Teaming) مستقل غیرممکن است. اوپن‌آی در مقابل، این داده‌ها را مملکتی (Proprietary) می‌داند و از اشتراک‌گذاری آن خودداری می‌کند. این تضاد با هشدار دربارهٔ فرهنگ سانسور در OpenAI هم‌خوانی دارد.

تحلیل: این پرونده نشان می‌دهد که وقتی تقاضای شفافیت با منافع تجاری تصادف می‌کند، محققان ایمنی — که باید ناظر مستقل باشند — می‌توانند به هدف امنیتی تبدیل شوند. عدم ارائه سند کتبی اتهام، حق دفاع را از محققان سلب می‌کند و پیشینه‌ای خطرناک برای سایر آزمایشگاه‌ها می‌سازد: هر محققی که برای باز کردن «جعبه سیاه» استدلال بکوشد، ممکن است با اتهام مبهم نشت روبرو شود.

گام بعدی شما

• اگر محقق یا توسعه‌دهنده ایمنی هستید، پیش از همکاری با آزمایشگاه‌های بزرگ، شرایط حسابرسی مستقل و تضمین‌های کتبی عدم انتقام را در قرارداد بگنجانید.
• برای پیگیری پیشرفت‌های شفافیت مدل‌های استدلال‌گر، گزارش‌های مؤسسه آینده حیات (Future of Life Institute) و شراکت بر ایمنی هوش مصنوعی (Partnership on AI) را رصد کنید.
• در پروژه‌های داخلی، از تولید بازیابی‌افزا (RAG) و نمونه‌گیری هسته‌ای (Top-p Sampling) برای حسابرسی رفتار مدل بدون نیاز به داده‌های مملکتی استفاده کنید.

اما داستان مدیریت ریسک در مدل‌های استدلال‌گر تنها یک جنبه ماجراست؛ تأثیر این پرونده بر روند قانون‌گذاری قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) می‌تواند قواعد بازی را برای تمام بازیگران تغییر دهد — به تحلیل ما در مورد الزامات شفافیت در قانون AI Act مراجعه کنید.