اگر در تیمهای توسعه محصول هستید و میخواهید بدانید تعادل بین سرعت رشد و ایمنی در یک غول تکنو-تجاری چگونه تغییر میکند، خروج جاشوا آکیام یک درس مهم است. او که برای مدتها از مدافعان سرسخت مأموریت ایمنی OpenAI بود، اکنون معتقد است که این هدف را میتوان از بیرون یک آزمایشگاه پیشرو (Frontier Lab) دنبال کرد.
به گزارش WIRED، آکیام که در نقش «آیندهپژوه ارشد» بود، در ۷ جولای ۲۰۲۶ به همکاران خود اطلاع داد که تا پایان این ماه شرکت را ترک میکند. این اتفاق دقیقاً زمانی رخ میدهد که OpenAI در حال گذار از یک آزمایشگاه تحقیقاتی به یک موجودیت تجاری عظیم است. همانطور که در تحلیل قبلی ما دربارهی پیشنهادهای سم آلتمن برای مشارکت دولتها در تأمین مالی سودهای هوش مصنوعی اشاره کردیم، این شرکت همچنان در حال پیمودن مسیر دشوار و مدیریت تنش میان ریشههای غیرانتفاعی خود و فشارهای ناشی از آمادهسازی برای عرضه عمومی سهام است.
نقش آکیام در نقطه تلاقی ایمنی هوش مصنوعی (AI Safety) — که شبیه به نصب ترمزهای اضطراری در یک ماشین مسابقهای است تا از تصادفهای مرگبار جلوگیری کند — و سیاستگذاری بود و تمرکز وی بر تحلیل آسیبهای احتمالی و مزایای هوش مصنوعی بود. او پیشتر رهبری «تیم همراستاسازی مأموریت» (Mission Alignment Team) را بر عهده داشت که در سال ۲۰۲۴ تشکیل شد؛ تیمی که شرکت در فوریه ۲۰۲۶ آن را منحل کرد و سپس عنوان شغلی آکیام را تغییر داد. او همچنین از نزدیک با کریس لهین، رئیس امور جهانی، همکاری میکرد تا برای وضع مقررات دولتی رایزنی کند؛ مقرراتی که با هدف دستیابی به هوش مصنوعی عام (AGI) به نفع تمام بشریت همسو باشد. این تغییر در اولویتهای عملیاتی شرکت، یادآور چرخش استراتژیک OpenAI از خودکارسازی کامل به سمت مدلهای همکاری انسانی-ماشینی است که در ماههای اخیر شاهد آن بودیم.
الگویی از خروجهای ایمنیمحور
آکیام آخرین نفر از زنجیرهای از متخصصان ایمنی است که OpenAI را ترک کردند. بر اساس گزارش WIRED، خروجهای پیشین عبارتند از:
- جن لایک: او پیش از آنکه در سال ۲۰۲۴ به شرکت Anthropic بپیوندد، یکی از رهبران تیم Superalignment بود.
- مایلز برانداج و استیون آدلر: هر دو در سال ۲۰۲۴ شرکت را ترک کردند تا سازمانهای غیرانتفاعی با تمرکز بر ایمنی تأسیس کنند.
- آندرهآ والون: مسئول پاسخهای مربوط به پریشانی روانی در ChatGPT که در پایان سال ۲۰۲۵ به Anthropic پیوست.
میراث «آدم احمق»
آکیام در سال ۲۰۱۷ به عنوان کارآموز وارد OpenAI شد و به سرعت در داخل شرکت به دلیل مواضع سازشناپذیرش در زمینه ایمنی شناخته شد. نمونه بارز این رویکرد، اتفاقی در سال ۲۰۱۸ بود که در آن او سخنرانی خروج ایلان ماسک را قطع کرد. آکیام استدلال نمود که برنامه ماسک برای ساخت AGI در تسلا، ایمنی را به خطر میاندازد؛ گزارشته شده است که ماسک در پاسخ به این اقدام، او را «آدم احمق» (Jackass) نامید.
این تنش نشاندهنده یک کشمکش گستردهتر درونی برای پر کردن شکاف میان پژوهش و سیاست است. در حالی که پژوهشگرانی مثل بواز باراک و نوآم براون بیشتر در کارهای سیاستگذاری درگیر شدهاند، فقدان معماران قدیمی ایمنی نشان از تحلیل رفتن «گارد قدیمی» دارد. برای کاهش این شکاف، دین بال، مشاور سابق کاخ سفید در امور هوش مصنوعی، هفته جاری کار خود را به عنوان رئیس آیندههای استراتژیک آغاز کرد.
برای کاربران، این تغییرات یعنی رویکرد ایمنی از «همراستاسازی داخلی» که توسط تیمهای تخصصی محافظت میشد، به سمت چارچوبهای نظارتی خارجی و آیندههای استراتژیک تغییر میکند. احتمالاً بهجای فلسفههای شخصی و ایدئولوژیهای درونی روزهای اولیه پژوهش، شاهد حفاظهای ایمنی (Guardrails) استانداردشده و هماهنگ با دولتها خواهید بود.
باید منتظر ماند و دید که دین بال چگونه سیاستهای سبک کاخ سفید را در نقشه راه محصولات OpenAI ادغام میکند، بهویژه در حالی که شرکت به عرضه عمومی سهام نزدیکتر میشود.
برای کاربران، این تغییرات یعنی رویکرد ایمنی از «همراستاسازی داخلی» که توسط تیمهای تخصصی محافظت میشد، به سمت چارچوبهای نظارتی خارجی و آیندههای استراتژیک تغییر میکند. احتمالاً بهجای فلسفههای شخصی و ایدئولوژیهای درونی روزهای اولیه پژوهش، شاهد حفاظهای ایمنی (Guardrails) استانداردشده و هماهنگ با دولتها خواهید بود.
باید منتظر ماند و دید که دین بال چگونه سیاستهای سبک کاخ سفید را در نقشه راه محصولات OpenAI ادغام میکند، بهویژه در حالی که شرکت به عرضه عمومی سهام نزدیکتر میشود.
گام بعدی شما
- بررسی گزارشهای نظارتی جدید دولتها درباره استانداردهای ایمنی AGI.
- تحلیل تغییرات در پاسخهای حفاظتی (Guardrails) مدلهای آینده OpenAI.
- دنبال کردن مسیر ادغام سیاستهای کاخ سفید در نقشه راه محصولات OpenAI توسط دین بال.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — برای درک بهتر این تحول، میتوانید تحلیل ما دربارهی استراتژی سختافزار داخلی در برابر تکیه بر شرکا را بخوانید و سپس به بررسی تراشههای Blackwell مراجعه کنید.
گفتگو