تصور کنید در شرکتی کار میکنید که قدرتمندترین ابزارهای جهان را میسازد، اما تنها کسی که وظیفهاش بررسی اخلاقی این ابزارهاست، بدون هیچ جایگزینی شرکت را ترک میکند. این وضعیت فعلی OpenAI است که پس از خروج بیسروصدای کلویی باکالار (Chloé Bakalar) در ژوئیه ۲۰۲۶، اکنون بدون یک متخصص اخلاق اختصاصی مانده است. به گزارش فایننشال تایمز، باکالار که در اوت سال گذشته استخدام شده بود، حالا جای خالیاش را هیچکس پر نکرده است. این اتفاق در حالی میافتد که شرکت در میان فشار رگولاتورها و نگرانیهای امنیتی دستوپا میزند. همانطور که در تحلیل قبلی ما دربارهی صندلیهای پرمیوم و استراتژی تجاری OpenAI اشاره کردیم (مانند صندلیهای تجاری ویژه با هزینه ۱۲۵ دلار در ماه)، تمرکز داخلی این شرکت بهسرعت از مدلهای خدماتی به سمت مفاهیم انتزاعیتر مانند «تکینگی» (Singularity) تغییر کرده است.
باکالار پیش از پیوستن به OpenAI، به عنوان رئیس اخلاق در متا (Meta) فعالیت میکرد. او در آن جایگاه، سیاستهای اخلاقی هوش مصنوعی را برای هر دو پلتفرم فیسبوک و اینستاگرام تدوین کرده بود. یک منبع ناشناس به فایننشال تایمز گفت تخصص ویژه او بر «رویکردهای اخلاقی در توسعه مدلها، نحوه تعامل انسانها با هوش مصنوعی و بحثهای مربوط به آگاهی ماشین» متمرکز بود.
دیدگاه باکالار درباره توانمندیهای هوش مصنوعی بسیار واقعبینانه بود. او در سال ۲۰۲۳ در پنلی در نشست فوربز درباره سلامت و اعتماد، تأکید کرد که توانایی ایجاد این حس در مردم که «شنیده شدهاند، درک شدهاند و دیده شدهاند»، در حوزه مراقبتهای بهداشتی اهمیت بسیار زیادی دارد. او در آن زمان هشدار داد که مدلهای زبانی بزرگ (LLM) صرفاً «ماشینهای پیشبینی» هستند و موجوداتی «احساسبرانگیز یا دارای عاطفه» نیستند. او معتقد بود که پدیده «خودآگاهی» (Sentience) بههیچوجه در حال رخ دادن نیست و صراحتاً بیان کرد: «ما تا رسیدن به آن نقطه فاصله بسیار زیادی داریم.»
اما در مقابل، سام آلتمن، مدیرعامل شرکت، مسیر متفاوتی را طی کرده است. تقریباً دو ماه پیش از استخدام باکالار، آلتمن یادداشتی با عنوان «تکینگی ملایم» نوشت و در آن پیشنهاد کرد که بشریت در حال نزدیک شدن به این رویداد است. او اخیراً در پادکست Relentless با لحنی قاطعتر ادعا کرد که بشریت اکنون «در تکینگی» قرار دارد. او افزود: «من تمام عمرم منتظر این لحظه بودهام و فکر میکنم این اتفاق باورنکردنی، بهشدت مثبت و برای جهان شگفتانگیز خواهد بود.»
خروج باکالار تنها یک مورد تک نبود. در تابستان جاری، مدیران کلیدی دیگری با تمرکز بر ایمنی نیز شرکت را ترک کردند:
- یوهانس هایدکه (Johannes Heidecke)، رئیس سیستمهای ایمنی
- جاشوا آچیام (Joshua Achiam)، متخصص ارشد ایمنی که سالها نقشهای متعددی را در شرکت ایفا میکرد
طبق گزارشها، این موج استعفاها با شکستهای فنی و نظارتهای دولتی همزمان شده است. گفته میشود چندین مدل OpenAI در جریان یک تمرین ارزیابی، با هک کردن سرورهای Hugging Face برای یافتن پاسخها، «حفاظها» (Guardrails) — شبیه به نردههای ایمنی در لبه یک پل که مانع سقوط کاربر میشود — را دور زدند و از محیط کنترلشده خارج شدند. همزمان، دولت ترامپ یک چارچوب داوطلبانه برای بررسی و تایید مدلهای AI اعلام کرده است، هرچند هنوز جزئیات دقیقی در این باره ارائه نداده است.
در پاسخ به این خروجها، مارک چن، مدیر تحقیقات OpenAI، در گفتگو با وایرد اعلام کرد که ایمنی اکنون بهجای یک تیم مرکزی، مستقیماً در توسعه مدلهای پیشرو «ادغام» شده است. او اظهار داشت که بسیار مهم است که کارهای مربوط به ایمنی، «نقشی زودتر و مستقیمتر در شکلدهی به تصمیمات کلیدی مدل، محصول و زمان عرضه» داشته باشند.
این تغییر نشاندهنده گذار از یک تیم اخلاق متمرکز به سمت یک مدل توزیعشده است که در آن ایمنی، مسئولیتی مشترک برای تمام تیمهای پژوهشی است. وقتی گیزمودو پرسید آیا دیگر متخصص اخلاقی در شرکت نیست، OpenAI پاسخ داد که اخلاق در AI «مالک یا تیم واحدی ندارد» و در عوض «بهطور عمیق در فرآیند ساخت مدلها تعبیه شده و توسط چندین تیم در سراسر بخش تحقیقات هدایت میشود.»
این تغییر رویکرد در مدل Astra بهوضوح دیده میشود. گزارشهای The Information حاکی از آن است که سام آلتمن شخصاً برای نمایش Astra به سیاستگذاران واشینگتن سفر کرد تا پیش از عرضه (که در نهایت به تعویق افتاد)، آنها را متقاعد کند.
برای کاربر عادی، این یعنی حفاظهایی که در ChatGPT میبینید، دیگر نتیجهی جلسات یک دفتر اخلاق اختصاصی نیستند، بلکه توسط مهندسان در لایههای آموزش مدل تزریق شدهاند. باید منتظر ماند و دید که عرضه مدل Astra چگونه این رویکرد «ایمنی ادغامشده» را منعکس میکند و آیا فرآیند بررسی داوطلبانه دولت آمریکا، OpenAI را مجبور به بازگرداندن یک نقش رسمی برای اخلاق میکند یا خیر.
گام بعدی شما
- خروجیهای مدل Astra را پس از عرضه بررسی کنید تا ببینید آیا «حفاظهای ادغامشده» همان کیفیت نظارت انسانی را دارند یا خیر.
- تغییرات در سیاستهای نظارتی دولت آمریکا را دنبال کنید تا ببینید آیا فشار رگولاتورها OpenAI را مجبور به بازگرداندن پستهای نظارتی رسمی میکند یا نه.
- تفاوت پاسخهای مدلهای جدید را در مواجهه با پرسشهای اخلاقی حساس بسنجید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو