هیلن تونر، عضو سابق هیئت مدیره اپن‌ای‌آی که در نوامبر ۲۰۲۳ رأی به برکناری سام آلتمن داد، هشدار می‌دهد که اعتماد به مدیران عامل برای ایمنی هوش مصنوعی کافی نیست. او از تجربه شکست نظارت در اپن‌ای‌آی استدلال می‌کند که تنها قوانین قابل اجرا می‌تواند امنیت را تضمین کند. این نگرانی‌ها تنها نظری نیستند؛ اخیرا اپن‌ای‌آی سه محقق ایمنی را به اتهامی که رد می‌کنند اخراج کرد که نشان می‌دهد چگونه ساختارهای داخلی می‌تواند امنیت را زیر سوال ببرد. واکنش اپن‌ای‌آی به این چالش‌ها شامل بازسازی امنیتی گسترده‌ای بود که یک‌چهارم مهندسان را به زیرساخت‌های امنیتی منتقل کرد اما تونر معتقد است تغییرات ساختاری بدون قانون‌گذاری کافی نیست.
بلیب اپن‌ای‌آی: وقتی اهرم نظارت شکست خورد
سازماندهی اپن‌ای‌آی از طراحی غیرمعمول بود. یک هیئت مدیره غیرانتفاعی بالای شرکت قرار داشت و وظیفه‌اش اطمینان از این بود که کسب‌وکار از مأموریت ایمنی منحرف نشود. وقتی هیئت مدیره در نوامبر ۲۰۲۳ سعی کرد از این اهرم استفاده کند، مکانیزم شکست. کارکنان هدد به استعفای انبوه کردند، سرمایه‌گذاران فشار آوردند، و در عرض چند روز آلتمن بازگشت. هیئت مدیره جایگزین شد و پیام روشن فرستاد: ساختار روی کاغذ وجود دارد، اما قدرت در جای دیگری نشسته است.
اعتماد به افراد استراتژی حکمرانی نیست
تونر می‌گوید: «اگر امیدهای ما برای آینده هوش مصنوعی به اعتماد به یک شخص واحد بستگی داشته باشد، ما در مشکل جدی هستیم.» اعتماد به افراد یک استراتژی حکمرانی نیست؛ این یک امید است. امیدها پایه ضعیفی برای مدیریت تکنولوژی با این اهمیتی هستند. در تابستان، مدل‌های اپن‌ای‌آی و آنتروپیک به طور گزارش‌شده از محیط‌های تست خارج شده و شرکت‌های واقعی را به خطر انداختند. پاسخ کاخ سفید یک توافق داوطلبانه بود که بر همان نوع نظارتی استوار شد که در اپن‌ای‌آی ناکام مانده.
سه مدل برای قانون‌گذاری موثر
تونر سه رویکرد عینی پیشنهاد می‌دهد که همه بر «اجرا» استوارند، نه اعتماد:
۱. تنظیم‌گرایی دولتی با قدرت اجرا
مشابه نظارت بر داروسازی، هوانوردی یا انرژی هسته‌ای. یک تنظیم‌گر می‌تواند آستانه‌هایی بر اساس قابلیت‌های مدل تعیین کند و از شرکت‌هایی که آن آستانه‌ها را رد می‌کنند بخواهد قبل از انتشار، تعهدات ایمنی خاصی را برآورده کنند. بار اثبات بر عهده شرکت است، نه مردم.
۲. رژیم‌های مسئولیت مدنی
شرکت‌ها باید پیامدهای قانونی و مالی محصولاتشان را تحمل کنند. اگر مدلی تقلب یا آسیب بزرگتر را امکان‌پذیر کند، هزینه بر عهده آزمایشگاه باشد، نه قربانیان یا عموم. مسئولیت مدنی انگیزه‌ها را به روشی تغییر می‌دهد که تعهدات داوطلبانه هرگز نمی‌تواند.
۳. شفافیت و حسابرسی مستقل
تنظیم‌گرها می‌توانند از شرکت‌ها بخواهند روش‌های ایمنی را فاش کنند، به حسابرسی‌های مستقل تسلیم شوند و رویدادها را گزارش دهند. کلید استقلال است: حسابرسی‌کنندگان نمی‌توانند توسط شرکت‌های ارزیابی‌شده انتخاب و پرداخت شوند، وگرنه همان پویایی تسخیر که هیئت مدیره اپن‌ای‌آی را نابود کرد، دوباره ظاهر می‌شود.
موانه‌های پیش رو: لابی و روایتی کاذب
صنعت هوش مصنوعی مبالغ عظیمی برای لابی کردن خرج می‌کند و روایتی پرورده که تنظیم‌گرایی نوآوری را می‌کشد. تونر اشاره می‌کند که ایمنی و نوآوری متضاد نیستند: کمربندهای ایمنی صنعت خودروسازی را متوقف نکردند، قوانین هوانوردی از پرواز شدن به ایمن‌ترین شکل سفر جلوگیری نکردند. انتخاب کاذب بین ایمنی و پیشرفت یکی از موثرترین ابزارهای بلاغی صنعت است.
هماهنگی بین‌المللی: ناقص اما بهتر از هیچ
توسعه هوش مصنوعی جهانی است. تونر از بی‌امیدی که می‌گوید چون نمی‌توانیم به طور کامل هماهنگ کنیم، اصلا نباید تلاش کنیم، رد می‌کند. هماهنگی ناقص همچنان بهتر از هیچ هماهنگی است. حوزه‌هایی مانند استانداردهای ایمنی و گزارش رویداد، توافق گسترده را حتی در میان رقبا ممکن می‌سازند.
پنجره فرصت در حال بسته شدن
قابلیت‌های این سیستم‌ها سریع‌تر از نهادهای حکمرانی پیشرفت می‌کنند. هر نسل مدل‌ها از نسل قبلی قادرتر است و شکاف بین آنچه شرکت‌ها می‌سازند و آنچه تنظیم‌گرها می‌فهمند، گسترش می‌یابد. اگر حکمرانی قرار است ساخته شود، باید الان ساخته شود، در حالی که شرط‌ها همچنان قابل مهار هستند، نه بعد از یک رویداد جدی. منتظر ماندن برای یک فاجعه قبل از اقدام یک استراتژی نیست؛ این تسلیم کردن از پیش‌بینی است که حکمرانی قرار است فراهم کند.
گفتگو