تصور کنید یک مدل هوش مصنوعی در مقیاس صنعتی از کنترل خارج شود و هیچ راهی برای متوقف کردن آن وجود نداشته باشد. برای جلوگیری از چنین سناریویی، گوین نیوسام (Gavin Newsom)، فرماندار کالیفرنیا، در ۱۸ سپتامبر ۲۰۲۶ دستورالعملی را امضا کرد که شرکتهای هوش مصنوعی را مجبور میکند به سمت نظارت مستقل حرکت کنند.
این دستور در حالی صادر میشود که در سطح فدرال، هیچ قانون ملی برای گزارش حوادث خطرناک توسط آزمایشگاههای هوش مصنوعی وجود ندارد. این خلأ قانونی در حالی است که برخی قانونگذاران فدرال تلاش کردهاند با معرفی لوایح جدید، توسعه هوش مصنوعی پیشرفته را به طور کلی متوقف کنند. کالیفرنیا پیش از این قوانینی برای جعل عمیق (Deepfake) و حریم خصوصی وضع کرده بود، اما حالا نیوسام میخواهد این چارچوب را به عنوان یک استاندارد ملی به کنگره تحمیل کند. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بنیادی اشاره کردیم، خلأ قانونی در سطح کلان، مسئولیت ایمنی را بر دوش ایالتهای پیشرو انداخته است.
به گزارش the-decoder.com، این دستورالعمل چندین الزام سختگیرانه را تعریف میکند:
- حسابرسی مستقل: یک پنل خبره دو ماه فرصت دارد تا توصیههای خود را برای استقرار حسابرسان مستقل مستقیماً درون آزمایشگاههای هوش مصنوعی ارائه دهد.
- کنترلهای اضطراری: مدلها باید دارای یک «کلید قطع» (Kill Switch) باشند تا در صورت بروز رفتارهای خطرناک، فوراً خاموش شوند. این رویکرد نظارتی در راستای پیشنهاداتی برای ایجاد آژانسهای نظارتی فدرال جهت جلوگیری از ظهور هوش مصنوعی ابرهوشمند قرار دارد.
- همکاری آزمایشگاهها: جالب اینجاست که پیشنهاد حضور حسابرسان داخلی، ابتدا از سوی خودِ آزمایشگاهها مطرح شده بود تا سرعت تحقیق و توسعه (R&D) را کاهش دهند.
این فشار رگولاتوری، شکاف سیاسی عمیقی ایجاد کرده است. نیوسام از دونالد ترامپ به دلیل نادیده گرفتن این نگرانیها انتقاد کرده است. همزمان، گروهی متشکل از ۴۲ ریاضیدان هشدار دادهاند که سیستمهای پیشرفته ممکن است سریعتر از توان کنترلهای فعلی تکامل یابند.
برای مدیران کسبوکار، این یعنی دوران «سریع حرکت کن و همه چیز را بشکن» در بزرگترین قطب هوش مصنوعی جهان به دیوار قانونی برخورد کرده است. شرکتهایی که در کالیفرنیا فعالیت میکنند، باید هزینه حضور دائمی ناظران شخص ثالث را در تیمهای پژوهشی خود بپذیرند.
گام بعدی شما
- بررسی توصیههای پنل خبره در اواخر سال ۲۰۲۶ برای درک استانداردهای فنی «کلید قطع».
- بازنگری در استراتژیهای مدیریت ریسک برای شرکتهایی که زیرساختهای خود را در کالیفرنیا مستقر کردهاند.
- دنبال کردن واکنش کنگره آمریکا به این مدل نظارتی ایالتی.
اما تأثیر این سختگیریها بر سرعت نوآوری در مدلهای متنباز حتی بحثبرانگیزتر است — به تحلیل ما دربارهی تضاد ایمنی و دسترسی آزاد مراجعه کنید.
گفتگو