گاوین نیوسوم، فرماندار کالیفرنیا، در ۱۸ نوامبر ۲۰۲۶ توصیههای قانونگذاری برای نظارت اجباری هوش مصنوعی پیشرو کالیفرنیا را منتشر کرد. این چارچوب نخستین رژیم نظارت مداوم و قابل اجرا بر توسعهدهندگان مدلهای پیشرو در سطح ایالتی است. این چارچوب کالیفرنیا در پی روند قانونگذاریهای ایالتی است که نیویورک با قانون RAISE شامل جریمه ۳ میلیون دلاری و گزارش ۷۲ ساعته پیشرو بوده است.
سازمانهای تأیید مستقل (IVO) و مجوزدهی
هر توسعهدهنده پیشرو بزرگ باید تحت نظارت مداوم سازمانهای تأیید مستقل (IVO) قرار گیرد. این سازمانها خطاساسهای ایمنی که آژانس عملیات دولتی تعیین میکند را به مجموعههای تستی فنی تبدیل کرده و بهروزرسانی میکنند. IVOها به مدلها، پرسنل، محیطهای آموزش و سوابق دسترسی پیدا کرده و ارزیابیهای بدون سانسور را مستقیماً به آژانس تحویل میدهند. آژانس مجوز IVOها را صادر کرده و در صورت فقدان تخصص، استقلال یا سختگیری، مجوز را انقضا میکند. هزینههای تأیید از طریق مازادهای توسعهدهنده تأمین شده و بخشی از درآمدها به کالکامپیوت (CalCompute) برای تحقیقات ایمنی مستقل اختصاص مییابد. استرالیا نیز پس از نقض امنیتی اوپنایآی، ۱۸ توصیه ایمنی عامل هوش مصنوعی منتشر کرده که با رویکرد نظارت مداوم IVOها همسو است.
پروتکلهای مهار ریسک و تعطیلی اضطراری
هر توسعهدهنده باید یک پروتکل مهار ریسک نگه دارد که توسط IVO بهصورت مداوم تست شده و توسط یک مقام ارشد شرکت تایید شود. پروتکل باید محاسبات، عاملها، دسترسی داخلی و استقرار را پوشش دهد — نه تنها یک کلید خاموشی. تستها باید حالتهای شکست شامل دزدی وزن (Weight Exfiltration) و اخذ خصمانه کنترلهای خاموشی را در بر بگیرند. برای توسعهدهندگان وزنهای باز، الزامات تنها به استقرارهای تحت کنترل مستقیمشان اعمال میشود.
مقامات دولتی میتوانند وقتی شواهد قابل اعتماد خطر فاجعهبار آتی را نشان دهد و توسعهدهنده از مهار خودداری کند، دستور تعطیلی فوری صادر کنند. دستور بلافاصله اجرا میشود، در بازبینی قضایی باقی میماند و تنها وقتی خطر از بین برود لغو میشود. توسعهدهنده میتواند درخواست توقف موقت قضایی دهد اما نمیتواند اجرای اولیه را به تأخیر بیندازد. در سطح فدرال نیز گروههای مدنی نظیر پابلیک سیتیزن توقف توسعه مدلهای پیشرو را به دلیل شکستهای ایمنی تقاضا کردهاند، که فشار برای مجوزهای اضطراری را تشدید میکند.
گزارش رویدادها در ۴۸ ساعت و محرک مبتنی بر قابلیت
مهلت گزارش رویدادهای بحرانی از ۱۵ روز به ۴۸ ساعت کاهش یافته؛ خطرهای فاجعهبار آتی همچنان مهلت ۲۴ ساعته دارند. رژیم گزارشگیری دزدی تلاشآمیز وزن بدون آسیب فیزیکی، تمام رویدادهای از دست دادن کنترل و یک کانال جدید رویدادهای نزدیک به وقوع (Near-Miss) را پوشش میدهد. حفاظتهای افشاگران به کارکنان سابق و پیمانکاران گسترش یافته است.
یک محرک مبتنی بر قابلیت تعریف پیشرو را فراتر از آستانه ۱۰^۲۶ FLOP محاسبات آموزشی گسترش میدهد. مدلهایی که قادر به اقدامات ایجادکننده خطر فاجعهبار هستند، صرفنظر از مقیاس آموزش، مشمول گزارشگیری میشوند.
افشای تحقیقات خودکار و خودبهبود بازگشتی
شرکتهایی که تحقیقات هوش مصنوعی را خودکار میکنند باید فصلی گزارش دهند که محاسباتشان چگونه بین آموزش، آزمایشها، استنتاج برای عاملهای تحقیقاتی، کارهای ایمنی، مشتریان خارجی و فعالیتهای غیرمنسوب تقسیم شده است. IVOها دستهبندیها را تأیید میکنند. افشاهای اضافی حجم داده آموزشی، هزینه، دامنهها، منشأ انسانی در برابر هوش مصنوعی و محاسبات استنتاج تقویتی با کاهش سوءاستفاده از پاداش را در بر میگیرند.
خودبهبود بازگشتی (RSI) تحت اختیار سقف آماده (Standby Cap Authority) قرار میگیرد، نه ممنوعیت فوری. مقامات میتوانند سقفهای محدود شده زمانی و بهصورت دورهای بازبینیشده بر تحقیقات خودکار اعمال کنند وقتی از آستانههای متعهد شده فراتر رود یا از محافظتها پیشی بگیرد. سقفها پس از تأیید IVO از وجود محافظتهای مناسب برداشته میشوند.
پیامدهای انطباق و جلسه قانونگذاری دسامبر
هزینههای انطباق برای آزمایشگاههای پیشرو بهشدت افزایش مییابد. دسترسی مداوم IVO، تست مهار بیدرنگ و گزارشدهی ۴۸ ساعته زیرساخت و پرسنل اختصاصی میطلبد. توسعهدهندگان کوچکتر ممکن است بدون منابع متناسب با استانداردها مقابله کنند، که میتواند حوزه پیشرو را در محیط شرکتهای ثروتمند موجود تثبیت کند.
پاسخ صنعت جلسه قانونگذاری دسامبر را شکل خواهد داد. چالشهای کلیدی شامل استانداردهای مجوز IVO، دامنه اختیار اضطراری و معافیتهای استقرارهای وزنهای باز است. پنل مشورتی گزارش — شامل آلوندرا نلسون و جیلیان هادفیلد — قصد جدی سیاستگذاری را نشان میدهد، اما متن قانونگذاری هنوز نگارش نشده است.
گام بعدی شما
- اگر در تیم ایمنی یا انطباق یک شرکت هوش مصنوعی هستید، اکنون زیرساختهای گزارشدهی ۴۸ ساعته و دسترسی IVO را طراحی کنید — مهلت تا دسامبر کوتاه است.
- سرمایهگذاران باید هزینههای انطباق را در مدلسازی ارزشیابی آزمایشگاههای پیشرو کوچکتر لحاظ کنند؛ تثبیت بازار محتمل است.
- محققان ایمنی: فرصت مشارکت در تعریف معیارهای IVO و تستهای مهار را در فرآیند نظرات عمومی دسامبر غنیمت بشمارید.




گفتگو