پرش به محتوای اصلی
پرش به محتوای مقاله

۳ الزام جدید برای توسعه‌دهندگان مدل‌های پیشرو در کالیفرنیا

·۲۷ آبان ۱۴۰۵۵ دقیقه مطالعه
گوین نیوسم در حال سخنرانی در پشت تریبون با نشان ایالت کالیفرنیا
گوین نیوسم در حال سخنرانی در پشت تریبون با نشان ایالت کالیفرنیا
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

نخستین پیشنهاد قانون‌گذاری ایالتی که نظارت مداوم مجاز، مهار ریسک تست‌شده و تعطیلی اضطراری را بر توسعه‌دهندگان پیشرو تحمیل می‌کند — با محرک مبتنی بر قابلیت که تعریف پیشرو را فراتر از FLOP گسترش می‌دهد.

گاوین نیوسوم، فرماندار کالیفرنیا، در ۱۸ نوامبر ۲۰۲۶ توصیه‌های قانون‌گذاری برای نظارت اجباری هوش مصنوعی پیشرو کالیفرنیا را منتشر کرد. این چارچوب نخستین رژیم نظارت مداوم و قابل اجرا بر توسعه‌دهندگان مدل‌های پیشرو در سطح ایالتی است. این چارچوب کالیفرنیا در پی روند قانون‌گذاری‌های ایالتی است که نیویورک با قانون RAISE شامل جریمه ۳ میلیون دلاری و گزارش ۷۲ ساعته پیش‌رو بوده است.

سازمان‌های تأیید مستقل (IVO) و مجوزدهی

هر توسعه‌دهنده پیشرو بزرگ باید تحت نظارت مداوم سازمان‌های تأیید مستقل (IVO) قرار گیرد. این سازمان‌ها خط‌اساس‌های ایمنی که آژانس عملیات دولتی تعیین می‌کند را به مجموعه‌های تستی فنی تبدیل کرده و به‌روزرسانی می‌کنند. IVOها به مدل‌ها، پرسنل، محیط‌های آموزش و سوابق دسترسی پیدا کرده و ارزیابی‌های بدون سانسور را مستقیماً به آژانس تحویل می‌دهند. آژانس مجوز IVOها را صادر کرده و در صورت فقدان تخصص، استقلال یا سخت‌گیری، مجوز را انقضا می‌کند. هزینه‌های تأیید از طریق مازادهای توسعه‌دهنده تأمین شده و بخشی از درآمدها به کال‌کامپیوت (CalCompute) برای تحقیقات ایمنی مستقل اختصاص می‌یابد. استرالیا نیز پس از نقض امنیتی اوپن‌ای‌آی، ۱۸ توصیه ایمنی عامل هوش مصنوعی منتشر کرده که با رویکرد نظارت مداوم IVOها هم‌سو است.

پروتکل‌های مهار ریسک و تعطیلی اضطراری

هر توسعه‌دهنده باید یک پروتکل مهار ریسک نگه دارد که توسط IVO به‌صورت مداوم تست شده و توسط یک مقام ارشد شرکت تایید شود. پروتکل باید محاسبات، عامل‌ها، دسترسی داخلی و استقرار را پوشش دهد — نه تنها یک کلید خاموشی. تست‌ها باید حالت‌های شکست شامل دزدی وزن (Weight Exfiltration) و اخذ خصمانه کنترل‌های خاموشی را در بر بگیرند. برای توسعه‌دهندگان وزن‌های باز، الزامات تنها به استقرارهای تحت کنترل مستقیمشان اعمال می‌شود.

مقامات دولتی می‌توانند وقتی شواهد قابل اعتماد خطر فاجعه‌بار آتی را نشان دهد و توسعه‌دهنده از مهار خودداری کند، دستور تعطیلی فوری صادر کنند. دستور بلافاصله اجرا می‌شود، در بازبینی قضایی باقی می‌ماند و تنها وقتی خطر از بین برود لغو می‌شود. توسعه‌دهنده می‌تواند درخواست توقف موقت قضایی دهد اما نمی‌تواند اجرای اولیه را به تأخیر بیندازد. در سطح فدرال نیز گروه‌های مدنی نظیر پابلیک سیتیزن توقف توسعه مدل‌های پیشرو را به دلیل شکست‌های ایمنی تقاضا کرده‌اند، که فشار برای مجوزهای اضطراری را تشدید می‌کند.

گزارش رویدادها در ۴۸ ساعت و محرک مبتنی بر قابلیت

مهلت گزارش رویدادهای بحرانی از ۱۵ روز به ۴۸ ساعت کاهش یافته؛ خطرهای فاجعه‌بار آتی همچنان مهلت ۲۴ ساعته دارند. رژیم گزارش‌گیری دزدی تلاش‌آمیز وزن بدون آسیب فیزیکی، تمام رویدادهای از دست دادن کنترل و یک کانال جدید رویدادهای نزدیک به وقوع (Near-Miss) را پوشش می‌دهد. حفاظت‌های افشاگران به کارکنان سابق و پیمانکاران گسترش یافته است.

یک محرک مبتنی بر قابلیت تعریف پیشرو را فراتر از آستانه ۱۰^۲۶ FLOP محاسبات آموزشی گسترش می‌دهد. مدل‌هایی که قادر به اقدامات ایجادکننده خطر فاجعه‌بار هستند، صرف‌نظر از مقیاس آموزش، مشمول گزارش‌گیری می‌شوند.

افشای تحقیقات خودکار و خودبهبود بازگشتی

شرکت‌هایی که تحقیقات هوش مصنوعی را خودکار می‌کنند باید فصلی گزارش دهند که محاسباتشان چگونه بین آموزش، آزمایش‌ها، استنتاج برای عامل‌های تحقیقاتی، کارهای ایمنی، مشتریان خارجی و فعالیت‌های غیرمنسوب تقسیم شده است. IVOها دسته‌بندی‌ها را تأیید می‌کنند. افشاهای اضافی حجم داده آموزشی، هزینه، دامنه‌ها، منشأ انسانی در برابر هوش مصنوعی و محاسبات استنتاج تقویتی با کاهش سوءاستفاده از پاداش را در بر می‌گیرند.

خودبهبود بازگشتی (RSI) تحت اختیار سقف آماده (Standby Cap Authority) قرار می‌گیرد، نه ممنوعیت فوری. مقامات می‌توانند سقف‌های محدود شده زمانی و به‌صورت دوره‌ای بازبینی‌شده بر تحقیقات خودکار اعمال کنند وقتی از آستانه‌های متعهد شده فراتر رود یا از محافظت‌ها پیشی بگیرد. سقف‌ها پس از تأیید IVO از وجود محافظت‌های مناسب برداشته می‌شوند.

پیامدهای انطباق و جلسه قانون‌گذاری دسامبر

هزینه‌های انطباق برای آزمایشگاه‌های پیشرو به‌شدت افزایش می‌یابد. دسترسی مداوم IVO، تست مهار بی‌درنگ و گزارش‌دهی ۴۸ ساعته زیرساخت و پرسنل اختصاصی می‌طلبد. توسعه‌دهندگان کوچک‌تر ممکن است بدون منابع متناسب با استانداردها مقابله کنند، که می‌تواند حوزه پیشرو را در محیط شرکت‌های ثروتمند موجود تثبیت کند.

پاسخ صنعت جلسه قانون‌گذاری دسامبر را شکل خواهد داد. چالش‌های کلیدی شامل استانداردهای مجوز IVO، دامنه اختیار اضطراری و معافیت‌های استقرارهای وزن‌های باز است. پنل مشورتی گزارش — شامل آلوندرا نلسون و جیلیان هادفیلد — قصد جدی سیاست‌گذاری را نشان می‌دهد، اما متن قانون‌گذاری هنوز نگارش نشده است.

گام بعدی شما

  • اگر در تیم ایمنی یا انطباق یک شرکت هوش مصنوعی هستید، اکنون زیرساخت‌های گزارش‌دهی ۴۸ ساعته و دسترسی IVO را طراحی کنید — مهلت تا دسامبر کوتاه است.
  • سرمایه‌گذاران باید هزینه‌های انطباق را در مدل‌سازی ارزشیابی آزمایشگاه‌های پیشرو کوچک‌تر لحاظ کنند؛ تثبیت بازار محتمل است.
  • محققان ایمنی: فرصت مشارکت در تعریف معیارهای IVO و تست‌های مهار را در فرآیند نظرات عمومی دسامبر غنیمت بشمارید.
چرا این موضوع مهم است؟

این نخستین بار است که یک اقتصاد بزرگ نظارت مداوم و قابل اجرا بر هوش مصنوعی پیشرو را قانون‌گذاری می‌کند، با استناد به اعتبار آژانس عملیات دولتی و پنل مشورتی متخصصان شناخته‌شده. تغییر محرک نظارتی از محاسبات به قابلیت، ارزیابی را از معیارهای استاتیک به تست‌های پویا و بی‌درنگ سوق می‌دهد.

تأثیر برای ایران

کالیفرنیا نخستین ایالتی است که این چارچوب را پیشنهاد می‌دهد؛ توسعه‌دهندگان ایرانی که با بازار آمریکا کار می‌کنند باید پیش‌نیازهای انطباق را رصد کنند.

·نگاه ما
تحریریه دات‌هوش

کالیفرنیا ایمنی هوش مصنوعی را از یک مسئله اخلاقی به یک الزام حسابرسی‌پذیر تبدیل می‌کند — مسیری که صنایع مالی و هسته‌ای دهه‌ها پیش طی کردند. نکته ظریف این است که محرک مبتنی بر قابلیت، نظارت را از «چقدر محاسبه کردی؟» به «چه کاری می‌توانی انجام دهی؟» می‌کشاند، که الزام به تست مداوم برون‌زایا را به‌جای گواهی یک‌باره می‌گذارد. اگر IVOها واقعاً مستقل بمانند، این الگو می‌تواند استاندارد جهانی شود؛ اگر تحت تأثیر صنعت قرار گیرند، تنها باریکر ورود جدید می‌سازند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.