«تأیید مستقل ریسک‌ها»؛ رویکرد جدید کالیفرنیا برای نظارت بر هوش مصنوعی

تصور کنید در آینده، مسئولیت اثبات ایمنی یک مدل هوش مصنوعی دیگر بر عهده سازنده نباشد، بلکه توسط نهادهای بی‌طرف تأیید شود. این هدف اصلی لایحه SB 813 است که در ۳۰ اوت ۲۰۲۶ توسط قانون‌گذاران کالیفرنیا تصویب شد تا چارچوبی رسمی و مورد تأیید ایالت برای بازرسی مستقل ایمنی هوش مصنوعی (AI Safety) ایجاد کند.

این قانون که توسط سناتور جری مک‌نِرنی (Jerry McNerney) تدوین شده، مسیری قانونی و رسمی برای ارزیابان خارجی تعریف می‌کند تا ریسک‌های مدل‌های هوش مصنوعی را بسنجند. این لایحه اکنون در مرحله نهایی است و در انتظار امضای فرماندار گوین نیوسوم (Gavin Newsom) قرار دارد.

سال‌هاست صنعت هوش مصنوعی بر «خود-گواهی» (self-attestation) تکیه کرده است؛ یعنی شرکت‌ها عملاً برگه امتحان خودشان را در مورد ایمنی تصحیح می‌کنند. این قانون در زمانی تصویب می‌شود که اعتماد عمومی به مقررات فدرال در حال کاهش است. طبق اعلام سناتور جری مک‌نِرنی، نظرسنجی‌ها نشان می‌دهد دو-سوم آمریکایی‌ها به توانایی واشینگتن دی.سی در تنظیم مقررات مؤثر برای هوش مصنوعی اعتماد ندارند. مک‌نِرنی صراحتاً بیان کرد که کالیفرنیا باید پیش‌قدم شود، زیرا دولت فدرال در این زمینه «ناتوان یا غیرتمایل» به اقدام است.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی لایحه‌های نظارتی در سیلیکون‌ولی اشاره کردیم، کالیفرنیا همواره سعی دارد استانداردهای پیشرو را پیش از دولت مرکزی تعریف کند. این رویکرد در راستای موج جهانی سخت‌گیرانه‌تر شدن قوانین است، مشابه آنچه در قانون ایمنی آنلاین بریتانیا برای مقابله با محتوای غیرقانونی GenAI مشاهده می‌کنیم.

جزئیات قانون‌گذاری

این لایحه پس از یک فرآیند قانون‌گذاری طولانی و پیچیده به تصویب رسید. مک‌نِرنی ابتدا SB 813 را در ۲۱ فوریه ۲۰۲۵ معرفی کرد. در این مسیر، نمایندگان مجلس به نام‌های باور-کاهان (Bauer-Kahan) و لوئنتال (Lowenthal) به عنوان نویسندگان مشترک لایحه همکاری کردند. نسخه اولیه این لایحه در ۲۷ ژانویه ۲۰۲۶ با ۳۱ رأی موافق در برابر ۷ رأی مخالف در سنا تصویب شده بود. آن نسخه اولیه قصد داشت یک «کمیسیون استانداردهای ایمنی هوش مصنوعی کالیفرنیا» ایجاد کند تا سازندگان را تأیید کرده و میزان پایبندی آن‌ها به قوانین را نظارت کند.

پس از اصلاحات مکرر در هر دو مجلس — از جمله تغییراتی در مجلس نمایندگان که تا ۲۶ اوت ۲۰۲۶ ادامه داشت — نسخه نهایی به صحنه رأی‌گیری رسید. بر اساس سوابق رسمی رأی‌گیری، مجلس نمایندگان در ۳۰ اوت ۲۰۲۶ در خوانش سوم، لایحه را با ۶۷ رأی موافق، ۶ رأی مخالف و ۶ رأی ممتنع تصویب کرد. سنا نیز در همان روز، اصلاحات مجلس نمایندگان را با ۳۹ رأی موافق، بدون هیچ مخالفتی و با یک رأی ممتنع پذیرفت.

طبق این قانون جدید، آژانس عملیات دولتی (Government Operations Agency) موظف است تا ۱ ژانویه ۲۰۲۸، سازمان‌های تأیید مستقل یا IVOها را تعیین و معرفی کند. این IVOها به عنوان حسابرسان ثالث واجد شرایط عمل می‌کنند که باید تخصص خود را در متدولوژی و ارزیابی ریسک به اثبات برسانند. برای تضمین عینیت و بی‌طرفی، لایحه حکم می‌کند که یک IVO نباید هیچ‌گونه وابستگی مالی یا مدیریتی به طرفی که آن را ارزیابی می‌کند، داشته باشد.

چارچوب عملکرد IVOها

• استقلال: بازرسان می‌توانند پرداخت‌هایی مطابق با نرخ بازار دریافت کنند، اما نمی‌توانند شرایطی را بپذیرند که پرداخت دستمزد آن‌ها را مشروط به نتایج ارزیابی ایمنی (مثلاً تأیید حتمی ایمنی مدل) کند.
• پاسخگویی: دولت ایالتی می‌تواند تعیین یک IVO را در صورت بروز نقص‌های امنیت سایبری، وجود تضاد منافع، ارائه اظهارات نادرست در درخواست‌های ثبت‌نام، عدم حفظ مستندات یا هر رفتاری که صداقت، عینیت یا صلاحیت IVO را زیر سؤال ببرد، تعلیق یا لغو کند.
• شفافیت: سازمان‌های IVO باید گزارش‌های سالانه — حداکثر ۱۲ ماه پس از تعیین اولیه — درباره متدولوژی‌ها و منابع تأمین مالی خود ارائه دهند. آن‌ها مجاز هستند بخش‌هایی از مطالب را برای محافظت از اسرار تجاری، ایمنی عمومی یا امنیت ملی حذف (redact) کنند، اما موظف‌اند نسخه‌های بدون حذف را به مدت پنج سال نگهداری کنند.
• همکاری: آژانس مربوطه گروه‌های کاری متشکل از مهندسان شرکت‌های رقیب در حوزه هوش مصنوعی و متخصصان ایمنی تشکیل می‌دهد تا استانداردهای فنی را اصلاح و به‌روز کنند. یافته‌های این گروه‌های کاری باید به‌طور رسمی به قانون‌گذاران گزارش شود.

جزئیات اجرایی

آژانس عملیات دولتی موظف است تا ضرب‌الاجل ۱ ژانویه ۲۰۲۸، چندین مؤلفه کلیدی را مستقر کند:

۱. الزامات درخواست برای دریافت عنوان IVO.
۲. رویه‌های دقیق برای تعلیق یا لغو تعیین یک سازمان به عنوان بازرس.
۳. معیارهای تعیین اینکه آیا یک حسابرس هوش مصنوعی واجد شرایط است یا خیر.

این آژانس ملزم است این معیارها را به‌صورت عمومی منتشر کرده و همزمان با تکامل استانداردهای صنعت، آن‌ها را بازنگری کند. در هر کجا که امکان‌پذیر باشد، ایالت تلاش خواهد کرد این الزامات را با استانداردهای موجود در حسابرسی حرفه‌ای، نظارتی و استانداردهای تضمین کیفیت همسو کند. این همسویی با استانداردهای نظارتی، در واقع بخشی از زیرساخت‌های ضروری برای استقرار ایمن هوش مصنوعی در سازمان‌های تحت نظارت است که برای پایداری سیستم‌ها حیاتی است.

این اقدام توسط Fathom، یک سازمان غیرانتفاعی که مدل IVO را برای اطمینان از اینکه تصمیمات ایمنی بر اساس تست‌های معتبر و نه بر اساس «اعتماد کورکورانه» باشد، توسعه داده است، حمایت شد. اندرو فریدمن، مدیرعامل Fathom، اشاره کرد که این مدل به متخصصان اجازه می‌دهد ریسک را ارزیابی کنند و «به جای منجمد کردن یک تست واحد در متن قانون، با سرعت تکنولوژی پیش بروند».

باید توجه داشت که این چارچوب کاملاً داوطلبانه است. SB 813 هیچ سازنده‌ای را مجبور به گذراندن حسابرسی نمی‌کند و عدم دریافت گواهینامه به‌تنهایی منجر به ایجاد مسئولیت قانونی نمی‌شود. با این حال، لایحه تصریح می‌کند که حسابرسی‌های انجام شده تحت این چارچوب، در دعاوی حقوقی مربوط به آسیب‌های ناشی از هوش مصنوعی، به عنوان شواهد مرتبط — هرچند نه لزوماً قطعی — تلقی می‌شوند.

این قانون مکمل لایحه SB 53 است که سازندگان مدل‌های پیشرو (Frontier Developers) را به انتشار چارچوب‌های ایمنی و گزارش حوادث بحرانی ملزم می‌کند. کالیفرنیا با افزودن لایه تأیید مستقل، در واقع یک «خندق نظارتی» دور بزرگ‌ترین قطب هوش مصنوعی جهان می‌سازد. Fathom استدلال می‌کند که این امر ضروری است زیرا تعیین سطح ایمنی هنوز تا حد زیادی بر ارزیابی شرکت‌ها از سیستم‌های خودشان متکی است.

برای مدیران کسب‌وکار، این یک سیگنال برای حرکت به سمت «هوش مصنوعی آماده‌ برای حسابرسی» (audit-ready AI) است. اگرچه این روند اکنون داوطلبانه است، اما ایجاد یک لیست مورد تأیید ایالت از حسابرسان، یک سیگنال بازار ایجاد می‌کند. شرکت‌هایی که پیش‌دستانه به دنبال گواهینامه IVO باشند، احتمالاً در مدیریت مسئولیت‌های حقوقی و جلب اعتماد مشتریان سازمانی موفق‌تر خواهند بود. در این راستا، باید به یاد داشت که تکیه صرف بر لیست‌های ابزارهای تأییدشده بدون نظارت مستمر، می‌تواند در برابر نشت داده‌های سازمانی شکست بخورد و لایحه جدید کالیفرنیا سعی دارد با IVOها این خلاء را پر کند.

از منظر سیاست‌گذاری، کالیفرنیا در واقع به عنوان نماینده‌ای برای مقررات فدرال عمل می‌کند. با تعریف استانداردی برای اینکه چه کسی «بازرس واجد شرایط» است، این ایالت احتمالاً در حال تعریف بنچمارک جهانی برای تضمین ایمنی هوش مصنوعی است و شرکت‌ها را مجبور می‌کند خطوط لوله‌ی ایمنی داخلی خود را برای برآورده کردن این معیارهای خارجی تطبیق دهند.

اگر گوین نیوسوم لایحه را امضا کند، شمارش معکوس برای ضرب‌الاجل ژانویه ۲۰۲۸ آغاز می‌شود. اکنون صنعت باید منتظر نتایج نخستین گروه‌های کاری باشد که به قانون‌گذاران گزارش می‌شود، زیرا این گزارش‌ها معیارهای فنی واقعی مورد استفاده برای تأیید ایمنی را تعریف خواهند کرد.

گام بعدی شما

• اگر مدیر محصول یا فنی هستید، استانداردهای فعلی حسابرسی نرم‌افزاری را بررسی کنید تا برای احتمالی‌ترین معیارهای IVO آماده شوید.
• گزارش‌های سازمان Fathom را دنبال کنید تا متوجه شوید چه متدهایی برای تست مستقل ایمنی پیشنهاد شده است.
• در استراتژی‌های سال ۲۰۲۷ خود، بودجه‌ای برای «تأیید ثالث» (Third-party Verification) در نظر بگیرید تا مزیت رقابتی در جلب اعتماد مشتری کسب کنید.

اما این تنها بخشی از فشار قانونی بر سیلیکون‌ولی است؛ اثرات لایحه SB 53 بر شفافیت مدل‌های بنیادی را در گزارش بعدی بررسی خواهیم کرد.