درون ساختار ۴لایهٔ نظارتی؛ خلأ استانداردهای صلاحیت در پیمان جدید

اگر تصور کنید یک شرکت بزرگ، ممیزی ایمنی مدل‌های خود را به شرکتی بسپارد که هم‌زمان مشاور فنی همان شرکت است، متوجه می‌شوید چرا توافق جدید کاخ سفید یک حفرهٔ خطرناک دارد. این توافق بر روی کاغذ امن است، اما در عمل، تعریف «استقلال» را به دست خود شرکت‌ها سپرده است.

توافق کاخ سفید دربارهٔ ابرهوش (White House Accord on Super Intelligence) یک ساختار نظارتی چهارلایه برای مدل‌های پیشرو ایجاد می‌کند، اما حیاتی‌ترین لایه — یعنی ممیز خارجی مستقل — را کاملاً تعریف‌نشده رها کرده است. این توافق که هفته‌ی گذشته توسط رهبران گوگل (Google)، OpenAI، آنتروپیک (Anthropic)، متا (Meta)، xAI و انویدیا (Nvidia) امضا شد، چارچوبی داوطلبانه برای پاسخگویی است که می‌تواند در آینده به قانون تبدیل شود.

چهار لایهٔ نظارتی

به نقل از مستندات این توافق، شرکت‌های امضاکننده برای تضمین ایمنی، سلسله‌مراتب مشخصی از بررسی‌ها را پذیرفته‌اند:

• کنترل‌های داخلی.
• تیم داخلی اختصاصی برای تأیید کنترل‌ها.
• کمیتهٔ مستقل هیئت‌مدیره.
• ممیز یا ارزیاب خارجی مستقل.

این تعهد در حالی صورت می‌گیرد که صنعت برای عبور از محک‌های ایمنی داخلی به سمت تضمین‌های ثالث (Third-party assurance) دست‌وپنجه نرم می‌کند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، کنترل‌های داخلی و کمیته‌های هیئت‌مدیره تنها یک خط دفاعی اولیه و پایه فراهم می‌کنند و تنها یک ارزیاب خارجی می‌تواند به‌طور عینی تأیید کند که حفاظ‌ها (Guardrails) در محیط عملیاتی واقعاً کار می‌کنند. این چالش زمانی جدی‌تر می‌شود که برخی آزمایشگاه‌ها امنیت‌های پایه شبکه را در برابر ممیزی‌های شخص ثالث نادیده می‌گیرند تا سرعت توسعه را فدای ایمنی نکنند.

با این حال، چون هر شرکت در حال حاضر ارزیاب خود را انتخاب می‌کند، واژهٔ «مستقل» فاقد استاندارد فنی یا قانونی جهانی است. این توافق مشخص نمی‌کند چه کسی صلاحیت ارزیابی دارد، از چه استانداردهایی استفاده می‌شود، میزان دسترسی به سیستم‌ها چقدر است و وقتی ارزیاب هم‌زمان به شرکت خدمات می‌فروشد، استقلال او چگونه حفظ می‌شود.

بر اساس بررسی‌های unite.ai، یک تعریف معتبر از ارزیاب مستقل هوش مصنوعی باید چهار ستون اصلی را پوشش دهد:

الزامات یک ارزیابی معتبر

• استقلال: ارزیابان نباید حفاظ‌هایی را که بررسی می‌کنند طراحی کرده باشند و نباید خدمات مشاوره یا اصلاحی به همان شرکت بفروشند. در حوزه‌های ممیزی پیشرفته، «وابستگی به هزینه» (Fee dependence) نیز رصد می‌شود؛ یعنی اگر یک مشتری سهم بزرگی از درآمد ممیز را تشکیل دهد، انگیزه برای سهل‌انگاری و تساهل در ارزیابی ایجاد می‌شود.
• صلاحیت: این نقش نیازمند تفکیک تخصص است. از یک سو، پژوهشگران یادگیری ماشین و متخصصان دامنه برای تست قابلیت‌های خطرناک (مانند کمک به حملات سایبری یا ساخت سلاح‌های بیولوژیک) مورد نیازند. از سوی دیگر، ممیزان باتجربه در حوزه کنترل‌ها برای بررسی این موضوع که آیا حفاظ‌ها به‌درستی طراحی شده‌اند و در عمل کار می‌کنند یا خیر، ضروری هستند. هر گزارش ارزیابی باید صراحتاً ذکر کند که کدام نوع ارزیابی (فنی یا کنترلی) انجام شده است.
• دسترسی و دامنه: ممیزان به چیزی بیش از مستندات نیاز دارند، زیرا مستندات تنها تأیید می‌کنند که یک حفاظ روی کاغذ وجود دارد. آن‌ها باید به سیستم‌ها، لاگ‌ها، سوابق تأیید و افراد در یک بازه زمانی دسترسی داشته باشند. با توجه به اینکه مدل‌های پیشرو بین مراحل آموزش و استقرار تغییر می‌کنند، باید قوانین روشنی وجود داشته باشد که مشخص کند چه زمانی یک تغییر، نیاز به ارزیابی مجدد را ایجاد می‌کند. در مدیریت ریسک عامل‌های خودمختار، این تغییرات مداوم باعث می‌شود که تأییدیه‌های یک‌باره و استاتیک در برابر امتیازدهی‌های پویا شکست بخورند.
• نظارت: وجود یک «ممیز برای ممیزان» ضروری است. در بازارهای تثبیت‌شده، نهادهای اعتباربخشی کار ارزیابان را بررسی کرده و در صورت نقص، صلاحیت آن‌ها را لغو می‌کنند. این لایه پشتیبان است که به نتایج یک ارزیابی، اعتبار و وزن واقعی می‌بخشد.

زیرساخت‌های موجود می‌توانند نقشه‌راهی باشند. استاندارد ISO 42001 یک استاندارد بین‌المللی برای سیستم‌های مدیریت هوش مصنوعی ارائه می‌دهد که چارچوبی برای حاکمیت AI با کنترل‌های مستند و مالکان مشخص فراهم می‌کند. استاندارد مکمل آن، ISO 42006، الزامات نهادهایی را تعیین می‌کند که بر اساس ISO 42001 ممیزی و صدور گواهینامه انجام می‌دهند، از جمله قوانین بی‌طرفی و اثبات صلاحیت. چون این نهادهای صدور گواهینامه تحت نظارت سازمان‌های اعتباربخشی هستند، یک شخص ثالث بر خودِ ممیزان نظارت می‌کند. برای تیم‌های مهندسی، تبدیل این استانداردهای ISO به جریان‌های کاری فنی اولین گام برای خروج از فضای تئوریک و ورود به اجرای عملی است.

در سطح فنی نیز چارچوب‌های جدیدتری در حال پر کردن این خلأ هستند. برای مثال، AIUC-1 عامل‌های (Agents) خاص هوش مصنوعی را در استقرارهای مشخص گواهینامه می‌دهد. این چارچوب بر پایه کنترل‌های ISO 42001 بنا شده و از تست‌های دوره‌ای شخص ثالث برای شناسایی مشکلاتی مثل توهم (Hallucination)، jailbreak و استفاده ناامن از ابزارها استفاده می‌کند.

قوانین ایالتی نیز در حال پر کردن این خلأ هستند. ایالت کنتیکت قانونی را تصویب کرد که از جولای ۲۰۲۷، برنامه‌ای آزمایشی را اجرا می‌کند که در آن اداره حفاظت از مصرف‌کننده ایالت، حداکثر پنج سازمان تأییدیه مستقل را تأیید می‌کند. هر یک از این سازمان‌ها باید وارد توافقی تحت نظارت ایالت شوند که دامنه فعالیت، متدها، تعهدات گزارش‌دهی و ساختار حاکمیتی آن‌ها را تعریف کند.

برای جامعه فنی، این نقص در توافق، این فرض را تغییر می‌دهد که «تست شخص ثالث» یک وضعیت صفر و یکی (باینری) است. بدون یک بازار استاندارد برای ممیزان، عبارت «قبول شدن در ارزیابی» به معیاری بی‌معنا تبدیل می‌شود. اگر این توافق بدون تعاریف دقیق به قانون تبدیل شود، صنعت احتمالاً به جای سخت‌گیری، به تعاریف «راحت» و متناسب با Convenience روی می‌آورد. این رویهٔ اولیه به پیشینه‌ای تبدیل می‌شود که پس از انتشار نتایج توسط امضاکنندگان، در قراردادها و انتظارات نهادینه می‌گردد.

علاوه بر این، ظرفیت انجام این ممیزی‌ها سال‌ها زمان می‌برد تا ساخته شود. ایجاد نهادهای اعتباربخشی، آموزش ارزیابانی که هم مدل‌های پیشرو و هم تست‌های کنترلی را بفهمند، و توسعه متدهای مشترک، تلاشی بلندمدت است. تحمیل قانون پیش از وجود یک بازار صلاحیت‌دار، منجر به «تیک زدن صوری» (Box-checking) می‌شود؛ جایی که شرکت‌ها ظاهر قانون را رعایت می‌کنند اما رگولاتورها مبنای فنی برای به چالش کشیدن ارزیابی‌های ضعیف ندارند.

برخی استدلال می‌کنند که برای تعیین این قوانین زود است چون علم ارزیابی مدل‌های پیشرو نوپاست. اما در حالی که متدهای تست باید تکامل یابند، پاسخ به سؤالات مربوط به ارزیاب — یعنی تضاد منافع، صلاحیت، دسترسی و نظارت — پاسخ‌های پایداری دارد که دهه‌ها در سایر حوزه‌های تضمین کیفیت و ممیزی استفاده شده است.

سازمان‌هایی که هوش مصنوعی پیشرفته مستقر می‌کنند نباید منتظر دستورات دولتی بمانند. آن‌ها می‌توانند همین حالا با پرسیدن این سؤالات از ارزیابان احتمالی، وضعیت خود را بهبود ببخشند: چه خدمات دیگری ارائه می‌دهید؟ تیم شما چه صلاحیت‌های خاصی دارد؟ میزان دسترسی در این قرارداد چقدر است؟ و چه کسی بر کار شرکت شما نظارت می‌کند؟ پیاده‌سازی یک سیستم مدیریت AI مستند از همین حالا، یک ردپای concrete برای ارزیابان آینده فراهم می‌کند.

گام بعدی شما

• اگر از ارزیاب‌های خارجی استفاده می‌کنید، ماتریس تضاد منافع (Conflict of Interest) آن‌ها را درخواست کنید.
• استانداردهای ISO 42001 و ISO 42006 را برای ایجاد یک سیستم مدیریت مستند در سازمان خود بررسی کنید.
• در قراردادهای خدمات AI، بندهای مربوط به «دسترسی به لاگ‌ها و سیستم‌ها» را به جای «بررسی مستندات» جایگزین کنید.

اما چالش واقعی، نبودِ ابزارهای خودکار برای ممیزی است — به تحلیل ما درباره‌ی ابزارهای Red Teaming خودکار مراجعه کنید.