تصور کنید یک دستیار هوش مصنوعی در یک کلینیک، وظیفه دارد پرسش‌های پیچیده پزشکی را به پزشک انسانی ارجاع دهد؛ حالا ایالت یوتا به‌جای پذیرش ادعای شرکت سازنده مبنی بر «دقت ۹۹ درصدی»، برای هر تصمیم ارجاع، یک رسید دیجیتال امضاشده می‌خواهد. این رویکرد به ارزیابان مستقل اجازه می‌دهد رفتار سیستم را تأیید کنند، بدون اینکه نیازی به دیدن داده‌های خصوصی درون مدل باشد.
این رویکرد جدید به این معناست که شرکت‌های AI برای ورود به محیط آزمایشی (Sandbox) رسمی یوتا، باید برای هر استنتاج (Inference) — یعنی همان لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه به خودِ آشپزی و نه دوره‌ی آموزش آشپز — یا هر ارزیابی کنترل، یک رسید رمزنگاری‌شده ارائه دهند. طبق اعلام شرکت Glacis Technologies در ۵ اکتبر ۲۰۲۶، این رسیدها به عنوان «بهای ورود» برای فروشندگانی است که می‌خواهند سیستم‌های خود را در محیط رسمی یوتا آزمایش کنند. این شرط برای تمام شرکت‌های متقاضی عضویت در «آزمایشگاه یادگیری» (Learning Laboratory) اداره سیاست‌گذاری هوش مصنوعی یوتا (که بخشی از اداره تجارت ایالت است) الزامی است.
این تغییر، پارادایم نظارتی را از «اعتماد به گزارش‌های شرکت‌ها» به «تقاضای شواهد قابل‌تأیید» تغییر می‌دهد. در اکثر محیط‌های قانونی، شرکت‌ها صرفاً گزارش می‌دهند که فیلترهای ایمنی آن‌ها کار کرده است، اما یوتا اکنون یک ردپای دیجیتال می‌طلبد که ثابت کند یک بررسی خاص، در زمانی مشخص، واقعاً اجرا شده است. این رویکرد در واقع بخشی از روند گسترده‌تری است که در آن قراردادهای خرید نرم‌افزار به ابزارهای نظارتی قدرتمندی برای مهار ریسک‌های هوش مصنوعی تبدیل شده‌اند. جو برایدوود، نویسنده این اطلاعیه، اشاره کرد که این نخستین بار است که یک نهاد نظارتی، استاندارد OVERT را به عنوان یک شرط صریح برای مشارکت در یک برنامه رسمی گنجانده است.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی استانداردهای نظارت بر مدل‌های بنیادی اشاره کردیم، چالش اصلی همواره تضاد میان «شفافیت نظارتی» و «حفاظت از اسرار تجاری» بوده است. سیستم یوتا با استفاده از رسیدها، به ارزیابان مستقل اجازه می‌دهد رفتار سیستم را بدون نیاز به دیدن داده‌های خصوصی درون مدل یا وزن‌های باز (Open Weights) — که در واقع همان «دستور پخت» مدل هستند — تأیید کنند.
سازوکار OVERT
این رسیدها بر اساس استاندارد OVERT (شواهد تأییدپذیر برای اعتماد در زمان اجرا) صادر می‌شوند؛ استانداردی فنی و باز که توسط Glacis Technologies توسعه یافته است. این شرکت نسخه ۱.۰ را در مارس ۲۰۲۶ و نسخه ۱.۱ را در ژوئن ۲۰۲۶ منتشر کرد. این مشخصات تحت مجوز Creative Commons Attribution 4.0 رایگان است و هر کسی می‌تواند آن را کپی یا تطبیق دهد. همچنین این استاندارد توسط یک پیمان ثبت اختراع بدون حق امتیاز (Royalty-free patent covenant) که در ژوئن منتشر شد، پشتیبانی می‌شود.
بر اساس مستندات این طرح، دفتر سیاست‌گذاری هوش مصنوعی تعیین می‌کند کدام فروشندگان، سیستم‌ها و رویدادها مشمول این قانون باشند. این الزام مستقیماً در قرارداد هر شرکت با ایالت درج می‌شود. در این راستا، توجه به بندهای ضروری در قراردادهای هوش مصنوعی برای حفاظت از مالکیت معنوی برای شرکت‌هایی که وارد چنین محیط‌های آزمایشی می‌شوند، حیاتی است تا توازن میان شفافیت و حفظ اسرار تجاری برقرار شود. شرکت Glacis وظیفه ارائه ابزارهای صدور رسید، فرآیند پذیرش (Onboarding) و مواد تأیید را بر عهده دارد. اگرچه ممکن است شواهد دیگری همراه با رسید ارائه شود، اما هیچ مدرکی نمی‌تواند جایگزین رسید دیجیتال شود.
ویژگی‌های فنی این سیستم بر چهار محور اصلی استوار است:
- غیرقابل‌تغییر بودن (Tamper-Evidence): یک رسید، تصمیم گزارش‌شده توسط کنترل و زمان دقیق اتخاذ آن تصمیم را ثبت کرده و در همان لحظه امضا می‌شود. هر کسی که به ابزارهای تأیید دسترسی داشته باشد، می‌تواند تأیید کند که رکورد دستکاری نشده است.
- تأیید هویت: رسید ثابت می‌کند که رکورد دقیقاً از کلید امضای مورد انتظار صادر شده است.
- حفظ حریم خصوصی: رسیدها از طریق هش‌ها (Hashes) یا سایر شناسه‌هایی که حاوی محتوا نیستند، به رویدادها متصل می‌شوند. بنابراین شرکت‌ها مجبور نیستند وزن‌های مدل، پرامپت‌های خام، خروجی‌های خام یا داده‌های حساس بیماران را تحویل دهند.
- محدوده اثبات: یک رسید تأیید شده فقط ثابت می‌کند که یک کنترل اجرا شده و تصمیمی گرفته است؛ این رسید لزوماً گواهی نمی‌کند که تصمیم «درست» بوده، یا اینکه ارجاع واقعاً به دست پزشک رسیده است، یا بیمار مراقبت مناسبی دریافت کرده است. این رسید گواهی بر ایمنی، اثربخشی یا انطباق قانونی نیست.
چارچوب ارزیابان
برای مدیریت این فرآیند، ایالت با ۶ سازمان مستقل تفاهم‌نامه (MoU) امضا کرده تا پروژه‌های پیشنهادی را بررسی و مدل‌های آزمایشی را نظارت کنند. این ارزیابان مستقیماً به دفتر سیاست‌گذاری گزارش می‌دهند و این دفتر اختیار مطلق در مورد شروع، ادامه یا توقف هر پروژه آزمایشی را دارد. معیارهای ارزیابی در حال حاضر برای هر سازمان به‌طور جداگانه در حال نهایی شدن است.
لیست ارزیابان فعلی و تاریخ امضای قراردادهای آن‌ها عبارتند از:
- Glacis Technologies (امضا شده در ۱۰ اوت ۲۰۲۶)
- Vega Health (امضا شده در ۲۸ سپتامبر ۲۰۲۶)
- Clarion AI Partners و mpathic (امضا شده در ۲۹ سپتامبر ۲۰۲۶)
- Stanford Clinical Excellence Research Center (امضا شده در ۳۰ سپتامبر ۲۰۲۶)
- Coalition for Health AI (امضا شده در ۲ اکتبر ۲۰۲۶)
هر تفاهم‌نامه دارای دوره ۱۲ ماهه است. برای سازمان‌های Coalition for Health AI، Stanford CERC، mpathic و Vega Health، این دوره به‌صورت سالانه تمدید می‌شود. قرارداد Glacis که در ۱۰ اوت امضا شده بود، در تاریخ ۵ اکتبر رسماً اعلام شد.
در این ساختار، شرکت مورد ارزیابی هزینه را مستقیماً به ارزیاب می‌پردازد و ایالت هیچ بودجه‌ای برای این بررسی‌ها پرداخت نمی‌کند. خودِ رسیدهای گواهی برای شرکت‌هایی که ملزم به تولید آن‌ها هستند، رایگان است. ارزیابان باید گواهی کنند که هر ارزیابی به‌طور مستقل انجام شده و هرگونه نگرانی درباره ایمنی بیمار را، فارغ از اینکه شرکت پذیرفته شده یا خیر، به دفتر سیاست‌گذاری گزارش دهند. تمام کارهای ارزیابان در معرض حسابرسی (Audit) دفتر است. اگر یک گواهی با یافته‌های واقعی مطابقت نداشته باشد، ایالت می‌تواند پروژه را متوقف، به عقب برگرداند یا لغو کند. هیچ ارزیابی نقش انحصاری ندارد و این قراردادها هیچ‌گونه تخفیف یا معافیت نظارتی ایجاد نمی‌کنند.
شرایط محیط آزمایشی و پروژه‌ها
آزمایشگاه یادگیری به شرکت‌ها اجازه می‌دهد در یک دوره محدود، نحوه اعمال یک قانون خاص را تغییر دهند، اما سایر الزامات قانونی همچنان به‌طور کامل پابرجاست. ورود به این محیط به معنای تأیید یا تاییدیه رسمی ایالت یوتا برای آن محصول نیست.
دوره اول آزمایش نمی‌تواند بیش از ۱۲ ماه باشد و حداکثر دو تمدید ۱۲ ماهه مجاز است، پیش از آنکه قوانین عادی به‌طور کامل اعمال شوند. هر قرارداد باید موارد زیر را به‌طور دقیق مشخص کند:
- محدوده تست (Scope)
- حفاظ‌های ایمنی که شرکت باید حفظ کند
- قانون خاصی که در حال تغییر یا تعدیل است
- اطلاعاتی که باید به کاربران افشا شود
- الزامات گزارش‌دهی برای حسابرسی‌های دفتر
دفتر سیاست‌گذاری می‌تواند در هر زمان قرارداد را پایان دهد یا شرکت‌هایی را که قانون یا مفاد قرارداد را نقض کنند، فوراً حذف کند.
تاکنون ۵ قرارداد کلیدی برای گسترش این آزمایشگاه منعقد شده است. این‌ها شامل برنامه‌های آزمایشی با Expect Fitness برای فیزیوتراپی کف لگن، August AI برای تمدید نسخه‌های دارویی روتین و Nolla Health برای درمان آکنه است. همچنین ایالت قراردادهای کلی (Master Agreements) با University of Utah Health و Intermountain Health امضا کرده تا شرایط تأیید پروژه‌های آتی AI در این سیستم‌های بهداشتی تعیین شود.
چرخش به سمت نظارت باز
برای جلوگیری از ایجاد انحصار یا ظاهر آن، Glacis Technologies در حال انتقال مدیریت (Stewardship) استاندارد OVERT است. طبق پست ۲۱ سپتامبر ۲۰۲۶، قراردادی در ۱۴ سپتامبر امضا شده تا مدیریت این استاندارد منتقل شود.
در این طرح، Brenton Hill از Coalition for Health AI، Ken Johnston از بنیاد AIGovOps و جو برایدوود، یک «توافق‌نامه تداوم و مدیریت OVERT» را امضا کردند. در این ساختار، Coalition و بنیاد AIGovOps به عنوان متولیان مشترک با یک رأی برای هر کدام تبدیل می‌شوند. Glacis به یک نقش ویرایشی بدون حق رأی منتقل می‌شود و دیگر نمی‌تواند معیارهای انطباق را تغییر دهد. این امر تضمین می‌کند که یک رگولاتور می‌تواند رسیدها را بدون وابستگی به همان شرکتی که آن‌ها را صادر کرده، تأیید کند.
این انتقال مدیریت هنوز اجرایی نشده و نیازمند یک گواهی شروع (Commencement Certificate) است که توسط هر سه طرف امضا شود. پس از فعال شدن، عملیات ثبت (Registry operation) باید ظرف ۹۰ روز از Glacis جدا شود. علاوه بر این، هیچ نسخه جدیدی از استاندارد نمی‌تواند بدون موافقت هر دو متولی مشترک و یک دوره نظرات عمومی (Public Comment) حداقل ۳۰ روزه، تأیید شود.
این اقدام یک نقطه ضعف حیاتی در حکمرانی AI را هدف قرار می‌دهد: وقتی نظارت بر یک فرمت خصوصی وابسته به یک فروشنده باشد، قدرت نظارت به اندازه همکاری آن فروشنده است. یوتا با تبدیل این سیستم به یک استاندارد باز، لایه‌ای از تأیید را ایجاد می‌کند که حتی با شکست یا خرید شرکت ارائه‌دهنده، از بین نمی‌رود.
گام بعدی شما
- اگر توسعه‌دهنده ابزارهای AI در حوزه سلامت هستید، مستندات استاندارد OVERT را بررسی کنید تا با متدهای ثبت شواهد بدون افشای مدل آشنا شوید.
- مدل‌های نظارتی «مبتنی بر رسید» را با مدل‌های «مبتنی بر گزارش» مقایسه کنید تا ریسک‌های قانونی هر کدام را بسنجید.
- تحولات مربوط به انتقال مدیریت OVERT به بنیاد AIGovOps را دنبال کنید تا ببینید این استاندارد چگونه به یک معیار جهانی تبدیل می‌شود.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو