تصور کنید ترمزهای یک خودرو را فقط یک بار در کارخانه چک کنند و هرگز، فارغ از اینکه ماشین چند هزار کیلومتر رانندگی کرده، دوباره آن‌ها را بررسی نکنند؛ این دقیقاً همان مشکلی است که سیستم‌های قدیمی تأیید تجهیزات پزشکی با هوش مصنوعی داشتند. دولت بریتانیا در ۶ اکتبر ۲۰۲۶ تأیید کرد که برای پایان دادن به این رویکرد ایستا، به جای تکیه بر تأییدیه‌های مقطعی، به سمت مدلی از نظارت مستمر حرکت خواهد کرد. این تصمیم شامل پذیرش و اجرای تمام ۴۴ توصیهٔ «کمیسیون ملی تنظیم مقررات هوش مصنوعی در مراقبت‌های بهداشتی» است.
به نقل از مستندات دولتی، تجهیزات پزشکی سال‌هاست که به عنوان محصولاتی ثابت دیده شده‌اند: یک مهر تأیید می‌گیرند و وارد بازار می‌شوند. اما هوش مصنوعی زاینده (Generative AI) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — ماهیتی متفاوت دارد؛ این مدل‌ها یاد می‌گیرند، سازگار می‌شوند و گاهی دچار «انحراف» (Drift) می‌شوند. در واقع، سیستم فعلی مانند آن است که ترمز ماشین را در کارخانه چک کنید و دیگر هرگز به آن نگاه نکنید، فارغ از اینکه خودرو چه مسافتی را پیموده است. این نیاز به دقت و قابلیت اطمینان بالا، یادآور بحث‌های اخیر است که در آن برخی متخصصان بر لزوم دستیابی مدل‌های AI به استانداردهای سخت‌گیرانه مشابه داروسازی برای افزایش دقت بالینی تأکید داشتند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، پایداری خروجی‌ها در محیط‌های عملیاتی یکی از بزرگ‌ترین چالش‌های استقرار است. اکنون آژانس تنظیم مقررات داروها و محصولات بهداشتی (MHRA) تحت فشار است تا نوآوری را بدون به خطر انداختن ایمنی تسریع کند. دولت بریتانیا عملاً پذیرفته است که دستورالعمل‌های قدیمی و سنتی نمی‌توانند ماهیت تکرارشونده و پویا (Iterative) یادگیری ماشین را مدیریت کنند.
چرخش به سمت نظارت بر چرخهٔ عمر
هستهٔ این اصلاحات، یک «چارچوب متناسب و مبتنی بر چرخهٔ عمر» است. به جای تکیه بر یک ارزیابی واحد پیش از ورود به بازار، MHRA ابزارهای مجهز به هوش مصنوعی را در تمام طول عمر عملیاتی‌شان رصد می‌کند. طبق گزارش منتشر شده در ۱۰ سپتامبر ۲۰۲۶، این تغییر رویکرد، نتیجهٔ اصلی یافته‌های کمیسیون است و بر این باور است که نظارت باید همگام با تکامل نرم‌افزار باشد.
تعهدات کلیدی این برنامه برای اجرا عبارتند از:
- تدوین دستورالعمل‌های راهنما تا دسامبر ۲۰۲۶ در مورد نحوه مدیریت به‌روزرسانی‌های AI همزمان با بهبود ابزارها در طول زمان.
- آغاز رایزنی‌های جدید در سال ۲۰۲۷ برای بازتعریف نحوهٔ صلاحیت‌سنجی و طبقه‌بندی ابزارهای AI، که اولین توصیهٔ کمیسیون بود.
- ایجاد مسیرهای مجوزدهی مرحله‌ای (Staged Authorization Pathways) که به ابزارهای نویدبخش اجازه می‌دهد تحت نظارت شدید و همزمان با جمع‌آوری شواهد دنیای واقعی، زودتر وارد سرویس سلامت ملی (NHS) شوند.
محیط آزمایشی AI Airlock
برای عملیاتی کردن این مدل، MHRA در ۶ اکتبر ۲۰۲۶ فاز سوم AI Airlock را افتتاح کرد. این محیط آزمایشی (Regulatory Sandbox) — شبیه به یک محیط شبیه‌سازی شده برای تست ایمنی قبل از ورود به جاده‌های واقعی — تا آوریل ۲۰۲۹ بودجه دریافت می‌کند و تمرکز ویژه‌ای بر نظارت پس از عرضه و تنظیم مقررات چرخهٔ عمر دارد. هدف این است که نحوه نظارت ایمن بر ابزارهای AI پس از استقرار آزمایش شود تا سیاست‌های آینده بر اساس این نتایج تدوین گردند.
نوآوران می‌توانند محصولات خود را در سه محیط متمایز آزمایش کنند که برنامه‌های آن‌ها معمولاً در بازه زمانی ۶ تا ۱۲ ماه تعریف می‌شود:
۱. محیط شبیه‌سازی (Simulation Airlock): استفاده از کارگاه‌های میزگرد برای بررسی مفاهیم.
۲. محیط مجازی (Virtual Airlock): استفاده از داده‌های واقعی یا داده‌های مصنوعی (Synthetic Data) برای تست عملکرد.
۳. محیط دنیای واقعی (Real-world Airlock): مشاهدهٔ ابزارها در حین استفاده واقعی، مانند «استقرار سایه» (Shadow Deployment) که در آن ابزار اجرا می‌شود اما خارج از مسیرهای مستقیم تصمیم‌گیری برای بیمار قرار دارد.
جزئیات پذیرش در AI Airlock
بر اساس اعلام سازمان، اولویت با پروژه‌هایی است که به سه موضوع خاص می‌پردازند:
- تضمین مستمر در طول چرخهٔ عمر: بررسی عواملی مانند زیرساخت‌های محلی، ادغام در جریان کاری (Workflow)، کیفیت داده‌ها و نحوه تعامل کاربر. در این راستا، حل چالش‌های زیرساختی حیاتی است، چرا که بسیاری از مدیران سلامت همچنان با بحران سیلوهای داده در مسیر استقرار هوش مصنوعی دست و پنجه نرم می‌کنند.
- نظارت بر محیط‌هایی با سطوح مختلف نظارت: مانند سیستم‌های دورکار، سیستم‌های مستقیم به مصرف‌کننده (Direct-to-consumer) یا سیستم‌هایی با سطح خودمختاری بالا.
- ارتباط مؤثر اطلاعات: نحوه انتقال شفاف اطلاعات مربوط به عملکرد، ایمنی، به‌روزرسانی‌ها و قابلیت بازگشت به نسخه قبلی (Rollback) به رگولاتورها، ارائه‌دهندگان خدمات، متخصصان و بیماران.
برای واجد شرایط بودن، محصول یا مفهوم باید نوآورانه باشد، پتانسیل سودمند بودن برای بیمار را داشته باشد، یک چالش رگولاتوری را هدف قرار دهد و آمادهٔ آزمایش باشد. اگرچه هزینه‌ای برای شرکت در این برنامه دریافت نمی‌شود، اما متقاضیان باید بودجهٔ مطالعات خود را تأمین کنند. همچنین، دفتر کمیسر اطلاعات (ICO) از طریق یک سرویس ارجاع، مشاوره در زمینهٔ «حریم خصوصی در طراحی» (Data Protection by Design) را ارائه می‌دهد.
شواهدی برای اصلاح ساختاری
این توصیه‌ها توسط پروفسور آلاستیر دنیسون (دانشگاه بیرمنگام) و پروفسور هنریتا هیوز (کمیسر ایمنی بیمار در انگلستان) رهبری شد. کمیسیون ملی که در سپتامبر ۲۰۲۵ به عنوان یک نهاد خبره و مستقل تأسیس شد، تیمی از متخصصان NHS، حقوقدانان، متخصصان فناوری و شرکای استراتژیک از انگلستان، اسکاتلند، ولز و ایرلند شمالی را گرد هم آورد. علاوه بر این، ذینفعانی از سنگاپور، اروپا و ایالات متحده نیز در این فرآیند مشارکت داشتند.
یافته‌های آن‌ها بر اساس یک برنامه تعاملی گسترده با بیش از ۱۲,۰۰۰ بیمار و پزشک به دست آمد. این فرآیند شامل رویدادهای شورای عمومی با همکاری «بنیاد سلامت» (The Health Foundation) و تعامل با گروه‌هایی بود که کمتر شنیده می‌شوند (از طریق National Voices).
داده‌های جمع‌آوری شده نشان‌دهندهٔ یک بحران سیستماتیک در اعتماد بود:
- ۷۷٪ از متخصصان بهداشت و درمان خواستار بازنگری کامل یا اصلاحات گسترده در چارچوب‌های نظارتی بودند.
- دو‌سوم پاسخ‌دهندگان صنعتی و نیمی از ارائه‌دهندگان خدمات بهداشتی، قوانین فعلی را مانع نوآوری می‌دانستند.
- ۶۵٪ صراحتاً اعلام کردند که نظارت‌های پس از عرضه (Post-market surveillance) در حال حاضر ناکافی است.
تضمین عدالت و اعتماد
دولت بریتانیا همچنین به دنبال حل مشکل «جعبه سیاه» (Black Box) است تا شفافیت را افزایش دهد. تعهدات جدید تضمین می‌کند که بیماران هنگام استفاده از AI در درمان خود مطلع شوند و مسیرهای روشنی برای جبران خسارت و شکایت در صورت افت استانداردهای کیفیت وجود داشته باشد.
جیمز فریت، وزیر نوآوری بهداشتی، تأکید کرد که اگرچه هدف ایجاد اعتماد و ایمنی است، اما نوآوری نباید به قیمت به خطر انداختن بیمار باشد. این برنامه همچنین هدف دارد تا اطمینان حاصل کند که مزایای هوش مصنوعی به طور عادلانه به جوامع محروم و کمتر برخوردار نیز برسد.
سایر رهبران نیز حمایت خود را اعلام کرده‌اند. کانیشکا نارایان، وزیر هوش مصنوعی، بر هدف در دسترس قرار دادن سریع‌تر ابزارها تأکید کرد. لرد ویلتس از دفتر نوآوری رگولاتوری نیز به شتاب حاصل از دستورالعمل‌های اخیر مربوط به «دستیاران نوشتاری محیطی» (Ambient Scribe) اشاره کرد. همچنین مقامات ملی در ولز (مابون آپ گوینفور) و ایرلند شمالی (رابی باتلر) متعهد به همکاری مستمر در این مسیر شدند.
تحلیل: پایان عصر تأییدیهٔ «ایستا»
این یک پیروزی بزرگ برای توسعه‌دهندگان AI است که سال‌ها با صلبیت گواهینامه‌های پزشکی دست و پنجه نرم می‌کردند. بریتانیا با حرکت به سمت مدل چرخهٔ عمر، محیط رگولاتوری‌ای را ایجاد می‌کند که به جای تولید سخت‌افزارهای سنتی، مشابه چرخهٔ توسعهٔ نرم‌افزار (SDLC) عمل می‌کند.
برای کاربر و بیمار، این بدان معناست که ابزارهای AI در NHS احتمالاً سریع‌تر تکامل می‌یابند. دیگر لازم نیست سال‌ها منتظر بمانید تا «نسخه ۲.۰» تأیید شود، زیرا رگولاتور عملکرد نسخه ۱.۰ را در لحظه رصد می‌کند.
با این حال، بار اثبات اکنون بر دوش توسعه‌دهندگان است. آن‌ها باید از روز اول، سیستم‌های تله‌متری (Telemetry) و نظارت قدرتمندی را در محصولات خود تعبیه کنند. اگر یک مدل دچار انحراف شود یا در یک زیرساخت محلی خاص شکست بخورد، MHRA بسیار سریع‌تر از گذشته متوجه آن خواهد شد.
گام‌های بعدی
یک «برد برنامه‌ریزی» (Programme Board) تازه تأسیس در حال حاضر در سطح دولت و NHS روی ۹ حوزه اولویت‌دار کار می‌کند. نقشه راه کامل اجرا تا بهار ۲۰۲۷ منتشر خواهد شد که جزئیات زمان‌بندی و مسئولیت‌های مربوط به هر ۴۴ توصیه را مشخص می‌کند.
توسعه‌دهندگانی که به AI Airlock علاقه‌مند هستند باید توجه کنند که یک وبینار در ۲۲ اکتبر ۲۰۲۶ ساعت ۱۰:۰۰ برگزار می‌شود. برای قرار گرفتن در اولین موج بررسی‌ها در نوامبر ۲۰۲۶، باید تا ۳۱ اکتبر ۲۰۲۶ درخواست خود را ارسال کنند. دور بعدی کوتاه کردن لیست متقاضیان در بهار ۲۰۲۷ رخ خواهد داد.
اما اثر این تغییر بر استانداردهای جهانی تأییدیهٔ پزشکی حتی عمیق‌تر است — به تحلیل ما درباره‌ی استانداردهای جدید FDA در گزارش بعدی مراجعه کنید.
گفتگو