اگر در حال توسعه سامانههای پرخطر هوش مصنوعی هستید، احتمالاً نمیدانید آیا ابزار شما تحت نظارت سختگیرانه قانون اتحادیه اروپا قرار میگیرد یا خیر. این عدم قطعیت تنها به دلیل یک نقطه کور حقوقی است: تعریف مبهم «استنتاج» در متن قانون.
در حال حاضر، تطبیق با قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) به تعریفی از استنتاج (Inference) متکی است که خودِ قانون، هرگز آن را بهطور صریح شفاف نکرده است. این خلأ باعث میشود توسعهدهندگان سامانههای پرخطر — بهویژه در حوزههایی مثل اعتبارسنجی مالی که در پیوست ۳ قانون ذکر شدهاند — نتوانند تشخیص دهند آیا ابزارشان «قابلیت استنتاج» دارد و بنابراین باید قوانین سختگیرانه این اتحادیه را بپذیرد یا خیر.
همانطور که در تحلیلهای پیشین ما دربارهی استانداردهای نظارتی مدلهای بازمتن اشاره کردیم، شکاف بین زبان حقوقی و مهندسی ML همواره یک چالش عملیاتی است. طبق تحلیل فنی منتشر شده در ۱۱ ژوئن ۲۰۲۶، ماکسیمیلیان پورچکین (Maximilian Poretschkin) چارچوبی را برای درجهبندی سطوح قابلیت استنتاج بر اساس نظریه یادگیری آماری پیشنهاد داد. بر اساس مستندات این پژوهش، سه محور فنی تعیینکننده هستند:
- قابلیت استنتاج یک ویژگی ذاتی مدل بهتنهایی نیست، بلکه ویژگی برآمده از کل جریان پردازش داده (Pipeline) است.
- حضور انسان در چرخه (Human-in-the-Loop) در مرحله توسعه، بهطور مستقیم تأثیر میگذارد که آیا سیستم در دسته «دارای قابلیت استنتاج» قرار میگیرد یا خیر.
- جریانهای کاری اعتبارسنجی مالی را میتوان به سطوح مختلف استنتاج تقسیم کرد که هر سطح، تکالیف نظارتی متفاوتی را تحمیل میکند.
به نقل از این تحلیل، پارادایم تطبیق قانونی اکنون از «حسابرسی مدلمحور» به «حسابرسی جریانمحور» تغییر میکند. برای تیمهای فنی، پیام روشن است: بهینهسازی مدل برای دقت (Accuracy) دیگر تضمینی برای ایمنی حقوقی نیست. شما باید تصمیمات انسانی و مراحل پیشپردازش دادهها را مستند کنید تا جایگاه قانونی سیستم خود را تعیین نمایید.
گام بعدی شما
- کد منتشر شده توسط نویسندگان را بررسی کنید تا جریانهای کاری خود را با این چارچوب درجهبندی بسنجید.
- مستندات مربوط به مداخلات انسانی در مراحل آموزش و استقرار مدل را بازنگری کنید.
- پیش از انتشار دستورالعملهای بعدی کمیسیون اروپا، تحلیل ریسک خود را از سطح مدل به سطح کل خط لوله (Pipeline) ارتقا دهید.
این تغییر رویکرد تنها بخشی از فشار نظارتی بر شرکتهای AI است؛ اثرات احتمالی جریمههای سنگین اتحادیه اروپا بر استراتژیهای توزیع مدلها را در گزارش بعدی بررسی خواهیم کرد.
گفتگو