تصور کنید در یک تصادف با خودرویی سطح ۳، ۴ یا ۵ هستید؛ از ۹ اوت ۲۰۲۶، بار قانونی این حادثه دیگر بر دوش سرنشین انسانی نیست. طبق یک چارچوب رگولاتوری جدید از سوی مجمع جهانی UNECE، اکنون شخصیت حقوقی شرکت سازنده مستقیماً مسئول و پاسخگو است.
این تغییر در حالی رخ میدهد که استقرار خودروهای خودران (AV) در ۵۴ کشور در اروپا، آسیا و آفریقا در حال گسترش است. سالها بود که این صنعت در یک منطقه خاکستری فعالیت میکرد و نظارت راننده مانند یک سپر قانونی عمل میکرد؛ اما اکنون این سپر برای سیستمهای کاملاً خودکار از بین رفته است. وقتی یک خودروی سطح ۴ از چراغ قرمز رد میشود، فرد روی صندلی راننده مسئولیتی ندارد و تولیدکننده مقصر است. اگر یک خودروی تحویل کالای سطح ۵ به عابری برخورد کند، شرکتی که آن را ساخته پاسخگو است. در صورت وقوع یک تصادف زنجیرهای که توسط یک کامیون خودران ایجاد شده باشد، این مهندسان طراح سیستم تصمیمگیر هستند که باید در دادگاه حاضر شده و بازجویی شوند.
به گزارش dev.to، این چارچوب بر حاکمیت ایمنی در کل چرخه حیات سیستم تأکید دارد و بازرسیهای سختگیرانهای را الزامی میکند. شرط اصلی این است که هر تصمیم خودرو باید قابل ردیابی، بازتولید و تأیید باشد تا در بازجوییهای قانونی دوام بیاورد. سؤال مرکزی در دادگاه این نخواهد بود که آیا خودرو با استانداردهای UNECE مطابقت داشته یا خیر، بلکه این است که آیا سازنده میتواند این مطابقت را ثابت کند یا نه.
همانطور که در تحلیلهای پیشین ما دربارهی استانداردهای ایمنی مدلهای هوش مصنوعی اشاره کردیم، شفافیت در خروجیها تنها یک مزیت فنی نیست، بلکه یک ضرورت حقوقی است.
الزام به قطعیت (Determinism)
بیشتر سیستمهای فعلی خودران، احتمالی (Probabilistic) هستند؛ یعنی ورودیهای حسگر را از طریق مدلهایی پردازش میکنند که نتایج «محتمل» تولید میکنند، نه نتایج قطعی. این یعنی یک ورودی یکسان ممکن است خروجی متفاوتی تولید کند و نمیتوان تصمیمی از گذشته را با نتایج دقیقاً مشابه بازپخش کرد.
این وضعیت یک آسیبپذیری قانونی بزرگ ایجاد میکند، زیرا لاگهای احتمالی اغلب طبق استاندارد «دابرت» (Daubert standard) در دادگاهها پذیرفته نمیشوند. دلایل این رد اعتبار عبارتند از:
- عدم قابلیت آزمایش: نمیتوان آنها را بهگونهای آزمایش کرد که نیازهای قضایی را برآورده کند.
- نرخ خطای نامشخص: این سیستمها نرخ خطای شناختهشده و تعریفشدهای ندارند.
- عدم بازتولیدپذیری: نمیتوان نتایج آنها را بهطور سازگار و تکرارپذیر بازتولید کرد.
برای رفع این مشکل، سازندگان باید به سمت سوابق قطعی (Deterministic) حرکت کنند. این به معنای رعایت موارد زیر است:
- ورودیهای یکسان: سیستم باید هر بار که دادههای یکسانی بازپخش میشوند، خروجی یکسانی تولید کند. ورودی یکسان، خروجی یکسان، در هر بار تکرار.
- اثبات عدم دستکاری: ردپای حسابرسی (Audit trails) باید تغییرناپذیر باشد تا در دادگاه قابل استناد و پذیرش باشد.
- نقشهبرداری از ابهامات: سوابق باید صراحتاً مستند کنند که خودرو در لحظه تصمیمگیری، چه چیزهایی را «نمیدانست» یا در مورد آنها ابهام داشت.
کاربرد در دنیای واقعی
دموهای تبلیغاتی، تصمیمات بینقص خودرو را در شرایط ایدهآل نشان میدهند، اما واقعیت دادگاه متفاوت است. خودرویی را تصور کنید که در گرگومیش هوا در حال عبور از یک تقاطع است. مه دید را کاهش داده و یکی از حسگرها دادههای ناقص و تضعیفشده میفرستد. سیستم تشخیص عابر، شخصی را نزدیک خط عابر ثبت میکند؛ چراغ راهنمایی سبز است، اما چراغ عابر فعال است و ترافیک در حال آمدن است.
در این سناریو، پنجره تصمیمگیری تنها ۴۰۰ میلیثانیه است. یک لاگ احتمالی ممکن است صرفاً نشان دهد که خودرو پیش رفت و به عابر برخورد کرد. اما یک رکورد قطعی، سطح اطمینان ۴۵ درصدی در آن تصمیم و شکست در تأیید قصد عابر را بهطور دقیق مستند میکند.
جزئیات فنی سپر دفاعی
یک رکورد با دقت بالا، سند انطباق را به یک سپر دفاعی تبدیل میکند و موارد زیر را مستند میکند:
- سیگنالهای مشاهدهشده: جزئیاتی دقیق مثل «تضعیف لیدار در ربع راست» (lidar_degraded_right_quarter) و «کاهش دید به دلیل مه» (visibility_reduced_fog).
- زمینه شناختهشده: پایبندی به چارچوب رگولاتوری ADS در UNECE، عملیات سطح ۴، استاندارد ISO 26262 (ایمنی عملکردی) و ISO 21448 (SOTIF).
- ناشناختههای شناساییشده: فهرست صریح مواردی مثل «قصد عابر تأیید نشده» (pedestrian_intent_unconfirmed) یا «تخمین سرعت خودروی مقابل تضعیف شده» (oncoming_vehicle_speed_estimate_degraded).
- پیامدهای درجه دوم: تحلیل اینکه آیا ترمز اضطراری باعث تصادف از پشت با ترافیک مقابل میشد یا خیر.
این رویکرد به مهندسان اجازه میدهد ثابت کنند دقیقاً کدام چارچوبهای ایمنی رعایت شدهاند یا دادهها در کجا ناکافی بودهاند. این دقیقاً همان نقطهای است که سؤال شفافکننده را ایجاد میکند؛ مثلاً اینکه آیا عابر قبل یا بعد از ورود خودرو به تقاطع، وارد خط عابر شده است؟ همین جزئیات است که مسئولیت قانونی را تعیین میکند.
برای رهبران کسبوکار، این یعنی هزینه استفاده از هوش مصنوعی «جعبه سیاه» دیگر فقط یک ریسک فنی نیست، بلکه یک ریسک حقوقی فاجعهبار است. توانایی بازپخش یک تصادف با دقت ۱۰۰ درصدی، اکنون تنها دفاع ممکن در پروندههای مرگ و صدمات (Wrongful death) است.
شرکتهایی که سیستمهای سطح ۳ به بالا را مستقر میکنند، باید موتورهای ثبت داده خود را بازرسی کنند تا مطمئن شوند بر خروجیهای تصادفی (Stochastic) تکیه نمیکنند. اگر تصمیمی در دادگاه قابل بازتولید نباشد، سازنده عملاً بیدفاع است.
گام بعدی شما
- بررسی کنید که آیا سیستمهای ثبت داده (Logging) شما قابلیت بازتولید قطعی دارند یا بر اساس احتمالات عمل میکنند.
- استانداردهای ISO 26262 و ISO 21448 را در معماری سیستمهای تصمیمگیر خود ادغام کنید.
- برای دادههای مربوط به حوادث، از زیرساختهای ذخیرهسازی تغییرناپذیر (Immutable) استفاده کنید.
اما تأثیر این قوانین بر سختافزارهای نسل بعد شگفتانگیزتر است؛ نیاز به ثبت دادههای قطعی با دقت بالا احتمالاً منجر به تولید تراشههای اختصاصی و منابع پردازشی مجزا میشود که تنها برای مدیریت «ردپای حسابرسی» در نظر گرفته شدهاند.
گفتگو