تصور کنید وکیلی هستید که برای مدیریت صدها صفحه سوابق پزشکی، از یک ابزار هوش مصنوعی استفاده میکنید تا یک خط زمانی دقیق بسازید. اگر این ابزار یک آسیب جسمی پیشین و حیاتی را نادیده بگیرد، کل استراتژی دادگاه و مبلغ مطالبه شما تغییر میکند، بدون آنکه متوجه شوید چیزی گم شده است. برخلاف یک استناد جعلی که شناسایی آن آسان است، یک حقیقت پزشکیِ گمشده اغلب منطقی به نظر میرسد و تا زمان جلسه بازجویی (Deposition) متوجه آن نمیشوید.
این سناریو دیگر یک فرض نیست، بلکه واقعیتی است که نظام قضایی با آن روبروست. طبق گزارشهای منتشر شده، تضاد شدیدی میان سرعت پذیرش ابزارهای هوش مصنوعی و تکامل استانداردهای نظارتی وجود دارد. این چالش تنها محدود به حوزه حقوقی نیست و در بخشهای حساس دیگر نیز دیده میشود؛ برای مثال، موانع مقرراتی در استقرار هوش مصنوعی در پزشکی نشان میدهد که چگونه نبود استانداردهای نظارتی میتواند پذیرش فناوری را دشوار کند. در پروندههای مربوط به آسیبهای شخصی، جایی که یک جزئیات کوچک در پرونده پزشکی میتواند سرنوشت یک توافق را تغییر دهد، این شکافها بهشدت خطرناک هستند. قوانین حرفهای موجود، وکلا را مسئول کارهایشان میدانند، اما این قوانین به پرسشهای خاص هوش مصنوعی درباره افشای استفاده، قابلیت حسابرسی، مسئولیت فروشنده ابزار و نگهداری دادهها پاسخ نمیدهند.
حقوق بر پایه انصاف، شفافیت و دادرسی عادلانه بنا شده است. اما ادغام سریع هوش مصنوعی زاینده (Generative AI) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — در رویههای حقوقی، سریعتر از آنکه قوانین بتوانند آن را مهار کنند، پیش میرود. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای زبانی اشاره کردیم، تکیه بر خروجیهای ماشین بدون نظارت انسانی، ریسکهای سیستمی ایجاد میکند.
به نقل از پروندهی «ماتا در برابر اویانکا» در سال ۲۰۲۳، تکیه یک حقوقدان به ChatGPT برای تولید استنادات دادگاه منجر به ارائه منابع جعلی شد که در واقع «سوابق قضایی ساختگی و توهمی» بودند. این جنجال تا حد زیادی اجتنابناپذیر بود و یک تنش حیاتی را برجسته کرد: در حالی که هوش مصنوعی میتواند کارهای تکراری و خستهکننده حقوقی را سرعت ببخشد، اما هرگز نمیتواند جایگزین وظیفه حرفهای وکیل برای تأیید صحت اطلاعات شود. در نهایت، این پرونده یک اصل حیاتی را تثبیت کرد: هوش مصنوعی ممکن است به وکلا کمک کند، اما نمیتواند مسئولیت حرفهای آنها را برای اطمینان از صحت آثار ارسالی به دادگاه جایگزین کند.
ریسکهای پنهان اتوماسیون
بر اساس گزارش unite.ai، خطرات فراتر از توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — است:
- خطاهای نامرئی: مدل ممکن است نظر یک شاهد را اشتباه خلاصه کند یا هزینههای مراقبتهای آتی را غلط محاسبه کند بدون آنکه هیچ هشدار یا علامت خطری صادر شود. این اشتباهات چون منطقی به نظر میرسند، سختتر از استنادات جعلی شناسایی میشوند.
- سوگیری سیستماتیک: سامانههای ارزیابی که روی دادههای تاریخیِ منحرف آموزش دیدهاند، میتوانند بهطور سیستماتیک ارزش دعاوی گروههای خاصی از مردم را کمتر از حد واقعی تخمین بزنند و بدین ترتیب، سوگیری را وارد روند دادرسی کنند.
- حریم خصوصی دادهها: وارد کردن سوابق محرمانه پزشکی، تاریخچه شغلی و اسناد مالی به ارائهدهندگان شخص ثالث هوش مصنوعی، ریسک دسترسی غیرمجاز و استفاده از دادههای موکل برای آموزش مدلهای آینده را به همراه دارد.
در حال حاضر حدود ۴۱ درصد از دفاتر حقوقی از ابزارهای هوش مصنوعی برای تحقیق، خلاصهسازی و پیشنویس استفاده میکنند. با این حال، ۸۳ درصد از متخصصان حقوقی معتقدند استفاده از این ابزارها برای ارائه مشاوره حقوقی مستقیم، نامناسب است. این نشان میدهد که حتی کاربران این ابزارها میترسند تفکر تحلیلی خود را به ماشین واگذار کنند و نگرانند که در نتیجهی این برونسپاری تفکر، شواهد توسط قاضی یا هیئت منصفه به اشتباه تفسیر شوند. این نگرانیها با افزایش چشمگیر دعاوی تولید شده توسط هوش مصنوعی در دادگاههای کار که منجر به فشار مضاعف بر سیستم قضایی شده است، بیش از پیش جدی میشود.
چارچوبی برای پاسخگویی
برای جلوگیری از تخریب اعتماد قضایی، صنعت به یک چارچوب نظارتی اجباری نیاز دارد. بازبینی انسانی باید از یک «توصیه» یا «بهترین روش» به یک «الزام قانونی» تبدیل شود. هرچه خروجی حساستر و پیامدبارتر باشد — مانند محاسبات خسارت، ترتیب زمانی وقایع پزشکی یا ادعاهای واقعگرایانه — بازبینی باید سختگیرانهتر باشد. هر محتوای تولید شده توسط هوش مصنوعی که برای موکل یا دادگاه در نظر گرفته شده، هرگز نباید بدون تأیید معنادار وکیل به دست مخاطب برسد.
دفاتر حقوقی باید موظف شوند سوابق قابل حسابرسی از نحوه استفاده از هوش مصنوعی نگه دارند. این یعنی ثبت دقیق اینکه کدام ابزار استفاده شده، چه دادهای پردازش شده و کدام وکیل خروجی نهایی را تأیید کرده است. این سیستم پاسخگویی تضمین میکند که اشتباهات پیش از آنکه در جریان دادرسی به مشکل تبدیل شوند، اصلاح گردند. عدم تأیید مستندات ارسالی به دادگاه، مانند ارائه اطلاعات توهمی در دادگاه، باید منجر به جریمههای حرفهای شدید شود.
همچنین رگولاتورها باید استانداردهای حداقلی برای تأمینکنندگان ابزار (Vendor Diligence) تعریف کنند؛ این شامل سیاستهای سختگیرانه درباره نگهداری دادهها، کنترلهای دسترسی و نحوه استفاده از دادههای آموزشی برای محافظت از اطلاعات حساس موکلان است.
عنصر انسانی در برابر ماشین
پروندههای آسیب شخصی بهندرت ساده هستند و به شهادتهای متناقض، شواهد پزشکی در حال تغییر و اعتبار شاهدان تکیه دارند. این موارد نیازمند قضاوت انسانی و درک این است که یک هیئت منصفه چگونه یک حقیقت خاص را میپذیرد؛ قابلیتی که هوش مصنوعی فاقد آن است. در حالی که دادههای تاریخی ممکن است به هوش مصنوعی کمک کند تا الگوهای توافق را شناسایی کند، اما نمیتواند جایگزین ارزیابی وکیل از یک شاکی یا شاهد خاص شود.
این تقابل شبیه به اعتراضات در بخش بیمه است، جایی که بیمهگذاران با بررسیهای مبتنی بر هوش مصنوعی میجنگند. مردم خواستار نظارت انسانی هستند تا مطمئن شوند یک شخص واقعی با قدرت قضاوت، پرونده آنها را بررسی کرده است، فارغ از اینکه هوش مصنوعی چقدر حجم کاری را کاهش داده است.
بزرگترین خطر، اعتماد بیمورد وکلا به خروجیهایی است که مقتدر و عینی به نظر میرسند. هوش مصنوعی میتواند اشتباه کند، نسبت به زمینه (Context) کور باشد و در مذاکرات پیچیده که نیازمند قضاوت انسانی است، شکست بخورد.
اگر صنعت حقوقی استانداردهای شفافیت و افشا را ایجاد نکند، ریسک تزریق سوگیری به جلسات دادگاه را میپذیرد. در واقع، اکنون خودِ هوش مصنوعی در جایگاه متهم است و مشروعیت آن بستگی به این دارد که آیا صنعت میتواند ثابت کند که کارایی، به قیمت از دست رفتن عدالت تمام نمیشود یا خیر. تنها با ایجاد استانداردهای روشن برای شفافیت و پاسخگویی است که موکلان و دادگاهها متقاعد میشوند هوش مصنوعی بدون به خطر انداختن اصول عدالت، انصاف و برابری برای همه، در حال بهبود دادرسی است.
گام بعدی شما
- اگر از ابزارهای خلاصه ساز استفاده میکنید، هرگز خروجی را بدون تطبیق با متن اصلی (Ground Truth) به موکل یا دادگاه ارائه ندهید.
- فهرستی از ابزارهای مورد استفاده در دفتر خود تهیه کنید و سیاستهای حریم خصوصی آنها را درباره «آموزش مدل با دادههای کاربر» بررسی کنید.
- در قراردادهای خود با موکلان، شفافیت ایجاد کنید که در کدام مراحل از هوش مصنوعی برای افزایش سرعت استفاده میشود.
اما تأثیر این ابزارها بر هزینههای دادرسی حتی پیچیدهتر است — به تحلیل ما درباره اقتصاد استنتاج در مدلهای زبانی مراجعه کنید.
گفتگو