تصور کنید در یک دادگاه جنایی، شواهدی ارائه شود که نه تنها اشتباه هستند، بلکه توسط یک چتبات کاملاً از فضای خیال بیرون کشیده شدهاند. این کابوس برای دادگاه عالی نیومکزیکو به واقعیت تبدیل شد و با یک سؤال تند از وکیل پرونده آغاز شد: «آقای وکیل، شما اصلاً خبرها را دنبال میکنید؟»
در ۱۱ سپتامبر ۲۰۲۶، دادگاه استیون آرونز (Stephen Aarons)، وکیل پرونده را بهدلیل ارائه لایحهای حاوی شهادتهای جعلی، ۵ هزار دلار جریمه و او را متخلف (Contempt of Court) اعلام کرد. این اتفاق در حالی رخ میدهد که حقوقدانان جهان با چالش ادغام هوش مصنوعی زاینده (Generative AI) — شبیه به دستیاری که سریع مینویسد اما گاهی با اعتمادبهنفس کامل دروغ میبافد — دستوپنجه نرم میکنند. همانطور که در تحلیلهای پیشین ما دربارهی خطرات اتکای مطلق به مدلهای زبانی اشاره کردیم، ریسک توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، مثل دوستی که خاطرهای را اشتباه تعریف میکند — به کابوسی تکراری در صنعت حقوق تبدیل شده است.
به گزارش خبرگزاری رویترز (Reuters)، دادگاه دریافت که آرونز هیچکدام از ادعاهای فاکتی و مراجع قانونی تولیدشده توسط هوش مصنوعی را بازبینی نکرده است. طبق مستندات دادگاه، تخلفات او شامل موارد زیر بود:
- ساخت شهادتهای جعلی از شاهدانی که هرگز وجود خارجی نداشتند.
- توصیفات نادرست از لباس و ظاهر فیزیکی فرد تیرانداز.
- جعل شهادتهای پلیس برای تقویت درخواست تجدیدنظر.
آرونز در جلسهای در ماه اوت اعتراف کرد که تصور میکرد هوش مصنوعی یک «خلاصهی ضدضربه» از دادگاه ارائه میدهد. در پاسخ به این ادعا، قاضی سی. شنون بیکن (C. Shannon Bacon) اشاره کرد که خطر تکیه بر توهمات هوش مصنوعی، هر روز تیتر اول اخبار است. این چالشها در کنار نگرانیهای گستردهتر از نظارتهای خودکار است؛ برای مثال، اخیراً تگزاس بودجه دوربینهای نظارتی Flock AI را به دلیل نقض حریم خصوصی متوقف کرد که نشان میدهد تقابل تکنولوژی و حقوق در ابعاد مختلف در حال وقوع است.
این جریمه نشاندهندهی چرخش دادگاهها از «هشدار» به «تنبیه فعال» برای استفادههای پنهانی از هوش مصنوعی است. برای متخصصان، این یعنی برچسب «با کمک هوش مصنوعی» دیگر سپر دفاعی نیست و امضاکننده انسانی مسئول هر کلمه است. هزینه ۵ هزار دلاری در برابر تخریب دائمی اعتبار حرفهای یک وکیل یا ابطال یک دادرسی، مبلغ ناچیزی است.
گام بعدی شما
- اگر از ابزارهای AI برای مستندسازی استفاده میکنید، هر ادعای فاکتی را با منبع دست اول تطبیق دهید.
- قوانین جدید کدهای اخلاقی نظام وکالت و الزامات افشای استفاده از AI را دنبال کنید.
- از ابزارهای تولید بازیابیافزا (RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب را باز میکند و از آن نقل میآورد — برای کاهش نرخ توهم استفاده کنید.
اما داستان سختافزاری و زیرساختی که این توهمات را ممکن میکند حتی پیچیدهتر است؛ به تحلیل ما دربارهی معماری ترنسفورمرها مراجعه کنید.
گفتگو