تصور کنید در دادگاهی حضور دارید که در آن کیفیت واژگان وکیل شما، بیش از متن قانون اهمیت دارد. اگر مدلهای هوش مصنوعی را به جای قاضی بنشانیم، آیا عدالت اجرا میشود یا صرفاً «بهترین سخنور» برنده میگردد؟
در ۳۰ آوریل ۲۰۲۶، مطالعهای که در پلتفرم arxiv.org منتشر شد، افشای تکاندهندهای داشت: مدلهای زبانی بزرگ (Large Language Models - LLM) در برابر کیفیت استدلالهای وکیلان بهشدت آسیبپذیر هستند. به نقل از این گزارش، احتمال موافقت مدل با یک دیدگاه حقوقی، بیش از آنکه به ماهیت قانونی پرونده وابسته باشد، به نحوه قالببندی (Framing) استدلالها گره خورده است.
پژوهشگران برای بررسی این موضوع، مدلهای دارای وزنهای باز (open-weights) و مدلهای بسته را در مواجهه با پرسشهای دشوار حقوقی آزمایش کردند. محورهای اصلی این تحقیق عبارت بودند از:
- تأثیر کیفیت بیان وکیل بر میزان پذیرش مدل.
- تفکیک میان «حقایق قانونی» و «اقناع بلاغی».
- بررسی امکان استفاده از LLMها به عنوان تصمیمگیرندگان نخستین در نظام قضایی.
بر اساس مستندات این پژوهش، یک آسیبپذیری سیستماتیک در نحوه پردازش استدلالهای متقابل توسط هوش مصنوعی زاینده (Generative AI) وجود دارد. این یعنی یک وکیل چیرهدست میتواند بدون داشتن دلیل قانونی محکم، مدل را به سمتی هدایت کند که حکم به نفع او صادر شود.
همانطور که در پوشش پیشین ما از خطرات تنظیم دقیق (fine-tuning) و بازگشت دادههای ممنوعه دیدیم، مدلهای پیشرو همچنان مستعد دنبال کردن الگوهای سطحی هستند. این تحقیق ثابت میکند که مدلهای استدلالی (reasoning model) بهجای تحلیل عمیق حقوقی، ممکن است دچار توهمِ پذیرش بر اساس سبک نوشتاری شوند.
در حالی که دولتها برای استفاده از AI در دادگاههای اداری تصمیم میگیرند، نبرد بعدی بر سر تعریف «بیطرفی الگوریتمیک» خواهد بود.
اما این آسیبپذیری تنها بخشی از یک معمای بزرگتر است؛ برای درک اینکه سختافزار چگونه بر استدلال اثر میگذارد، تحلیل ما دربارهی تراشههای Blackwell را بخوانید.
گام بعدی شما
- اگر از AI برای تحلیل متون حقوقی استفاده میکنید، استدلالهای خود را با سبکهای مختلف نوشتاری (ساده در برابر پیچیده) تست کنید تا میزان سوگیری مدل را بسنجید.
- بر روی پیادهسازی «تستهای متخاصم» (Adversarial Testing) برای شناسایی نقاط ضعف استدلالی مدلها تمرکز کنید.
- منتظر انتشار استانداردهای جدید «بیطرفی الگوریتمیک» در سال ۲۰۲۶ باشید.
گفتگو