اگر امروز یک عامل هوشمند را برای مدیریت انطباق با قوانین (Compliance) به کار می‌گیرید، احتمالاً با یک نقطه کور خطرناک روبرو هستید. باید بدانید که مدل‌های زبانی در مواجهه با استثنائات تودرتوی حقوقی، دچار شکست‌هایی می‌شوند که در ظاهر دیده نمی‌شوند.
این نقص فنی که حذف خاموش دامنه (Silent Scope Omission - SSO) نامیده شده، بر اساس مطالعه‌ای در arXiv که در ۹ ژوئن ۲۰۲۶ منتشر شد، یک خطای ساده در سیستم‌های عامل‌محور (Agentic) نیست، بلکه نقص بنیادین در درک متون قانونی است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شکاف بین «بازیابی متنی» و «استدلال منطقی» همچنان یک چالش است.
در بسیاری از بنچمارک‌های پردازش زبان طبیعی (NLP) حقوقی، تمرکز تنها بر خروجی نهایی است و این موضوع، حفره‌های ساختاری که منجر به SSO می‌شوند را می‌پوشاند. برای تشخیص این مشکل، پژوهشگران NormBench را معرفی کردند؛ مجموعه‌ای متشکل از ۲۲۹۰ مقرره در حوزه‌های مالی ایالات متحده و GDPR اروپا.
طبق این گزارش، دو آسیب‌شناسی (Pathology) اصلی شناسایی شده است:
- زوال بازگشتی (Recursion Decay): با افزایش عمق استثنائات تودرتو، عملکرد مدل به شدت افت می‌کند.
- تله‌ی حسابرسی (Auditability Trap): مدل می‌تواند تکه‌های متنی درست را بازیابی کند، اما در تبدیل آن‌ها به یک جریان کنترل منطقی (Logical Control Flow) شکست می‌خورد.
راهکار ارائه شده، درخت‌های منطقی مبنی‌شده بر بازه (Span-Grounded Deontic Trees - SG-DT) است. این روش، یک نمایش میانی شبیه به کامپایلرهای برنامه‌نویسی ایجاد می‌کند که هر شاخه منطقی را به یک بازه متنی خاص گره می‌زند. این رویکرد اولویت را از بهبود تولید بازیابی‌افزا (RAG) به سمت توسعه‌ی بازنمایی‌های نمادین (Symbolic) تغییر می‌دهد و نشان می‌دهد که قابلیت اطمینان در عامل‌های قانون‌گرا، نیازمند کامپایل قطعی منطق است، نه تولید احتمالی متن.
گام بعدی شما
- بررسی مجموعه داده‌های NormBench در arXiv برای سنجش توانایی مدل‌های خود در مدیریت بازگشت‌های عمیق در متون قانونی.
- ادغام خروجی‌های محدودشده (Constrained Outputs) مانند SG-DT در گردش کارهای عامل‌محور برای جلوگیری از نشت‌های انطباقی.
اما این معماری‌های نمادین تنها نیمی از ماجراست؛ اثر این تغییر در هزینه‌های الاستیک استنتاج (Inference) را در گزارش بعدی بررسی خواهیم کرد.
گفتگو