تصور کنید یک دستیار حقوقی هوشمند را که هر بار یک سؤال میپرسید، با اطمینان کامل همان پاسخ اشتباهِ دفعهٔ قبل را تکرار میکند، حتی اگر شما راهنماییاش کنید. این پدیده که «تثبیت وضعیت جستوجو» نام دارد، یکی از سختترین نقاط ضعف در سیستمهای تولید بازیابیافزا (RAG) است.
تولید بازیابیافزا (RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — زمانی دچار مشکل میشود که در یک حلقهٔ بازیابی اسناد نامرتبط گیر کند. در این حالت، مدل فارغ از هر پرامپتی، نمیتواند از وضعیت جستوجوی غلط خود خارج شود. برای شکستن این چرخه، Lawmadi OS (یک سیستمعامل هوش مصنوعی برای قوانین کره جنوبی) در ۲۷ ژوئیه ۲۰۲۶ چارچوبی فنی بر پایهٔ «حسابرسی چندلایه» منتشر کرد.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت و دقت مدلهای بازمتن اشاره کردیم، مشکل اصلی در این سیستمها نبودِ داده نیست، بلکه نحوهٔ بازیابی آنهاست. طبق مستندات فنی Lawmadi OS، این فرآیند تشخیص روی سه لایه متمرکز است:
- سطح پاسخ (Answer Surface): تحلیل خروجی نهایی برای بررسی سازگاری و دقت.
- لایه شواهد (Evidence Layer): تأیید اینکه آیا اسناد بازیابیشده واقعاً ادعای مدل را پشتیبانی میکنند یا خیر.
- وضعیت جستوجو (Search State): بررسی پرسوجوهای بازیابی و نتایج جستوجوی برداری برای یافتن دلیل «گیر کردن» سیستم.
به نقل از گزارش این شرکت، Lawmadi OS این سختگیری را در محیطی با ریسک بالا و با استفاده از ۶۰ عامل (Agent) تخصصی پیاده کرده است. برای تضمین مبنیسازی (Grounding) کامل، سیستم هر استناد حقوقی را بهصورت لحظهای با پایگاه داده رسمی دولت کره جنوبی (law.go.kr) تطبیق میدهد.
این تغییر رویکرد از «نظارت ساده بر خروجی» به «حسابرسی سطح وضعیت»، نحوهٔ عیبیابی RAG را برای توسعهدهندگان تغییر میدهد. حالا مهندسان بهجای تغییر مداوم پرامپتها، میتوانند دقیقاً تشخیص دهند که خطا مربوط به تولید متن است یا یک حلقهٔ بازیابی بنیادی. در محیطهای حرفهای، جایی که یک استناد حقوقی غلط میتواند پیامدهای شدید داشته باشد، این تفکیک حیاتی است.
گام بعدی شما
- اگر سیستم RAG دارید، ابتدا پرسوجوهای بازیابی (Retrieval Queries) که منجر به خطاهای تکراری میشوند را ثبت (Log) کنید.
- فاصله یا «دلتا» بین لایه شواهد و سطح پاسخ را مانیتور کنید تا نقطهٔ شکستِ مبنیسازی را بیابید.
- برای کاهش توهم، یک لایه تأیید خارجی (External Verification) مشابه Lawmadi OS برای دادههای مرجع خود تعریف کنید.
اما این تنها بخشی از معماری است؛ نحوهٔ مدیریت حافظه در این سیستمها حتی پیچیدهتر است — به تحلیل ما دربارهی پروتکل MCP مراجعه کنید.
گفتگو