تصور کنید یک عامل هوشمند بر اساس قراردادی که امروز میبیند تصمیم میگیرد، اما فردا متوجه شود که آن قرارداد هفته پیش تغییر کرده بود؛ حالا چطور ثابت کند در لحظه تصمیمگیری، واقعاً از آن تغییر خبر نداشت؟ این شکاف میان واقعیت و دانستههای مدل، بزرگترین نقطه شکست عاملهای هوش مصنوعی در محیطهای عملیاتی است.
بسیاری از عاملهای فعلی از تولید بازیابیافزا (RAG) — شبیه دانشآموزی که قبل از جواب دادن، اول کتاب درسی را باز میکند و از آن نقل میآورد — استفاده میکنند که فقط آخرین وضعیت دادهها را بهینه میکند. همانطور که در تحلیلهای پیشین ما دربارهی حافظهٔ کوتاهمدت مدلها اشاره کردیم، این رویکرد باعث میشود بستر تصمیمات گذشته بهصورت خاموش پاک شود. این چالشها اغلب ریشه در ضعفهای ساختاری بازیابی دارند که در بررسیهای پیشین دربارهی رفع نشت حافظه و خطاهای بازیابی به آنها پرداخته بودیم. برای مثال، اگر یک عامل حقوقی در ۵ ژانویه تصمیمی بگیرد و در ۱۲ ژانویه اصلاحیهای با تاریخ اثر ۱ ژانویه برسد، سیستمهای معمولی بهاشتباه فرض میکنند عامل باید در همان ۵ ژانویه از این اصلاحیه خبر داشته باشد.
برای حل این معضل، پروژه Lians یک لایه حافظهٔ دوزمانی (Bitemporal Memory) معرفی کرده است. به نقل از راهنمای فنی این پروژه در ۱۹ ژوئیه ۲۰۲۶، این سامانه دو ساعت مستقل را برای هر حقیقت ثبت میکند:
- زمان وقوع (Event Time): لحظهای که حقیقت در دنیای واقعی معتبر شده است.
- زمان سیستم (System Time): لحظهای که هوش مصنوعی آن حقیقت را یاد گرفته، اصلاح کرده یا کنار گذاشته است.
بر اساس مستندات این پروژه، این ردیابی دوگانه سه نوع پرسوجوی مجزا را ممکن میکند: تشخیص حقیقت فعلی، بازسازی دانستههای مدل در یک لحظه خاص از گذشته و تعیین حقیقت تاریخی اصلاحشده. استقرار عملیاتی این روش نیازمند شناسههای نسخه تغییرناپذیر، تایید اصالت منابع با استفاده از Checksum و پرسوجوهای قطعی «در تاریخِ» (as-of) است تا نشت اطلاعات از آینده به گذشته در حافظه رخ ندهد.
برای توسعهدهندگان، این تغییر یعنی تبدیل حافظه از یک حافظهٔ موقت (Cache) به یک دفترچه شواهد قابل تایید. این سازوکار اجازه میدهد ارزیابیها و آزمونهای پسنگر (Backtests) بدون سوگیری «نگاه به آینده» انجام شوند. با حفظ دقیق وضعیتی که منجر به یک تصمیم شده، تیمها میتوانند رفتارهای مدل را پس از اصلاح حافظه، بدون حدس و گمان عیبیابی کنند.
این مکانیسم بهویژه برای صنایعی با نظارت شدید (Compliance) حیاتی است. در این محیطها، حافظه از یک ابزار بازیابی ساده به یک دفتر کل جرمشناختی تبدیل میشود تا عاملها بهدلیل نادیده گرفتن اطلاعاتی که هنوز به آنها دسترسی نداشتند، بهطور ناعادلانهانه محکوم نشوند. این رویکرد در واقع انتقال تمرکز از قابلیتهای فنی ساده به یک مدل جامع از حکمرانی داده در حافظهٔ عاملها است تا دقت و پاسخگویی سیستم تضمین شود.
گام بعدی شما
- اگر در حال توسعه عاملهای مالی یا حقوقی هستید، ساختار دادههای خود را از 단순 Key-Value به مدلهای دوزمانی تغییر دهید.
- برای جلوگیری از Lookahead Bias در ارزیابیها، سیستم ثبت System Time را پیادهسازی کنید.
- بررسی کنید که آیا پایگاهداده برداری شما از کوئریهای As-of پشتیبانی میکند یا نیاز به لایه میانی دارید.
اما تأمین این دقت در حافظه، فشار زیادی به هزینههای پردازش میآورد؛ اثر این موضوع بر قیمت استنتاج را در گزارش بعدی بررسی خواهیم کرد.
گفتگو