تصور کنید دستیاری داشته باشید که شش ماه تمام در کنار شماست، اما حتی نام مشتریان اصلی یا ماهیت کسب‌وکار شما را نمی‌داند. این کابوس برای فارست ژانگ، توسعه‌دهنده ابزارهای هوش مصنوعی، به واقعیت تبدیل شد.
طبق گزارش‌های منتشر شده، عامل‌های هوش مصنوعی ژانگ در حالی که با جدیت یک ویکی (Wiki) مبتنی بر مارک‌داون را روی یک مک مینی مدیریت می‌کردند، تمام اطلاعات مربوط به هویت او، کسب‌وکارهایش و مشتریانش را نادیده گرفته بودند. این شکاف اطلاعاتی نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) — شبیه کارمندانی که دستورات را اجرا می‌کنند اما گاهی جزئیات حیاتی را فراموش می‌کنند — در مدیریت حافظهٔ بلندمدت دچار نقاط کور خطرناکی هستند. این چالش‌ها یادآور بحث‌های پیشین ماست که در آن بررسی کردیم چرا حافظهٔ پایدار در برابر سیستم‌های RAG برای شناسایی تناقضات در داده‌های حساس اولویت دارد.
این موضوع در ۴ اکتبر ۲۰۲۶ فاش شد؛ زمانی که ژانگ ابزار Dexio را ساخت. این ابزار یک بصری‌ساز متن‌باز برای ویکی‌های مدل زبانی بزرگ (LLM) است — چیزی شبیه به یک پنجره که به جای تماشای جعبهٔ سیاه مدل، اجازه می‌دهد ببینیم مدل دقیقاً چه چیزی را در حافظه‌اش ذخیره کرده است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت و شفافیت مدل‌های زبانی اشاره کردیم، تکیه بر حافظهٔ مدل بدون داشتن ابزار نظارت، ریسک تصمیمات اشتباه سیستمی را افزایش می‌دهد.
به نقل از مستندات پروژه، ژانگ برای پر کردن این خلأ، یک گردش‌کار بازیابی را اجرا کرد:
- او یک عامل «رئیس ستاد» را مأمور کرد تا تمام ایمیل‌ها و متون قدیمی را اسکن کند.
- این عامل داده‌ها را ترکیب و صفحات گمشدهٔ ویکی را بازسازی کرد.
- پروتکل جدیدی تعریف شد تا هر بار که صفحه‌ای ایجاد یا به‌روزرسانی می‌شود، به ژانگ اطلاع داده شود.
این تغییر از مدیریت غیرفعال به مدیریت فعال حافظه، باعث شد تصمیمات عامل‌ها بر اساس زمینه‌های تأییدشده توسط انسان باشد. با شفاف کردن ویکی، ژانگ عامل‌ها را از بازیگران خودسر به ابزارهای قابل حسابرسی تبدیل کرد. این رویکرد در مدیریت ساختار داده‌ها، شباهت زیادی به دستاوردات جدید در پیکربندی Markdown برای تبدیل مدل‌ها به موجودیت‌های خودگردان دارد.
برای صاحبان کسب‌وکار، این یک هشدار جدی است: استقرار عامل‌ها با رویکرد «تنظیم کن و فراموش کن» یک ریسک بزرگ است. اگر عامل‌های شما بر اساس یک پایگاه دانش خصوصی تصمیم می‌گیرند، باید بدانید دقیقاً چه می‌دانند و مهم‌تر از آن، چه چیزهایی را فراموش کرده‌اند.
کاربران اکنون می‌توانند با استفاده از مخزن متن‌باز Dexio در گیت‌هاب یا نسخهٔ میزبانی‌شده در dexio.wiki، حافظهٔ عامل‌های خود را بازرسی کنند.
گام بعدی شما
- اگر از عامل‌های خودکار برای مدیریت دانش استفاده می‌کنید، یک لایه بصری‌سازی برای بررسی محتوای ذخیره‌شده اضافه کنید.
- پروتکل «اعلان تغییرات» را برای هر به‌روزرسانی در حافظهٔ بلندمدت مدل فعال کنید.
- دوره‌ای از بازبینی انسانی (Human-in-the-loop) را برای تأیید صحت داده‌های بازیابی‌شده تعریف کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو