تصور کنید دستیاری دارید که قرار است همه چیز را به خاطر بسپارد، اما ناگهان متوجه می‌شوید ۹۷٪ ذهن او با یادداشت‌های بی‌معنی و تکراری پر شده است. این دقیقاً همان بحرانی است که ربات Akiko در ۳۰ سپتامبر ۲۰۲۶ تجربه کرد.
به نقل از توسعه‌دهنده این ربات دیسکورد، نبودِ فیلترهای ورودی سخت‌گیرانه و استفاده از الگوهای ضعیف برای شناسایی ضمایر، باعث شد حافظه بلندمدت عامل تقریباً فلج شود. ساخت یک سامانه حافظه برای عامل‌های هوش مصنوعی (AI Agents) — شبیه ساختن یک دفترچه یادداشت هوشمند که می‌داند چه چیزی را ثبت کند و چه چیزی را دور بریزد — در محیط تست ساده است، اما در دنیای واقعی با شکست مواجه می‌شود. این چالش با ضرورت وجود مکانیزم فراموشی در مدل‌ها برای جلوگیری از انباشت داده‌های زائد همسو است تا هوش مصنوعی بتواند روی اطلاعات کلیدی تمرکز کند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت و پایداری حافظه در مدل‌های زاینده اشاره کردیم، اکثر توسعه‌دهندگان روی مسیر بازیابی (خواندن) تمرکز می‌کنند، اما مشکل اصلی در مسیر نوشتن است. اگر سیستمی بدون فیلتر باشد، هر تکه متنی که با الگوهای مدل مطابقت داشته باشد را ذخیره می‌کند، حتی اگر محتوایی نداشته باشد. در همین راستا، زیرساخت Walrus با تمرکز بر پایداری در برابر تأخیر نوشتن سعی دارد نقاط ضعف لایه‌ی ذخیره‌سازی را برطرف کند.
به گزارش مستندات فنی این پروژه، برای حل این مشکل سه گام عملی برداشته شد:
- پاک‌سازی کامل ردیف‌های موجود و حفظ تنها ۱۰۰ مورد از باارزش‌ترین حقایق.
- تغییر مکانیزم ذخیره‌سازی؛ حالا مدل ابتدا حقیقتِ کاندید را طبقه‌بندی می‌کند و سپس ذخیره می‌کند.
- برچسب‌گذاری ورودی‌های «هنوز داوری‌نشده» به عنوان NULL برای بازبینی توسط یک پردازش ساعتی.
علاوه بر نویز داده‌ها، یک خطای منطقی عجیب وجود داشت: ربات «نبودِ اطلاعات» را به عنوان یک حقیقت ذخیره می‌کرد. مثلاً جمله «کاربر تاریخ تولدش را نگفته است» در حافظه ثبت می‌شد. این موضوع باعث می‌شد ربات شبیه به یک جاسوس به نظر برسد که لیستی از چیزهایی که کاربر پنهان کرده تهیه می‌کند. توسعه‌دهنده با افزودن یک قانون استخراج برای رد جملات منفی و یک فیلتر در زمان بازیابی، این مشکل را حل کرد. این رویکرد دقیق در ثبت داده‌ها یادآور پروژه Lossless-Memory است که برای دستیابی به بازیابی دقیق، هرگونه تلخیص توسط هوش مصنوعی را رد کرد.
این تغییر نشان می‌دهد که حافظه تنها زمانی کاربردی است که کاربر روی آن کنترل داشته باشد. اکنون Akiko دستوراتی برای مشاهده، افزودن، حذف و خروجی گرفتن از داده‌های ذخیره‌شده دارد.
گام بعدی شما
- اگر در حال توسعه حافظه برای عامل‌ها هستید، جداول داده‌های واقعی (Production) خود را زودتر از موعد بررسی کنید.
- فیلترهای سخت‌گیرانه را در لایه «نوشتن» (Write-side) قرار دهید، نه فقط در لایه «خواندن».
- قابلیت مدیریت داده‌ها (حذف و ویرایش) را به عنوان یک ویژگی اصلی به کاربر بدهید.
اما چالش‌های مدیریت حافظه در مقیاس میلیونی حتی پیچیده‌تر است — به بررسی ما درباره پایگاه‌های داده برداری مراجعه کنید.
گفتگو