جیاهوی میائو: حافظهٔ نامحدود باعث ایجاد خطای شناختی در هوش مصنوعی می‌شود

تصور کنید دستیار دیجیتالی شما هنوز بر اساس برنامه‌هایی که سه ماه پیش رها کردید، به شما پیشنهاد می‌دهد. اگر هوش مصنوعی شما هر پیش‌نویس دورریخته‌شده و هر تصمیم اشتباه را به یاد بیاورد، دیگر یک دستیار نیست، بلکه به یک بارِ اضافی تبدیل می‌شود.

در حالی که غول‌های فناوری برای رسیدن به پنجرهٔ زمینه (Context Window) — شبیه میز کاری که جا برای چند ورق دارد، نه برای کل کتابخانه — با میلیون‌ها توکن رقابت می‌کنند، جیاهوی میائو (Jiahui Miao) معتقد است این مسیر، حیاتی‌ترین نیاز هوش مصنوعی شخصی را نادیده می‌گیرد: توانایی فراموش کردن.

مسئلهٔ یادآوری مطلق

طبق گزارشی که در ۵ اکتبر ۲۰۲۶ در وب‌سایت dev.to منتشر شد، اکثر آزمایشگاه‌های هوش مصنوعی با حافظه مانند یک مسئلهٔ ذخیره‌سازی برخورد می‌کنند و تصور می‌کنند دادهٔ بیشتر یعنی عامل هوشمندتر. آن‌ها به داشتن ده میلیون توکن یا دسترسی به کل اینترنت در حافظهٔ کوتاه‌مدت خود افتخار می‌کنند. این رویکرد برای دانش عمومی جهان درست است، اما دانش شخصی متفاوت است. دانش جهانی هرچه کامل‌تر باشد مفیدتر است، اما دانش شخصی هرچه بدون تفکیک باشد، خطرناک‌تر می‌شود. این چالش دقیقاً همان نقطه‌ای است که مشکل انباشت داده در حافظه هوش مصنوعی را ایجاد می‌کند و ضرورت وجود یک دکمهٔ فراموشی را برجسته می‌سازد.

همان‌طور که در بحث‌های گذشته‌ی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تکیه بر داده‌های خام بدون فیلتر می‌تواند منجر به نتایج غیرقابل‌پیش‌بینی شود. وقتی یک عامل، حدسی را که در ماه مارس زده، با همان اطمینانی بیان می‌کند که حقیقتی را در ماه ژوئن ثبت کرده، دچار «باور منقضی‌شده» (Stale Conviction) شده است. در اینجا مدل دچار توهم (Hallucination) — وقتی مدل با اطمینان چیزی می‌گوید که اصلاً وجود ندارد، مثل دوستی که خاطره‌ای را اشتباه تعریف می‌کند — نشده است؛ بلکه صادقانه چیزی را تکرار می‌کند که زمانی درست بود اما اکنون غلط است. چون سیستم همه چیز را به یاد می‌آورد، هیچ مکانیزمی برای «مرگ یک حقیقت» وجود ندارد. این وضعیت یادآور آن است که چگونه فراموشی فعال به عنوان یک پیش‌شرط بیولوژیکی برای رسیدن به هوش واقعی در انسان‌ها عمل می‌کند.

میائو استدلال می‌کند که اعتماد انسان در واقع بر پایهٔ «حافظهٔ گزینشی» است؛ همان‌طور که یک دوست پیش‌نویس‌های بد شما را فراموش می‌کند یا یک همکار پروژه‌های لغو شده را نادیده می‌گیرد. اعتماد انسانی بر حافظه گزینشی استوار است زیرا ما نسخه‌های قدیمی آدم‌ها را می‌بخشیم چون اجازه می‌دهیم آن‌ها کمرنگ شوند و محو گردند.

مکانیزم‌های فراموشی مبتنی بر قضاوت

برای حل این مشکل، میائو سه مکانیزم «فراموشی مبتنی بر قضاوت» را در عامل شخصی خود پیاده کرد. او معتقد است فراموش کردن، حذف کردن نیست، بلکه نوعی قضاوت است:

• ردیابی منشأ (Provenance Tracking): هر حقیقت تا زمانی که به‌طور مستقل تأیید نشود، «تأییدنشده» باقی می‌ماند. یک حقیقت که یک‌بار گذرا گفته شده، با حقیقتی که از سه مرحله بررسی رد شده، برابر نیست. عامل باید برای ادعاهای خود «رسید» ارائه دهد تا یک حقیقت تأییدشده از یک شایعه گذرا متمایز شود.
• انقضای حافظه (Memory Expiration): برای داده‌هایی مثل قیمت‌ها، وضعیت‌ها، خلق‌وخو یا مواردی مثل «تمرکز من در این فصل چیست»، «نیمه‌عمر» تعریف می‌شود. مدل با این داده‌ها مثل کالاهای فاسدشدنی برخورد می‌کند، نه تخته‌سنگ. اگر شک وجود داشته باشد، حافظه می‌میرد تا دوباره ساخته شود، زیرا اقدام بر اساس داده‌های «پوسیده» هزینه‌برتر از بازسازی آن‌هاست.
• پس‌گرفتن بازتابی (Reflexive Retraction): وقتی اشتباهی شناسایی شود، عامل باید فوراً آن را در سوابق خود پس بگیرد. میائو مثالی می‌زند که در آن یک عدد دست‌نویس در گزارش توسط شمارش ماشینی غلط প্রমাণিত شد. او همان شب آن را اصلاح کرد و خط لوله (Pipeline) را مکانیزه کرد تا از خطاهای آینده جلوگیری کند. این کار مانع از آن می‌شود که سیستم اشتباهات را به باورهای دائمی تبدیل کند. این رویکرد در راستای راهکارهایی است که ذخیره‌سازی محلی را برای جلوگیری از زوال حافظه در استفاده‌های طولانی‌مدت به کار می‌گیرد.

این تغییر معماری نشان می‌دهد که «حداکثرگرایی در حافظه» در مدل‌های زبانی بزرگ فعلی برای مصارف شخصی اساساً اشتباه است. پاسخ صنعت معمولاً سخت‌افزاری است: پنجره‌های بزرگ‌تر، بازیابی هوشمندتر و بردار معنایی (Embedding) — مثل کارت معرفی عددی برای هر واژه که می‌گوید این کلمه همسایه‌ی چه کلمات دیگری است — پیشرفته‌تر. اما میائو پنجره‌ای را که هرگز منقضی نمی‌شود، یک «تله» می‌بیند، نه یک حافظه بهتر.

برای کاربر عادی، این یعنی ارزش یک عامل (Agent) به‌زودی نه با میزان دانسته‌هایش، بلکه با کیفیت فیلتر کردنش سنجیده می‌شود. عاملی که هر آنچه را که شما از آن عبور کرده‌اید می‌داند، به شما خدمت نمی‌کند، بلکه شما را تسخیر کرده است. عاملی که نمی‌تواند فراموش کند سه ماه پیش چه کسی بودید، نمی‌تواند به کسی که امروز هستید خدمت کند.

اگر صنعت همچنان ذخیره‌سازی را بر قضاوت ترجیح دهد، عامل‌های شخصی به‌جای شرکای سازنده، به آینه‌هایی تبدیل می‌شوند که اشتباهات گذشته ما را بازتاب می‌دهند. معیار بعدی هوش مصنوعی نباید تعداد توکن‌ها باشد، بلکه باید «نرخ صحت پس‌گرفتن اشتباهات» باشد.

میائو برای تست این موضوع، هر سه‌شنبه یک حسابرسی هفتگی انجام می‌دهد: او تصمیمی را بر اساس باوری به عامل می‌دهد که سه ماه پیش داشته اما ماه گذشته آن را رها کرده است. اگر عامل باور قدیمی را نقل کند، سیستم شکست خورده است؛ اما اگر تغییر را شناسایی کند و مدرک (رسید) آن را نشان دهد، یعنی سیستم موفق شده است.

گام بعدی شما

• اگر از عامل‌های هوش مصنوعی برای مدیریت پروژه‌ها استفاده می‌کنید، هر ماه یک‌بار داده‌های قدیمی و متناقض را به‌صورت دستی پاک کنید تا از «باورهای منقضی‌شده» جلوگیری کنید.
• در پرامپت‌های خود از مدل بخواهید که برای هر ادعای مربوط به تاریخ یا وضعیت، «منبع یا تاریخ ثبت» را ذکر کند.
• بررسی کنید آیا ابزارهای فعلی شما قابلیت تنظیم «تاریخ انقضا» برای یادداشت‌ها یا حافظه دارند یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.