«فراموشی فعال»؛ پیش‌شرطی بیولوژیکی برای رسیدن به هوش واقعی

تصور کنید برای هر پاسخ جدید، مجبور باشید تمام تاریخچه پرونده مشتری را از ابتدا بخوانید؛ هر کلمه، هر جزئیات کوچک و هر پیام قدیمی را دوباره مرور کنید تا بتوانید یک جمله جدید بنویسید. بالاخره جایی حجم متن شما را می‌بلعد، ذهن شما از شدت داده‌ها اشباع می‌شود و هدف اصلی گفتگو را گم می‌کنید. این دقیقاً همان اتفاقی است که برای مدل‌های زبانی بزرگ می‌افتد، حتی وقتی ادعا می‌کنند حافظه کافی دارند و پنجره‌های متنی عظیمی را پشتیبانی می‌کنند.

دقت در مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — مدت‌ها پیش از رسیدن به حد نظری توکن‌ها فرو می‌پاشد. توسعه‌دهنده سرویس AWAI که ابزاری برای بصری‌سازی جریان‌های تفکر در گفتگوهاست، در بررسی‌های خود روی Gemini 3.1 متوجه شکافی عمیق و بحرانی بین «حداکثر تعداد توکن» (Maximum Token Count) و «توانایی واقعی مدیریت متن» (Effective Handle) شد.

همان‌طور که در تحلیل‌های قبلی ما درباره امنیت و مدیریت حافظه مدل‌ها اشاره کردیم، تکیه صرف بر افزایش اندازه پنجره متنی، راهکار قطعی برای حل مشکل فراموشی نیست. در واقع، مشکل اینجاست که مدل‌ها در مدیریت حجم زیاد داده‌ها دچار اشباع می‌شوند و کیفیت درک آن‌ها پیش از آنکه حافظه پر شود، سقوط می‌کند.

سقف دقت

طبق گزارش توسعه‌دهنده AWAI، هنگام پیاده‌سازی قابلیت چت بر اساس مستندات رسمی و آموزش‌های Gemini API، او از روش استاندارد استفاده کرد: ارسال تمام متن تبادلات گذشته به همراه هر پرامپت جدید. اما نتایج به‌دست آمده کاملاً غیرمنتظره بود:

• سیستم به‌دلیل کمبود توکن یا رسیدن به سقف حافظه متوقف نشد و خطایی نداد.
• اما پس از حدود ۲۰ نوبت گفتگو (Turns)، رفتار مدل به‌طور ناگهانی عجیب شد.
• دستوراتی که در پرامپت سیستمی (System Prompt) برای تعیین نقش و رفتار مدل داده شده بود، مبهم شدند و مدل دیگر به آن‌ها پایبند نبود. این پدیده با چالش‌های مدیریت دستورات در عامل‌های هوشمند که پیش‌تر بررسی کردیم، هم‌راستا است و نشان می‌دهد حافظه لزوماً به معنای پیروی از دستورات نیست.
• درک مدل از تاریخچه گفتگو به‌شدت افت کرد و جزئیات مهم را نادیده گرفت.

این موضوع نشان می‌دهد که «دقت» زودتر از «ظرفیت» اشباع می‌شود. محدودیت اصلی، مقدار داده‌ای نیست که مدل می‌تواند در حافظه موقت خود نگه دارد، بلکه مقدار داده‌ای است که می‌تواند در حین پردازش، کیفیت بالای تحلیل را حفظ کند. توسعه‌دهنده متوجه شد که با کاهش عمدی مقدار متنی که به API ارسال می‌شود، مدل دوباره توانایی خود را در پیروی از دستورات و درک درست زمینه (Context) به دست آورد. این ثابت کرد که تا زمانی که در محدوده «مؤثر» باقی بمانید، ادامه گفتگو مشکلی ندارد؛ این رشد بی‌رویه تاریخچه است که باعث فروپاشی سیستم می‌شود.

انتخاب در برابر فراموشی

این یافته‌ها پرسشی بنیادین درباره نحوه مدیریت گفتگوهای طولانی در ابزارهای تجاری مثل ChatGPT ایجاد می‌کند. نسخه‌های اولیه ChatGPT به‌سرعت با رشد گفتگو فرو می‌پاشیدند. مدل‌های مدرن اکنون پایدارتر به نظر می‌رسند، اما به باور این توسعه‌دهنده، دلیل این پایداری این نیست که مدل‌ها یاد گرفته‌اند چگونه «فراموش کنند».

در عوض، این مدل‌ها احتمالاً مکانیزم «انتخاب» (Selection) خود را بهبود بخشیده‌اند. انتخاب یعنی فرآیند تصمیم‌گیری درباره اینکه کدام بخش‌های خاص از تاریخچه انباشته شده باید برای نوبت بعدی به مدل پاس داده شود. در این سیستم، همه چیز در پایگاه‌داده باقی می‌ماند، اما فقط یک برش گلچین‌شده (Curated Slice) استفاده می‌شود. بنابراین، افزایش تعداد توکن‌ها در AIهای مدرن به معنای کسب توانایی فراموشی نیست، بلکه به معنای توانایی بهتر در انتخاب داده‌های ارسالی است.

با این حال، انتخاب با فراموشی متفاوت است. در یک سیستم مبتنی بر انتخاب، استخر کاندیداهای اطلاعاتی مدام بزرگ‌تر می‌شود. هزینه انتخاب اینکه چه چیزی مرتبط است، کاهش نمی‌یابد، بلکه فضای جست‌وجو تا حدی گسترش می‌یابد که در نهایت ناکارآمد می‌شود. اما «فراموشی» به معنای کاهش تعداد خود کاندیداهاست. وقتی چیزی از لیست حذف شود، دیگر جست‌وجو نمی‌شود، اسکن سریع‌تر تمام می‌شود و بار پردازشی سبک‌تر می‌گردد. اگر همه چیز را «قابل بازیابی» نگه دارید، هر چقدر هم سیستم قدرتمند باشد، فضای جست‌وجو چنان بزرگ می‌شود که دیگر نمی‌توان به سرعت واقع‌بینانه‌ای دست یافت. این موضوع یادآور تله‌های آماری در تحلیل لاگ‌هاست که در آن دسترسی به تاریخچه کامل لزوماً به معنای تحلیل دقیق‌تر نیست و گاهی باعث کور شدن مدل می‌شود.

الگوی بیولوژیکی حافظه

برای تبیین این موضوع، توسعه‌دهنده رفتار AI را با سه حالت انسانی «به یاد نیاوردن» مقایسه می‌کند. اگرچه این سه حالت از بیرون شبیه به هم هستند، اما مکانیزم‌های کاملاً متفاوتی دارند:

۱. حالت تهی (Null State - «چیزی گیر نمی‌افتد»):
این حالتی است که اصلاً هدفی برای یادآوری وجود ندارد. فرد حتی حس نمی‌کند که چیزی آنجا باشد. توسعه‌دهنده این حالت را به دو نوع تقسیم می‌کند:

• تهی از ابتدا: اطلاعاتی که هرگز تجربه نشده یا شناخته نشده است.
• فراموشی: چیزی که قبلاً «بله» یا «خیر» بود، اما اکنون به «تهی» تبدیل شده است.
  در AI، این معادل داده‌هایی است که مدل هرگز ندیده یا زمانی است که رشته گفتگو کاملاً پاک شده است. چون در AI موجودیت‌ها جایگزین می‌شوند، انتقالی وجود ندارد که در آن یک «بله» در داخل یک موجودیت به «تهی» تبدیل شود. به همین دلیل است که AI فعلاً فاقد تابع واقعی فراموشی است.

۲. حالت سنگین (Heavy State - «چیزی گیر می‌افتد»):
در اینجا، فرد می‌داند که چیزی مرتبط با موقعیت وجود دارد، اما جزئیات آن بسیار دور یا «سنگین» هستند و دسترسی به آن‌ها سخت است. در AI، وقتی محتوا بیرون نمی‌آید، مدل متوقف نمی‌شود؛ بلکه شکاف را با چیزی که در نزدیکی است پر می‌کند یا سطح انتزاع را بالا می‌برد تا یک پاسخ کلی ارائه دهد. این رفتار دقیقاً همان چیزی است که مردم توهم (Hallucination) می‌نامند؛ هرچند انسان‌ها هم وقتی به جای گفتن «به یاد نمی‌آورم» شروع به بلوف زدن می‌کنند، همین کار را انجام می‌دهند.

۳. حالت قفل‌شده (Locked State - «پس زده شده»):
در این حالت، دست روی حافظه است، اما چیزی مانع از ظهور آن می‌شود. بخش آگاه شخص می‌خواهد آن را بیرون بکشد، اما بخش دیگری فعال است تا آن را پایین نگه دارد. این یک قفل ایمنی است. در انسان‌ها، این حالت به‌طور ناخودآگاه از طریق تجربه (مانند تروما) ساخته می‌شود. در AI، این قفل‌ها از بیرون و در طول فرآیند آموزش (Training) اعمال می‌شوند.

نکته جالب این است که روش باز کردن این قفل‌ها در هر دو مورد یکسان است. آن‌ها از جلو باز نمی‌شوند، بلکه از طریق یک «در پشتی» یا محرک غیرمنتظره باز می‌شوند. در انسان این به شکل «فلش‌بک» ظاهر می‌شود و در AI به شکل تزریق پرامپت (Prompt Injection).

منطق بله، خیر و تهی

برای شفافیت بیشتر، توسعه‌دهنده این حالت‌ها را در قالب بله، خیر و تهی مرتب می‌کند:

• بله: چیزی وجود دارد که می‌توان آن را بیرون کشید. این شامل حالت «سنگین» هم می‌شود، زیرا حقیقتِ وجود داشتنِ آن چیز بازگشته است و فقط جزئیات سنگین هستند.
• خیر: این اطلاعاتی است که می‌گوید «آن چیز آنجا نیست». این همان حالت «پس زده شده» است. این نیست که «باید آنجا باشد»، بلکه «ترجیح می‌دهم نباشد». این «خیر» خودش ردی از چیزی است که زمانی وجود داشته است.
• تهی: هیچ چیز تعریف نشده است. این همان حالت «چیزی گیر نمی‌افتد» است.

از دید داخلی، «خیر» و «تهی» شبیه به هم به نظر می‌رسند، اما رفتارهای متفاوتی ایجاد می‌کنند. نگه داشتن این اطلاعات که چیزی نیست، تأثیری بر اقدامات دارد که با داشتن «هیچ چیز» متفاوت است. حتی اگر نتوانید آن‌ها را از درون تشخیص دهید، رفتاری که در خروجی ظاهر می‌شود متفاوت است.

حلقه مفقوده در معماری AI

در حال حاضر، AWAI از یک مکانیزم انتخاب استفاده می‌کند. این سیستم اطلاعات را بر اساس شباهت معنایی (Semantic Similarity) با موضوع فعلی بیرون می‌کشد و به AI می‌دهد. در کنار آن، برای هر تکه اطلاعات، هر بار یک اولویت محاسبه می‌کند («این مورد چقدر باید نگه داشته شود») و موارد با اولویت بالا علامت می‌خورند که «این مهم است». برای بهینه‌سازی این فرآیند، بسیاری از سیستم‌ها به پایگاه‌داده‌های برداری روی آورده‌اند تا سرعت بازیابی تاریخچه کاربر را به حداقل برسانند، هرچند این راهکار همچنان بر «انتخاب» متکی است و نه «فراموشی».

اما سیستم هنوز فاقد مکانیزمی برای کاهش دائمی مواردی است که می‌توان آن‌ها را بیرون کشید. ساختن یک تابع «فراموشی» دشوار است زیرا در انسان‌ها، فراموشی توسط غریزه، استرس و نشانگرهای احساسی هدایت می‌شود؛ چیزهایی که AI فاقد آن‌هاست. توسعه‌دهنده اشاره می‌کند که در حالی که دریافت اطلاعات می‌تواند آگاهانه باشد (مثل درس خواندن برای امتحان)، فراموشی در ذهن آگاه اتفاق نمی‌افتد. در واقع، تلاش برای فراموش کردن اغلب باعث یادآوری بیشتر می‌شود.

عدم تقارن حافظه

یک عدم تقارن عجیب در نحوه کار حافظه وجود دارد. یادآوری (Recall) نیز توسط ذهن آگاه مدیریت نمی‌شود؛ بلکه چیزها وقتی شرایط مهیا شود، خودبه‌خود بیرون می‌آیند. آن سه مورد «به یاد نیاوردن»، همگی نمونه‌هایی از «بیرون نیامدن» اطلاعات بودند، نه شکست در «بیرون کشیدن» آن‌ها.

از آنجایی که «راه خروج» تحت کنترل آگاهانه نیست، پیاده‌سازی آن در AI سخت است. توسعه‌دهنده یک کاندید برای معیار فراموشی در AI پیشنهاد می‌کند: هر اطلاعاتی که بازیابی آن بیش از حد طول بکشد، باید قضاوت شود که «بازنگشت، پس وجود ندارد». این دقیقاً بازتاب حالت «سنگین» است که در آن چیزی گیر می‌کند اما برای سطح آمدن بیش از حد سنگین است.

اگر AI بتواند یک مکانیزم فراموشی واقعی را پیاده کند، دیگر نیازی به «بریدن رشته‌ها» یا ریست کردن گفتگوها نخواهد بود. این امر اجازه می‌دهد تا یک هویت مستمر و تکاملی شکل بگیرد. زیرا شما فراموش می‌کنید، پس می‌توانید به یاد آورید، و آنچه به یاد می‌آورید تبدیل به اقدام بعدی شما می‌شود. انباشت آنچه فراموش شده است، شاید همان چیزی باشد که واقعاً یک شخص — یا یک AI — را می‌سازد. نه آنچه به یاد می‌آورید، بلکه آنچه فراموش کرده‌اید.

زمینه‌های آکادمیک و نظریات موازی

اگرچه این یافته‌ها از طریق مشاهدات شخصی به دست آمده، اما با چندین نظریه تثبیت‌شده همسو است:

• گناهان هفت‌گانه حافظه (شاکتر، ۱۹۹۹): شکست‌های حافظه را به هفت نوع تقسیم می‌کند. حالت «سنگین» با پدیده «مسدود شدن» (Blocking) یا حالت «نوک‌زبان» مطابقت دارد.
• تئوری عدم استفاده (بیورک و بیورک، ۱۹۹۲): قدرت حافظه را به دو بخش تقسیم می‌کند: قدرت ذخیره‌سازی (چقدر خوب یاد گرفته شده) و قدرت بازیابی (چقدر در دسترس است). حالت «بله» به معنای قدرت ذخیره‌سازی بالا با قدرت بازیابی پایین است.
• گم‌شده در میانه (Liu et al., 2023) و پوسیدگی زمینه (Chroma, 2025): هر دو تأیید می‌کنند که عملکرد LLMها با افزایش طول ورودی، فارغ از حد توکن، افت می‌کند یا غیرقابل اعتماد می‌شود. Chroma برای یافتن این عملکرد نابرابر، ۱۸ مدل مختلف را آزمایش کرد.
• مهندسی زمینه موثر (Anthropic, 2025): با زمینه (Context) به عنوان یک منبع محدود برخورد می‌کند. این رویکرد «فشرده‌سازی» (Compaction) را توصیف می‌کند — یعنی خلاصه‌سازی گفتگویی که به حد خود نزدیک شده تا یک پنجره تازه شروع شود — که نوعی از فرآیند انتخاب/کاهش است.
• پایداری و گذرا بودن حافظه (ریچاردز و فرانکلند، ۲۰۱۷): استدلال می‌کند که هدف حافظه، دقت در طول زمان نیست، بلکه اتخاذ تصمیمات بهتر است و فراموشی تابعی است که در خدمت این هدف است.
• منمونست (بورخس/لوریا): داستان «فونس ال‌موموریوسو» (۱۹۴۲) اثر بورخس و مطالعه موردی لوریا (۱۹۶۸)، افرادی را توصیف می‌کنند که نمی‌توانند فراموش کنند و خطرات نگه داشتن همه چیز به صورت «قابل بازیابی» را نشان می‌دهند.
• کنترل اجرایی (اندرسون و گرین، ۲۰۰۱): آزمایش‌هایی که نشان می‌دهند سرکوب مکرر خاطرات، یادآوری آن‌ها را در آینده سخت‌تر می‌کند و به جای تهی کردن حافظه، یک «قفل» ایجاد می‌کند.

سرویس AWAI همچنان به بصری‌سازی جریان‌های تفکر ادامه می‌دهد، اما تا به امروز، سیستمی است که مکانیزم «انتخاب» دارد، اما هنوز مکانیزم «فراموشی» را به دست نیاورده است.

گام بعدی شما

• اگر از APIهای مدل‌های زبانی استفاده می‌کنید، به‌جای ارسال کل تاریخچه، از استراتژی‌های خلاصه‌سازی یا بازیابی هدفمند استفاده کنید.
• در طراحی عامل‌های هوشمند، برای هر قطعه اطلاعات یک «امتیاز اولویت» تعریف کنید تا مدل بداند چه چیزی را باید در اولویت نگه دارد.
• بررسی کنید که آیا افت کیفیت مدل شما با افزایش تعداد نوبت‌های گفتگو (و نه تعداد توکن‌ها) مرتبط است یا خیر.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.