تصور کنید یک عامل هوش مصنوعی در اولین تلاش برای فراخوانی یک API با یک قطعی موقت شبکه مواجه میشود و بلافاصله نتیجه میگیرد: «این API در دسترس نیست». از این لحظه به بعد، مدل دیگر حتی تلاش نمیکند، چون این نتیجه را به عنوان یک حقیقت تغییرناپذیر در حافظه ثبت کرده است.
این پدیده که «خطای خود-تقویتکننده» نام دارد، در مقالهای که در ۲۹ ژوئن ۲۰۲۶ با عنوان BeliefMem (arXiv:2605.05583) منتشر شد، کالبدشکافی شده است. طبق این پژوهش، فرمت ذخیرهسازی خاطرات تعیین میکند که آیا یک ذهن (سیلیکونی یا بیولوژیک) قابلیت تغییر دیدگاه دارد یا خیر. همانطور که در تحلیلهای قبلی ما دربارهی سوگیریهای مدلهای زبانی اشاره کردیم، مشکل اصلی نه در قدرت پردازش، بلکه در نحوه ثبت تجربه است. این چالش در مدیریت خاطرات، میتواند به نتایج معکوسی منجر شود؛ چنانکه پیشتر بررسی کردیم چگونه حافظهی بلندمدت در مدلهای زبانی ممکن است منجر به افزایش چاپلوسی شود.
این وضعیت دقیقاً شبیه به سوگیری تأییدی در انسان است؛ جایی که یک تجربه بدِ اتفاقی، تبدیل به یک دیوار نامرئی در روابط یا یک شکست دائمی در یک سیستم میشود. برای حل این مشکل، BeliefMem نتایج قطعی را با توزیعهای احتمالی جایگزین میکند. در این رویکرد، مدل به جای ثبت یک وضعیت صفر و یکی (موفق/شکست)، مجموعهای از احتمالات وزندار را ذخیره میکند؛ مثل این فهرست:
- اختلال موقت: ۰.۶
- شکست دائمی: ۰.۳
- محدودیت نرخ درخواست: ۰.۱
بر اساس مستندات این مقاله، هر مشاهدهی جدید این اعداد را بهروز میکند. اگر در تلاش دوم، فراخوانی API موفق شود، احتمال «اختلال موقت» بالا میرود و سایر احتمالات کاهش مییابند. این مکانیسم به حافظه اجازه میدهد «نفس بکشد» و بر اساس دادههای جدید تغییر کند، بدون اینکه نیاز باشد برای تغییر یک باور صلب، یک شوک یا تغییر مسیر شدید رخ دهد. در واقع، این رویکرد با اثرات متضادِ روشهایی مقابله میکند که در آنها تزریق خاطرات جعلی از شکست، ریسکپذیری عاملهای هوش مصنوعی را کاهش میدهد.
از دیدگاه کاربر، این یافته نشان میدهد لجاجت نه به دلیل نبود اراده، بلکه یک مشکل در «فرمت ذخیرهسازی» است. ما معمولاً قضاوتها را به شکل «X برابر است با Y» ذخیره میکنیم که در واقع در بسته میزند. اما انتقال به فرمت «بهترین تخمین فعلی»، اجازه میدهد شواهد کوچک، دیدگاه ما را بدون نیاز به بازسازی کامل ذهنی، تکان دهند.
به تعبیر دیگر، پذیرفتن این چارچوب در زندگی روزمره یعنی تلقی کردن آزارهای محیطی به عنوان «نقاط داده» (Data Points) و نه «صفات شخصیتی». به جای اینکه بگوییم «آن شخص بیادب است»، آن را به این شکل ثبت کنیم: «او امروز تحریککننده بود، احتمالاً به دلیل X»؛ با این کار درِ تجربه متفاوتی در فردا باز میماند.
چه در سیناپسهای مغز و چه در تراشههای سیلیکونی، حرکت از قطعیت به سمت احتمال، اصطکاک ذهنیِ «اشتباه کردن» را کاهش میدهد. این تلاش برای بهینهسازی یادگیری، مکمل راهکارهای دیگری است که برای کاهش فراموشی حافظه در عاملها از طریق چرخههای بازاندیشی استفاده میشود.
گام بعدی شما
- باورهای «قطعی» خود را لیست کنید و برای هر کدام یک توزیع احتمالی (مثلاً ۷۰٪ درست، ۳۰٪ غلط) تعریف کنید.
- در تعامل با ابزارهای هوش مصنوعی، اگر مدل در کاری شکست خورد، از او بخواهید احتمال دلیل شکست را تحلیل کند تا دچار لجاجت مدل نشوید.
- مطالعهی مقالات مربوط به «یادگیری احتمالی» (Probabilistic Learning) برای درک عمیقتر این تغییر پارادایم.
اما تأثیر این تغییر در حافظه بر روی هزینه استنتاج در مقیاس صنعتی حتی تکاندهندهتر است — به تحلیل ما دربارهی بهینهسازیهای GPU مراجعه کنید.
گفتگو