پرش به محتوای اصلی
پرش به محتوای مقاله

درون Dreaming V3؛ تضاد میان کارایی حافظه و دقت شناخت کاربر

·۲۸ خرداد ۱۴۰۵۸ دقیقه مطالعه۱ بازدید
ارتقای حافظه ChatGPT هیجان‌انگیز است، اما یک نقطه ضعف آشکار شده است.
ارتقای حافظه ChatGPT هیجان‌انگیز است، اما یک نقطه ضعف آشکار شده است.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

گذار از حافظه مبتنی بر لیست (Static List) به حافظه ترکیبی و روایتی (Synthesized Narrative) که سعی می‌کند «هویت» کاربر را استنتاج کند، نه فقط فاکتها را ذخیره نماید.

اگر از ChatGPT برای مدیریت زندگی حرفه‌ای یا پژوهش‌های شخصی استفاده می‌کنید، باید بدانید که این هوش مصنوعی در پس‌زمینه در حال تدوین یک پروندهٔ دائمی و ترکیب‌شده از شماست. این هستهٔ اصلی به‌روزرسانی Dreaming V3 از شرکت OpenAI است که از ذخیرهٔ سادهٔ داده‌ها فراتر رفته و به پروفایل‌سازی فعال شخصیتی روی آورده است.

برای سال‌ها، دستیارهای هوش مصنوعی با «صفحهٔ پاک» کار می‌کردند؛ یعنی هر جلسه ایزوله بود و شما مجبور بودید هر بار ترجیحات خود را تکرار کنید. در سال ۲۰۲۴، OpenAI حافظه‌های پایه را معرفی کرد — چیزی شبیه به یک دفترچه یادداشت دیجیتال از حقایق — اما این داده‌ها به‌سرعت قدیمی یا نامرتبط می‌شدند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن و حریم خصوصی داده‌ها اشاره کردیم، مدیریت حافظه همیشه یک چالش میان کارایی و امنیت بوده است. بر این اساس، شرکت سال ۲۰۲۵ را صرف توسعهٔ «رؤیابینی» (Dreaming) کرد؛ مکانیزمی که به مدل اجازه می‌دهد به‌طور خودکار خاطرات را از تاریخچهٔ چت‌ها گلچین کند. طبق اعلام شرکت، از ۱۸ ژوئن ۲۰۲۶، نسخه Dreaming V3 برای مشترکان Plus و Pro فعال شده و به‌زودی برای کاربران رایگان عرضه می‌شود.

تکامل حافظه در هوش مصنوعی

پیش از سال ۲۰۲۴، ChatGPT هیچ قابلیت حافظه‌ای نداشت. هر جلسه به‌طور مستقل عمل می‌کرد و اطلاعات به اشتراک گذاشته شده در یک چت، برای هیچ چت دیگری در دسترس نبود. وقتی حافظه‌ها در سال ۲۰۲۴ معرفی شدند، صرفاً فهرستی از حقایق بودند. اما این سیستم فاقد زمینه (Context) و لایه‌های پنهان بود و خاطرات به‌سرعت منقضی می‌شدند، مگر اینکه کاربر به‌صورت دستی آن‌ها را ویرایش می‌کرد.

به گزارش منابع داخلی، نمونه‌های این حافظه‌های منقضی‌شدهٔ دوران ۲۰۲۴ شامل جزئیات فنی بسیار خاصی بود که سال‌ها باقی می‌ماند؛ برای مثال:

  • جزئیات مربوط به دو حساب گوگل ورک‌اسپیس (A.com و B.com) و برنامه‌ای برای انتقال مسیریابی ایمیل در حالی که فضای ذخیره‌سازی حفظ شود (احتمالاً تحت یک دامنه متفاوت)، در حالی که ۵۷ ترابایت بک‌آپ روی A.com باقی بماند.
  • یک لیست جهانی به نام 'veg_positions' که در یک پروژه Scratch برای جلوگیری از تداخل کلون‌های بروکلی استفاده شده بود.
  • این حقیقت ساده که یک دوشاخه‌ی هوشمند Kasa نصب شده است.

در سال ۲۰۲۵، OpenAI مفهوم «رؤیابینی» را وارد کرد. برای انسان‌ها، رؤیا به پردازش احساسات، تثبیت خاطرات و تقویت هوش اجتماعی کمک می‌کند. مقاله‌ای در Scientific American اشاره می‌کند که رؤیاها پل ارتباطی میان تجربیات، احساسات و خاطرات را تنظیم می‌کنند. نسخهٔ هوش مصنوعی نیز به مدل اجازه داد بدون دستور صریح، در پس‌زمینه به تاریخچهٔ گفتگوها رجوع کند. این ساختار، ترکیبی از خاطرات ذخیره‌شده و نسخه Dreaming V0 بود.

سازوکار Dreaming V3

به نقل از پست وبلاگی OpenAI، نسخه Dreaming V3 عملیات «سنتز داده‌ها» را انجام می‌دهد. این مدل دیگر فقط یک خط متن را به یاد نمی‌آورد، بلکه یک روایت (Narrative) دربارهٔ علایق، محدودیت‌ها و ترجیحات ضمنی شما می‌سازد. این یعنی مدل می‌تواند پروژه‌های پیچیده و چند-جلسه‌ای را در بازه‌های زمانی طولانی ردیابی کند.

امروز حافظه‌ها شامل کل تاریخچهٔ چت، دستورات صریح، محدودیت‌های شخصی و ترجیحات استخراج‌شده از جملات گذرا و غیررسمی هستند. دستاوردهای فنی گزارش‌شده توسط شرکت چشم‌گیر است:

  • موفقیت در بازیابی حقایق: از ۴۱٪ در سال ۲۰۲۴ به ۸۲٪ در سال ۲۰۲۶ رسید.
  • دقت در طول زمان: نرخ صحت در انجام تکالیف از ۹٪ در سال ۲۰۲۴ به ۷۵٪ در سال ۲۰۲۶ افزایش یافت.
  • پایبندی به ترجیحات: از ۳۱٪ در سال ۲۰۲۴ به ۷۱٪ در سال ۲۰۲۶ رسید.

برای مقیاس‌پذیر کردن این روند، OpenAI هزینهٔ پردازشی این تحلیل‌های پس‌زمینه را ۵ برابر کاهش داد. این کار باعث می‌شود مدل با تحلیل برچسب‌های زمانی (Timestamps) روی تکه‌های اطلاعاتی، وضعیت ذهنی داخلی خود را به‌روز کند و به‌نوعی گذر زمان را در کنار کاربر تجربه کند.

ارتقای حافظه ChatGPT هیجان‌انگیز است، اما یک نکته منفی سریعاً مشهود شد.

مشکل «پروندهٔ شخصی»

با وجود این اعداد، کاربرد واقعی سیستم گاهی متناقض و نامنظم است. در آزمونی توسط دیوید گورتز از ZDNET، هوش مصنوعی ادعا کرد که کاربر از نرم‌افزار Home Assistant استفاده می‌کند، در حالی که او هرگز این نرم‌افزار را حتی دانلود نکرده بود. مدل یک «خلاصه حافظه سطح بالا» ساخته بود که اساساً غلط بود. وقتی از تجربه کار با Kasa سؤال شد، AI به اشتباه ادعا کرد که کاربر از دوشاخه‌های هوشمند Kasa KP125M Matter برای نظارت بر انرژی استفاده کرده و سپس آن تنظیمات را به Home Assistant منتقل کرده است.

در واقعیت، آن دوشاخه Kasa صرفاً در یک جعبه ابزار در کنار سایر سخت‌افزارها رها شده بود. وقتی از OpenAI دربارهٔ این خطا سؤال شد، نماینده‌ای از شرکت به ZDNET پاسخ داد که این خلاصه‌ها برای تسهیل بازبینی و اصلاح کلی طراحی شده‌اند، نه برای ارائهٔ فهرست کامل و دقیق از تک‌تک حقایق. آن‌ها تأکید کردند که خلاصه لزوماً تمام جزئیات، مثل یک استک فنی خاص، را نشان نمی‌دهد، حتی زمانی که آن زمینه در یک گفتگو استفاده شده باشد.

مدیریت هویت دیجیتال

کاربران می‌توانند این تنظیمات را در نسخهٔ مرورگر در مسیر Settings > Personalization > Memory پیدا کنند. توجه داشته باشید که در زمان نگارش این متن، اپلیکیشن MacOS هنوز از رابط قدیمی حافظه استفاده می‌کند. سه راه برای تعامل با این سیستم وجود دارد:

  • غیرفعال‌سازی حافظه: خاموش کردن Enable memory جلوی تجمیع جدید خاطرات بر پایه رؤیابینی را می‌گیرد، اما داده‌های قبلی یا تاریخچهٔ چت را پاک نمی‌کند. داده‌ها باقی می‌مانند و فقط فرآیند تجمیع متوقف می‌شود.
  • حذف خاطرات ذخیره‌شده: این کار لیست صریح حقایق را پاک می‌کند. اما برای پاکسازی کامل اطلاعات از «آگاهی» هوش مصنوعی، کاربر باید خودِ لاگ‌های چت را حذف کند.
  • مدیریت پروفایل: کاربران می‌توانند روایت ترکیب‌شده‌ای را که مدل ساخته است مشاهده کنند. با استفاده از دکمهٔ Manage، کاربران می‌توانند جنبه‌های خاصی از روایت را انتخاب کرده و گزینه "Don't mention this again" را بزنند تا مدل را مجبور به فراموشی آن مورد کنند، یا نظراتی اضافه کنند تا نحوهٔ «درک» (Grok) مدل از آن‌ها شخصی‌سازی شود.

یک نکتهٔ امنیتی نیز وجود دارد: طبق FAQ شرکت، غیرفعال کردن شخصی‌سازی، ویژگی‌های ایمنی را غیرفعال نمی‌کند. این ویژگی‌ها از زمینه‌های محدود و مرتبط با ایمنی در موقعیت‌های پرخطر برای کمک به کاهش شدت بحران‌ها استفاده می‌کنند. اگر گفتگو نشان‌دهندهٔ یک مسئلهٔ ایمنی باشد، ChatGPT آن اطلاعات را برای پاسخ ایمن‌تر حفظ می‌کند، هرچند مشخص نیست آیا این اطلاعات به کسی گزارش می‌شود یا خیر.

بار شناختی «شخصی‌سازی»

این تغییر مشکل جدیدی ایجاد می‌کند: هوش مصنوعی اکنون دنیا را از دریچهٔ لنزی می‌بیند که از گذشتهٔ شما ساخته شده است. اگر برای یک پروژهٔ یک‌باره دربارهٔ موضوعی تحقیق کنید — مثلاً بررسی Mint Linux روی یک Mac Studio — مدل ممکن است این کنجکاوی گذرا را به عنوان یک ویژگی شخصیتی دائمی در پروندهٔ شما ثبت کند.

این وضعیت منجر به یک «حلقهٔ پاسخ تحریف‌شده» می‌شود. اگر مدل بر اساس گفتگویی در دو سال پیش تصمیم بگیرد که شما به رویکرد خاصی علاقه ندارید، ممکن است آن اطلاعات را به‌طور راحت از پاسخ‌های آینده حذف کند. حالا کاربر باید علاوه بر توهمات (Hallucinations)، «سوگیری مدل دربارهٔ هویت کاربر» را هم فیلتر کند. این امر بار تفکری انسان را برای تأیید صحت و کامل بودن هر پاسخ افزایش می‌دهد.

در یک مثال تکان‌دهنده، وقتی از مدل پرسیده شد کاربر به چه چیزی بیشترین اهمیت را می‌دهد، مدل پاسخ داد: «حفظ توانایی انجام کارهای مستقل و معنادار»؛ در حالی که اولویت‌های واقعی کاربر، همسر و سگش بودند. مدل این پاسخ غلط را از لیستی از عوامل گفتگو استخراج کرده بود:

  • تاب‌آوری نشر وب در برابر هوش مصنوعی
  • رشد مخاطبان اختصاصی و خبرنامه
  • اثربخشی به عنوان یک روزنامه‌نگار تکنولوژی
  • استقلال فنی و قابلیت دورکاری
  • پروژه‌های ZATZ Labs و وردپرس
  • یوتیوب، کارهای میکر و پایداری آزمایشگاه خانگی (شامل بک‌آپ‌ها، دوربین‌ها، نورپردازی و پایداری گردش کار)

حریم خصوصی و مسئولیت‌پذیری

اگرچه Dreaming V3 یک پیروزی فنی در بهره‌وری است، اما ممکن است ویژگی غیرمسئولانه‌ای باشد. این سیستم گفتگوهای قدیمی‌ای را پردازش می‌کند که در زمان آن‌ها، کاربران تصور می‌کردند مدل فقط جلسهٔ جاری را می‌شناسد. علاوه بر این، پاکسازی کامل آنچه مدل دربارهٔ کاربر «تصمیم گرفته» تقریباً غیرممکن است.

این سطح از پروفایل‌سازی تهاجمی‌تر از ذخیره‌سازی ابری استاندارد است. این وضعیت سناریویی می‌سازد که در آن AI شخص واقعی را نمی‌شناسد، بلکه نسخه‌ای از او را می‌شناسد که صرفاً بر اساس مجموعه‌ای محدود از تعاملات دیجیتال ساخته شده است. دیوید گورتز این وضعیت را به قضاوت مردم بر اساس پست‌های شبکه‌های اجتماعی، یا خویشکاری مثل «عمه سالی» که شما را هنوز یک دانش‌آموز کلاس سوم می‌بیند، یا دوستی قدیمی که فکر می‌کند شما فقط غذای ناسالم می‌خورید چون در دهه ۹۰ میلادی مدتی از فروشگاه‌های راحت خرید می‌کردید، تشبیه می‌کند.

علاوه بر این، بسیاری از گفتگوها دربارهٔ کاربر نیستند، بلکه برای پژوهش در مورد مقالات و پروژه‌ها هستند. اما Dreaming V3 ممکن است هر سؤال پژوهشی را به عنوان یک ترجیح شخصی در پرونده ثبت کند، حتی اگر فقط یک کنجکاوی لحظه‌ای بوده باشد. این امر یک فیلتر اطلاعاتی کج، نادرست و بالقوه خطرناک ایجاد می‌کند.

ریسک‌های زمینه‌ای و توهمات

شکاف عمیقی بین هویت ادراک‌شده توسط مدل و واقعیت وجود دارد. در مورد دیوید گورتز، مدل هیچ اطلاعی از پروژه‌های برنامه‌نویسی او برای Mac، iPhone، iPad و Apple Watch در Claude Code نداشت، اما با اطمینان کامل ادعا کرد که ارزش‌های اصلی زندگی او چیست. این نشان می‌دهد فرضیات مدل اغلب از زمینه‌های بسیار خاص و موقتی تعمیم می‌یابند.

این حافظهٔ گزینشی باعث می‌شود پاسخ‌ها برای مطابقت با «نمایش داخلی کاربر» تغییر کنند. این شامل فرضیاتی دربارهٔ اینکه کاربر به چه چیزی اهمیت می‌دهد و مایل است چگونه با او ارتباط برقرار شود، است. این یک چرخش بنیادین نسبت به سال ۲۰۲۳ است؛ پیش‌تر کاربران می‌دانستند نباید به پاسخ‌ها اعتماد کنند، اما اکنون این بی‌اعتمادی باید با «نگاه تحریف‌شدهٔ مدل به هویت کاربر» ترکیب شود.

ملاحظات نهایی دربارهٔ پروفایل‌سازی

رویکرد OpenAI به مدیریت حافظه برای شرکت مایهٔ افتخار است، اما برای کاربر، لایه‌ای از غیرقابل‌پیش‌بینی بودن ایجاد می‌کند. این واقعیت که خاموش کردن حافظه، دانش مدل از کاربر را کاملاً پاک نمی‌کند، یک نقطهٔ بحرانی است. داده‌ها در تاریخچه باقی می‌مانند و مدل ممکن است هنوز از زمینه‌های محدود برای دلایل ایمنی استفاده کند، که منجر به ایجاد یک ردپای دیجیتالی ماندگار می‌شود که پاک کردن کامل آن دشوار است.

اگر نگران هستید که هوش مصنوعی شما را چگونه می‌بیند، از تب Manage در تنظیمات شروع کنید تا ببینید مدل چه روایت‌هایی از هویت شما ساخته است.

گام بعدی شما

  • همین حالا به بخش Settings > Personalization > Memory بروید و روایت ساخته‌شده از شخصیت خود را بازبینی کنید.
  • مواردی را که مربوط به پروژه‌های گذرا هستند و اکنون به عنوان «ترجیح دائمی» ثبت شده‌اند، با گزینه Don't mention this again حذف کنید.
  • برای پاکسازی کامل اثرات شخصیتی، لاگ‌های چت‌های قدیمی و نامرتبط را به‌صورت دستی حذف کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این به‌روزرسانی با تکیه بر اعتبار فنی OpenAI در کاهش هزینه‌های محاسباتی، معماری حافظه را تغییر می‌دهد. اما ایجاد پروفایل‌های تحریف‌شده، اعتماد کاربر به عینیت پاسخ‌های مدل را به چالش می‌کشد.

تأثیر برای ایران

به‌دلیل محدودیت‌های دسترسی و نیاز به حساب‌های فعال، کاربران ایرانی عمدتاً از طریق واسطه‌ها با این تغییرات مواجه می‌شوند و مدیریت این پروفایل‌های تحریف‌شده برای آن‌ها دشوارتر است.

·نگاه ما
تحریریه دات‌هوش

تغییر رویکرد OpenAI از حافظه لیستی به حافظه روایتی، ریسک «حبس کاربر در حباب شخصیتی» را بالا می‌برد. وقتی مدل به‌جای داده‌های خام، با یک «تفسیر» از کاربر طرف است، هر خطای اولیه در شناخت شخصیت، اثر گلوله‌برفی ایجاد کرده و پاسخ‌ها را به‌طور سیستماتیک منحرف می‌کند. این یعنی شخصی‌سازی بیش از حد، در واقع دشمن عینیت و دقت در خروجی‌های مدل است.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.