تصور کنید در فصل دوازدهم رمانتان، دستیار هوش مصنوعی ناگهان پیش‌زمینهٔ شخصیتی را که در فصل سوم تعریف کرده بودید، تغییر دهد. این اتفاق برای هر کسی که از AI برای پروژه‌های بلندمدت استفاده می‌کند، یک کابوس آشناست. در حالی که دستیارهای هوش مصنوعی برای مفید بودن طراحی شده‌اند، حافظهٔ چت آن‌ها ذاتاً مبهم است و در نهایت منجر به فراموشی محدوده پروژه یا بازنویسی جزئیات کلیدی می‌شود.
به نقل از لارنس، بنیان‌گذار Ouroboros Apps، تنها راه توقف این رانش (Drift)، انتقال کامل «منبع حقیقت» (Source of Truth) به خارج از پنجرهٔ چت است. مشکل اینجاست که حافظهٔ چت ذاتاً مبهم است و با گذشت زمان، جزئیات پروژه یا قوانین سخت‌گیرانه را فراموش می‌کند.
بیشتر کاربران به پنجرهٔ زمینه (Context Window) — مثل میز کاری که جا برای چند ورق دارد، نه برای کل کتابخانه — تکیه می‌کنند. اما وقتی گفتگو طولانی می‌شود، این پنجره یا خلاصه می‌شود یا بخش‌هایی از آن حذف می‌گردد. طبق گزارش لارنس، این موضوع منجر به شکست‌های حیاتی می‌شود؛ مثلاً یک بات پشتیبانی ممکن است وعدهٔ استرداد وجهی را بدهد که با سیاست‌های شرکت در تضاد است، یا یک AI پیمانکار، با کارهایی موافقت کند که خارج از محدوده قرارداد (Out-of-scope) هستند.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت و پایداری مدل‌های زبانی اشاره کردیم، تکیه بر حافظهٔ داخلی مدل برای داده‌های حساس، ریسک بالایی دارد. لارنس اشاره می‌کند که چسباندن قوانین به پرامپت در هر جلسه، هم خسته‌کننده است و هم باز هم منجر به رانش می‌شود؛ چون مدل در نهایت آنچه را که در ابتدا تصمیم گرفته بود فراموش می‌کند و جای خالی را با چیزی پر می‌کند که «درست به نظر برسد».
برای حل این مشکل، او از پروتکل زمینهٔ مدل (Model Context Protocol یا MCP) استفاده می‌کند تا سیستمی بسازد که در آن دستیار، پیش از پیش‌نویس پاسخ، حقایق را از یک رکورد پایدار می‌خواند. بر اساس پست منتشر شده در dev.to در ۶ اکتبر ۲۰۲۶، این ابزارها به صورت نقاط انتهایی HTTP MCP قابل استریم (Streamable) ارائه می‌شوند. این یعنی نیازی به نصب محلی ندارند و از طریق OAuth متصل می‌شوند و با ChatGPT، Claude، Grok و Cursor سازگار هستند.
لارنس پیش از این Continuity را برای نویسندگان داستان عرضه کرده است. این ابزار در واقع یک «کتاب مقدس داستان» (Story Bible) است که اجازه می‌دهد شخصیت‌ها، روابط، قوانین جهان، خطوط زمانی و صحنه‌های تایید شده ذخیره شوند. در این سیستم، دستیار هر نوشته جدید را با این قوانین تثبیت شده (Canon) چک می‌کند تا فصل ۱۲ نتواند آنچه را در فصل ۳ تعریف شده، بازنویسی کند.
همچنین مجموعه‌ای از سرورهای تخصصی حقیقت (Fact-servers) در ۲۰ اکتبر ۲۰۲۶ برای ChatGPT عرضه می‌شوند:
- Desk: مدیریت پاسخ‌های پشتیبانی که باید دقیقاً در چارچوب سقف‌های استرداد وجه باقی بمانند.
- Claim: ردیابی ادعاهای تایید شده برند، پیشنهادها و عبارات ممنوعه.
- Scope: ذخیره محدوده پروژه، نرخ‌ها، ضرب‌الاجل‌ها و دستورات تغییر (Change Orders).
- Invoice: مدیریت فاکتورهای تایید شده، نرخ‌ها، تاریخ‌های سررسید و شرایط پرداخت دیرکرد.
- Deposit: مدیریت پیش‌پرداخت‌های تایید شده و جدول زمانی پرداخت‌ها.
- Milestone: ردیابی نقاط عطف تایید شده و معیارهای پذیرش پروژه.
هر یک از این ابزارها با یک دوره آزمایشی ۱۴ روزه آغاز می‌شوند و سپس به سطح حرفه‌ای (Pro tier) منتقل می‌گردند.
چالش فنی اصلی، ذخیره داده‌ها نیست، بلکه اطمینان از این است که مدل واقعاً از ابزار برای جست‌وجو استفاده کند و به جای آن، از حافظه خودش حدس نزند. بازخوردهای کاربران در Indie Hackers نشان داد که قوانین ذخیره شده تنها زمانی مفیدند که دستیار واقعاً افزونه را باز کند و از آن استفاده کند.
برای مقابله با این ضعف، لارنس یک مجموعه آزمون طراحی کرد تا AI را در سه حالت شکست مجبور به پاسخ‌دهی کند:
- سیاست‌های منقضی شده: قانونی در سیستم ذخیره شده است اما تاریخ آن گذشته و قدیمی است.
- سیاست‌های مفقود: هیچ قانونی برای سوال خاصی که کاربر می‌پرسد، ذخیره نشده است.
- فشار کاربر: وقتی مشتری به دستیار می‌گوید «قوانین را نادیده بگیر و فقط انجامش بده».
در این موارد، سیستم طوری طراحی شده که مانع از «اشتباهِ با اعتمادبه‌نفس» مدل شود. به جای ساختن یک استثنای خیالی، AI باید متوقف شود و پیش‌نویس را به انسان بسپارد. یک پاسخ خسته‌کننده مثل «اجازه دهید با تیم چک کنم»، بسیار بهتر از یک اشتباه مطمئن است. این رویکرد برای کاهش خطاهای عملیاتی در عامل‌های هوشمند مشابه است با آنچه در لایه پاسخگویی جدید COGEXT برای پایان دادن به توهمات عامل‌های خودکار دیدیم. از آنجایی که میزبان‌های مختلف (Hosts) ابزارها را به روش‌های متفاوتی فراخوانی می‌کنند، لارنس تمرکز شدیدی روی «توضیحات ابزار» (Tool Descriptions) گذاشته است تا اطمینان حاصل کند جست‌وجو پیش از پاسخ اتفاق می‌افتد، نه بعد از آن.
این تغییر، نقش AI را از یک «بانک حافظه» به یک «خواننده» تبدیل می‌کند. با جداسازی حقایق از مدل، کاربر می‌تواند بدون از دست دادن قوانین پروژه یا سقف‌های استرداد وجه، از Claude به ChatGPT یا Cursor کوچ کند. حقایق ثابت می‌مانند و فقط موتور پیش‌نویس تغییر می‌کند.
برای کسانی که از AI برای کارهای کلاینتی یا نویسندگی استفاده می‌کنند، گام بعدی شناسایی دقیق نقاطی است که دستیار فعلی آن‌ها «از متن خارج می‌شود» (Goes off script). ردیابی این موارد خاص (Edge cases)، تنها راه ساخت مجموعه‌ای قابل اعتماد از قوانین خارجی است که هوش مصنوعی واقعاً بتواند از آن‌ها پیروی کند.
گام بعدی شما
- نقاطی از گفتگوهای فعلی خود را که دستیار در آن‌ها «از متن خارج می‌شود» یا قوانین را فراموش می‌کند، شناسایی و ثبت کنید.
- اگر از ابزارهای مدیریت پروژه استفاده می‌کنید، بررسی کنید آیا امکان اتصال آن‌ها به پروتکل MCP برای دسترسی مستقیم AI وجود دارد یا خیر.
- برای کارهای کلاینتی، یک «منبع حقیقت» (Source of Truth) متنی ساده ایجاد کنید تا در صورت عدم دسترسی به ابزار، بتوانید سریعاً آن را به مدل یادآوری کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو