تصور کنید یک برنامه‌نویس ساعت‌ها منتظر می‌ماند تا یک عامل هوش مصنوعی کد را اصلاح کند، اما در نهایت متوجه می‌شود مدل در یک حلقه بسته گیر کرده و فقط در حال بازنویسی یک فایل است. این دقیقاً همان اتفاقی است که در پروژه‌ای با استفاده از Claude Code و Cursor رخ داد: یک فایل برنامه‌ریزی ۱۱۱ بار بازنویسی شد، اما تنها یک بار خوانده شد.
این پدیده که «چرخه تصمیم» (Decision Churn) نامیده می‌شود، زمانی رخ می‌دهد که حافظه یا وضعیت یک عامل (Agent) — شبیه به تخته‌سیاهی که هر لحظه پاک و دوباره روی آن نوشته می‌شود — قابلیت تغییر داشته باشد. در این حالت، مدل به‌جای اعتماد به خروجی‌های قبلی، مدام تصمیمات خود را بازبینی و بازنویسی می‌کند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، فقدان یک منبع حقیقتِ ثابت، منجر به رفتارهای غیرقابل‌پیش‌بینی در سیستم‌های خودکار می‌شود. این چالش‌های ساختاری در بررسی نقص‌های مسیریابی عامل‌های AI نیز مورد بحث قرار گرفت، جایی که خطاهای منطقی منجر به اتلاف شدید بودجه API می‌شد.
این مشکل در واقع یک «مالیات پنهان» بر گردش‌کارهای عامل‌محور (Agentic) است. طبق گزارش توسعه‌دهنده ابزار agentkeeper در پستی که ۲۵ سپتامبر ۲۰۲۶ در dev.to منتشر شد، این وضعیت شبیه به دفتر حسابداری است که حسابدار اجازه دارد اشتباهاتش را به‌جای ثبت اصلاحیه، به‌سادگی پاک کند؛ در نتیجه تاریخچه تغییرات برای همیشه گم می‌شود. در دنیای AI، این نقص اجازه می‌دهد باگ‌ها یا دستورات تزریق‌شده، گذشته را به‌سادگی بازنویسی کنند تا تصمیمات غلط فعلی را توجیه کنند. در همین راستا، ابزارهایی مانند asdlc با متدهای خاص خود تلاش کرده‌اند تا از تولید کد تکراری و معیوب توسط عامل‌ها جلوگیری کنند.
برای حل این بحران، این توسعه‌دهنده از SQLite برای ایجاد یک دفتر کل (Ledger) استفاده کرد. او با اجرای دستور CREATE TRIGGER block_update تمام عملیات به‌روزرسانی (UPDATE) و حذف (DELETE) را در جدول تراکنش‌ها به‌طور فیزیکی مسدود کرد.
ویژگی‌های فنی این معماری عبارتند از:
- ساختار Append-only: تنها راه تغییر یک موجودی یا وضعیت، اضافه کردن یک ردیف جدید است.
- تاریخچه تغییرناپذیر: حتی اگر یک برنامه ۱۱۱ بار اصلاح شود، ردپای تمام این اصلاحات باقی می‌ماند.
- جلوگیری از باگ‌های مالی: بر اساس بررسی ۱۱۰ ابزار صورت‌حساب AI، این ساختار مانع از شارژ تکراری ردیف‌هایی می‌شود که پیش‌تر پرداخت شده‌اند. این رویکرد مشابه راهکاری است که پروژه Capsule26 برای توقف شارژهای تکراری در سیستم‌های پرداخت AI به کار گرفت.
برای کاربر نهایی، این یعنی گذار از «اعتماد به پرامپت» به «اعتماد به پایگاه‌داده». وقتی حافظه عامل یک فایل JSON ساده است که مدل می‌تواند آن را بازنویسی کند، ادعای «من موجودی را چک کردم» هیچ ارزشی ندارد. اما با اعمال محدودیت‌های فیزیکی در سطح دیتابیس، ردپای حسابرسی عامل به‌جای توهم، بر اساس واقعیت ثبت می‌شود.
این پیاده‌سازی در قالب ۲۴۸ خط کد با مجوز MIT در گیت‌هاب منتشر شده است تا عامل‌های خودکار را مجبور به صداقت کند.
گام بعدی شما
- اگر از عامل‌های AI برای مدیریت فایل‌ها استفاده می‌کنید، بررسی کنید آیا مدل شما تاریخچه تغییرات را در یک فایل موقت ذخیره می‌کند یا یک دیتابیس ساختاریافته.
- برای پروژه‌های حساس مالی، به‌جای ذخیره وضعیت در JSON، از معماری‌های Append-only در SQLite استفاده کنید.
- کدهای منتشر شده در گیت‌هاب agentkeeper را برای درک مکانیزم Triggerها در دیتابیس مطالعه کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو