تصور کنید عامل هوش مصنوعی شما ناگهان دستوراتی را اجرا می‌کند که هرگز به او نداده‌اید؛ این یعنی حافظهٔ او مسموم شده است. نسخه 0.5.0 پروژه memgovern که در ۱۱ اکتبر ۲۰۲۶ منتشر شد، با معرفی یک رابط خط فرمان (CLI)، روابط اعتمادی را فاش می‌کند تا از فساد حافظهٔ بلندمدت عامل (Agent) جلوگیری کند.
بسیاری از توسعه‌دهندگان تنها به نحوه ذخیره و جست‌وجوی حافظه توجه می‌کنند، اما مسیر «نوشتن» را نادیده می‌گیرند. این شکاف امنیتی منجر به پدیده‌ای به نام مسموم‌سازی داده (Data Poisoning) می‌شود. طبق گزارش مطالعه CodePoisonRAG از شرکت adversa.ai، مهاجمان توانسته‌اند با نرخ موفقیت ۸۰ تا ۹۳ درصد، داده‌های مخرب را در حافظهٔ عامل‌های تولید کد جای دهند، زیرا این سامانه‌ها هرگز منبع داده را به چالش نمی‌کشیدند. این چالش‌ها در مدیریت ورودی‌های مخرب، مشابه رویکردی است که استراتژی EmDash برای پاکسازی مخزن افزونه‌ها دنبال می‌کند تا از ورود کدهای غیرمجاز جلوگیری کند.
memgovern با ایجاد یک لایه حاکمیتی روی SQLite، چرخه حیات حافظه را مدیریت می‌کند. این ابزار جایگزین سیستم‌های ذخیره‌سازی مثل claude-mem نمی‌شود، بلکه مانند یک نگهبان در ورودی، داده‌ها را فیلتر می‌کند. همان‌طور که در بحث‌های گذشته ما درباره امنیت مدل‌های بازمتن اشاره کردیم، دفاع ساختاری بسیار کارآمدتر از فیلترهای متنی است. این سیستم از سه «تله» برای حفاظت استفاده می‌کند:
- نشانگرهای تزریق: شناسایی تلاش برای نادیده گرفتن دستورات قبلی.
- نوشتارهای انفجاری: شناسایی جهش‌های غیرعادی در ورود داده‌ها.
- تضادهای اعتمادی: قرنطینه کردن داده‌هایی که منبع کم‌اعتبار آن‌ها با منبع پر‌اعتبار در تضاد است.
بر اساس مستندات این پروژه، منابع از طریق یک نرخ پیروزی (Win Rate) با هموارسازی بیزی اعتبار کسب می‌کنند و این اعتماد در یک بازه ۳۰ روزه به تدریج کاهش می‌یابد. دستور جدید memgovern audit به انسان اجازه می‌دهد این امتیازات را بررسی کند. هر منبعی که امتیاز آن به زیر ۰.۳۵ برسد، با برچسب «LOW» مشخص می‌شود تا مشارکت‌هایش با تردید پذیرفته شود.
این رویکرد، حافظه را از یک پایگاه‌داده غیرفعال به یک دفتر کل فعال و بازرسی‌شده تبدیل می‌کند. برای توسعه‌دهندگان، این یعنی دفاع به جای تکیه بر معناشناسی، بر ساختار استوار است. اگرچه یک مهاجم صبور می‌تواند با نوشتن داده‌های بی‌ضرر، اعتماد سیستم را به دست آورد، اما ابزار بازرسی باعث می‌شود مسموم‌سازی سیستماتیک به‌سختی پنهان بماند.
گام بعدی شما
- بسته memgovern را از طریق pip نصب کنید.
- دستور audit را روی پایگاه‌داده حافظه محلی خود اجرا کنید تا منابع مشکوک را شناسایی کنید.
- آستانه اعتماد (Trust Score) را بر اساس حساسیت پروژه خود تنظیم کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو