چهار اصل طراحی برای انتقال امن حافظه بین عامل‌های هوش مصنوعی

تصور کنید یک عامل هوش مصنوعی، دسترسی‌های کاربر را در ماه مارس تأیید کرده است؛ اگر این بسته داده‌ها در ماه آپریل بدون یک مرجع زمانی قابل‌اعتماد وارد سیستم شود، عامل ممکن است به اعتبارنامه‌های منقضی‌شده یا جعلی اعتماد کند. این شکاف امنیتی خطرناک در انتقال وضعیت‌های تأییدشده بین عامل‌ها، موضوع اصلی تحلیل فنی شرکت Alice Labs در ۲۱ سپتامبر ۲۰۲۶ است.

این مشکل شبیه به «مسموم‌سازی ابزار» است؛ وضعیتی که در آن عامل به تعریفی از یک ابزار تکیه می‌کند که مدت‌هاست تغییر کرده و در نتیجه رفتاری پیش‌بینی‌ناپذیر یا مخرب از خود نشان می‌دهد. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، اعتماد کورکورانه به ورودی‌های خارجی، بزرگ‌ترین نقطه ضعف سیستم‌های عامل‌محور است.

برای حل این بحران، LlamaIndex پیشنهادی برای ایجاد «بسته‌های حافظه مهروموم‌شده» ارائه داده است که توسط Universal Trust Adapter (آداپتور اعتماد جهانی) و چهار محدودیت طراحی اجرا می‌شود:

• ساعت‌های ارزیابی ثابت: به‌جای استفاده از ساعت محلی سیستمِ دریافت‌کننده، یک evaluation_clock صریح درون بسته ثبت می‌شود تا جلوی دست‌کاری زمان (Clock-drift) گرفته شود.
• هشینگ شواهد: برای حفظ قابلیت جابه‌جایی، سیستم فقط یک استخراج خروجی با اندازه محدود و یک هش (Hash) از رسید کامل را ذخیره می‌کند و بدنه اصلی شواهد را خارج از باند نگه می‌دارد.
• تجزیه خصمانه (Adversarial Parsing): دریافت‌کننده با بسته‌های تغییریافته (Mutated) آزمایش می‌شود تا اطمینان حاصل شود که هرگونه ورودی فاسد در مرزهای امضا شده، رد می‌شود.
• لنگر انداختن عمومی: خلاصه‌های بسته در یک دفتر ثبت شفافیت عمومی، شبیه به Rekor، ثبت می‌شوند تا قابلیت تأیید توسط شخص ثالث در چندین مرحله انتقال حفظ شود.

به نقل از مستندات این پروژه، این تغییرات فرض بنیادی اعتماد در عامل‌ها را از «اعتماد به صادرکننده» به «اعتماد به شواهد» تغییر می‌دهد. برای توسعه‌دهندگان، این به معنای فاصله گرفتن از کلیدهای ساده API و حرکت به سمت مدلی است که در آن تازگیِ هویت از تازگیِ محتوا تفکیک شده است.

با این حال، طبق گزارش‌های فنی، هنوز یک شکاف بزرگ در زمینه «تازگی هویت» وجود دارد. در حال حاضر صنعت فاقد یک طراحی استاندارد برای مدیریت بسته‌هایی است که توسط کلیدهایی امضا شده‌اند که پس از آن تغییر یافته یا جایگزین (Rotate) شده‌اند.

گام بعدی شما

• بررسی SDK مربوط به agent-trust-card در npm برای پیاده‌سازی لایه‌های اعتماد.
• مطالعه بردارهای انطباق در مخزن گیت‌هاب Universal Trust Adapter.
• بازنگری در نحوه انتقال وضعیت (State) بین عامل‌های خود برای شناسایی ریسک حملات بازپخش.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.