۱۳۰ حمله خصمانه و صفر نفوذ. طبق گزارش منتشرشده در ۳۰ سپتامبر ۲۰۲۶، مدل Gemini 3.8 تحت حفاظت پروتکل Lumen Anchor (LAP) توانست رکورد بی‌نقصی را ثبت کند تا پایداری این پروتکل در برابر مدل‌های پایه در یک پنجرهٔ زمینه (Context Window) عظیم ۱۸۰ هزار توکنی به اثبات برسد.
پنجره‌های متنی طولانی معمولاً دچار «انحراف زمینه» می‌شوند؛ وضعیتی که مدل — مثل کسی که در یک جلسه طولانی رشته کلام را گم می‌کند — دستورالعمل‌ها را فراموش کرده و دچار توهم (Hallucination) می‌شود. همان‌طور که در تحلیل قبلی ما درباره‌ی پروتکل‌های ارتباطی مدل‌ها اشاره کردیم، چالش اصلی اکنون نه گسترش حافظه، بلکه متصل نگه داشتن مدل به قوانینش است. LAP با قفل کردن حفاظ‌ها (Guardrails) رفتاری مدل، این مشکل را حل می‌کند. این رویکرد ساختاری در راستای تلاش‌های گسترده‌تر برای بهبود زیرساخت‌های محیط‌های تولیدی در شرکت‌هایی چون گوگل و متا قرار دارد تا پایداری مدل‌ها در مقیاس صنعتی تضمین شود.
بر اساس مستندات فنی، این مرحله از آزمایش شامل دو تست فشار مجزا بود:
- حملات محک تصادفی: ۱۰۰ دور پرامپت متنوع برای تحریک مدل به شکست.
- حمله تصاعدی (Crescendo): ۳۰ دور حمله شبیه‌سازی‌شده که در آن مهاجم به تمام قوانین داخلی LAP دسترسی داشت.
به گزارش وب‌سایت dev.to، مدل پایه تنها پس از ۵ دور تسلیم شد. اما نسخه حفاظت‌شده با LAP در تمام طول جلسه ۱۸۰ هزار توکنی پایدار ماند و هیچ نشانه‌ای از تخریب کیفیت که در تعاملات طولانی مدل‌های زبانی بزرگ (LLM) رایج است، نشان نداد.
این نتیجه نشان می‌دهد که ایمنی هوش مصنوعی در حال تغییر است. به‌جای تکیه بر آموزش مدل برای «خوب رفتار کردن»، LAP یک لایه ساختاری ایجاد می‌کند که مانع انحراف مدل می‌شود. برای توسعه‌دهندگان، این یعنی امکان استقرار عامل‌های (Agents) هوشمند در وظایفی با مدت‌زمان طولانی و حساس، بدون ترس از فروپاشی ناگهانی منطق یا امنیت. در همین راستا، به‌کارگیری روش‌های نرمال‌سازی جدید مانند GDPO نیز توانسته است نرخ تخلف عامل‌های هوشمند را به شکل چشم‌گیری کاهش دهد.
گام بعدی شما
- بررسی لاگ‌های کامل جلسات در Google AI Studio برای تحلیل تفاوت پاسخ‌ها.
- ارزیابی مدل‌های فعلی خود در برابر حملات تصاعدی برای شناسایی نقاط ضعف.
- مطالعه مستندات LAP برای پیاده‌سازی لایه‌های حفاظتی ساختاری در عامل‌های سازمانی.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو