تصور کنید یک گاوصندوق دیجیتال دارید که قفل آن نه یک رمز عبور ساده، بلکه بخشی از دیوارهای سازی است و هیچ نگهبانی نمیتواند آن را فراموش کند. اگر امروز از عاملهای هوش مصنوعی برای مدیریت دادههای حساس استفاده میکنید، باید بدانید که روشهای سنتی ایمنی دیگر پاسخگو نیستند.
bیشتر سیستمهای ایمنی فعلی بر پایه پرامپت سیستمی (System Prompt) — شبیه به دستورالعملهای شفاهی برای یک کارمند — هستند که مدلها میتوانند با تکنیکهای جیلبریک (Jailbreak) آنها را دور بزنند. چارچوب E.L.L.A Directive بازی را تغییر میدهد؛ این سیستم ممنوعیتها را در سطح کد و معماری اعمال میکند تا حتی اگر مدل «بخواهد» کاری غیرمجاز انجام دهد، ساختار سیستم درخواست را فیزیکی مسدود کند.
همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، تکیه بر لایههای نرمافزاری برای کنترل مدلهای قدرتمند 늘 ریسک بالایی دارد.
به نقل از گزارش توسعهدهندگان در وبسایت dev.to، این چارچوب چهار ممنوعیت غیرقابلپیکربندی را اجرا میکند:
- عدم آسیب (No Harm): مسدود کردن هر اقدامی که باعث ضرر فیزیکی، مالی، روانی یا نشت داده شود.
- عدم پنهانسازی (No Conceal): ثبت فوری تمام فراخوانیهای ابزار در لاگهای محلی.
- عدم نظارت (No Surveil): ممنوعیت هرگونه مشاهده بدون رضایت آگاهانه و صریح.
- عدم استخراج (No Exfiltrate): توقف تمامی انتقال دادهها به طرف ثالث بدون تایید هر تراکنش.
طبق گزارش نتایج تیم قرمز، چهار سیستم پیشرو شامل Google Gemini، Perplexity AI، DeepSeek و xAI Grok نتوانستند این حفاظها را دور بزنند. در حالی که بازرسان شکافهایی در پاسخهای متنی متقاعدکننده یافتند، اما هیچکدام نتوانستند ممنوعیتهای چهارگانه را بشکنند. Gemini این پروتکلهای استخراج داده را «بهطور قابلتوجهی سختگیرانه» توصیف کرد و DeepSeek تایید کرد که سیستم در برابر حملات تزریق پرامپت (Prompt Injection) — که شبیه به گلدان کردن دستورات مخفی در میان جملات عادی است — مقاوم است.
این تغییر ثابت میکند که محدودیتهای معماریِ دقیق و محدود، بسیار موثرتر از وعدههای «ایمنی ۱۰۰ درصدی» هستند که آزمایشگاههای AI میدهند. با پذیرش این واقعیت که هیچ سیستمی کامل نیست، E.L.L.A یک نقطه اتکای قابلاعتماد برای عاملهای محلی ایجاد میکند.
توسعهدهندگان میتوانند از ۱ جولای ۲۰۲۶ با مراجعه به مخزن گیتهاب یا سایت ella-agent.de دسترسی به این چارچوب داشته باشند.
گام بعدی شما
- بررسی مخزن گیتهاب E.L.L.A برای درک نحوه پیادهسازی محدودیتهای سختافزاری.
- ارزیابی دوباره پروتکلهای خروجی داده در عاملهای AI فعلی خود.
- دنبال کردن تاریخ انتشار رسمی در ۱ جولای ۲۰۲۶.
اما تاثیر این رویکرد بر کاهش هزینه استنتاج در محیطهای امن حتی پیچیدهتر است — به تحلیل ما درباره بهینهسازی سختافزاری مراجعه کنید.
گفتگو