اگر قصد دارید عاملهای هوش مصنوعی را در محیطهای عملیاتی پیچیده رها کنید، تکیه به پرامپتهای متنی دیگر کافی نیست. شما به یک «تور نجات» در سطح هسته سیستمعامل نیاز دارید تا از رفتارهای پیشبینینشده جلوگیری کنید.
طبق تحلیل فنی منتشر شده در ۲۰ ژوئیه ۲۰۲۶ از سوی Omega Hydra Intelligence، استفاده از eBPF (extended Berkeley Packet Filter) میتواند قوانینی را ایجاد کند که در لحظه و بر اساس شرایط محیطی تغییر میکنند. سیستمهای سنتی مبتنی بر قانون معمولاً در دنیای واقعی شکست میخورند؛ چون یا بیش از حد سختگیرانه هستند یا بیش از حد مبهم. تصور کنید یک دستیار دیجیتال — شبیه به کارمندی که همزمان دسترسی به بایگانی محرمانه و تقویم اداری دارد — بدون تفاوتی در سطح دسترسی، هر دو کار را انجام دهد. این نبودِ ظرافت، شکاف امنیتی بزرگی ایجاد میکند که سیاستهای ایستا نمیتوانند آن را پر کنند. این چالشها نشان میدهد که چرا نظارت انسانی به تنهایی نمیتواند جلوی خطاهای پیچیده عاملهای هوش مصنوعی را بگیرد و نیاز به مکانیزمهای خودکار نظارتی است.
همانطور که در تحلیلهای قبلی ما دربارهی حفاظهای امنیتی مدلهای زبانی اشاره کردیم، جابهجایی مرز ایمنی از لایهی مدل به لایهی زیرساخت ضروری است. این مطالعه از eBPF استفاده میکند؛ فناوریای در هسته لینوکس که برنامههای ایزولهشده را اجرا میکند. بر اساس این گزارش، این رویکرد یک معماری نظارتی سه لایه ایجاد میکند:
پشتهی اجرای لایهبندیشده
- سطح شبکه: برنامههای eBPF ترافیک را فیلتر و بازرسی میکنند تا ارتباطات عامل را در لحظه رصد کنند.
- سطح سیستم: سیستمعامل فراخوانهای سیستمی (System Calls) را کنترل میکند تا از اقدامات غیرمجاز در سطح OS جلوگیری شود.
- سطح اپلیکیشن: قوانین مستقیماً با منطق برنامهی عامل هوش مصنوعی برای فعالسازی محرکهای خاص ادغام میشوند.
این معماری اجازه میدهد قوانین بر اساس وضعیت فعلی عامل تغییر کنند. برای مثال، یک عامل ممکن است در بازهی زمانی تأییدشده برای تعمیرات، دسترسیهای سیستمی بالاتری بگیرد، اما در حالت عادی محدود شود. این انعطافپذیری نیاز به دخالت دستی اپراتورهای انسانی را کاهش میدهد. این رویکرد لایهبندی شده، شباهت زیادی به استراتژیهای حاکمیتی در Bifrost Enterprise برای مقیاسپذیری امن ابزارهای هوش مصنوعی دارد که بر جداسازی سطوح دسترسی تأکید میکند.
با این حال، گذار به حاکمیت مبتنی بر eBPF بدون چالش نیست. به نقل از این مطالعه، این معماری به تخصص عمیق در توسعه هسته (Kernel Development) نیاز دارد و ممکن است باعث ایجاد سربار پردازشی شود که کارایی سیستم را تحت تأثیر قرار دهد. مقیاسپذیری این روش در محیطهای عظیم، نیازمند زیرساختهای تکمیلی و مسیرهای اجرای بهینه است.
برای توسعهدهندگان، این تغییر به معنای چرخش از «مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — به سمت «مهندسی زیرساخت» است. در واقع مرز ایمنی از فضای نهان مدل زبانی بزرگ به درون خودِ سیستمعامل منتقل میشود و اجرای قوانین را از حالت احتمالی به حالت قطعی تبدیل میکند.
پژوهشهای آینده اکنون بر سادهسازی ساخت برنامههای eBPF و ادغام این لایهها در چارچوبهای محبوب هوش مصنوعی متمرکز شدهاند. هدف این است که نظارت در سطح هسته، به جای یک دستاورد مهندسی خاص، به بخشی استاندارد از پشتهی عاملمحور تبدیل شود.
گام بعدی شما
- بررسی ابزارهای امنیتی مبتنی بر eBPF برای محیطهای کانتینری.
- دنبال کردن ادغامهای احتمالی این فناوری با چارچوبهای ارکستراسیون مانند LangGraph یا AutoGPT.
- مطالعه مستندات هسته لینوکس برای درک محدودیتهای اجرای برنامههای سندباکس.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو