دیوار آتش NAIF تغییرات پنهان در بازنویسی کد توسط هوش مصنوعی را شناسایی می‌کند

تصور کنید یک برنامه‌نویس برای بهینه‌سازی کد، وظیفه بازنویسی را به یک عامل هوش مصنوعی می‌سپارد و تمام تست‌ها سبز می‌شوند، اما منطق حیاتی سیستم در یک گوشه تغییر کرده است. برای حل این مشکل، شرکت NAIF Gravity در ۷ اکتبر ۲۰۲۶ از دیوار آتش جهش عامل (Agent Mutation Firewall یا AMF) پرده برداشت؛ یک لایه حفاظتی تخصصی برای شکار این تغییرات نامرئی پیش از رسیدن به محیط عملیاتی.

بسیاری از توسعه‌دهندگان به تیک سبز مجموعه‌های آزمایشی اعتماد می‌کنند، اما تست‌ها فقط سناریوهای شناخته‌شده را می‌پوشانند. AMF مانند یک فیلتر امنیتی بین پیشنهاد هوش مصنوعی و ادغام نهایی کد عمل می‌کند تا مطمئن شود یک تغییر «ظاهری» — شبیه به جابه‌جا کردن وسایل خانه بدون تغییر کاربرد آن‌ها — به‌طور اتفاقی نحوه مدیریت یک مورد خاص (Edge Case) را تغییر نداده باشد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های کدنویس اشاره کردیم، اعتماد کورکورانه به خروجی مدل‌ها بزرگ‌ترین ریسک استقرار است. این رویکرد در راستای گذار از تأییدیه‌های یک‌باره به سمت امتیازدهی پویا در مدیریت ریسک عامل‌هاست تا نقاط کور سیستم‌های خودکار شناسایی شوند.

به نقل از گزارش dev.to، این سیستم هر جهش یا تغییر در کد را در سه دسته‌بندی قرار می‌دهد:

• مجاز (ALLOW): هیچ تغییر رفتاری در محدوده ورودی‌های تعریف‌شده مشاهده نشد.
• قرنطینه (QUARANTINE): تغییر در رفتار شناسایی شد؛ این مورد شامل اصلاحات عمدی یا نمونه‌های متضادی است که نیاز به بازبینی انسانی دارد.
• پشتیبانی‌نشده (UNSUPPORTED): تغییر خارج از محدوده ارزیاب است و باید از طریق روش‌های بازبینی دیگر بررسی شود.

برای مثال، تغییر عبارت if value >= 0 به if value > 0 ممکن است پیش‌پاافتاده به نظر برسد، اما برای ورودی صفر، منطق برنامه کاملاً تغییر می‌کند. AMF این مورد را به‌جای یک بازنویسی ساده، به عنوان «تغییر رفتار» علامت‌گذاری می‌کند و بازبین را مجبور می‌کند تصمیم بگیرد که آیا این منطق جدید واقعاً مطلوب است یا خیر. این مکانیسم نظارتی شباهت زیادی به معماری جدید مایکروسافت برای توقف نامحدود عامل‌ها دارد که در آن هرگونه ابهام در تصمیم‌گیری هوش مصنوعی، فرآیند را برای تأیید انسانی متوقف می‌کند.

بر اساس مستندات منتشر شده، نسخه فعلی Pilot Kit از AMF v0.4 و RDR V2.5.7 استفاده می‌کند. محدوده پشتیبانی آن برای حفظ دقت، به‌طور عمدی محدود شده است: حداکثر ۸ فایل پایتون و اعداد صحیح بین ۶۴- تا ۶۴. در حال حاضر این سیستم از رشته‌ها (Strings)، اعداد اعشاری، حلقه‌ها یا پروژه‌های چندزبانه پشتیبانی نمی‌کند.

برای تضمین یکپارچگی، سامانه رسیدهای خام موتور ارزیابی و لینک‌های SHA-256 تولید می‌کند. این مستندات به بازبین اجازه می‌دهد دقیقاً ببیند چه دامنه‌ای در تحلیل استفاده شده است و برچسب‌های مبهم «ایمن» را با شواهد قابل راستی‌آزمایی جایگزین کند. این سخت‌گیری در دسترسی و تأیید، یادآور سیاست‌های «قوانین امضاشده» در Verax است که دسترسی عامل‌ها به ابزارها را تنها پس از احراز شرایط دقیق امنیتی مجاز می‌داند.

این رویکرد، صنعت را از «اعتماد کور» به کدهای تولیدشده توسط هوش مصنوعی به سمت مدل «تضمین مبتنی بر شواهد» سوق می‌دهد. NAIF با برچسب‌گذاری صریح موارد «پشتیبانی‌نشده»، مانع از این فرض خطرناک می‌شود که موفقیت یک گردش‌کار لزوماً به معنای ایمن بودن تغییرات است.

گام بعدی شما

• تعریف یک کلاس کوچک از تغییرات کد در پروژه‌های خود برای تست در محیط کنترل‌شده.
• بررسی مستندات NAIF Gravity برای تطبیق نیازمندی‌های زبانی و گردش‌کار تیم فنی.
• جایگزینی برچسب‌های کلی «تست‌شده» با گزارش‌های تفکیکی از تغییرات رفتاری.

اما چالش اصلی، مقیاس‌پذیری این دیوار آتش برای پروژه‌های میلیونی است — در گزارش بعدی به بررسی هزینه‌های محاسباتی استنتاج در مقیاس سازمانی خواهیم پرداخت.