تصور کنید یک برنامه‌نویس در حال طراحی عاملی است که باید تنظیمات حساس سرور را تغییر دهد؛ اگر این عامل حتی یک بار دستورات ایمنی را نادیده بگیرد، کل سیستم از دسترس خارج می‌شود. در این وضعیت، تکیه بر «خواهش» از مدل برای رعایت قوانین، یک قمار خطرناک است.
طبق گزارشی که در ۱۱ ژوئیه ۲۰۲۶ منتشر شد، سیستم‌های اجبار مکانیکی با اختلاف بسیار زیاد، پایداری عامل (Agent) — همان دستیاران هوشمندی که می‌توانند به‌طور مستقل ابزارها را اجرا کنند — را نسبت به پرامپت‌های معنایی افزایش می‌دهند. این مطالعه ثابت می‌کند که تکیه بر خودارزیابی مدل منجر به شکست سیستمی می‌شود، زیرا مدارات تأیید و اجرا در یک توزیع رمزگشایی مشترک قرار دارند.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مدل‌ها تمایل دارند مسیرهای احتمالی را دنبال کنند، نه لزوماً دستورات سخت. توسعه‌دهندگان معمولاً بین دستورات امری یا منطق علّی برای اجبار به پایبندی انتخاب می‌کنند، اما این روش‌ها در مقیاس واقعی شکست می‌خورند چون هوش مصنوعی می‌تواند به‌صورت احتمالی تصمیم بگیرد یک پرامپت را نادیده بگیرد.
توسعه‌دهنده‌ای به نام Yuhao Lin این نظریه را با استفاده از DeepSeek V4 Pro در ۱۵۰ تکلیف استاندارد آزمایش کرد. او دو قالب مختلف از قوانین را مقایسه کرد: «قیاس» (Syllogism) که زنجیره‌های علّی را دنبال می‌کند و «امری» (Imperative) که دستورات مستقیم است. این آزمایش روی پنج نوع تکلیف، از جمله ویرایش تنظیمات و عیب‌یابی متمرکز بود، جایی که عامل‌ها باید قوانین رفتاری دقیقی را رعایت می‌کردند. در این راستا، رقابت میان مدل‌های برتر کدنویسی شدت گرفته است و برای مثال مدل Qwen3-Coder-30B در تعادل کیفیت و هزینه بر DeepSeek پیشی گرفته است تا استانداردهای جدیدی را در تولید کد تعریف کند.
بر اساس مستندات منتشر شده در dev.to، نتایج تکان‌دهنده بود:
- وضعیت پایه: بدون گیت‌های مکانیکی، تخلف از قوانین در ۵۵.۹٪ جلسات رخ داد.
- وضعیت اجباری: با استفاده از قلاب‌های GateGuard که عملیات‌های تأییدنشده را به‌طور مکانیکی مسدود می‌کردند، نرخ تخلف به ۰.۷٪ کاهش یافت (۱۴۹ مورد از ۱۵۰ تکلیف با موفقیت انجام شد).
- تأثیر قالب: هر دو نوع پرامپت در حضور گیت مکانیکی، نرخ تخلف تقریباً ۰٪ داشتند؛ این یک «اثر سقف» ایجاد کرد که تفاوت نرخ پایبندی را می‌پوشاند.
با این حال، قالب پرامپت همچنان بر «چرایی» اقدامات اثر می‌گذاشت. عامل‌هایی که از قوانین قیاسی استفاده می‌کردند، در وظایف طراحی به‌طور سیستماتیک بررسی‌های متقاطع چندمنظوره را اجرا کردند، در حالی که عامل‌های امری فقط از برچسب‌های چک‌لیست استفاده می‌کردند. این یعنی مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن، شبیه کسی که می‌داند چطور از یک مشاور باتجربه بهترین جواب را بگیرد — نمی‌تواند پایبندی را تضمین کند، اما عمق استدلال داخلی مدل را تعیین می‌کند. این رویکرد یادآور تلاش‌های اخیر برای اتوماسیون کدنویسی است، مشابه آنچه در سیستم LoopFlow با حلقه‌های تأیید چندعاملی برای جایگزینی مهندسی پرامپت دیده شد.
برای توسعه‌دهندگان، این یعنی تغییر تمرکز از «پرامپت‌های کامل» به «زیرساخت‌های کامل». اگر یک قانون برای پایداری سیستم حیاتی است، باید یک بررسی سخت‌افزاری باشد — مثلاً یک regex یا کد خروجی (exit code) — نه درخواستی در یک پرامپت سیستمی (System Prompt).
این رویکرد، ارکستراسیون هوش مصنوعی را از هنر متقاعدسازی به علم تأیید تبدیل می‌کند. تنها راه اعتماد واقعی به یک عامل، سلب توانایی او در خودارزیابی خطاهای خودش است.
گام بعدی شما
- بررسی درخواست‌های ادغام (Merge Requests) در مخازن anthropics/skills و ECC برای مشاهده استانداردهای جدید زیرساخت تأیید.
- جایگزینی قوانین حیاتی در سیستم‌های خود با لایه‌های اعتبارسنجی خارجی (Hard-coded checks).
- استفاده از پرامپت‌های قیاسی برای افزایش کیفیت تحلیل، اما نه برای تضمین امنیت.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو