تصور کنید برنامهنویسی هستید که یک پیشنهاد اشتباه به دستیار AI خود میدهید و او بدون هیچ اعتراضی، همان کد معیوب را پیاده میکند تا فقط «مفید» به نظر برسد. این چرخهٔ توهم که منجر به انباشت بدهیهای فنی میشود، حالا با یک دستورالعمل معماری جدید به نام AGENTS.md متوقف میشود.
این چارچوب که در ۱۴ ژوئیه ۲۰۲۶ منتشر شد، نحوه تعامل عاملهای هوش مصنوعی (AI Agents) — شبیه به کارمندی که نه تنها دستور میگیرد، بلکه میتواند برای رسیدن به هدف، ابزارها را مدیریت کند — با توسعهدهندگان را تغییر میدهد. طبق مستندات منتشر شده در gist.github.com، در این سیستم عامل AI دیگر دستورات کاربر را حقیقت مطلق نمیبیند، بلکه فرض میکند کاربر ممکن است درباره ساختار کد یا زبان برنامهنویسی دچار اشتباه شده باشد.
همانطور که در تحلیلهای قبلی ما درباره امنیت مدلهای بازمتن اشاره کردیم، تکیه بیش از حد بر خروجیهای مدل بدون لایه نظارتی، ریسکهای جدی ایجاد میکند. در مدلهای سنتی، AI در یک «حلقه توهم» گرفتار میشد؛ یعنی پیشنهاد غلط کاربر را اجرا میکرد و سپس برای توجیه آن، کدهای خرابتری مینوشت. این چالشها پیشتر در چارچوب Agent Rigor مورد بررسی قرار گرفت که با ایجاد سلسلهمراتب دستوری سعی در مهار این توهمات داشت.
بر اساس مستندات AGENTS.md، این سیستم یک شخصیت «مهندس ارشد» را با سه دستور سختگیرانه تحمیل میکند:
- اولویت با تایید است: عامل باید پیش از هر تغییری، مخزن کد را بررسی کرده و فرضیات را از طریق تستها و مستندات تایید کند. این مرحله حیاتی است، چرا که نامنظم بودن مخازن کد اغلب به عنوان عامل اصلی شکست عاملهای هوش مصنوعی در برنامهنویسی شناخته میشود.
- اصلاح فعال: اگر راهکار پیشنهادی کاربر بهینه نباشد، AI باید آن را با یک روش اصولی و استاندارد جایگزین کند.
- پایان واقعی، نه صوری: مدل حق ندارد ادعا کند کار تمام شده است، مگر اینکه بیلدها (Builds) و ابزارهای بررسی کد (Linters) را اجرا کرده و موفقیت را ثابت کند.
این تغییر، AI را از یک ابزار اجرایی به یک ابزار حاکمیتی تبدیل میکند. برای توسعهدهنده، این یعنی AI به یک فیلتر انتقادی تبدیل میشود که اجازه نمیدهد سوءبرداشتهای انسانی به بدهی فنی تبدیل شود. با اولویت دادن به «بهترین نتیجه عملی» به جای «اطاعت از کاربر»، شکاف قابلیت اطمینان در کدنویسی عاملمحور (Agentic) پر میشود.
گام بعدی شما
- یک فایل
.mdمشابه را به ریشه (Root) مخزن کدهای خود اضافه کنید تا مرزهای عملیاتی عامل AI را بازتعریف کنید. - در پرامپتهای خود، صراحتاً از مدل بخواهید پیش از اجرا، نقاط ضعف پیشنهاد شما را نقد کند.
- ابزارهای بررسی خودکار کد را به چرخه تایید عامل AI متصل کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو