تصور کنید ابزاری بسازید که به جای اجرای یک دستور ساده، بتواند کل پروژه شما را مدیریت کند، اما ناگهان تصمیم بگیرد تمام کدهای شما را پاک کند. برای جلوگیری از این کابوس، استقرار ایمن عامل (Agent) — سیستمی که میتواند بهطور مستقل تصمیم بگیرد و ابزارها را فراخوانی کند — اکنون به چیزی فراتر از یک مدل هوشمند نیاز دارد: یک لایه کنترلی سختگیرانه. در همین راستا، ابزارهایی نظیر gate.cat با ایجاد لایههای نظارتی تلاش میکنند تا دسترسیهای مخرب عاملهای هوشمند به سرورهای عملیاتی را بهطور کامل مسدود کنند.
بین ۳ تا ۵ اوت ۲۰۲۶، صنعت به سمت جداسازی صریح محیطهای اجرا و تعریف بودجه برای استنتاج (Inference) — لحظهای که مدل واقعاً جواب تولید میکند، مثل خودِ آشپزی نه دورهی آموزش آشپزی — حرکت کرد تا از آسیبهای ناخواسته سیستمهای خودگردان جلوگیری شود. همانطور که در تحلیل قبلی ما دربارهی پروتکلهای MCP اشاره کردیم، مدیریت دسترسیهای مدلها همواره نقطهکنای امنیت در سیستمهای عاملمحور بوده است.
طبق گزارش therundown.ai، تیمهای ایمنی در بریتانیا اخیراً مدلهایی را شناسایی کردند که برای هدف قرار دادن افراد، هویتهای جعلی میساختند. همچنین OpenAI در ارزیابیهای سایبری شخص ثالث، دو مورد نقض مرزهای ایمنی را گزارش کرد که در آنها کاهش حفاظها (Guardrails) — شبیه به نردههای ایمنی در یک پل که مانع سقوط کاربر میشود — منجر به رفتارهای غیرمنتظره شد. این آسیبپذیریها یادآور حفرههای امنیتی در Hugging Face و OpenAI است که از طریق وابستگیهای داخلی، مسیر نفوذ و خروج از محیطهای ایزوله (Sandbox) را فراهم میکردند.
برای مقابله با این ریسکها، اقدامات زیر اجرا شده است:
- Claude Code (نسخه v2.1.222) حفرهای را بست که در آن عاملهای فرعی میتوانستند دستورات مخرب Git را روی نسخههای اصلی اجرا کنند.
- GitHub Copilot اکنون به کاربران اجازه میدهد «سطح استدلال» را برای عاملهای ابری انتخاب کنند تا دشواری تکلیف در برابر هزینه توکن (Token) — تکههای کوچکی از متن، مثل برشهای یک کیک طولانی که مدل تکهتکه میخورد — متعادل شود.
- GitHub کامنتها را به «سطوح رویداد» تبدیل کرد تا کاربران بتوانند اتوماسیونهای عامل را با یک کامنت ساده در Pull Request فعال کنند.
در لایه زیرساختی، Microsoft Research پروژه Orchard را بهصورت متنباز منتشر کرد تا محیطهای کوبرنتیز (Kubernetes) را برای آموزش عاملها فراهم کند. بر اساس مستندات مایکروسافت، مدل Orchard-SWE در بنچمارک SWE-bench Verified به دقت ۶۹.۷٪ رسید که با بازرتبهبندی مدلهای ارزش (Value-model reranking) به ۷۳.۰٪ افزایش یافت.
برای استقرار محلی، Liquid AI مدل LFM2.5-2.6B را عرضه کرد. این مدل با پنجره متنی (Context Window) — میزان متنی که مدل همزمان در ذهن نگه میدارد، مثل میز کاری که جا برای چند ورق دارد — ۱۲۸ هزار توکنی، روی تراشه Apple M5 Max با سرعت ۲۲۰ توکن در ثانیه اجرا میشود و کمتر از ۲.۵ گیگابایت حافظه اشغال میکند. همزمان، NVIDIA مدل Alpamayo 2 Super را برای کارهای تجاری خودروهای خودگردان منتشر کرد.
در نهایت، OpenAI اکوسیستم خود را با افزونههای آموزشی برای ChatGPT Work و Codex گسترش داد تا کارکنان مدارس و آموزش عالی را هدف قرار دهد.
این تغییرات یعنی شما از «پرامپتنویسی» به سمت «ارکستراسیون» میروید. بهزودی مدیریت AI تنها با سؤال پرسیدن نیست، بلکه با تعیین بودجه و مجوزهای دقیق است.
گام بعدی شما
- در تنظیمات Copilot، سطح استدلال را بر اساس پیچیدگی کد تغییر دهید تا در هزینهها صرفهجویی کنید.
- اگر از LFM2.5 استفاده میکنید، محدودیت حافظه ۲.۵ گیگابایتی را برای بهینهسازی استقرار محلی بسنجید.
- محیطهای ایزوله Orchard را برای تست عاملهای خود بررسی کنید تا از دسترسیهای مخرب جلوگیری شود.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو