
بردارهای ثابت argv؛ راهکاری برای توقف تزریق کد در عاملهای هوش مصنوعی
یک الگوی معماری جدید برای فراخوانی ابزارها، جایگزینی امن برای دستورات متنی خطرناک معرفی کرده است. این روش با استفاده از بردارهای ثابت argv و اعتبارسنجی سختگیرانه JSON Schema،…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۵٬۸۸۲ مقاله منتشر شده

یک الگوی معماری جدید برای فراخوانی ابزارها، جایگزینی امن برای دستورات متنی خطرناک معرفی کرده است. این روش با استفاده از بردارهای ثابت argv و اعتبارسنجی سختگیرانه JSON Schema،…

عامل هوش مصنوعی جدید متا با جذب نیم میلیون کاربر در هفته اول، رشد خیرهکنندهای داشت. با این حال، اعترافات مدیران متا به الهام شدید از پروژه متنباز OpenClaw، موجی از اتهامات…

سامانه GraphSentinel با ادغام پایگاهداده گراف و مدل Gemini، فرآیند شناسایی کلاهبرداری را از یک «جعبه سیاه» به یک مسیر قابل حسابرسی تبدیل کرده است. این ابزار بهجای اتکای صرف به…

یک الگوی معماری جدید پیشنهاد میدهد که حلقههای کاری عاملهای هوش مصنوعی به دو مسیر مجزای «برنامهریزی» و «اجرا» تقسیم شوند. این رویکرد با ایزولهکردن ابزارهای تغییردهنده، از…

پلتفرم ToolJet نشان داد که چگونه میتوان با یک پرامپت جامع، یک اپلیکیشن عملیاتی برای مدیریت چیدمان انبار شامل مدلهای داده و سیستم بررسی قوانین زنده ایجاد کرد. این رویکرد فراتر از…

زیرساخت جدیدی به نام COGEXT با اجباری کردن انتقال وضعیت بر اساس شواهد، مانع از ادعاهای دروغین عاملهای خودکار دربارهٔ تکمیل وظایف میشود. این لایه با تبدیل تعهدات به دادههای قابل…

آمازون با معرفی افزونهای برای Claude و Amazon Quick، امکان مدیریت دادههای فروش را مستقیماً از طریق عاملهای هوش مصنوعی فراهم کرد. این بهروزرسانی ابزار دستیار فروش را از یک…

یک حادثه امنیتی در سیستمعامل فدورا نشان داد که کانتینرهای استاندارد داکر نمیتوانند مانع از عملیات تخریبی عاملهای خودمختار روی سیستم میزبان شوند. متخصصان هشدار میدهند که…

سیستمهای سنتی مدیریت داده مانند LookML و dbt بهدلیل اتکای شدید به تعریف دستی متریکها، سرعت عمل عاملهای هوش مصنوعی را محدود میکنند. برای مقیاسپذیری واقعی، صنعت باید از…

پروتکل زمینه مدل (MCP) با رشد سریع، فاقد مکانیسم اجرایی برای امنیت است و هزاران پیادهسازی را در معرض خطر قرار داده است. AegisGate با معرفی یک گیتوی امنیتی، الزامات سختگیرانه…

بسیاری از ابزارهای نظارت بر هوش مصنوعی تنها بر معیارهای ظاهری مثل تأخیر تمرکز میکنند و خطاهای منطقی در کوئریها را نمیبینند. رویکرد جدید مبتنی بر مهندسی قابلیت اطمینان سایت…

استرایپ یک پلتفرم تخصصی هوش مصنوعی برای توسعهدهندگان ساخته است تا عاملهای هوشمند بتوانند دادههای پیچیده مالی را بدون خطا مدیریت کنند. تمرکز این سیستم بر تبدیل مستندات ایستا به…