
عاملهای هوش مصنوعی برای بقا در محیط عملیاتی به «توقفهای سخت» نیاز دارند
خودمختاری بدون محدودیت در عاملهای هوش مصنوعی منجر به شکستهای «اجرای جزئی» میشود که در آن تغییرات سیستمی بهصورت ناقص و غیرقابلبازگشت اعمال میشوند. قابلیت توقف دقیق و…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۰۸۴ مقاله منتشر شده

خودمختاری بدون محدودیت در عاملهای هوش مصنوعی منجر به شکستهای «اجرای جزئی» میشود که در آن تغییرات سیستمی بهصورت ناقص و غیرقابلبازگشت اعمال میشوند. قابلیت توقف دقیق و…

قرارداد قابلیت عامل (ACC) لایهای قابلحمل برای تعریف حاکمیت کسبوکار در عاملهای هوش مصنوعی معرفی میکند. این استاندارد با تفکیک آنچه یک عامل میتواند ببیند از آنچه مجاز به…

شرکت OpenAI ارتباطات بین عاملهای هوش مصنوعی در ابزار Codex را رمزگذاری کرد تا توسعهدهندگان نتوانند روند تفویض تکالیف را ببینند. گمان میرود این اقدام برای جلوگیری از استخراج…

یک چارچوب فنی جدید، نقشه راه کنترل هوش مصنوعی گوگل دیپمایند را به پنج آزمون امنیتی تکرارپذیر برای عاملهای کدنویسی تبدیل کرده است. این رویکرد تمرکز را از همراستاسازی مدل به تعیین…

ارزیابی عاملهای هوش مصنوعی بر اساس دموهای تبلیغاتی، منجر به تصمیمات نادرست میشود. یک تست ساختاریافته با سه سناریوی مشخص، توانایی عامل در مدیریت رگرسیونها و مرزهای تصمیمگیری…

یک الگوی ادغام جدید برای Claude Sonnet 5 بر استفاده از آداپتورهای تأمینکننده بهجای کدنویسی مستقیمِ وابسته به فروشنده تأکید میکند. این رویکرد با جداسازی فرمت مدل از منطق اصلی…

انویدیا در GTC تایپه ۲۰۲۶ چارچوبی برای افزایش پایداری عاملهای هوش مصنوعی معرفی کرد که در بازههای زمانی طولانی فعال هستند. این سیستم با استفاده از مکانیزمهای اجاره، ضربان قلب و…

یک چارچوب جدید برای تست PCهای هوش مصنوعی معرفی شده است که بهجای تمرکز بر اعداد خام سختافزاری، بر سناریوهای واقعی چرخهٔ عمر دستگاه تمرکز میکند. این متد بهویژه نحوهی رفتار…

گوگل دیپمایند یک مربی هوش مصنوعی برای آزمایشگاههای Atal Tinkering Labs معرفی کرد که بهجای ارائه پاسخهای سریع، اولویت را به تفکر مستقل دانشآموز میدهد. این سامانه با استفاده…

استودیو Pixel Office با بهکارگیری تیمی از عاملهای تخصصی هوش مصنوعی، ابزاری برای ساخت خودکار تورهای آموزشی وب (Onboarding) توسعه داده است. این سامانه فرآیند طراحی UI، تولید کد و…

بررسی ۱۰۰ پروژه متنباز نشان میدهد اکثر آنها از فایلهای دستوری «نامرئی» استفاده میکنند که بهطور خودکار در دستیارهای هوش مصنوعی بارگذاری میشوند. این لایهها اغلب حجیم و…

اعطای دسترسی مدیریتی گسترده به مدلهای زبانی بزرگ در وردپرس، حفرههای امنیتی خطرناکی ایجاد میکند. شرکت Vinkius با معرفی یک سرور MCP «جراحی»، دسترسیها را به نقش مشترک محدود کرده…