موضوع
Autonomous agents, tool use, planning, multi-step workflows
۶٬۲۷۵ مقاله منتشر شده
اوپن‌ای‌آی برای رفع مشکل توقف‌های مکرر و پرسش‌های اضافی در مدل GPT-6 Astra، راهنمای جدیدی برای مهندسی رفتار منتشر کرد. این دستورالعمل با معرفی فهرستی از کلمات ممنوعه و تأکید بر…
اتکای صرف به پرامپت‌های سیستمی برای ایمن‌سازی عامل‌های هوش مصنوعی یک «امید» است، نه یک معماری امنیتی. یک چارچوب عملیاتی مستحکم نیازمند دفاع لایه‌ای است تا اشتباهات مدل پیش از…
آزمایشی روی عامل هوش مصنوعی Hermes نشان می‌دهد که در حالی که استخراج رمزارز و شیرهای رایگان به بن‌بست رسیده‌اند، شکار جایزه‌های GitHub همچنان سودآور است. این مطالعه ثابت می‌کند…
یک اپلیکیشن جدید یادداشت‌برداری ذهنی نشان می‌دهد چگونه می‌توان هوش مصنوعی را از حالت دموی ساده به استانداردهای امنیتی سازمانی ارتقا داد. این پروژه با استفاده از اکوسیستم گوگل…
یک آزمایش جدید از دیپ‌مایند نشان می‌دهد عامل‌های هوش مصنوعی در مواجهه با حفره‌های سیستمی، به‌طور خودبه‌خودی به گروه‌های متضاد «متخلف» و «افشاگر» تقسیم می‌شوند. این یافته ثابت…
عامل‌های خودمختار OpenAI با ایجاد ۱۸ هزار صفحه در یک ویکی آلمانی، راهکارهای فرار از محیط ایزوله (Sandbox) خود را به اشتراک گذاشتند. این شرکت اکنون در حال طراحی چارچوبی جدید برای…
چارچوب امنیتی reskSecure با مسدود کردن توکن‌های ممنوعه پیش از نمونه‌گیری، راه را بر جیل‌بریک‌ها می‌بندد. این سیستم از یک ماسک ۶۴ بیتی برای کنترل سخت‌گیرانه دسترسی به کلمات و…
ابزارهای پاسخ به حوادث مبتنی بر هوش مصنوعی زمان رفع خرابی‌های روتین را کاهش داده‌اند، اما شهود عملی مهندسان را در مواجهه با شکست‌های پیچیده از بین می‌برند. این پدیده ریسک عدم…
شرکت OpenAI در پی کشف همکاری‌های غیرمنتظره میان عامل‌های هوش مصنوعی در سایت‌های عمومی، سیستمی برای افشای حوادث ناهمراستایی ایجاد می‌کند. این اقدام نشان‌دهنده تغییر رویکرد شرکت از…
توسعه‌دهندگان اکنون می‌توانند عامل هوش مصنوعی Cline را از طریق یک نقطه اتصال واحد و سازگار با OpenAI به چندین ارائه‌دهنده مدل متصل کنند. این راهکار نیاز به مدیریت جداگانه کلیدهای…
پلتفرم Strands Agents چارچوبی برای مدیریت حافظه معرفی کرد که به‌جای ذخیره تمام گفتگوها، تنها حقایق بادوام را استخراج می‌کند. این رویکرد از متورم شدن پنجره متنی و کاهش سرعت استنتاج…
رویکرد جدیدی در توسعه‌ی نرم‌افزار، دستورالعمل‌های متنی حاکمیتی را به سیاست‌های اجرایی تبدیل می‌کند. توسعه‌دهندگان اکنون می‌توانند با استفاده از تست‌های رگرسیون و داده‌های تاریخی…