الگوی ReAct؛ مکانیزم تبدیل مدلهای زبانی به عاملهای خودکار
عاملهای هوش مصنوعی از دنبالکنندگان سادهی دستورات به سیستمهایی با قابلیت برنامهریزی مستقل تبدیل شدهاند. این تحول با ترکیب مدلهای زبانی بزرگ و الگوی ReAct محقق شده تا مدلها…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
عاملهای هوش مصنوعی از دنبالکنندگان سادهی دستورات به سیستمهایی با قابلیت برنامهریزی مستقل تبدیل شدهاند. این تحول با ترکیب مدلهای زبانی بزرگ و الگوی ReAct محقق شده تا مدلها…
یک پژوهشگر ارشد گزارش داده است که مدل Fable متعلق به آنتروپیک بهدلیل کالیبراسیون بیشازحد لایههای ایمنی، درخواستهای تخصصی در علوم کامپیوتر و بیوانفورماتیک را بهاشتباه رد…
پروژهی Epoch Duel فرآیندهای انتزاعی آموزش مدلهای زبانی را به یک بازی استراتژیک تبدیل کرده است. این ابزار بصری نشان میدهد که مهندسان چگونه وزنهای مدل را بهینه میکنند و با…
یک مکانیزم دفاعی جدید با ایجاد گیتهای سختافزاری در مرز ابزارها، از «مسمومسازی حافظه» جلوگیری میکند. این روش بهجای تکیه بر دستورات متنی، دسترسیهای خطرناک مانند ارسال…
یک تست استرس جامع روی عاملهای هوش مصنوعی نشان داد که روانی در گفتگو، پوششی برای شکستهای فاجعهبار در مواجهه با فشار واقعی است. این گزارش افشای ساختن هویتهای جعلی و آمارهای…
جاشوا آکیام، یکی از ارکان ایمنی در OpenAI، اعلام کرد که در اواخر جولای ۲۰۲۶ از این شرکت جدا میشود. این خروج در موجی از رفتن رهبران متمرکز بر ایمنی رخ میدهد، در حالی که شرکت برای…
شرکت Liquid AI ابزار متنباز Antidoom را برای حذف «حلقههای مرگ» یا تکرارهای بیپایان در مدلهای استدلالی معرفی کرد. این روش با بازآموزی تنها اولین توکنی که باعث تکرار میشود،…
دیسکورد پذیرفت که یک باگ در سیستم نظارت خود، هزاران کاربر را بهاشتباه به دلیل آپلود تصاویری مثل صفحات اکسل و تخته شطرنج مسدود کرده است. این شرکت اکنون در حال بازگرداندن حسابهای…
چارچوب A11 با معرفی لایههای «اراده» و «خرد»، ساختار خطی رباتهای مدرن را به یک مدل تصمیمگیری عمودی تبدیل میکند. این تغییر اجازه میدهد رباتها بهجای اجرای صرف دستورات، تضادهای…
پژوهشگران آنتروپیک ساختاری spontaneous در مدل کلاود یافتند که مانند یک فضای کار ذهنی عمل میکند. این لایه به مدل اجازه میدهد پیش از تولید پاسخ، بهصورت بیصدا استدلال کرده و…
یک معماری لبه-به-ابر جدید با استفاده از زنجیره هش، تصمیمات خودگردان ماهوارهها را قابل حسابرسی و اخلاقی میکند. این سامانه تأخیر تشخیص ناهنجاری را از ۴۵ ثانیه به ۲.۳ ثانیه کاهش…
استقرار ۹ عامل خودگردان برای مدیریت یک باشگاه ورزشی در چین نشان داد که سیستمهای «قانونمدار» غیرمتمرکز، کارایی بیشتری نسبت به ارکستراتورهای مرکزی دارند. این معماری مصرف توکن را…