پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

آموزش کاربردی

الگوی ReAct؛ مکانیزم تبدیل مدل‌های زبانی به عامل‌های خودکار

عامل‌های هوش مصنوعی از دنبال‌کنندگان ساده‌ی دستورات به سیستم‌هایی با قابلیت برنامه‌ریزی مستقل تبدیل شده‌اند. این تحول با ترکیب مدل‌های زبانی بزرگ و الگوی ReAct محقق شده تا مدل‌ها…

۱۰ دقیقه خواندن

درون مکانیسم رد درخواست‌های پیچیده در مدل Fable آنتروپیک

یک پژوهشگر ارشد گزارش داده است که مدل Fable متعلق به آنتروپیک به‌دلیل کالیبراسیون بیش‌ازحد لایه‌های ایمنی، درخواست‌های تخصصی در علوم کامپیوتر و بیوانفورماتیک را به‌اشتباه رد…

۱۱ دقیقه خواندن۱
آموزش کاربردی

Epoch Duel: تبدیل مفاهیم پیچیده همراستاسازی هوش مصنوعی به بازی کارتی

پروژه‌ی Epoch Duel فرآیندهای انتزاعی آموزش مدل‌های زبانی را به یک بازی استراتژیک تبدیل کرده است. این ابزار بصری نشان می‌دهد که مهندسان چگونه وزن‌های مدل را بهینه می‌کنند و با…

۵ دقیقه خواندن۲
آموزش کاربردی

گیت‌های سخت‌افزاری در برابر دستورات متنی در امنیت حافظهٔ عامل‌های هوش مصنوعی

یک مکانیزم دفاعی جدید با ایجاد گیت‌های سخت‌افزاری در مرز ابزارها، از «مسموم‌سازی حافظه» جلوگیری می‌کند. این روش به‌جای تکیه بر دستورات متنی، دسترسی‌های خطرناک مانند ارسال…

۷ دقیقه خواندن۲
آموزش کاربردی

گزارش BotCritic: امتیاز ۵۵ از ۱۰۰ برای چت‌بات‌های Groq در آزمون توهم

یک تست استرس جامع روی عامل‌های هوش مصنوعی نشان داد که روانی در گفتگو، پوششی برای شکست‌های فاجعه‌بار در مواجهه با فشار واقعی است. این گزارش افشای ساختن هویت‌های جعلی و آمارهای…

۴ دقیقه خواندن

خطای الگوریتم دیسکورد ۸۰۰۰ کاربر را به‌دلیل ارسال تصاویر شطرنجی مسدود کرد

دیسکورد پذیرفت که یک باگ در سیستم نظارت خود، هزاران کاربر را به‌اشتباه به دلیل آپلود تصاویری مثل صفحات اکسل و تخته شطرنج مسدود کرده است. این شرکت اکنون در حال بازگرداندن حساب‌های…

۳ دقیقه خواندن
آموزش کاربردی

معماری A11: جایگزینی ساختار خطی ربات‌ها با سلسله‌مراتب تصمیم‌گیر

چارچوب A11 با معرفی لایه‌های «اراده» و «خرد»، ساختار خطی ربات‌های مدرن را به یک مدل تصمیم‌گیری عمودی تبدیل می‌کند. این تغییر اجازه می‌دهد ربات‌ها به‌جای اجرای صرف دستورات، تضادهای…

۳ دقیقه خواندن۱

کشف «فضای J» در مدل کلاود؛ ساختار عصبی برای تفکیک تفکر خصوصی از پاسخ نهایی

پژوهشگران آنتروپیک ساختاری spontaneous در مدل کلاود یافتند که مانند یک فضای کار ذهنی عمل می‌کند. این لایه به مدل اجازه می‌دهد پیش از تولید پاسخ، به‌صورت بی‌صدا استدلال کرده و…

۲۳ دقیقه خواندن
آموزش کاربردی

چطور زنجیره هش تصمیمات خودگردان ماهواره‌ها را قابل حسابرسی می‌کند؟

یک معماری لبه-به-ابر جدید با استفاده از زنجیره هش، تصمیمات خودگردان ماهواره‌ها را قابل حسابرسی و اخلاقی می‌کند. این سامانه تأخیر تشخیص ناهنجاری را از ۴۵ ثانیه به ۲.۳ ثانیه کاهش…

۹ دقیقه خواندن
آموزش کاربردی

معماری غیرمتمرکز عامل‌های هوش مصنوعی هزینه استنتاج را ۴۰٪ کاهش داد

استقرار ۹ عامل خودگردان برای مدیریت یک باشگاه ورزشی در چین نشان داد که سیستم‌های «قانون‌مدار» غیرمتمرکز، کارایی بیشتری نسبت به ارکستراتورهای مرکزی دارند. این معماری مصرف توکن را…

۴ دقیقه خواندن