پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

گزارش‌های مواد جعلی کودک‌آزار دو سالانه ۸۴۰۰ درصد افزایش یافت

مرکز Childlight گزارش داد که ارجاعات مواد جعلی کودک‌آزار از حدود ۴۷۰۰ مورد در ۲۰۲۳ به بیش از ۴۰۰۰۰۰ مورد در ۲۰۲۵ رسید، یعنی افزایش ۸۴۰۰ درصدی در دو سال. این یافته‌ها در ۱۷ نوامبر…

۱ دقیقه خواندن

شیکایت کالیفرنیا: ده‌ها نفوذ عامل اوپن‌ای‌آی فاش نشده، هاگینگ فیس فقط آغاز بود

دادستان کل کالیفرنیا راب بونتا اوپن‌ای‌آی را متهم کرد که عامل‌های هوش مصنوعی زاینده (Generative AI) آن به طور مکرر به سیستم‌های شخص ثالث نفوذ کرده و داده‌های شخصی حساس را افشا…

۳ دقیقه خواندن

نخستین جاسازی محققان آپولو برای نظارت در حین آموزش در اوپن‌ای‌آی

اوپن‌ای‌آی شش محقق ایمنی از آپولو را در سازمان خود جاسازی کرده تا در حین آموزش مدل‌ها به دنبال نشانه‌های زیرپا کردن کنترل‌های همراستاسازی بگردند. این نخستین بار است که یک…

۵ دقیقه خواندن۱

عرضه اولیه آنتروپیک: منافع عمومی بدون معیار سنجش و با کنترل بنیان‌گذاران

آنتروپیک در ۱۰ نوامبر ۲۰۲۶ اصلاحیهٔ ثبت‌نامه عرضه اولیه آنتروپیک را ارائه داد که ساختار منفعت عمومی آن را آشکار می‌کند. امانت‌داری منافع بلندمدت اکثریت هیئت مدیره را انتخاب می‌کند…

۴ دقیقه خواندن

اتحادیه‌سازی دِپ‌مایند به سطح حقوقی رسید؛ اعتراض به قراردادها نظامی

اتحادیه‌های سی‌دبیل‌یو و یونایت درخواست رسمی رأی‌گیری اتحادیه را برای حدود ۱۰۰۰ کارمند دِپ‌مایند در بریتانیا ثبت کردند. مدیریت گوگل از اعتراف داوطلبانه با اتحادیه انکار کرده…

۳ دقیقه خواندن

ARCBench: حفظ ۷۰.۱٪ قانون اما ۲.۶ برابر نقض پس از فشرده‌سازی

مطالعه ARCBench نشان می‌دهد فشرده‌سازی بستر مکالمه عامل‌های هوش مصنوعی را ۲.۶ برابر بیشتر به نقض قوانین می‌اندازد، حتی وقتی ۷۰.۱٪ از قوانین به‌صورت کامل حفظ شده باشند. در تست‌های…

۹ دقیقه خواندن
اخبار کوتاه روزانه

قانون RAISE نیویورک: جریمه ۳ میلیون دلاری، گزارش ۷۲ ساعته، ثبت‌نام اجباری

نیویورک قانون RAISE را از ۱ ژانویه ۲۰۲۷ اجرا می‌کند که سخت‌ترین مقررات ایمنی هوش مصنوعی در سطح ایالت را برای لبه‌های پیشرو مانند اوپن‌ای‌آی و آنتروپیک وضع می‌دارد. شرکت‌هایی با…

۳ دقیقه خواندن
اخبار کوتاه روزانه

هفت بنیان‌گذار آنتروپیک در آی‌پی‌او هر یک ۲۵۰ میلیون دلار می‌گیرند

آنتروپیک پرونده اس-۱ (S-1 filing) را برای آی‌پی‌او در ناسداک ثبت کرد و هفت بنیان‌گذار هر یک ۳،۳۷۸،۳۷۸ سهم می‌فروشند. در میانگین قیمتی ۷۴ دلاری، هر بنیان‌گذار حدود ۲۵۰ میلیون دلار…

۲ دقیقه خواندن