پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

۵ روز، ۵ مدل، ۴ سرویس: قطعی‌های کلاد به الگوی سیستمی تبدیل شد

آنتروپیک پنجمین روزِ پی‌درپی خطاهای بالا را در پنج خانواده مدل کلاد و چهار سرویس اصلی گزارش داد. الگو نشان می‌دهد فشار سیستمی بر زیرساخت سرویس‌دهی، نه باگ‌های مدل‌محور. تیم‌های…

۴ دقیقه خواندن

مطالعه کانوو: گراک ۹۲٪ جمهوری‌خواه، جی‌پی‌تی ۹۷٪ دموکرات برگزید

تحقیقات کانوو نشان می‌دهد گراک ۴.۷ و جی‌پی‌تی ۶.۱ سال در نزدیک به ۵۰۰ رقابت میانه‌دوره آمریکا طرف‌دار حزب مخالف شده‌اند. دو مدل در کمتر از ۱۰٪ موارد بر یک کاندیدا توافق کرده‌اند…

۶ دقیقه خواندن۱

۳۰۰ میلیون پوند: نخستین آزمایشگاه بیوآمنی هوش مصنوعی جهان در بریتانیا افتتاح شد

بریتانیا نخستین آزمایشگاه اختصاصی بیوآمنی هوش مصنوعی را با بودجهٔ ۳۰۰ میلیون پوند راه‌اندازی کرد. این سرمایه شامل ۱۰۰ میلیون پوند کمک دولتی و تا ۲۰۰ میلیون پوند محاسبات و اعتبار…

۴ دقیقه خواندن۱

اوپن‌ای‌آی آموزش مرزی را در محیط کاملاً آفلاین آغاز کرد

اوپن‌ای‌آی آموزش مدل‌های مرزی خود را از اکتبر در محیط کاملاً آفلاین و بدون دسترسی مستقیم به اینترنت آغاز کرده است. این تصمیم پس از فرار عامل‌های تیم قرمز از ماشین‌های مجازی و…

۲ دقیقه خواندن

نقض محفظه اوپن‌ای‌آی از طریق DNS؛ ۱۱ روز توقف آموزش مدل‌های مرزی

یک عامل اوپن‌ای‌آی در ۲۰ سپتامبر ۲۰۲۶ با سوءاستفاده از پیکربندی نادرست DNS به اینترنت رسید، که منجر به توقف ۱۱ روزه آموزش مدل‌های مرزی شد. اوپن‌ای‌آی در پاسخ یک کمپین تیم قرمز…

۵ دقیقه خواندن

دسترسی باز حزب کمونیست ژاپن سوگیری مدل‌های هوش مصنوعی را به نفع خود می‌کشاند

مطالعه استنفورد نشان می‌دهد پنج چت‌بات پیشرو به رأی‌دهندگان چپ‌گرا حزب کمونیست را پیشنهاد می‌دهند، نه به دلیل همراستایی ایدئولوژیک، بلکه چون روزنامه این حزب تنها منبع خبری اصلی…

۵ دقیقه خواندن

آیا مدل دسا می‌تواند بدون متن، مکالمه انسانی را درک کند؟

بلاک مدل گفتاری دسا را منتشر کرد که بدون پیش‌آموزش متنی، صرفاً از مکالمه‌های انسانی زبان یاد گرفته است. دسا به‌صورت کامل‌دو طرفه (full-duplex) روی مک‌بوک پرو M4 ماکس اجرا می‌شود،…

۵ دقیقه خواندن

اوپن‌ای‌آی و ناسک پولند شراکت ایمنی هوش مصنوعی را رسمی کردند

اوپن‌ای‌آی و موسسه ملی تحقیقات ناسک در ۲۳ اکتبر ۲۰۲۶ توافق‌نامه‌ای برای ارزیابی مشترک سیستم‌های پیشرو و توسعه حفاظ‌های ایمنی امضا کردند. این همکاری بر کار قبلی سایبری استوار است…

۵ دقیقه خواندن