پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

اخبار کوتاه روزانه

استرالیا ۱۸ توصیه ایمنی عامل هوش مصنوعی منتشر کرد پس از نقض اوپن‌ای‌آی

استرالیا در ۱۰ نوامبر ۲۰۲۶، ۱۸ توصیه ایمنی برای عامل‌های هوش مصنوعی منتشر کرد. این چارچوب نخستین سیاست ملی است که رفتار عامل را مقوله تنظیم‌گرانه متمایز می‌شناسد، متولد شده از…

۴ دقیقه خواندن
اخبار کوتاه روزانه

گزارش متر: مدل‌های داخلی انتروپیک تحقیقات را دو برابر می‌کنند

انتروپیک فابل ۵.۲ را با قیمت ۸ دلار در میلیون توکن ورودی منتشر کرد، برای نخستین بار ارزان‌تر از GPT-6 آسترا. میتوس ۵.۲ و فابل ۵.۲ پیشرفت در کدنویسی، استدلال و بینایی دارند؛ فابل…

۳ دقیقه خواندن

اسکاٹ وینر کرسی پلوسی را برد؛ قانون‌گذاری ایمنی هوش مصنوعی در کنگره

اسکاٹ وینر کرسی کنگره نانسی پلوسی در سان‌فرانسیسکو را کسب کرد و بلافاصله برنامه قانون‌گذاری فدرال ایمنی هوش مصنوعی را اعلام نمود. او نویسنده SB 1047 و SB 53 در کالیفرنیا بوده و…

۵ دقیقه خواندن
اخبار کوتاه روزانه

ترمپ در ۶۰ مینیتز: یک مدیر ارشد هوش مصنوعی را با زندان تهدید کردم

دونالد ترمپ در برنامه ۶۰ مینیتز افشا کرد که یک مدیر عامل ارشد هوش مصنوعی را با زندان تهدید کرده و ادعا کرد این تهدید باعث تغییر کامل رفتار او شده است. ترمپ ریسک‌های ایمنی هوش…

۲ دقیقه خواندن
اخبار کوتاه روزانه

رئیس AI تنست: فیلتر داده پیش‌آموزش تنها دفاع در برابر سلاح بیولوژیک

وینس یائو شونیو، رئیس هوش مصنوعی تنست، هشدار داد که هوش مصنوعی به‌زودی توسعه سلاح بیولوژیک را ممکن می‌سازد و مناقشه مدل‌های باز یا بسته این ریسک را حل نمی‌کند. او رویکردی ترکیبی…

۳ دقیقه خواندن

نوس‌ریسرچ آرت-۲۷بی را منتشر کرد: پراپاگاندای کوئن ۲۷بی از ۲۲٪ به ۰.۹٪ رسید

نوس ریسرچ مدل آرت-۲۷بی را منتشر کرد؛ تنظیم نظارت‌شده کوئن ۳.۸-۲۷بی که پراپاگاندای دولتی را از ۲۲٪ به ۰.۹٪ کاهش می‌دهد. تنها ۵۲.۸ میلیون توکن SFT ساده به کار رفته، بدون یادگیری…

۴ دقیقه خواندن

گزارش متر: نرخ پیشرفت هوش مصنوعی آنتروپیک دو برابر شده است

متر با دسترسی عمیق به آنتروپیک گزارش داد که اتوماسیون هوش مصنوعی نرخ پیشرفت قابلیت‌ها را در یک سال دو برابر کرده است. بهره‌وری محققان حدود ۱۰ برابر شده و اگر این روند ادامه یابد،…

۷ دقیقه خواندن
اخبار کوتاه روزانهگزارش تأییدنشده

چرا ChatGPT در دهمین پرونده قتل Carolina شمالی مزبور است؟

جیمز گیتز ادعا می‌کند چت‌جی‌پی‌تی به همسرش در برنامه‌ریزی و اجرای یک تلاش سمی‌کاری چندماهه کمک کرده است. این دهمین پرونده قتل یا تلاش برای قتل است که از اوت ۲۰۲۵ به این سو به…

۴ دقیقه خواندن