پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

توهم امنیت؛ چرا بنچمارک‌های AI در دنیای واقعی شکست می‌خورند؟

یک مطالعه‌ی جدید فاش می‌کند که بنچمارک‌های استاندارد مدل‌ها نمی‌توانند رفتار هوش مصنوعی در محیط عملیاتی را پیش‌بینی کنند. محققان دریافتند که لایه‌های امنیتی برای هر مدل…

۲ دقیقه خواندن۱

هشدار OpenAI: مدل GPT-5.5 Instant وارد منطقه خطرناک «قابلیت‌های بالا» شد

اوپن‌ای‌آی مدل GPT-5.5 Instant را معرفی کرد؛ اولین مدل سری سریع که به دلیل قابلیت‌های پیشرفته در حوزه‌های سایبری و بیوشیمی، در دسته «پرخطر» قرار گرفته است. این تغییر به معنای…

۲ دقیقه خواندن

چرا تکامل خودکار هوش مصنوعی، سیستم‌های نظارتی ما را نابود می‌کند؟

جک کلارک، از بنیان‌گذاران Anthropic، هشدار می‌دهد که احتمال ۶۰ درصدی وجود دارد که هوش مصنوعی تا سال ۲۰۲۸ قادر به آموزش نسخه‌های بعدی خود باشد. این چرخه بازگشتی می‌تواند منجر به…

۳ دقیقه خواندن

چرا ترس از هوش مصنوعی، ابزار جدید میلیاردرها برای حذف رقباست؟

تلاش حقوقی ایلان ماسک برای متوقف کردن ساختار سودآور OpenAI، پرده از تضاد عجیبی برداشت: استفاده از ترس‌های «آخرالزمانی» برای ضربه زدن به رقبا. این پرونده نشان می‌دهد چگونه بحث‌های…

۲ دقیقه خواندن

پرده‌برداری از حفره‌های امنیتی Mistral در برابر اخبار جعلی دولتی

حسابرسی جدید NewsGuard نشان می‌دهد مدل Le Chat در برابر پروپاگاندای دولتی به‌شدت آسیب‌پذیر است. نرخ خطا در پاسخ به پرسش‌های گمراه‌کننده تا ۸۰ درصد افزایش می‌یابد که نشان‌دهنده‌ی…

۲ دقیقه خواندن

گزارش IBM: مدل ۸ میلیاردی Granite 4.1 مدل‌های ۳۲ میلیاردی MoE را شکست داد

شرکت IBM با معرفی خانواده مدل‌های Granite 4.1 ثابت کرد که مهندسی دقیق داده می‌تواند جایگزین حجم عظیم پارامترها شود. مدل ۸ میلیارد پارامتری این مجموعه، با تکیه بر کیفیت داده،…

۳ دقیقه خواندن۲