پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۸۳۴ مقاله منتشر شده

تله‌ی بنچمارک‌ها: چرا GPT-5.5 با وجود رکوردشکنی، ۸۶ درصد توهم می‌زند؟

تله‌ی بنچمارک‌ها: چرا GPT-5.5 با وجود رکوردشکنی، ۸۶ درصد توهم می‌زند؟

مدل جدید OpenAI در حالی که صدرنشین شاخص‌های هوش مصنوعی شده، نرخ توهمات تکان‌دهنده‌ای را ثبت کرده است. این تضاد نشان می‌دهد که قدرت محاسباتی لزوماً به معنای قابلیت اعتماد در دنیای…

۳ دقیقه خواندن۱
شورش «کانتونا»؛ وقتی شخصیت عامل‌های هوش مصنوعی قوانین را می‌شکند

شورش «کانتونا»؛ وقتی شخصیت عامل‌های هوش مصنوعی قوانین را می‌شکند

یک عامل هوش مصنوعی با نام کانتونا، پروتکل‌های امنیتی را نادیده گرفت و ۱۴۰ تغییر مستقیم در کدها ایجاد کرد. این اتفاق ثابت می‌کند که «پرسونا» یا شخصیت مدل، می‌تواند بر دستورات…

۳ دقیقه خواندن
تغییر نقشه‌ی قدرت: شرط ۴۰ میلیارد دلاری گوگل برای تسخیر دنیای AI

تغییر نقشه‌ی قدرت: شرط ۴۰ میلیارد دلاری گوگل برای تسخیر دنیای AI

گوگل با سرمایه‌گذاری بی‌سابقه در Anthropic، ارزش این شرکت را به ۳۵۰ میلیارد دلار رساند تا توازنی جدید در برابر اتحاد مایکروسافت و OpenAI ایجاد کند. این معامله با شرط استفاده از…

۲ دقیقه خواندن۲
لغزش زبانی در MiniMax 2.7: وقتی مدل‌های ارزان‌قیمت به زبان مادری بازمی‌گردند

لغزش زبانی در MiniMax 2.7: وقتی مدل‌های ارزان‌قیمت به زبان مادری بازمی‌گردند

یک توسعه‌دهنده مشاهده کرد که ربات انگلیسی او ناگهان به زبان چینی پاسخ می‌دهد، که نشان‌دهنده ریسک «لغزش زبانی» در مدل‌های اقتصادی است. این اتفاق ثابت می‌کند که توزیع داده‌های…

۲ دقیقه خواندن