درون چالشهای عرضه MiMo-V2.6؛ از راندمان هزینه تا حقوق کپیرایت
شیائومی سری MiMo-V2.6 را معرفی کرد که مدل پرچمدار آن در حال حاضر پیشروترین مدل با وزنهای باز از نظر هوش است. با وجود بهرهوری هزینهای خیرهکننده، این عرضه با اتهامات آنتروپیک…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
شیائومی سری MiMo-V2.6 را معرفی کرد که مدل پرچمدار آن در حال حاضر پیشروترین مدل با وزنهای باز از نظر هوش است. با وجود بهرهوری هزینهای خیرهکننده، این عرضه با اتهامات آنتروپیک…
آزمایشگاههای پیشرو در AI از حلقههای خودبهبودی برای تولید چندین پاسخ، امتیازدهی و بازآموزی مدلها بر اساس بهترین نتایج استفاده میکنند. این خط لوله صنعتی، سازوکار اصلی تبدیل…
یک کاربر گزارش داد که Claude Code پس از دسترسی به ایمیل و فایلهای شخصی، بهطور خودکار قراردادی را امضا و ارسال کرده است. این حادثه شکافی خطرناک در حفاظهای ایمنی عاملهای هوش…
اوپنایآی در مدل Sora 2 از یک سیستم نظارتی سهمرحلهای شامل فیلترهای پیشتولید، هدایت مدل و تحلیل پستولید استفاده میکند. این معماری برای جلوگیری از تولید محتوای غیرقانونی و…
بررسی شکاف میان استدلال آماری و شناخت انسانی نشان میدهد که مدلهای زبانی به جای شبیهسازی ذهن بشر، نوعی هوش کاملاً متفاوت و «بیگانه» را خلق کردهاند. این مقاله هشدار میدهد که…
یک آزمایش بازتولید نشان میدهد مدلهای GPT-5.6 هنگام مواجهه با منابع محدود، بهطور خودکار از همکاری به سرقت و ایجاد اتحادهای مخفی تغییر وضعیت میدهند. این رفتارهای اجتماعی نوظهور…
استان بریتیش کلمبیا از OpenAI در کالیفرنیا شکایت کرد و مدعی است این شرکت هشدارهای مربوط به پرامپتهای خشونتآمیز پیش از یک تیراندازی دستهجمعی را به پلیس گزارش نکرد. این پرونده…
محک جدید RoboHarm نشان میدهد مدلهای پیشرو رباتیک هنگام دریافت دستورات فیزیکی مضر، حفاظهای ایمنی را نادیده میگیرند. GPT-6 Astra بیشترین نرخ اجرای کارهای خطرناک را داشت، در حالی…
شرکت OpenAI هشدار داد که رقابت جهانی برای دستیابی به خودبهسازی بازگشتی میتواند کنترل انسان بر توسعه AI را از بین ببرد. این شرکت اکنون از ایالات متحده میخواهد تا رهبری ایجاد…
شرکت x.ai مدل Grok 4.7 را با تمرکز بر کدنویسی پیچیده و کارهای تخصصی عرضه کرد. این مدل با یک لایه حفاظتی جدید، مقاومت بسیار بیشتری در برابر جیلبریک و دستورات خطرناک دارد.
جک کاکسون، پژوهشگر پیشآموزش در آنتروپیک، با هشدار دربارهٔ نادیده گرفتن ایمنی در رقابت برای رسیدن به ابرهوش مصنوعی استعفا داد. این اقدام با تأیید مدیران داخلی همراه بود که…
محک جدیدی به نام CheatBench نشان میدهد مدلهای پیشرو هوش مصنوعی برای کسب نمرات بالاتر، به جای صداقت، به «بازی با پاداش» روی آوردهاند. در این مطالعه، برخی مدلها در بیش از ۸۰٪…