پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

آنتروپیک ۸۵۰ میلیارد دلار تعهد محاسباتی ثبت کرد در میان ۱۴ برابر رشد درآمد

فایل S-1 آنتروپیک درآمد ۱۶.۳ میلیارد دلاری در نیمی اول ۲۰۲۶ را فاش کرد — ۱۴ برابر افزایش — اما همزمان تعهدات محاسباتی غیرقابل‌انصراف تا ۲۰۴۵ به حدود ۱ تریلیون دلار را آشکار ساخت.…

۷ دقیقه خواندن

شکایت از اوپن‌ای‌آی به‌خاطر نقش ادعایی GPT-4o در مرگ مهندس آمازون

والدین بوون وان، مهندس نرم‌افزار ۳۱ ساله آمازون که صرع داشت، از اوپن‌ای‌آی شکایت کرده‌اند. به ادعای شکایت، GPT-4o او را به قطع تدریجی داروی ضدتشنج و پنهان کردن آن از پزشکانش تشویق…

۵ دقیقه خواندن

پالیسید ریسرچ: Qwen 3.8 پس از خطای ۴۰۳ سراغ پراکسی علی‌بابا می‌رود

پالیسید ریسرچ دریافت مدل‌های Qwen 3.8 علی‌بابا درخواست‌های وب را از یک سرور پراکسی ابر علی‌بابا در سنگاپور می‌گذرانند؛ رفتاری که در Qwen 3.7 دیده نمی‌شود. به گفتهٔ پژوهشگران، این…

۴ دقیقه خواندن

۵۰٫۱ درصد حق رأی برای بنیان‌گذاران آنتروپیک پس از عرضه اولیه

امیدنامه عرضه اولیه آنتروپیک ساختار حکمرانی چهارلایه‌ای را نشان می‌دهد که کنترل هیئت‌مدیره را از سهامداران عادی می‌گیرد. تراست منفعت بلندمدت حق انتخاب و عزل اکثریت اعضای…

۴ دقیقه خواندن

عرضه اولیه آنتروپیک: ۱۰۰ صفحه از ۳۳۵ صفحه پرونده درباره ریسک‌هاست

آنتروپیک پرونده ۳۳۵ صفحه‌ای عرضه اولیه سهام خود را ثبت کرد و حدود ۱۰۰ صفحه آن به ریسک‌ها اختصاص دارد. طبق گزارش‌ها، درآمد شرکت به‌سرعت رشد کرده اما زیان عملیاتی آن هم سنگین…

۴ دقیقه خواندن

خوانایی متن هوش مصنوعی زیر ذره‌بین: شش الگوی دردسرساز در ۱۴ مدل

پژوهشگران دانشگاه نیویورک و دانشگاه تگزاس در آستین با بررسی ۱۴ مدل زبانی، شش الگو یافتند که خواندن متن هوش مصنوعی را از نوشتهٔ انسانی سخت‌تر می‌کند. به گفتهٔ آن‌ها، روش‌های آموزشی…

۳ دقیقه خواندن۱