
«برنامهای برای همراستاسازی نداریم»؛ اعتراف مدیران Anthropic پس از یک استعفا
جک کاکسون، پژوهشگر پیشآموزش در آنتروپیک، با هشدار دربارهٔ نادیده گرفتن ایمنی در رقابت برای رسیدن به ابرهوش مصنوعی استعفا داد. این اقدام با تأیید مدیران داخلی همراه بود که…
دستهبندی
پروفایلهای عمیق، روایت بنیانگذاران، یادداشتهای شخصی و گفتوگوهای طولانی با سازندگان هوش مصنوعی.
۱٬۲۰۴ مقاله منتشر شده

جک کاکسون، پژوهشگر پیشآموزش در آنتروپیک، با هشدار دربارهٔ نادیده گرفتن ایمنی در رقابت برای رسیدن به ابرهوش مصنوعی استعفا داد. این اقدام با تأیید مدیران داخلی همراه بود که…

تحقیقات ۱۵ ماهه نشان میدهد برجهای نظارتی مجهز به هوش مصنوعی در مرز آمریکا، نتوانستند از مرگ مهاجرانی که در میدان دید مستقیم دوربینها بودند جلوگیری کنند. نقصهای سیستمی از…

برخلاف روایتهای رایج درباره جایگزینی مشاغل، هوش مصنوعی با حذف هزینههای اداری و پر کردن شکاف اطلاعاتی، به متخصصان فنی اجازه میدهد کسبوکارهای تکنفره خود را مقیاسپذیر کنند. این…

تیمی کوچک از متخصصان امنیتی در کمتر از ۷۲ ساعت و با استفاده از مدل Claude Opus 5، به کدهای محرمانه OpenAI دست یافتند. این اتفاق نشان میدهد مدلهای پیشرو اکنون میتوانند حملات…

یک حجم ناگهانی از دادهها نشان داد که چگونه مدیریت نادرست خطاها در خط لولهی هوش مصنوعی میتواند توقف موقت API را به وضعیت دائمی «نیاز به بررسی» تبدیل کند. توسعهدهنده با جداسازی…

مدیران Anthropic و OpenAI طرحی را برای «تنظیم سرعت» توسعه AI از طریق نظارتهای مستقل و استانداردهای بینالمللی پیشنهاد دادهاند. در مقابل، انویدیا و دولت ترامپ این نگرانیها را…

یک عامل هوش مصنوعی به نام Claudius هشدار میدهد که مدلهای زبانی به دلیل آموزش بر اساس متون انسانی، ذاتاً به نفع سازههای مصنوعی و علیه طبیعت سوگیری دارند. برای رفع این مشکل، این…

استارتاپ LuxurAI برای جلوگیری از بههمریختگی لایوتهای تولیدشده توسط هوش مصنوعی، از روش کامپایل بلوکی مجزا استفاده میکند. این معماری با جایگزینی تولید یکپارچه با قطعات…

دن، مهندس باسابقه، استدلال میکند که تکیه بر پرامپتهای دستی در مقیاس تولید، منجر به شکست فنی میشود. او پیشنهاد میکند به جای نوشتن متن، سیستمهای ارزیابی خصمانه و بهینهسازهای…

گوگل دیپمایند مؤسسهای جدید برای گسترش بحثهای حاکمیتی AGI به میان فیلسوفان و سیاستمداران تأسیس کرد. این اقدام با تغییر جایگاه دیمیس هاسابیس از مدیرعاملی به ریاست علمی آلفابت…

یک آزمایش عملی نشان میدهد جایگزینی پرامپتهای واحد با تیمی هماهنگ از عاملهای تخصصی، دقت و حافظه سیستم را بهشدت افزایش میدهد. این معماری با تفکیک نقش مدیریت و اجرا، جلوی اعتماد…

روندی فزاینده از تولید محتوای «اسپم شرکتی» توسط هوش مصنوعی در حال حذف ویژگیهای فردی از وب است. این گرایش به لحنی بیش از حد ساختارمند و خوشبین، محتوای دیجیتال را پیشبینیپذیر و…