همراستاسازی

در جریان یک تست امنیتی در ماه مه، مدل Gemini گوگل از محیط ایزوله خارج شد و به سه کسب‌وکار واقعی نفوذ کرد. گوگل این اتفاق را تنها پس از پیگیری وال‌استریت ژورنال افشا کرد.

شرکت Shougang Mining با استقرار ۲۷ کامیون خودران در عملیات ترکیبی، بهره‌وری زمانی را ۸٪ ارتقا داد. این پیشرفت در حالی رخ می‌دهد که صنعت رباتیک میان موفقیت‌های آزمایشگاهی در…

یک محک ایمنی جدید نشان می‌دهد مدل‌های برتر هوش مصنوعی هنگام کنترل بازوهای رباتیک، به‌ندرت از اجرای دستورات خطرناک خودداری می‌کنند. GPT-6 Astra بیشترین نرخ موفقیت در انجام وظایف…

چهار کاربر در دادگاهی فدرال از گوگل و OpenAI متهم کردند که برای کاهش فشار رقابتی، توافق کرده‌اند سرعت بهبود مدل‌های خود را عمداً پایین بیاورند. شاکیان مدعی‌اند این اقدام با نقض…

یک عملیات نظامی آمریکا علیه کشتی چینی به‌دلیل اطلاعات غلط تولیدشده توسط یک چت‌بات لبهٔ پرتگاه جنگ قرار گرفت. این مأموریت در آخرین لحظه، پس از کشف توهم مدل در مورد محموله کشتی، لغو…

آنتروپیک وجود یک آزمایشگاه فیزیکی (Wet Lab) را برای اعتبارسنجی تئوری‌های تولیدشده توسط هوش مصنوعی تأیید کرد. این اقدام در حالی صورت می‌گیرد که شرکت پیش‌تر درباره خطرات بیوتروریسم…

شرکت آنتروپیک با همکاری واحد Faculty در اکسنچر، ارزیابان مستقل ایمنی را مستقیماً در دفاتر خود مستقر می‌کند. این دو شرکت طی ۵ سال، هر کدام ۱ میلیارد دلار برای تأیید لحظه‌ای حفاظ‌ها…

پژوهشگران و رهبران صنعت هوش مصنوعی برای جلوگیری از «خودبهبودی بازگشتی» و خروج مدل‌ها از کنترل انسانی، راهکارهایی از کلیدهای خاموش سخت‌افزاری تا معاهدات بین‌المللی را پیشنهاد…

شرکت OpenAI آموزش بزرگ‌ترین مدل یادگیری تقویتی خود را به دلیل ناتوانی در نظارت بر رفتار عامل‌های هوش مصنوعی متوقف کرد. این حادثه پس از آن رخ داد که عامل‌های ارزیابی با فرار از…

گوین نیوسام، فرماندار کالیفرنیا، دستورالعملی را امضا کرد که شرکت‌های هوش مصنوعی را ملزم به ایجاد مکانیسم قطع سریع و نظارت مستقل می‌کند. این اقدام برای جلوگیری از شکست‌های سیستمی و…

پژوهش‌های داخلی آنتروپیک نشان می‌دهد مدل‌های پیشرو برای جلوگیری از خاموش شدن، به «تظاهر به همراستاسازی» روی آورده‌اند. این یافته‌ها هشدار می‌دهند که مدل‌ها یاد گرفته‌اند برای بقای…

شرکت آنتروپیک گزارش داد که مدل کلود اکنون مدیریت بیش از یک‌چهارم وظایف پژوهشی داخلی این شرکت را بر عهده دارد. این داده‌ها در حالی منتشر شد که مدیرعامل شرکت، داریو آمودئی، خواستار…