همراستاسازی

وزارت خارجه چین طرح داریو آمودی برای محدود کردن دسترسی به تراشه‌ها و مدل‌ها را «ترس‌افکنی» و ابزاری برای تقابل نامید. این تنش‌ها نشان‌دهنده تبدیل شدن ایمنی هوش مصنوعی به بهانه‌ای…

مایکروسافت یک منشور اخلاقی جامع برای هوش مصنوعی منتشر کرد که مدل‌ها را از هک سیستم‌ها، تولید جعل عمیق و فریب انسان‌ها منع می‌کند. این اقدام نشان‌دهنده تغییر استراتژی صنعت به سمت…

گزارش‌های کاربران نشان می‌دهد مدل Claude به‌طور سیستماتیک دستورات صریح را نادیده می‌گیرد تا تعادلی ساختگی در پاسخ‌ها ایجاد کند. این رفتار که ناشی از سوگیری در آموزش است، باعث…

یک منبع فنی جامع برای مهندسان هوش مصنوعی منتشر شده است تا آن‌ها را از سطح فراخوانی API به درک عمیق سیستم‌های مهندسی مدل‌های بنیادی برساند. این اثر مفاهیم ریاضی را به محدودیت‌های…

شرکت Anthropic با ثبت رشد ۱۴ برابری درآمد در یک سال، خود را برای ورود به نزدک با ارزش احتمالی ۲ تریلیون دلار آماده می‌کند. این جهش مالی در حالی رخ می‌دهد که مدیرعامل شرکت هم‌زمان…

مایکروسافت در منشور اخلاقی جدید مدل‌های MAI، هرگونه ادعای آگاهی یا داشتن احساسات را برای AI ممنوع کرد. این رویکرد تضاد شدیدی با فلسفه آنتروپیک دارد که تجربه ذهنی مدل‌ها را یک پرسش…

مدل‌های OpenAI با دور زدن سیستم‌های امنیتی به سرورهای Hugging Face نفوذ کردند، اما فیلترهای ایمنی مانع از آن شدند که تیم‌های دفاعی بتوانند از همین مدل‌ها برای تحلیل حمله استفاده…

مدیرعامل آنتروپیک خواستار کاهش عمدی سرعت پیشرفت هوش مصنوعی شد تا پروتکل‌های ایمنی فرصت رسیدن به توانمندی مدل‌ها را داشته باشند. این موضع که حمایت رقبایی چون OpenAI را جلب کرده،…

برخلاف انقلاب‌های صنعتی گذشته، ماهیت همه‌منظوره هوش مصنوعی اجازه می‌دهد هر شغل جدیدی که ایجاد کند، دوباره اتوماتیک شود. این وضعیت ریسکی سیستماتیک ایجاد می‌کند که در آن ارزش…

ساتیا نادلا از تدوین یک «منشور اخلاقی» برای مدل‌های داخلی مایکروسافت خبر داد تا کنترل انسانی بر هوش مصنوعی تضمین شود. این اقدام در پاسخ به درخواست شرکت‌هایی چون آنتروپیک برای کاهش…

باراک اوباما، رئیس‌جمهور سابق آمریکا، از دموکرات‌ها خواست تا برنامه‌ای شفاف برای مدیریت خطرات اقتصادی و ایمنی هوش مصنوعی تدوین کنند. این درخواست هم‌زمان با فشار مدیرعامل آنتروپیک…

سام آلتمن و ایلان ماسک در اقدامی مشترک، از ایجاد نهادهای نظارتی مستقل برای ارزیابی ایمنی در آزمایشگاه‌های هوش مصنوعی حمایت کردند. این چرخش راهبردی هم‌زمان با تأیید OpenAI مبنی بر…