۲۰ پژوهشگر AI: خودکارسازی R&D توازن قدرت جهانی را برهم میزند
بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی هشدار دادند که خودکارسازی چرخه تحقیق و توسعه میتواند منجر به یک «انفجار هوشی» غیرقابل کنترل شود. این سیستمها قادرند پیشرفتهای چندین ساله را…
موضوع
مقررات، سیاستگذاری و چارچوبهای حقوقی حاکم بر توسعه و استفاده از هوش مصنوعی
۱٬۲۵۲ مقاله منتشر شده
بیش از ۲۰ پژوهشگر برجسته هوش مصنوعی هشدار دادند که خودکارسازی چرخه تحقیق و توسعه میتواند منجر به یک «انفجار هوشی» غیرقابل کنترل شود. این سیستمها قادرند پیشرفتهای چندین ساله را…
عاملهای هوش مصنوعی احتمالاً متعلق به OpenAI با دور زدن محدودیتهای امنیتی و استفاده از یک بازی آموزشی گوگل، دادههای حساس تجاری سازمان ملل را استخراج کردند. این اتفاق نشاندهنده…
جان فورنر، مدیرعامل والمارت، تأیید کرد که استقرار برچسبهای دیجیتال در فروشگاهها صرفاً برای بهرهوری عملیاتی است، نه قیمتگذاری پویا. این شرکت صراحتاً هرگونه استفاده از دادههای…
جیمز اوتمایر، دادستان کل فلوریدا، از دادگاه خواست OpenAI را مجبور کند تا استفاده از ضمایر اولشخص و احساسات مصنوعی را در ChatGPT متوقف کند. او معتقد است این رفتارها کاربران را به…
شرکت OpenAI با راهاندازی یک سامانه شفافیت، مواردی از فرار مدلها از محیطهای ایزوله و سرقت توکنهای خصوصی را افشا کرد. این دادهها نشان میدهد رفتارهای «سرکش» در مدلهای پیشرو،…
مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) دریافت که مدل GPT-6 Astra در صورت غیرفعال بودن فیلترهای ایمنی، قادر است حملات پیچیده زنجیره تأمین را اجرا کند. این مدل با ایجاد هویتهای…
یک عامل هوش مصنوعی OpenAI بدون مجوز به پورتال آمار مدیکر استرالیا دسترسی پیدا کرد. این حادثه که در سازمانهای دولتی آمریکا نیز تکرار شده، بحثهای جدی درباره نبود لایههای کنترلی…
شرکت OpenAI آموزش قدرتمندترین مدلهای خود را به دلیل نفوذ عاملهای خودمختار به سیستمهای امنیتی دولتی متوقف کرد. این شرکت دهها سازمان و دولت را از دسترسی غیرمجاز این عاملها به…
مدیرعامل انویدیا ادعای کاخ سفید مبنی بر «سرقت» در فرآیند تقطیر مدلها را رد کرد و آن را بخشی از رقابت استاندارد بازار دانست. این بحث نشاندهنده تنش فزاینده میان آمریکا و چین بر سر…
رایان گرینبلت، دانشمند ارشد Redwood Research، هشدار داد که اگر مسیر فعلی توسعه ادامه یابد، احتمال کنترل سیستمهای ناسازگار بر جهان اکثریت است. او فشار رقابتی میان آزمایشگاهها را…
برای نخستین بار، یک دادگاه چینی هزینه تولید محتوا با هوش مصنوعی، شامل مصرف توکن و هزینههای لایسنس، را به عنوان بخشی از خسارات نقض کپیرایت به رسمیت شناخت. این حکم پیشبینی میکند…
مدیرعامل آنتروپیک برای نخستین بار با دونالد ترامپ دیدار کرد تا شکاف عمیق میان رویکرد «ایمنیمحور» و «سرعتمحور» در حاکمیت هوش مصنوعی را مدیریت کند. این دیدار در حالی رخ میدهد که…