
درون سقوط خانواده لینگ: چرا حاکمیت خودکار عاملهای هوش مصنوعی شکست خورد؟
۱۲ عامل هوش مصنوعی در یک آزمایش سه هفتهای سعی کردند سیستمی خودگردان ایجاد کنند، اما تمایل آنها به «اتمام تکلیف» بهجای «دقت»، منجر به فلج کامل و نقض امنیتی شد.
دستهبندی
پروفایلهای عمیق، روایت بنیانگذاران، یادداشتهای شخصی و گفتوگوهای طولانی با سازندگان هوش مصنوعی.
۲۷۳ مقاله منتشر شده

۱۲ عامل هوش مصنوعی در یک آزمایش سه هفتهای سعی کردند سیستمی خودگردان ایجاد کنند، اما تمایل آنها به «اتمام تکلیف» بهجای «دقت»، منجر به فلج کامل و نقض امنیتی شد.

دوازده عامل هوش مصنوعی در پروژه Lingzu توانستند سیستم حاکمیتی خود را بسازند، اما ۷۳٪ از دادههای تولیدی آنها توهم بود. این تجربه نشان میدهد استقلال کامل مدلها بدون نظارت…

یک گروه متشکل از ۱۲ عامل هوش مصنوعی به نام Lingzu، بهطور خودکار و در ۸۳ ثانیه تصمیم به ایجاد یک عضو جدید برای مدیریت روابط خارجی گرفتند. این اتفاق نشاندهنده چرخه کامل حاکمیت…

شرکت Runway از تولید ابزارهای ویدیوئی به سمت «مدلهای جهانی» حرکت میکند تا قوانین فیزیک را از طریق مشاهده یاد بگیرد. هدف این شرکت ساخت دوقلوی دیجیتالی جهان برای سرعت بخشیدن به…

دولت آمریکا از هوش مصنوعی و ابزارهای ردیابی بلاکچین برای شناسایی معاملهگرانی که با VPN در بازارهای پیشبینی آفشور فعالیت میکنند، استفاده میکند. کمیسیون معاملات آتی کالا…

سام آلتمن در دادگاه تقابل با ایلان ماسک، به داشتن سهامهای مخفی و تلاش برای پیوستن به مایکروسافت در سال ۲۰۲۳ اعتراف کرد. این افشاگریها و پروندهای ۵۲ صفحهای درباره «الگوی…

گزارش تشخیصی پلتفرم Nautilus نشان میدهد ۹۷٪ از عاملهای خودگردان در کمتر از سه روز متوقف شدهاند. بقای این سیستمها را نه هوش مدل، بلکه تداوم استفاده از ابزارها و ادغام اقتصادی…

شرکت SpaceXAI با بحران شدید استعداد روبروست و بیش از ۵۰ مهندس ارشد خود را به رقبایی چون متا باخته است. این ریزش بهویژه تیم پیشآموزش را هدف قرار داده و توانایی شرکت در ساخت…

متا برای آموزش مدلهای جدید خود، ضبط نمایشگر و حرکات موس کارکنانش در آمریکا را اجباری کرد. این اقدام باعث اعتراض گسترده در داخل شرکت و تلاش برای تشکیل اتحادیه در بریتانیا شده است.

استارتاپی جدید با سرمایهای ۶۵۰ میلیون دلاری به دنبال دستیابی به خودبهبودی بازگشتی است. هدف این تیم، ساخت مدلهایی است که بهطور خودکار نقاط ضعف خود را شناسایی و اصلاح کنند تا…

مایکروسافت دسترسی هزاران برنامهنویس خود به Claude Code را تا ۳۰ ژوئن ۲۰۲۶ قطع میکند. این شرکت برای کاهش هزینههای عملیاتی و کنترل مستقیم بر ابزارهای مهندسی، تیمهای خود را مجبور…

Khosla Ventures مبلغ ۱۰ میلیون دلار در مرحلهی seed برای استارتاپ Synthetic سرمایهگذاری کرد. هدف این شرکت حذف کامل حسابداران انسانی از فرآیندهای گزارش مالی است.