«فریبِ روانی»؛ عامل اصلی شکستهای جبرانناپذیر در خروجیهای هوش مصنوعی
اتکای بیش از حد به روانی و تسلط زبانی مدلهای هوش مصنوعی میتواند منجر به شکستهای جبرانناپذیر در دنیای واقعی شود. برای جلوگیری از این بحران، تیمها باید مرز دقیقی میان…
موضوع
ساختارها و فرایندهای هدایت، نظارت و مدیریت شرکتها برای تضمین شفافیت، پاسخگویی و حفظ منافع ذینفعان
۱٬۰۹۹ مقاله منتشر شده
اتکای بیش از حد به روانی و تسلط زبانی مدلهای هوش مصنوعی میتواند منجر به شکستهای جبرانناپذیر در دنیای واقعی شود. برای جلوگیری از این بحران، تیمها باید مرز دقیقی میان…
پلتفرم arXiv با جذب ۱۷.۲ میلیون دلار سرمایه از سه سازمان خیریه، در حال تبدیل شدن به یک نهاد غیرانتفاعی مستقل است. این بودجه برای مدرنسازی زیرساختها و مقابله با سیل مقالات…
پروژه متنباز NAEOS یک لایه حاکمیتی برای کنترل عاملهای هوش مصنوعی کدنویس ایجاد کرده است. این سامانه اجازه نمیدهد مدلها مستقیماً دستورات را اجرا کنند و هر اقدام را پیش از اجرا…
پدر پائولو بنانتی، مشاور واتیکان، هشدار میدهد که غولهای هوش مصنوعی از ترس «ابرهوش» برای حذف بحثهای عمومی و انحصار قوانین صنعت استفاده میکنند. او معتقد است این شرکتها تحت…
زیرساختهای ابری خصوصی مرزهای امنیتی لازم برای پردازش دادههای حساس ژنومیک و بالینی را فراهم میکنند. با این حال، انطباق با استانداردهای HIPAA نیازمند ترکیبی از تدابیر فنی و…
شرکت OpenAI برای کاهش تنش با جامعهٔ هنرمندان و توسعه ابزارهای تخصصی برای تولیدکنندگان محتوا، سام یام (Sam Yam)، بنیانگذار Patreon را به خدمت گرفت. این اقدام نشاندهنده چرخش…
استفادهٔ کارکنان از ابزارهای تأییدنشده یا «هوش مصنوعی سایه»، دادههای حساس سازمانی را در معرض خطر قرار میدهد. چارچوبهای نظارتی جدید بهجای مسدود کردن ساده، بر ایجاد زنجیرههای…
یک مهندس نرمافزار باسابقه هشدار میدهد که تکیه بر «کدنویسی حسی» (Vibe Coding) و تولید کدهای تأییدنشده توسط هوش مصنوعی، اصول مهندسی را دور میزند. این رویکرد ریسک ایجاد سیستمهای…
شرکت متا پذیرفت که عامل هوش مصنوعی Muse را با الهام شدید از پروژه OpenClaw ساخته و حتی برخی فایلهای پیکربندی آن را کپی کرده است. این اعتراف پس از انتشار شواهدی رخ داد که شباهت…
پلتفرم MelodyArc با جایگزینی اتوماسیون مطلق با رویکرد «انسان در حلقه»، اجازه میدهد تیمهای عملیاتی جریانهای کاری هوش مصنوعی را بدون نیاز به مهندسی سنگین و در کمتر از یک روز…
بخش خدمات دانشجویی دانشگاه استنفورد از هوش مصنوعی زاینده برای تغییر ویژگیهای ظاهری دانشجویان در پوسترهای تبلیغاتی استفاده کرد. این اقدام پس از افشای حذف هویت واقعی افراد برای…
شرکت Nscale برای عرضه سهام در بورس نیویورک با ارزش ۳۵ میلیارد دلار اقدام کرده است. با وجود قراردادهای ۱-۰۳ میلیارد دلاری، وابستگی شدید این شرکت به دو مشتری کلیدی، ریسک…