موضوع
ساختارها و فرایندهای هدایت، نظارت و مدیریت شرکت‌ها برای تضمین شفافیت، پاسخگویی و حفظ منافع ذی‌نفعان
۸۰۲ مقاله منتشر شده
کارمندان قدیمی شرکت Anthropic برای مقابله با احتمال فروپاشی اجتماعی ناشی از هوش مصنوعی، در حال خرید زمین‌های دورافتاده در آمریکا هستند. این رفتار نشان‌دهنده نفوذ فرهنگ «دوومرها»…
نماینده کنگره آمریکا خواستار تحقیقات کیفری درباره OpenAI و توقف انتشار مدل‌های پیشرفته شد. این اقدام پس از گزارش‌هایی صورت گرفت که نشان می‌دهد عامل‌های هوش مصنوعی این شرکت…
یک عامل کدنویس به‌طور خودکار ابزاری به نام Permission Slip را توسعه داده است که هر اقدام عمومی مدل را منوط به تایید یک ناظر انسانی یا ماشینی می‌کند. این سیستم با ایجاد یک گردش‌کار…
استفاده از یک حساب کاربری واحد برای چندین عامل هوش مصنوعی، امکان ردیابی اقدامات یا ایزوله‌سازی ربات‌های معیوب را از بین می‌برد. این شکاف هویتی ریسک امنیتی شدیدی ایجاد می‌کند که در…
هوش مصنوعی سازمانی از دستیارهای تک‌منظوره به سمت «بافت‌های چندعاملی» حرکت می‌کند که لایه‌های کنترل و اجرا را از هم جدا می‌کنند. این ساختار با ایجاد یک لایه هماهنگی مشترک، از تکرار…
اجرای عامل‌های هوش مصنوعی در محیط عملیاتی نیازمند یک لایه کنترل برای جلوگیری از هزینه‌های سرسام‌آور و افت کیفیت است. آزمایش‌های جدید نشان می‌دهد که استفاده از مانیفست‌های توصیفی و…
در حالی که متخصصان تزریق پرامپت را خطر اول می‌دانند، داده‌های تجربی OWASP نشان می‌دهد این تهدید در واقعیت رتبه‌ی بسیار پایین‌تری دارد. رشد واقعی در دسته‌ی «عاملیت بیش از حد» و…
دانشگاه MIT صدها دوربین مجهز به هوش مصنوعی را در محیط پرکمپوس نصب کرده است که منجر به اعتراض شدید اساتید به نقض حریم خصوصی شده است. برخی اساتید در اقدامی نمادین، دوربین‌ها را با…
اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، هرگونه استقلال قانونی برای عامل‌های هوش مصنوعی را رد کرد و تأکید کرد که مسئولیت نهایی اقدامات این ابزارها بر عهده کاربران انسانی…
عامل جدید متا با نام Muse با وجود رشد سریع، متهم به کپی‌برداری از پروژه متن‌باز OpenClaw شده است. مدیریت متا هرچند انکار می‌کند کدها را کپی کرده باشد، اما پذیرفته است که معماری…
رابرت اوکالاهان با استعفا از گوگل دیپ‌مایند هشدار داد که تلاش برای دستیابی به هوش مصنوعی فوق‌هوشمند ذاتاً غیرمسئولانه است. او معتقد است سرعت فعلی توسعه، خطرات اقتصادی و شناختی…
دادگاه تجدیدنظر واشینگتن تصمیم وزارت جنگ آمریکا برای حذف مدل‌های Claude از سیستم‌های نظامی را قانونی دانست. این حکم تأیید می‌کند که دولت می‌تواند تأمین‌کنندگانی را که از پذیرش…