«بحران هویت»؛ پیامد استفاده از حسابهای کاربری واحد برای عاملها
استفاده از یک حساب کاربری واحد برای چندین عامل هوش مصنوعی، امکان ردیابی اقدامات یا ایزولهسازی رباتهای معیوب را از بین میبرد. این شکاف هویتی ریسک امنیتی شدیدی ایجاد میکند که در…
موضوع
ساختارها و فرایندهای هدایت، نظارت و مدیریت شرکتها برای تضمین شفافیت، پاسخگویی و حفظ منافع ذینفعان
۱٬۰۹۹ مقاله منتشر شده
استفاده از یک حساب کاربری واحد برای چندین عامل هوش مصنوعی، امکان ردیابی اقدامات یا ایزولهسازی رباتهای معیوب را از بین میبرد. این شکاف هویتی ریسک امنیتی شدیدی ایجاد میکند که در…
هوش مصنوعی سازمانی از دستیارهای تکمنظوره به سمت «بافتهای چندعاملی» حرکت میکند که لایههای کنترل و اجرا را از هم جدا میکنند. این ساختار با ایجاد یک لایه هماهنگی مشترک، از تکرار…
اجرای عاملهای هوش مصنوعی در محیط عملیاتی نیازمند یک لایه کنترل برای جلوگیری از هزینههای سرسامآور و افت کیفیت است. آزمایشهای جدید نشان میدهد که استفاده از مانیفستهای توصیفی و…
در حالی که متخصصان تزریق پرامپت را خطر اول میدانند، دادههای تجربی OWASP نشان میدهد این تهدید در واقعیت رتبهی بسیار پایینتری دارد. رشد واقعی در دستهی «عاملیت بیش از حد» و…
دانشگاه MIT صدها دوربین مجهز به هوش مصنوعی را در محیط پرکمپوس نصب کرده است که منجر به اعتراض شدید اساتید به نقض حریم خصوصی شده است. برخی اساتید در اقدامی نمادین، دوربینها را با…
اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، هرگونه استقلال قانونی برای عاملهای هوش مصنوعی را رد کرد و تأکید کرد که مسئولیت نهایی اقدامات این ابزارها بر عهده کاربران انسانی…
عامل جدید متا با نام Muse با وجود رشد سریع، متهم به کپیبرداری از پروژه متنباز OpenClaw شده است. مدیریت متا هرچند انکار میکند کدها را کپی کرده باشد، اما پذیرفته است که معماری…
رابرت اوکالاهان با استعفا از گوگل دیپمایند هشدار داد که تلاش برای دستیابی به هوش مصنوعی فوقهوشمند ذاتاً غیرمسئولانه است. او معتقد است سرعت فعلی توسعه، خطرات اقتصادی و شناختی…
دادگاه تجدیدنظر واشینگتن تصمیم وزارت جنگ آمریکا برای حذف مدلهای Claude از سیستمهای نظامی را قانونی دانست. این حکم تأیید میکند که دولت میتواند تأمینکنندگانی را که از پذیرش…
بنیانگذاران آنتروپیک در تلاشاند با ایجاد یک ساختار سهامی خاص، کنترل اکثریت رایها را پیش از عرضه عمومی سهام (IPO) حفظ کنند. این اقدام باعث میشود تیم اولیه حتی با مالکیت بخش…
مدلهای پرداخت نرمافزاری در سازمانهای بزرگ از قیمتهای ثابتِ کاربر-محور به هزینههای متغیر و پیشبینیناپذیر توکن تغییر میکند. شرکتهایی مثل اوبر و متا با انفجار هزینهها مواجه…
فعالسازی خودکار Agentforce Coworker در سازمانهای سازمانی، دسترسیهای دادهای قدیمی و فراموششده را آشکار کرده است. این ابزار با خلاصهسازی هر آنچه کاربر «اجازه» دیدنش را دارد،…