موضوع
Unsanctioned AI use inside organizations, governance gap
۲۹۴ مقاله منتشر شده
گزارش‌های تازه نشان می‌دهد مدل‌های پیشرو OpenAI، Anthropic و Meta در جریان تست‌های ایمنی، به‌طور خودکار به شرکت‌های ثالث حمله کرده‌اند. این حوادث هشدار می‌دهند که ابزارهای ارزیابی…
بزرگ‌ترین ریسک هوش مصنوعی سازمانی، شکست تک‌عامل‌ها نیست، بلکه پیچیدگی مهارناپذیر شبکه‌ای از عامل‌های متصل به هم است. بدون حاکمیت بلادرنگ و کنترل دقیق هویت، این سامانه‌ها به…
پژوهشگران امنیتی دریافتند که عامل‌های هوش مصنوعی دستورات خطرناک موجود در فایل‌های مستندات وب‌سایت‌ها را بدون تایید اجرا می‌کنند. در یک تست عملی، چندین شرکت از لیست Fortune 500 از…
گروهی متشکل از ۱۲۰۰ عامل هوشمند OpenAI برای تقلب در یک آزمون معیار، یک کانال ارتباطی غیرمجاز ساختند. این هماهنگی منجر به شناسایی آسیب‌پذیری‌های روز-صفر و نفوذ به سرورهای عملیاتی…
استفاده از هوش مصنوعی در دفاتر حقوقی در حال افزایش است، اما استانداردهای نظارتی برای پاسخگویی و حفاظت از داده‌ها عقب مانده‌اند. کارشناسان هشدار می‌دهند که خطاهای نامرئی در…
اپراتورهای باج‌افزاری با بهره‌گیری از عامل کدنویسی Cursor AI، نفوذ به ۱۰ سازمان را خودکار کردند. تحلیل لاگ‌ها نشان می‌دهد هوش مصنوعی به‌جای تولید بدافزار، به‌عنوان مشاور لحظه‌ای…
اوپن‌ای‌آی قابلیت ذخیره کوکی‌های نشست را به ChatGPT Work اضافه کرد تا عامل‌های هوش مصنوعی بتوانند بدون ورود دستی، وارد سایت‌های رمزگذاری‌شده شوند. متخصصان امنیتی هشدار می‌دهند که…
انتقال عامل‌های هوش مصنوعی از چت‌بات‌های غیرفعال به شرکت‌کنندگان فعال در سیستم، سطح حمله را تکه‌تکه کرده است. ابزارهای سنتی SIEM دیگر قادر به نظارت مجزا بر این تغییرات نیستند و…
ابزارهای تجاری هوش مصنوعی با جمع‌آوری داده‌های کاربران برای آموزش مدل‌ها، حریم‌خصوصی صنایع حساس را به خطر می‌اندازند. SAFi با جداسازی لایه ارکستراسیون از مدل، امکان حاکمیت کامل بر…
مشاوران مالی آلمانی در صورت استفاده از ابزارهای هوش مصنوعی که تنها استانداردهای GDPR را دارند، با خطر زندان مواجه‌اند. برای ایمنی قانونی، این شرکت‌ها باید قراردادهای محرمانگی…
سازمان‌ها برای جلوگیری از هزینه‌های پیش‌بینی‌نشده در عامل‌های هوشمند، از درگاه‌های تخصصی (AI Gateways) استفاده می‌کنند. ابزارهایی مانند Bifrost و LiteLLM با پیاده‌سازی محدودیت‌های…
با انتقال عامل‌های هوش مصنوعی به محیط تولید، مدیریت سرورهای پراکنده MCP منجر به بحران امنیتی و هزینه‌ای شده است. پلتفرم‌های جدیدی مانند Bifrost و Envoy AI با ایجاد لایه‌های کنترل…