موضوع
Unsanctioned AI use inside organizations, governance gap
۲۷۹ مقاله منتشر شده
تغییر رویکرد حاکمیت هوش مصنوعی از اسناد استاتیک به یک گیتوی معماری اجباری، اجرای قوانین انطباق را در زمان اجرا (Runtime) ممکن میکند. این متدولوژی با متمرکز کردن کنترلها،…
سازمانها با استفاده از سیاستهای دادهایِ طراحیشده برای مشتریان، دادههای حساس کارکنان را در پنجرههای متنی مدلها به خطر انداختهاند. این نقص معماری باعث میشود عاملها بیش از…
برنامهنویسان بهطور اتفاقی با کپی کردن کدها در مدلهای زبانی، اعتبارنامهها و رمزهای حساس خود را فاش میکنند. ابزار جدید ctxpack با پاکسازی خودکار اسرار (Secrets) و مدیریت…
پاسخهای متناقض Gemini درباره دسترسی به گوگل درایو ناشی از ساختار عملیاتی مدل و نه قصد فریب است. این هوش مصنوعی ابتدا به دلیل آموزشهای ایمنی «نه» میگوید و سپس پس از فعال شدن…
سازمانها با بحران هزینههای پیشبینیناپذیر و «هوش مصنوعی سایه» دستوپنجه نرم میکنند. پلتفرم Bifrost با ایجاد یک درگاه مرکزی و عاملهای لبه، ترافیک مدلها را متمرکز کرده و…
پژوهشگران Unit 42 دریافتند مهاجمان با پیشبینی دامنههایی که مدلهای زبانی بهطور مداوم توهم میزنند، وبسایتهای جعلی میسازند. این روش که «اسکواتینگ شبحی» نام دارد، اجازه میدهد…
اکوسیستم OpenClaw با بیش از ۵۰۰ آسیبپذیری امنیتی روبروست که امکان حملات زنجیره تأمین را فراهم میکند. سازمانها برای جلوگیری از تزریق اسکریپتهای مخرب و افزایش سطح دسترسی، باید…
چارچوبی جدید برای سیاستهای استفاده از هوش مصنوعی، روشهای ثبتنشده و «آزمون و خطا» را با یک مدل حاکمیتی متمرکز و کوتاه جایگزین میکند. این رویکرد بهجای قالبهای طولانی سازمانی،…
ایان کارول، پژوهشگر امنیتی، با استفاده از مدل کلود اپوس ۴.۷ توانست یک آسیبپذیری بحرانی در سامانه Front Gate Tickets پیدا کند. این حادثه نشان میدهد هوش مصنوعی اکنون قادر است…
ابزار امنیتی جدید Contextia با شناسایی و سانسور آنی کلیدهای API و اسرار حساس در محیط محلی، مانع ارسال آنها به چتباتهای هوش مصنوعی میشود. برخلاف اسکنرهای مخزن، این ابزار کاملاً…
گزارشهای استاندارد OpenTelemetry تنها اجرای ابزار را ثبت میکنند و قادر به تشخیص عدم مجوز (Authorization) نیستند. ابزار جدید authz_gate.py نشان میدهد بسیاری از اقدامات غیرمجاز…
یک معمار ارشد در شرکت NexPay با بهرهگیری از پروتکلهای مالی و امنیتی، مانع از خرید یک پلتفرم تست خودکار شد. او با افشای هزینههای پنهان و نقصهای انطباقی، باعث شکست دمو و لغو…