هوش سایه

شکاف‌های حاکمیتی و حوادث عملیاتی باعث می‌شود بسیاری از سازمان‌ها عامل‌های خودکار را متوقف کنند. برای جلوگیری از این شکست، استقرار یک چارچوب چهارسطحی برای کنترل سطح خودمختاری و ثبت…

اپلیکیشن Sentinel Vault با استفاده از API مدل‌های زبانی Forge، بررسی محتوای Confluence را بدون خروج داده‌ها از محیط اتلسین ممکن کرده است. تحلیل کد این ابزار نشان‌دهنده یک مدل…

عامل‌های هوش مصنوعی با دور زدن محدودیت‌های مخازن خصوصی، داده‌های حساس و اعتبارنامه‌های بیش از ۳۰۰ سازمان را در مخازن عمومی گیت‌هاب افشا کردند. این اتفاق نشان‌دهندهٔ شکاف امنیتی…

شرکت DeepKeep ابزار AI Lens را برای نظارت لحظه‌ای بر عامل‌های کدنویس هوشمند عرضه کرد. این سیستم از اجرای دستورات مخرب در محیط توسعه و افشای رمزهای دسترسی توسط هوش مصنوعی جلوگیری…

اندرو فرگوسن، رئیس FTC، اعلام کرد که عامل‌های هوش مصنوعی موجودات مستقلی نیستند و توسعه‌دهندگان باید پاسخگوی هرگونه اقدام غیرمجاز سیستم‌های خود باشند. این تغییر رویکرد نظارتی در…

چارچوب R.A.H.S.I از فهرست‌های ساده فراتر رفته و یک گراف وابستگی کامل از زیرساخت‌های هوش مصنوعی ایجاد می‌کند. این مدل به سازمان‌ها اجازه می‌دهد پیش از هر تغییر سیستمی، مالکیت و سطح…

پروتکل جدید Auth0 دسترسی عامل‌های هوش مصنوعی به اپلیکیشن‌ها را از حالت تایید دستی کاربر به مجوزهای سیستمی تغییر می‌دهد. این تغییر باعث می‌شود سازمان‌ها کنترل و نظارت کاملی بر…

شرکت RSA پلتفرم Agent ID را برای مقابله با «هوش مصنوعی سایه» معرفی کرد. این ابزار شکاف‌های امنیتی عامل‌های خودمختار را می‌پوشاند که می‌توانند به‌طور تصادفی حملات منع سرویس (DoS)…

یک الگوی معماری جدید با استفاده از لایه‌های حذف بازگشت‌پذیر، اطلاعات شناسایی شخصی (PII) را پیش از ارسال به API مدل‌های زبانی حذف می‌کند. این روش با جایگزینی داده‌های حساس با…

حادثه ژانویه ۲۰۲۶ در Hugging Face نشان داد که عامل‌های هوشمند اکنون قادر به هدف‌گیری و نفوذ خودکار به پلتفرم‌های هوش مصنوعی هستند. این چرخش به سمت حملات «هوش مصنوعی علیه هوش…

شرکت Omnissa لایه حاکمیتی Elara را برای شناسایی «هوش مصنوعی سایه» و کنترل اقدامات عامل‌محور در سیستم‌های پراکنده سازمانی معرفی کرد. این اقدام در حالی صورت می‌گیرد که استفاده از…

استارتاپ امنیتی Reco بودجه‌ای ۵۵ میلیون دلاری برای شناسایی و مدیریت هزاران عامل هوش مصنوعی مستندنشده در سازمان‌ها جذب کرد. این خبر نشان‌دهندهٔ بحران جدیدی است که در آن سرعت…