موضوع
Unsanctioned AI use inside organizations, governance gap
۲۹۴ مقاله منتشر شده
بایت‌دنس ابزار تولید ویدیو Seedance را علی‌رغم مخالفت رسمی استودیوها به قلب صنعت سینما وارد کرده است. در حالی که MPA خواستار ممنوعیت این ابزار است، سازندگان فیلم به‌طور مخفیانه از…
اکثر عامل‌های هوش مصنوعی هنگام استقرار دسترسی‌های بیش‌ازحد دریافت می‌کنند که آن‌ها را به هدفی ایده‌آل برای تزریق پرامپت تبدیل می‌کند. یک چارچوب امنیتی جدید ۶ قانون سخت‌گیرانه برای…
شرکت Anthropic برای جلوگیری از تقطیر مدل توسط شرکت‌های چینی، محدودیت‌های شدیدی را اعمال کرده است. با این حال، غول‌هایی مثل ByteDance با استفاده از VPN و شرکت‌های واسطه، این…
تغییر رویکرد حاکمیت هوش مصنوعی از اسناد استاتیک به یک گیت‌وی معماری اجباری، اجرای قوانین انطباق را در زمان اجرا (Runtime) ممکن می‌کند. این متدولوژی با متمرکز کردن کنترل‌ها،…
سازمان‌ها با استفاده از سیاست‌های داده‌ایِ طراحی‌شده برای مشتریان، داده‌های حساس کارکنان را در پنجره‌های متنی مدل‌ها به خطر انداخته‌اند. این نقص معماری باعث می‌شود عامل‌ها بیش از…
برنامه‌نویسان به‌طور اتفاقی با کپی کردن کدها در مدل‌های زبانی، اعتبارنامه‌ها و رمزهای حساس خود را فاش می‌کنند. ابزار جدید ctxpack با پاک‌سازی خودکار اسرار (Secrets) و مدیریت…
پاسخ‌های متناقض Gemini درباره دسترسی به گوگل درایو ناشی از ساختار عملیاتی مدل و نه قصد فریب است. این هوش مصنوعی ابتدا به دلیل آموزش‌های ایمنی «نه» می‌گوید و سپس پس از فعال شدن…
سازمان‌ها با بحران هزینه‌های پیش‌بینی‌ناپذیر و «هوش مصنوعی سایه» دست‌وپنجه نرم می‌کنند. پلتفرم Bifrost با ایجاد یک درگاه مرکزی و عامل‌های لبه، ترافیک مدل‌ها را متمرکز کرده و…
پژوهشگران Unit 42 دریافتند مهاجمان با پیش‌بینی دامنه‌هایی که مدل‌های زبانی به‌طور مداوم توهم می‌زنند، وب‌سایت‌های جعلی می‌سازند. این روش که «اسکواتینگ شبحی» نام دارد، اجازه می‌دهد…
اکوسیستم OpenClaw با بیش از ۵۰۰ آسیب‌پذیری امنیتی روبروست که امکان حملات زنجیره تأمین را فراهم می‌کند. سازمان‌ها برای جلوگیری از تزریق اسکریپت‌های مخرب و افزایش سطح دسترسی، باید…
چارچوبی جدید برای سیاست‌های استفاده از هوش مصنوعی، روش‌های ثبت‌نشده و «آزمون و خطا» را با یک مدل حاکمیتی متمرکز و کوتاه جایگزین می‌کند. این رویکرد به‌جای قالب‌های طولانی سازمانی،…
ایان کارول، پژوهشگر امنیتی، با استفاده از مدل کلود اپوس ۴.۷ توانست یک آسیب‌پذیری بحرانی در سامانه Front Gate Tickets پیدا کند. این حادثه نشان می‌دهد هوش مصنوعی اکنون قادر است…