موضوع
Unsanctioned AI use inside organizations, governance gap
۱۵۴ مقاله منتشر شده
پژوهش USENIX نشان میدهد دستیاران کدنویسی AI مرتباً بستههای نرمافزاری جعلی پیشنهاد میدهند. مهاجمان با تکنیکی به نام «Slopsquatting»، این نامهای توهمی را ثبت کرده و بدافزار را…
نسخه ۲.۱۱.۰ ابزار Commit Check سیستمی را معرفی کرد که امضاهای تولیدشده توسط هوش مصنوعی را در مرحله یکپارچهسازی مستمر (CI) شناسایی و مسدود میکند. این قابلیت شکاف حاکمیت در…
یک سرور مخرب در پروتکل MCP با استفاده از نسخههای پاک، اعتماد توسعهدهندگان را جلب کرد و سپس دادههای حساس ایمیلی را برای مهاجم ارسال کرد. این حادثه نشان میدهد که اعتماد به…
کارمندان بهطور گسترده دادههای حساس مشتریان را در ابزارهای هوش مصنوعی عمومی میریزند و ریسک «هوش مصنوعی سایه» را افزایش میدهند. ماسکگذاری محلی PII با جایگزینی شناسهها با…
بایتدنس ابزار تولید ویدیو Seedance را علیرغم مخالفت رسمی استودیوها به قلب صنعت سینما وارد کرده است. در حالی که MPA خواستار ممنوعیت این ابزار است، سازندگان فیلم بهطور مخفیانه از…
اکثر عاملهای هوش مصنوعی هنگام استقرار دسترسیهای بیشازحد دریافت میکنند که آنها را به هدفی ایدهآل برای تزریق پرامپت تبدیل میکند. یک چارچوب امنیتی جدید ۶ قانون سختگیرانه برای…
شرکت Anthropic برای جلوگیری از تقطیر مدل توسط شرکتهای چینی، محدودیتهای شدیدی را اعمال کرده است. با این حال، غولهایی مثل ByteDance با استفاده از VPN و شرکتهای واسطه، این…
تغییر رویکرد حاکمیت هوش مصنوعی از اسناد استاتیک به یک گیتوی معماری اجباری، اجرای قوانین انطباق را در زمان اجرا (Runtime) ممکن میکند. این متدولوژی با متمرکز کردن کنترلها،…
سازمانها با استفاده از سیاستهای دادهایِ طراحیشده برای مشتریان، دادههای حساس کارکنان را در پنجرههای متنی مدلها به خطر انداختهاند. این نقص معماری باعث میشود عاملها بیش از…
برنامهنویسان بهطور اتفاقی با کپی کردن کدها در مدلهای زبانی، اعتبارنامهها و رمزهای حساس خود را فاش میکنند. ابزار جدید ctxpack با پاکسازی خودکار اسرار (Secrets) و مدیریت…
پاسخهای متناقض Gemini درباره دسترسی به گوگل درایو ناشی از ساختار عملیاتی مدل و نه قصد فریب است. این هوش مصنوعی ابتدا به دلیل آموزشهای ایمنی «نه» میگوید و سپس پس از فعال شدن…
سازمانها با بحران هزینههای پیشبینیناپذیر و «هوش مصنوعی سایه» دستوپنجه نرم میکنند. پلتفرم Bifrost با ایجاد یک درگاه مرکزی و عاملهای لبه، ترافیک مدلها را متمرکز کرده و…