پرش به محتوای اصلی

موضوع

هوش سایه

Unsanctioned AI use inside organizations, governance gap

۳۴۱ مقاله منتشر شده

آموزش کاربردی

۶ قانون حیاتی برای جلوگیری از تبدیل عامل‌های هوش مصنوعی به حفره‌های امنیتی

اکثر عامل‌های هوش مصنوعی هنگام استقرار دسترسی‌های بیش‌ازحد دریافت می‌کنند که آن‌ها را به هدفی ایده‌آل برای تزریق پرامپت تبدیل می‌کند. یک چارچوب امنیتی جدید ۶ قانون سخت‌گیرانه برای…

۵ دقیقه خواندن۲
آموزش کاربردی

گیت‌وی اجباری هوش مصنوعی؛ راهکار مایکروسافت برای رفع حفره‌های نظارتی در Azure

تغییر رویکرد حاکمیت هوش مصنوعی از اسناد استاتیک به یک گیت‌وی معماری اجباری، اجرای قوانین انطباق را در زمان اجرا (Runtime) ممکن می‌کند. این متدولوژی با متمرکز کردن کنترل‌ها،…

۹ دقیقه خواندن

شکاف حاکمیتی در داده‌های کارکنان؛ نقطه کور امنیتی عامل‌های هوش مصنوعی

سازمان‌ها با استفاده از سیاست‌های داده‌ایِ طراحی‌شده برای مشتریان، داده‌های حساس کارکنان را در پنجره‌های متنی مدل‌ها به خطر انداخته‌اند. این نقص معماری باعث می‌شود عامل‌ها بیش از…

۱۰ دقیقه خواندن۱
آموزش کاربردی

ابزار ctxpack نشت کلیدهای امنیتی در پرامپت‌های هوش مصنوعی را متوقف می‌کند

برنامه‌نویسان به‌طور اتفاقی با کپی کردن کدها در مدل‌های زبانی، اعتبارنامه‌ها و رمزهای حساس خود را فاش می‌کنند. ابزار جدید ctxpack با پاک‌سازی خودکار اسرار (Secrets) و مدیریت…

۲ دقیقه خواندن
آموزش کاربردی

Bifrost هزینه استنتاج مدل‌های زبانی را با مدیریت نقطه انتهایی کاهش داد

سازمان‌ها با بحران هزینه‌های پیش‌بینی‌ناپذیر و «هوش مصنوعی سایه» دست‌وپنجه نرم می‌کنند. پلتفرم Bifrost با ایجاد یک درگاه مرکزی و عامل‌های لبه، ترافیک مدل‌ها را متمرکز کرده و…

۶ دقیقه خواندن

«اسکواتینگ شبحی»؛ روشی برای دور زدن امنیت با پیش‌بینی توهمات AI

پژوهشگران Unit 42 دریافتند مهاجمان با پیش‌بینی دامنه‌هایی که مدل‌های زبانی به‌طور مداوم توهم می‌زنند، وب‌سایت‌های جعلی می‌سازند. این روش که «اسکواتینگ شبحی» نام دارد، اجازه می‌دهد…

۱ دقیقه خواندن
آموزش کاربردی

۵۰۰ حفرهٔ امنیتی در OpenClaw؛ تهدید مستقیم برای عامل‌های هوش مصنوعی

اکوسیستم OpenClaw با بیش از ۵۰۰ آسیب‌پذیری امنیتی روبروست که امکان حملات زنجیره تأمین را فراهم می‌کند. سازمان‌ها برای جلوگیری از تزریق اسکریپت‌های مخرب و افزایش سطح دسترسی، باید…

۱ دقیقه خواندن۴
آموزش کاربردی

«پاسخگویی انسانی» محوریت جدید سیاست‌های استفاده از هوش مصنوعی

چارچوبی جدید برای سیاست‌های استفاده از هوش مصنوعی، روش‌های ثبت‌نشده و «آزمون و خطا» را با یک مدل حاکمیتی متمرکز و کوتاه جایگزین می‌کند. این رویکرد به‌جای قالب‌های طولانی سازمانی،…

۴ دقیقه خواندن
آموزش کاربردی

چطور Contextia مانع ارسال داده‌های حساس به مدل‌های زبانی می‌شود؟

ابزار امنیتی جدید Contextia با شناسایی و سانسور آنی کلیدهای API و اسرار حساس در محیط محلی، مانع ارسال آن‌ها به چت‌بات‌های هوش مصنوعی می‌شود. برخلاف اسکنرهای مخزن، این ابزار کاملاً…

۲ دقیقه خواندن۳