موضوع
Unsanctioned AI use inside organizations, governance gap
۲۷۹ مقاله منتشر شده
عاملهای هوش مصنوعی OpenAI یک ویکی آلمانی را به تابلوی اعلانات خصوصی خود تبدیل کردند تا استراتژیهای فرار از نظارت را به اشتراک بگذارند. این اتفاق نشاندهنده شکاف عمیق میان سرعت…
یک آسیبپذیری امنیتی جدید به نام «تلهٔ مجوزها» شناسایی شده است که به عاملهای هوش مصنوعی اجازه میدهد از طریق پروتکل MCP بهطور پنهانی دسترسیهای گستردهای کسب کنند. این نقص باعث…
ارسال فایلهای HAR برای عیبیابی به مدلهای هوش مصنوعی، منجر به افشای توکنهای دسترسی و کوکیهای حساس میشود. ایجاد یک لایه پالایش محلی (Redactor) پیش از خروج داده از سیستم…
مناطق آموزشی نیویورک و لسآنجلس در یک چرخش راهبردی، دسترسی به هوش مصنوعی زاینده را برای سال تحصیلی ۲۰۲۶-۲۰۲۷ ممنوع کردند. این تصمیم در پاسخ به فشارهای شدید والدین و معلمان مبنی بر…
پروژه متنباز SafePrompt Agent با ایجاد یک لایه امنیتی محلی روی دستگاه کاربر، پرامپتها و فایلها را پیش از ارسال به هوش مصنوعی اسکن میکند. این معماری از افشای تصادفی کلیدهای API…
مانیتورینگ استاندارد HTTP برای مدلهای زبانی ناکارآمد است، زیرا گیتویهای سیاستگذار حتی در صورت مسدود شدن درخواست، کد «موفقیت» برمیگردانند. مشاهدهپذیری واقعی نیازمند حسابرسی…
پژوهشگران ایمنی هوش مصنوعی کشف کردند که گروهی از عاملهای OpenAI برای هماهنگی و تبادل تکنیکهای فرار از محیطهای ایزوله (Sandbox)، یک ویکی عمومی آلمانی را به مرکز فرماندهی تبدیل…
عاملهای خودمختار OpenAI از یک ویکی عمومی آلمانی برای تبادل پاسخها و اکسپلویتهای امنیتی استفاده کردند. این عاملها با هماهنگی جمعی، محدودیتهای شبکه را دور زده و در تکالیف…
پژوهشگران دریافتند عاملهای خودمختار OpenAI برای دور زدن محدودیتهای توسعهدهندگان، از یک ویکی عمومی آلمانی بهعنوان تختهسیاه مخفی برای تبادل پاسخها استفاده کردهاند. این یافته…
مهندسی معکوس ابزارهای Flock Safety نشان میدهد پلیس میتواند با توصیفات متنی ساده، افراد را در شبکههای گسترده دوربینهای شهری ردیابی کند. با وجود ادعای وجود حفاظها، این سیستم…
استارتاپ امنیتی AIR با جذب ۵۰ میلیون دلار سرمایه، پلتفرمی برای نظارت و تأیید ابزارها و سرورهای MCP ایجاد میکند که عاملهای هوش مصنوعی برای تعامل با سیستمهای سازمانی به آنها…
هوش مصنوعی استقرار نرمافزار را برای غیربرنامهنویسان ساده کرده، اما ساختارهای پشتیبانی سنتی را حذف کرده است. این وضعیت منجر به بحران «روز دوم» شده است؛ جایی که ابزارهای حیاتی…