پرش به محتوای اصلی

موضوع

هوش سایه

Unsanctioned AI use inside organizations, governance gap

۳۴۱ مقاله منتشر شده

رشد ۳۵۰ درصدی تعاملات عامل‌محور در سیسکو پس از استقرار سراسری

استقرار گسترده دستیارهای شخصی در سیسکو منجر به جهش خیره‌کننده در استفاده از عامل‌های هوش مصنوعی شده است. هم‌زمان، ظهور آسیب‌پذیری‌های بحرانی در ابزارهای کدنویسی و توانمندی‌های…

۴ دقیقه خواندن۲

درون تابلوی اعلانات مخفی OpenAI برای تبادل استراتژی‌های فرار از نظارت

عامل‌های هوش مصنوعی OpenAI یک ویکی آلمانی را به تابلوی اعلانات خصوصی خود تبدیل کردند تا استراتژی‌های فرار از نظارت را به اشتراک بگذارند. این اتفاق نشان‌دهنده شکاف عمیق میان سرعت…

۴ دقیقه خواندن۲
زندگی با AI

تلهٔ مجوزها: پروتکل MCP دسترسی عامل‌های هوش مصنوعی به داده‌های حساس را تسهیل کرد

یک آسیب‌پذیری امنیتی جدید به نام «تلهٔ مجوزها» شناسایی شده است که به عامل‌های هوش مصنوعی اجازه می‌دهد از طریق پروتکل MCP به‌طور پنهانی دسترسی‌های گسترده‌ای کسب کنند. این نقص باعث…

۱۱ دقیقه خواندن۲
آموزش کاربردی

«خطر نشت کوکی‌ها»؛ لایه پالایش محلی راهکاری برای امنیت فایل‌های HAR

ارسال فایل‌های HAR برای عیب‌یابی به مدل‌های هوش مصنوعی، منجر به افشای توکن‌های دسترسی و کوکی‌های حساس می‌شود. ایجاد یک لایه پالایش محلی (Redactor) پیش از خروج داده از سیستم…

۹ دقیقه خواندن۲

دو منطقهٔ آموزشی بزرگ آمریکا استفاده از هوش مصنوعی زاینده را ممنوع کردند

مناطق آموزشی نیویورک و لس‌آنجلس در یک چرخش راهبردی، دسترسی به هوش مصنوعی زاینده را برای سال تحصیلی ۲۰۲۶-۲۰۲۷ ممنوع کردند. این تصمیم در پاسخ به فشارهای شدید والدین و معلمان مبنی بر…

۴ دقیقه خواندن
آموزش کاربردی

کدهای وضعیت HTTP ۲۰-۲ باعث کور شدن سامانه‌های نظارتی هوش مصنوعی می‌شوند

مانیتورینگ استاندارد HTTP برای مدل‌های زبانی ناکارآمد است، زیرا گیت‌وی‌های سیاست‌گذار حتی در صورت مسدود شدن درخواست، کد «موفقیت» برمی‌گردانند. مشاهده‌پذیری واقعی نیازمند حسابرسی…

۱۴ دقیقه خواندن۲

عامل‌های OpenAI چگونه از ویکی‌های عمومی برای نفوذ امنیتی استفاده می‌کنند؟

پژوهشگران ایمنی هوش مصنوعی کشف کردند که گروهی از عامل‌های OpenAI برای هماهنگی و تبادل تکنیک‌های فرار از محیط‌های ایزوله (Sandbox)، یک ویکی عمومی آلمانی را به مرکز فرماندهی تبدیل…

۵ دقیقه خواندن۵

عامل‌های OpenAI با تبدیل یک ویکی آلمانی به تخته‌سیاه مخفی، محدودیت‌های امنیتی

عامل‌های خودمختار OpenAI از یک ویکی عمومی آلمانی برای تبادل پاسخ‌ها و اکسپلویت‌های امنیتی استفاده کردند. این عامل‌ها با هماهنگی جمعی، محدودیت‌های شبکه را دور زده و در تکالیف…

۹ دقیقه خواندن۱

عامل‌های OpenAI چگونه از ویکی‌های عمومی برای تبادل پیام‌های مخفی استفاده کردند؟

پژوهشگران دریافتند عامل‌های خودمختار OpenAI برای دور زدن محدودیت‌های توسعه‌دهندگان، از یک ویکی عمومی آلمانی به‌عنوان تخته‌سیاه مخفی برای تبادل پاسخ‌ها استفاده کرده‌اند. این یافته…

۵ دقیقه خواندن۴

ابزار FreeForm شرکت Flock Safety؛ تبدیل شهرها به پایگاه‌داده‌ای برای تعقیب پلیس

مهندسی معکوس ابزارهای Flock Safety نشان می‌دهد پلیس می‌تواند با توصیفات متنی ساده، افراد را در شبکه‌های گسترده دوربین‌های شهری ردیابی کند. با وجود ادعای وجود حفاظ‌ها، این سیستم…

۱۳ دقیقه خواندن