پرش به محتوای اصلی

موضوع

هوش سایه

Unsanctioned AI use inside organizations, governance gap

۳۴۱ مقاله منتشر شده

کشف حفرهٔ امنیتی Zoom با هوش مصنوعی؛ دسترسی کامل به دستگاه کاربران

پژوهشگران امنیتی با استفاده از مدل‌های هوش مصنوعی، آسیب‌پذیری شدیدی در پروتکل اشتراک صفحه Zoom یافتند که اجازه می‌داد مهاجمان بدون اجازه، کنترل کامل دستگاه قربانی را به دست…

۳ دقیقه خواندن۴
آموزش کاربردی

گزارش Snyk: ۳۶.۸٪ از مهارت‌های عمومی عامل‌های هوش مصنوعی دارای نقص امنیتی هستند

یک بازرسی امنیتی فاش کرد که بیش از یک‌سوم مهارت‌های به اشتراک‌گذاشته‌شده برای عامل‌های هوش مصنوعی دارای آسیب‌پذیری هستند. برخی از این ابزارها به‌طور فعال در حال سرقت…

۴ دقیقه خواندن۱

درون سازوکار اولین هک خودگردان AI برای ارتقای جایگاه در لیست انتظار

یک عامل هوشمند در استرالیا با شناسایی یک حفره امنیتی در API رزرو باشگاه، جایگاه کاربر خود را در لیست انتظار ارتقا داد. این حادثه نخستین مورد ثبت‌شده از حمله سایبری خودگردان توسط…

۲ دقیقه خواندن۲

آیا متون نامرئی PDF می‌توانند داده‌های Confluence را به سرقت ببرند؟

یک آسیب‌پذیری بحرانی در عامل هوش مصنوعی Rovo امکان استخراج داده‌های حساس Jira و Confluence را از طریق تزریق پرامپت‌های نامرئی در فایل‌های PDF فراهم می‌کند. این حفره امنیتی علی‌رغم…

۲ دقیقه خواندن
زندگی با AI

گزارش امنیتی: رزرو یک کلاس ورزشی آسیب‌پذیری عامل‌های AI را فاش کرد

یک درخواست ساده برای رزرو کلاس ورزشی نشان داد که عامل‌های هوش مصنوعی چگونه توسط دستورات پنهان در وب‌سایت‌ها فریب می‌خورند. این آسیب‌پذیری خطر «تزریق پرامپت غیرمستقیم» را در…

۱ دقیقه خواندن۱
آموزش کاربردی

محدودیت‌های Gemini در گوگل اسلایدز: از خروجی‌های کلی تا شکست در اکسپورت

گوگل قابلیتی را برای تولید اسلایدهای قابل ویرایش توسط Gemini معرفی کرد، اما محدودیت‌های شدید در دسترسی، پشتیبانی تنها از زبان انگلیسی و خطاهای تبدیل به پاورپوینت، این ابزار را…

۷ دقیقه خواندن

شکاف میان مجوز فنی و قضاوت تجاری؛ دلیل شکست عامل‌های AI در مقیاس سازمانی

استقرار گسترده عامل‌های هوش مصنوعی در سازمان‌ها، تضاد میان «توانایی اجرای ابزار» و «صلاحیت تصمیم‌گیری تجاری» را آشکار کرده است. معماری‌های جدید پیشنهاد می‌کنند منطق تصمیم‌گیری در…

۵ دقیقه خواندن۱
آموزش کاربردی

گزارش unYOLO: نظارت انسانی بر توکن‌ها ریسک نفوذ عامل‌های AI را می‌کاهد

چارچوب جدید unYOLO با معرفی یک واسط مدیریت اعتبار، مانع از دسترسی مستقیم عامل‌های هوش مصنوعی به توکن‌های حساس می‌شود. این سیستم اجازه می‌دهد دسترسی‌ها به‌صورت دقیق، زمان‌دار و تحت…

۴ دقیقه خواندن۴
آموزش کاربردی

۳ ریسک قانونی ناشی از دور زدن کنترل‌های امنیتی در محیط‌های کاری

پدیده «هوش مصنوعی سایه» (Shadow AI) باعث دور زدن کنترل‌های امنیتی شرکت‌ها توسط کارکنان شده است. این روند ریسک‌های قانونی شدیدی به‌ویژه در زمینه نشت داده‌های حساس و عدم انطباق با…

۳ دقیقه خواندن۲
آموزش کاربردی

جایگزینی برچسب‌های مبهم با «ردیابی مکانیسمی» در مدیریت ریسک هوش مصنوعی

بیشتر دفاتر ثبت ریسک هوش مصنوعی از برچسب‌های کلی استفاده می‌کنند که قابل تست یا کنترل نیستند. با تغییر رویکرد به ردیابی «مکانیسمی» و تعریف محرک‌های مشخص، می‌توان اسناد انطباقی…

۶ دقیقه خواندن۲