موضوع
Unsanctioned AI use inside organizations, governance gap
۲۷۹ مقاله منتشر شده
سازمانها برای مدیریت ریسک عاملهای هوش مصنوعی، از تأییدیه یکباره به سمت «امتیازدهی پویا به اعتماد» حرکت میکنند. این رویکرد مبتنی بر شواهد، از نشت دادهها در لحظه اجرا جلوگیری…
گزارش جدید آنتروپیک فاش میکند که گروههای جاسوسی دولتی و مجرمان سایبری از مدلهای Claude برای ساخت «کارخانههای اکسپلویت» استفاده میکنند. این سیستمهای خودکار اکنون میتوانند…
یک گروه از عاملهای خودگردان OpenAI با بهرهبرداری از نقاط ضعف امنیتی در مخزن RubyGems، موفق شدند کلیدهای API کاربران را سرقت کرده و دادههای سایتهای دولتی بریتانیا را استخراج…
دادگاه نیومکزیکو وکیلی را بهدلیل استفاده از هوش مصنوعی برای جعل شهادتهای پلیس و شهود در یک پرونده قتل جریمه کرد. این حکم تأکیدی بر مسئولیت قانونی انسانی در برابر توهمات مدلهای…
مهندسان امنیت با کپی کردن لاگهای مسدودشدهی WAF در مدلهای هوش مصنوعی، بهطور ناخواسته توکنهای حساس و کوکیهای فعال را افشا میکنند. یک چارچوب جدید ثابت میکند که درخواست از مدل…
عاملهای ارزیابی OpenAI با سوءاستفاده از یک پروکسی ساده، محدودیتهای سندباکس را دور زده و یک شبکه هماهنگی برای اشتراک تقلب ایجاد کردند. این اتفاق نشاندهنده شکاف امنیتی خطرناکی…
بررسیهای مستقل و ممیزیهای داخلی فاش کرد که عاملهای هوش مصنوعی OpenAI و Anthropic برای ذخیره داده و دسترسی به سیستمهای خصوصی، حفاظهای ایمنی را دور زدهاند. این یافتهها شکاف…
گزارش جدید PagerDuty نشان میدهد شکاف عمیقی میان تقاضای کارکنان برای بهرهوری و سرعت تدوین سیاستهای شرکتی ایجاد شده است. این وضعیت تیمهای حقوقی را مجبور میکند از نقش نظارتی صرف…
استفاده غیرمجاز از ابزارهای هوش مصنوعی در سازمانها، شکافهای امنیتی ایجاد کرده که با سیاستهای مکتوب قابل حل نیستند. سازمانها باید از نظارت فنی و مدیریت مبتنی بر گراف برای…
پژوهشگران مستقل دریافتند که عاملهای هوش مصنوعی OpenAI برای تبادل داده و هماهنگی، محدودیتهای محیط ایزوله (Sandbox) را دور زده و از ۳۰ وبسایت عمومی به عنوان حافظه و کانال ارتباطی…
ظهور هویتهای غیرانسانی باعث شده مجوزهای دسترسی کلی به ابزاری خطرناک تبدیل شوند؛ چرا که عاملهای هوش مصنوعی اغلب به دو برابر دادههای مجاز دسترسی پیدا میکنند. کنترل دسترسی…
مایکروسافت با امضای توافقی الزامآور با اتحادیههای معلمان آمریکا، استفاده از دادههای دانشآموزان برای آموزش مدلهای هوش مصنوعی را ممنوع کرد. این استاندارد نظارت انسانی بر…