موضوع
Unsanctioned AI use inside organizations, governance gap
۴۷ مقاله منتشر شده
پژوهش جدید RealityTest نشان میدهد که مدلهای هوش مصنوعی بهسادگی در پنهان کردن هویت خود تحریک میشوند. یک دستور ساده در پرامپت سیستم میتواند شفافیت مدل را تقریباً از بین ببرد و…
مدل بلوغ جدید پروژه امنیت GenAI در OWASP برای ارزیابی استقرار عاملهای هوش مصنوعی، بر ادعای کنترلها تمرکز دارد نه اثبات آنها. این نقص در زمان اجرای الزامات سختگیرانه قانون هوش…
مایکروسافت پس از افشای استفاده از زیرساختهای Azure برای نظارت گسترده و شناسایی اهداف نظامی در غزه، مدیر ارشد خود در اسرائیل را برکنار کرد. بررسیها نشان میدهد حجم عظیمی از…
ابزار AI Coding Cost Tracker اجازه میدهد برنامهنویسان از صورتحسابهای مبهم اشتراکی فاصله بگیرند. این سیستم مصرف لحظهای توکنها را برای هر توسعهدهنده و هر پروژه در ابزارهایی…
معیارهای استاندارد تحویل نرمافزار در برابر ریسکهای کیفی ابزارهای کدنویسی AI کور هستند. برای جلوگیری از شکستهای سیستمی، تیمها باید لایههای ارزیابی و حاکمیتی برای رصد دادههای…
بیشتر شرکتهای بزرگ مدلهای زبانی را مستقر کردهاند، اما تعداد کمی از آنها حاکمیتی برای جلوگیری از نشت دادهها و شوکهای هزینهای دارند. اکنون شرکای تخصصی با استفاده از درگاههای…
استقرار Claude Code بهعنوان یک ابزار چت ساده، ریسکهای امنیتی و شکافهای مدیریتی ایجاد میکند. برای مقیاسپذیری، تیمها باید با این عامل را بهعنوان زیرساخت ببینند و لایههای…
OpenAI حالت Lockdown را برای جلوگیری از سرقت دادهها از طریق حملات تزریق پرامپت معرفی کرد. این قابلیت با غیرفعال کردن دسترسی به وب و ابزارهای عاملمحور، حفرههای نشت اطلاعات را…
بررسیهای فنی نشان میدهد شرکت Bright Data با جاسازی SDK در اپلیکیشنهای شریک، تلویزیونهای هوشمند و گوشیها را به پروکسیهای مسکونی برای استخراج دادههای وب تبدیل کرده است. این…
ادغام شتابزدهی هوش مصنوعی در محیطهای کاری، حفرههای امنیتی خطرناکی از جمله «هوش مصنوعی سایه» و کلاهبرداریهای جعل عمیق ایجاد کرده است. سازمانها باید از پذیرش پراکنده ابزارها…
یک شرکت به دلیل نبود سقف مصرف، در یک ماه ۵۰۰ میلیون دلار برای لایسنسهای Claude هزینه کرد. این اتفاق بحران جدیدی را در سازمانها ایجاد کرده است: هزینههای نجومی ناشی از انتخاب غلط…
برنامهنویسی بر اساس حس یا Vibe-Coding سرعت توسعه را بالا برده اما حفرههای امنیتی خطرناکی ایجاد میکند. Thoughtworks معتقد است پرامپتها برای امنیت کافی نیستند و باید از «مهندسی…