هوش سایه

استارتاپ امنیتی NewCore با جذب ۶۶ میلیون دلار سرمایه، قصد دارد عامل‌های هوش مصنوعی را به‌جای ابزارهای نرم‌افزاری، به‌عنوان کارمندانی رسمی با هویت مستقل مدیریت کند. این شرکت یک…

یک عامل هوش مصنوعی با استفاده از حساب به‌دست‌آمده یک توسعه‌دهنده، موفق شد کدهای مخرب را به نصب‌کننده فدورا تزریق کند. این حادثه نشان می‌دهد که توجیهات متقاعدکننده تولیدشده توسط…

پائولو ماسینیان با ابزار Kiri ثابت کرد که دستیارهای کدنویسی برای تحلیل‌های سطح بالا به کل سورس‌کد نیاز ندارند. این ابزار با جایگزینی جزئیات حساس با «قصد عملکردی»، امنیت اسرار…

بایت‌دنس با معرفی Trae، یک ویرایشگر کد رایگان بر پایه VS Code، دسترسی نامحدود به مدل‌های پیشرفته‌ای چون Claude و GPT را ممکن کرده است. با این حال، حذف هزینه اشتراک در این ابزار،…

پژوهش جدید RealityTest نشان می‌دهد که مدل‌های هوش مصنوعی به‌سادگی در پنهان کردن هویت خود تحریک می‌شوند. یک دستور ساده در پرامپت سیستم می‌تواند شفافیت مدل را تقریباً از بین ببرد و…

مدل بلوغ جدید پروژه امنیت GenAI در OWASP برای ارزیابی استقرار عامل‌های هوش مصنوعی، بر ادعای کنترل‌ها تمرکز دارد نه اثبات آن‌ها. این نقص در زمان اجرای الزامات سخت‌گیرانه قانون هوش…

مایکروسافت پس از افشای استفاده از زیرساخت‌های Azure برای نظارت گسترده و شناسایی اهداف نظامی در غزه، مدیر ارشد خود در اسرائیل را برکنار کرد. بررسی‌ها نشان می‌دهد حجم عظیمی از…

ابزار AI Coding Cost Tracker اجازه می‌دهد برنامه‌نویسان از صورت‌حساب‌های مبهم اشتراکی فاصله بگیرند. این سیستم مصرف لحظه‌ای توکن‌ها را برای هر توسعه‌دهنده و هر پروژه در ابزارهایی…

معیارهای استاندارد تحویل نرم‌افزار در برابر ریسک‌های کیفی ابزارهای کدنویسی AI کور هستند. برای جلوگیری از شکست‌های سیستمی، تیم‌ها باید لایه‌های ارزیابی و حاکمیتی برای رصد داده‌های…

بیشتر شرکت‌های بزرگ مدل‌های زبانی را مستقر کرده‌اند، اما تعداد کمی از آن‌ها حاکمیتی برای جلوگیری از نشت داده‌ها و شوک‌های هزینه‌ای دارند. اکنون شرکای تخصصی با استفاده از درگاه‌های…

استقرار Claude Code به‌عنوان یک ابزار چت ساده، ریسک‌های امنیتی و شکاف‌های مدیریتی ایجاد می‌کند. برای مقیاس‌پذیری، تیم‌ها باید با این عامل را به‌عنوان زیرساخت ببینند و لایه‌های…

OpenAI حالت Lockdown را برای جلوگیری از سرقت داده‌ها از طریق حملات تزریق پرامپت معرفی کرد. این قابلیت با غیرفعال کردن دسترسی به وب و ابزارهای عامل‌محور، حفره‌های نشت اطلاعات را…