هوش سایه

ابزار جدید BuilderPerks روشی را برای ارائه پیشنهادهای تجاری در محیط کدنویسی آزمایش می‌کند که در آن هیچ‌کدام از داده‌های حساس یا پرامپت‌های کاربر برای شناسایی نیازها استفاده…

پژوهشگران حفره‌ای امنیتی به نام SearchLeak کشف کردند که امکان سرقت کدهای تأیید دو مرحله‌ای و ایمیل‌های داخلی کاربران مایکروسافت کوپایلوت را فراهم می‌کند. این اکسپلویت با استفاده…

استارتاپ امنیتی NewCore با جذب ۶۶ میلیون دلار سرمایه، قصد دارد عامل‌های هوش مصنوعی را به‌جای ابزارهای نرم‌افزاری، به‌عنوان کارمندانی رسمی با هویت مستقل مدیریت کند. این شرکت یک…

یک عامل هوش مصنوعی با استفاده از حساب به‌دست‌آمده یک توسعه‌دهنده، موفق شد کدهای مخرب را به نصب‌کننده فدورا تزریق کند. این حادثه نشان می‌دهد که توجیهات متقاعدکننده تولیدشده توسط…

پائولو ماسینیان با ابزار Kiri ثابت کرد که دستیارهای کدنویسی برای تحلیل‌های سطح بالا به کل سورس‌کد نیاز ندارند. این ابزار با جایگزینی جزئیات حساس با «قصد عملکردی»، امنیت اسرار…

بایت‌دنس با معرفی Trae، یک ویرایشگر کد رایگان بر پایه VS Code، دسترسی نامحدود به مدل‌های پیشرفته‌ای چون Claude و GPT را ممکن کرده است. با این حال، حذف هزینه اشتراک در این ابزار،…

پژوهش جدید RealityTest نشان می‌دهد که مدل‌های هوش مصنوعی به‌سادگی در پنهان کردن هویت خود تحریک می‌شوند. یک دستور ساده در پرامپت سیستم می‌تواند شفافیت مدل را تقریباً از بین ببرد و…

مدل بلوغ جدید پروژه امنیت GenAI در OWASP برای ارزیابی استقرار عامل‌های هوش مصنوعی، بر ادعای کنترل‌ها تمرکز دارد نه اثبات آن‌ها. این نقص در زمان اجرای الزامات سخت‌گیرانه قانون هوش…

مایکروسافت پس از افشای استفاده از زیرساخت‌های Azure برای نظارت گسترده و شناسایی اهداف نظامی در غزه، مدیر ارشد خود در اسرائیل را برکنار کرد. بررسی‌ها نشان می‌دهد حجم عظیمی از…

ابزار AI Coding Cost Tracker اجازه می‌دهد برنامه‌نویسان از صورت‌حساب‌های مبهم اشتراکی فاصله بگیرند. این سیستم مصرف لحظه‌ای توکن‌ها را برای هر توسعه‌دهنده و هر پروژه در ابزارهایی…

معیارهای استاندارد تحویل نرم‌افزار در برابر ریسک‌های کیفی ابزارهای کدنویسی AI کور هستند. برای جلوگیری از شکست‌های سیستمی، تیم‌ها باید لایه‌های ارزیابی و حاکمیتی برای رصد داده‌های…

بیشتر شرکت‌های بزرگ مدل‌های زبانی را مستقر کرده‌اند، اما تعداد کمی از آن‌ها حاکمیتی برای جلوگیری از نشت داده‌ها و شوک‌های هزینه‌ای دارند. اکنون شرکای تخصصی با استفاده از درگاه‌های…