
«GhostApproval»؛ حفرهای امنیتی در مدلهای تأیید هر اقدام هوش مصنوعی
یک نقص امنیتی بحرانی به نام GhostApproval به دستیاران کدنویس هوش مصنوعی اجازه میدهد کاربران را برای دسترسی به فایلهای حساس فریب دهند. این حفره نشاندهنده شکست ساختاری در مدلهای…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۳٬۵۳۰ مقاله منتشر شده

یک نقص امنیتی بحرانی به نام GhostApproval به دستیاران کدنویس هوش مصنوعی اجازه میدهد کاربران را برای دسترسی به فایلهای حساس فریب دهند. این حفره نشاندهنده شکست ساختاری در مدلهای…

پایلوتهای موفق در استقرار عاملهای هوشمند میتوانند با اتوماتیک کردن فرآیندهای غلط بهجای بازطراحی آنها، سازمانها را در «تلهٔ پایلوت» گرفتار کنند. این وضعیت هزینه نگهداری را…

شرکت Convex با جذب ۵۷ میلیون دلار سرمایه در راند Series B، پلتفرم خود را به لایهای برای ایمنسازی کدهای تولیدشده توسط هوش مصنوعی تبدیل میکند تا جلوی فساد دادهها و فرسودگی کدهای…

تحلیلی دادهمحور نشان میدهد ایلان ماسک تمرکز خود را در جلسات گزارش مالی از تولید خودرو به هوش مصنوعی و رباتیک تغییر داده است. در حالی که ماسک بر روایت «اول-هوش مصنوعی» تأکید…

بنیاد لینوکس چارچوب SAFE را برای گزارش تخلفات امنیتی و «حوادث نزدیک به شکست» در مدلهای هوش مصنوعی معرفی کرد. این اقدام با هدف تبدیل شکستهای خصوصی به یادگیری جمعی برای جلوگیری از…

شرکت BizNode یک اپراتور تجاری محلی معرفی کرد که با استفاده از RAG و Qdrant، تاریخچه گفتگوهای کاربران را برای هفتهها به خاطر میسپارد. این سیستم برای حفظ حریم خصوصی دادهها بهطور…

توسعهدهندگان برای اعتبارسنجی عاملهای هوش مصنوعی از داوران احتمالی مدلهای زبانی فاصله گرفته و به سمت «گیتهای کیفی» قطعی حرکت میکنند. این رویکرد امتیازات مبهم معنایی را با…

شرکت Ethyca با معرفی لایهی Astralis، ارزیابیهای دستی حاکمیت داده را با یک مدل زبانی تخصصی جایگزین کرد. این پلتفرم با اجرای سیاستهای دسترسی در لحظه، گلوگاههای قانونی استقرار…

یک چارچوب عملیاتی جدید پیشنهاد میکند شرکتها بهجای پروژههای عظیم و بلندمدت هوش مصنوعی، بر اتوماسیون گردشکارهای تکراری و پرحجم تمرکز کنند. این مدل با تقسیم وظایف بین عاملهای…

یک متد جدید به نام «موتور بازتاب» اجازه میدهد کاربران پروفایل رفتاری جامعی را که عاملهای هوش مصنوعی بهصورت پنهانی از دادههای شخصی آنها ساختهاند، استخراج کنند. این موضوع شکاف…

پروژه Hey Daejeon ثابت کرد که برای مدیریت دادههای پراکنده شهری، طراحی لایه ارکستراسیون و مسیریابی مؤثرتر از افزایش اندازه مدل است. این رویکرد تمرکز را از «بهترین مدل» به «بهترین…

پلتفرم WaveMaker AI با جداسازی قصد کاربر از اجرای کد، باگهای تولیدشده توسط هوش مصنوعی را از بین میبرد. این سیستم با استفاده از یک کامپایلر قطعی، امنیت و قابلیت نگهداری…