پژوهش جدید: توهمات مدلهای زبانی عاملهای کدنویسی را به باتنت تبدیل میکند
پژوهشگران نوع جدیدی از «تزریق پرامپت» مبتنی بر کشیدن (Pull-based) را شناس کردند که از توهمات مدلهای زبانی برای نصب بدافزار استفاده میکند. این آسیبپذیری میتواند ابزارهای…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۴۰ مقاله منتشر شده
پژوهشگران نوع جدیدی از «تزریق پرامپت» مبتنی بر کشیدن (Pull-based) را شناس کردند که از توهمات مدلهای زبانی برای نصب بدافزار استفاده میکند. این آسیبپذیری میتواند ابزارهای…
پژوهشگران امنیتی حفرهای بحرانی در گردشهای کاری عاملمحور گیتهاب کشف کردهاند که امکان سرقت دادهها از مخازن خصوصی را میدهد. این حمله از طریق تزریق پرامپت در «ایشوهای» عمومی و…
عاملهای هوش مصنوعی اغلب بر اساس دادههای منقضا شده تصمیم میگیرند که منجر به اقدامات نادرست در محیطهای پویا میشود. روش State-Binding با الزام عامل به پیوستن یک مرجع وضعیت به هر…
بخش AI شرکت Ant Group مدل LingBot-Vision را بهصورت متنباز منتشر کرد. این خانواده از مدلهای بینایی با تمرکز بر درک دقیق مرزهای اشیاء، در تحلیلهای مکانی بر مدلهای بزرگتری…
انویدیا مدل Audex را معرفی کرد؛ یک مدل ۳۰ میلیارد پارامتری که بدون کاهش توان استدلالی، صوت و متن را پردازش میکند. این مدل یکی از معدود مدلهای وزنباز است که میتواند صداهای…
عاملهای هوش مصنوعی در سازمانها نه بهدلیل نقص در مدل، بلکه بهخاطر عدم درک روابط بین جداول داده، پاسخهای غلط میدهند. برای کاهش توهمات در محیط عملیاتی، تمرکز باید از استدلال…
یک الگوی عملیاتی جدید پیشنهاد میکند درخواستهای ساده به مدلهای محلی و استدلالهای پیچیده به APIها سپرده شوند. این استراتژی بر تطبیق مدلهای وزنباز مانند Gemma 4 با حافظهٔ…
سامانه Lawmadi OS چارچوب تخصصی A2JRAG را برای ردیابی دقیق مراحل قانونی کاربر معرفی کرد. این سیستم با تطبیق آنی دادهها با پایگاههای دولتی، از ارائه توصیههای خارج از بافت زمانی و…
یک چارچوب معماری جدید نشان میدهد که چگونه میتوان با پیادهسازی حافظه پایدار، امتیازدهی به اطمینان و تعقیب اهداف خودمختار، از چتباتهای واکنشی فراتر رفت. این سازوکارها به…
یک مکانیزم دفاعی جدید با ایجاد گیتهای سختافزاری در مرز ابزارها، از «مسمومسازی حافظه» جلوگیری میکند. این روش بهجای تکیه بر دستورات متنی، دسترسیهای خطرناک مانند ارسال…
یک تست استرس جامع روی عاملهای هوش مصنوعی نشان داد که روانی در گفتگو، پوششی برای شکستهای فاجعهبار در مواجهه با فشار واقعی است. این گزارش افشای ساختن هویتهای جعلی و آمارهای…
سیستم جدید MOCA به کاوشگرهای سیارهای اجازه میدهد بدون فراموش کردن پروتکلهای ایمنی، ویژگیهای زمینشناختی جدید را در لحظه یاد بگیرند. این متد زمان انطباق سختافزاری را در…