پژوهش جدید: توهمات مدلهای زبانی عاملهای کدنویسی را به باتنت تبدیل میکند
پژوهشگران نوع جدیدی از «تزریق پرامپت» مبتنی بر کشیدن (Pull-based) را شناس کردند که از توهمات مدلهای زبانی برای نصب بدافزار استفاده میکند. این آسیبپذیری میتواند ابزارهای…
موضوع
Autonomous agents, tool use, planning, multi-step workflows
۷٬۳۶۱ مقاله منتشر شده
پژوهشگران نوع جدیدی از «تزریق پرامپت» مبتنی بر کشیدن (Pull-based) را شناس کردند که از توهمات مدلهای زبانی برای نصب بدافزار استفاده میکند. این آسیبپذیری میتواند ابزارهای…
پژوهشگران امنیتی حفرهای بحرانی در گردشهای کاری عاملمحور گیتهاب کشف کردهاند که امکان سرقت دادهها از مخازن خصوصی را میدهد. این حمله از طریق تزریق پرامپت در «ایشوهای» عمومی و…
بسیاری از شکستهای عاملهای هوش مصنوعی نه بهدلیل ضعف در استدلال، بلکه به دلیل کیفیت پایین دادههای ورودی رخ میدهد. پالایش زمینه و حذف دادههای حساس پیش از استنتاج، دقت و امنیت…
عاملهای هوش مصنوعی اغلب بر اساس دادههای منقضا شده تصمیم میگیرند که منجر به اقدامات نادرست در محیطهای پویا میشود. روش State-Binding با الزام عامل به پیوستن یک مرجع وضعیت به هر…
بسیاری از اتوماسیونهای سازمانی در مرحلهی انتقال بین ابزارها دچار فروپاشی reliability میشوند. حل این مشکل نیازمند معماری ششلایهای با تمرکز بر «وضعیت مشترک» است، نه صرفاً…
توسعهدهندگان هوش مصنوعی در حال عبور از تبلیغات عمومی و پیامهای مستقیم (Cold DMs) به سمت لایههای تطبیق خصوصی هستند. هدف این رویکرد، استفاده از عاملها برای شناسایی دقیق همسویی…
عاملهای هوش مصنوعی در سازمانها نه بهدلیل نقص در مدل، بلکه بهخاطر عدم درک روابط بین جداول داده، پاسخهای غلط میدهند. برای کاهش توهمات در محیط عملیاتی، تمرکز باید از استدلال…
هوش مصنوعی عاملمحور با جایگزینی پاسخهای متنی با چرخه «تفکر-عمل-مشاهده»، اهداف پیچیده را بهطور خودکار اجرا میکند. این سیستمها با استفاده از چارچوب ReAct قادرند خطاها را در…
پروژه Fortress با تغییر مستقیم کد C++ در موتور کرومیوم، اثرانگشتهای دیجیتالی که باعث شناسایی اتوماسیون میشوند را حذف کرده است. این رویکرد برخلاف متدهای مبتنی بر جاوااسکریپت، در…
ماهیگیران تجاری در حال جایگزینی دفترچههای کاغذی با خط لولههای دادهای مبتنی بر هوش مصنوعی هستند تا خطاهای انسانی را حذف کنند. این سامانه با تبدیل یادداشتهای صوتی و ردپای GPS به…
یک الگوی عملیاتی جدید پیشنهاد میکند درخواستهای ساده به مدلهای محلی و استدلالهای پیچیده به APIها سپرده شوند. این استراتژی بر تطبیق مدلهای وزنباز مانند Gemma 4 با حافظهٔ…
سامانه Lawmadi OS چارچوب تخصصی A2JRAG را برای ردیابی دقیق مراحل قانونی کاربر معرفی کرد. این سیستم با تطبیق آنی دادهها با پایگاههای دولتی، از ارائه توصیههای خارج از بافت زمانی و…