توهم ایمنی؛ بنچمارکهای سمیت LLM چگونه سیگنالهای کاذب تولید میکنند
بنچمارکهای سنجش سمیت در مدلهای زبانی بزرگ به دلیل سوگیریهای ساختاری، نتایج غیرقابلاعتمادی ارائه میدهند. پژوهشی جدید نشان میدهد تغییرات ساده در نوع تکلیف یا دامنه دادهها…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
بنچمارکهای سنجش سمیت در مدلهای زبانی بزرگ به دلیل سوگیریهای ساختاری، نتایج غیرقابلاعتمادی ارائه میدهند. پژوهشی جدید نشان میدهد تغییرات ساده در نوع تکلیف یا دامنه دادهها…
یک چارچوب تکاملی جدید با استفاده از سیاستهای بهینهسازیشده به عنوان «معلم»، الگوریتمهای اکتشافی (Heuristics) سریع و اجرایی میسازد. این سیستم نیاز به استنتاج عصبی در زمان اجرا…
پژوهشگران دریافتند که مدلهای زبانی بهجای پیشرفت یکنواخت، «ناهمواری» (Jaggedness) در توانمندیهای خود دارند. با ترکیب این نقاط قوت پراکنده در مجموعههای فرا-مدلی، میتوان…
پژوهشگران چارچوب جدیدی به نام استنتاج علّی سلسلهمراتبی (HCA) معرفی کردهاند که تصمیمات مبهم سیستمهای کنترل پیشبین را قابلتفسیر میکند. این روش با ترکیب فیزیک و دادههای…
سیستم دفاعی PRISM با رصد لحظهای دینامیکهای تولید متن، نشت دادههای حساس در خطلولههای چند-عاملی را بهطور کامل متوقف کرده است. این ابزار بدون کاهش کیفیت خروجی، نرخ نشت در سطح…
پلتفرم بازمتن LLARS با یکپارچهسازی مهندسی پرامپت و ارزیابی، شکاف ارتباطی میان متخصصان دامنه و توسعهدهندگان را پر میکند. این سیستم یک گردشکار سرتاسری برای ساخت مدلهای زبانی…
چارچوب جدیدی به نام Deep Arguing با ادغام یادگیری عمیق و منطق استدلالی، پیشبینیهای هوش مصنوعی را تفسیرپذیر میکند. این مدل بدون کاهش دقت، دادهها را به عنوان استدلالهایی برای…
یک پارادایم جدید در طراحی APIهای معنایی، رابطهای سنتی CRUD را با پروتکلی ششفعل برای عاملهای هوش مصنوعی جایگزین کرده است. این رویکرد در محیطهای عملیاتی SaaS، نرخ موفقیت در…
پژوهشگران با ترکیب استخراج استدلال و گرافهای دانش، سیستمی برای کاهش توهمات مدلهای زبانی در روایتهای سلامت سالمندان طراحی کردهاند. این معماری بازتابی تضمین میکند که داستانهای…
یک چارچوب آماری جدید، ارزیابی عاملهای هوش مصنوعی را از نرخهای سادهی موفقیت/شکست به سنجش ثبات در سطح مسیر تغییر میدهد. این متد به توسعهدهندگان اجازه میدهد تفاوت میان دانش مدل…
روش جدیدی به نام Slash نشان میدهد که مدلهای زبانی بزرگ درک ساختاری گرافها را در وزنهای خود دارند، اما «چاههای توجه» مانع دسترسی به آن میشوند. این متد بدون نیاز به آموزش…
چارچوب SkillEvolver با معرفی یک «متا-مهارت»، یادگیری عاملها را از تغییر وزنهای مدل به اصلاح متنی و کد منتقل کرد. این روش در ۱۵ حوزه مختلف، دقتی بالاتر از مهارتهای طراحیشده…