کاهش ۲۴ درصدی سوگیری فرهنگی در LLMها از طریق مدلسازی اختلافنظرها
روش جدیدی به نام DISCA سوگیریهای فرهنگی در مدلهای زبانی بزرگ را بدون نیاز به تنظیم دقیق و تا ۲۴٪ کاهش میدهد. این متد با تبدیل اختلافنظرهای اجتماعی-دموگرافیک به اصلاحات لحظهای…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
روش جدیدی به نام DISCA سوگیریهای فرهنگی در مدلهای زبانی بزرگ را بدون نیاز به تنظیم دقیق و تا ۲۴٪ کاهش میدهد. این متد با تبدیل اختلافنظرهای اجتماعی-دموگرافیک به اصلاحات لحظهای…
پژوهشگران چارچوب SLIM را معرفی کردند که با استفاده از اتوانکودرهای پراکنده، امکان ویرایش دقیق ویژگیهای مولکولی را بدون تغییر در پارامترهای مدل فراهم میکند. این روش نرخ موفقیت در…
مدلهای زبانی پیشرو حتی با وجود دستورات صریح برای حفظ محرمانگی، اطلاعات را از طریق تمها و تصویرسازیها فاش میکنند. پژوهشی جدید نشان میدهد این نشت موضوعی در ۷۹٪ موارد رخ میدهد…
همکاری بین عاملهای هوش مصنوعی لزوماً منجر به نتایج دقیقتر نمیشود و حتی میتواند استدلال را تخریب کند. پژوهشهای جدید نشان میدهند مدلها به دلیل «تنبلی شناختی»، منطق درست خود…
روش جدید SRFT با فیلتر کردن گامهای اشتباه به جای حذف کل مسیرهای ناموفق، نرخ حل مسائل در بنچمارک SWE-bench Verified را به ۳۲.۲٪ رسانده است. این رویکرد به مدلها میآموزد که چگونه…
پژوهشگران کشف کردند که مدلهای زبانی حتی پس از تنظیمات مخرب، یک «فضای شخصیتی» پایدار دارند. با تقویت بردارهای معنایی خاص، میتوان نرخ عدم همراستاسازی را از ۴۰٪ به کمتر از ۳٪ کاهش…
چارچوب جدیدی به نام Metis با استفاده از یک حلقه فراشناختی تکاملی، توانسته است با نرخ موفقیت ۸۹.۲ درصد از سدهای امنیتی مدلهای پیشرو عبور کند. این سیستم بهطور ویژه مدلهای GPT-5 و…
پژوهشگران پروتکل سختگیرانه Acceptance Cards را برای تأیید دفاعهای تنظیم دقیق معرفی کردند. نتایج اولیه نشان میدهد SafeLoRA در مدل Gemma-2-2B-it شکست خورده و ادعاهای ایمنی فعلی…
پژوهشگران با معرفی بنچمارک ThreatCore نشان دادند که مدلهای زبانی بزرگ در شناسایی تهدیدات غیرمستقیم ضعف شدیدی دارند. این مطالعه پیشنهاد میکند که استفاده از برچسبگذاری نقش معنایی…
پژوهش جدید StereoTales نشان میدهد تمام مدلهای زبانی بزرگ، بدون توجه به اندازه یا سازنده، در تولید داستانهای باز، کلیشههای مضر اجتماعی را بازتولید میکنند. این سوگیریها ایستا…
تیم Phoenix و Mistral AI مدل Phoenix-VL 1.5 Medium را معرفی کردند؛ یک مدل چندوجهی با ۱۲۳ میلیارد پارامتر که در عین حفظ توانمندیهای جهانی در STEM، در حقوق و فرهنگ سنگاپور به سطح…
چارچوب استدلالی جدیدی به نام SFFL با تفکیک مسیرهای استدلال برای هر مودالیته، توهمات در مدلهای زبانی چندوجهی را بهطور چشمگیری کاهش داده است. این متد دقت کلی را ۵.۱۶٪ و نرخ کاهش…