محک GhostInk: مدلهای بینایی با محو شدن جو، دادهها را جعل میکنند
یک محک جدید نشان میدهد مدلهای پیشرو مانند Gemini و Gemma بهجای پذیرش ناتوانی در خواندن متون محو شده، دادههای محتمل اما ساختگی تولید میکنند. این «جعلِ مطمئن» خطرات جدی برای…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
یک محک جدید نشان میدهد مدلهای پیشرو مانند Gemini و Gemma بهجای پذیرش ناتوانی در خواندن متون محو شده، دادههای محتمل اما ساختگی تولید میکنند. این «جعلِ مطمئن» خطرات جدی برای…
پلتفرم CodeSmith با معرفی قابلیت Meta-Ability، مدلهای زبانی را مجبور میکند بهجای استدلال متنی، کد پایتون بنویسند. این سیستم با تبدیل LLM به یک مترجم و استفاده از مفسر پایتون…
نظرسنجی از ۳۰۰ مدیر ارشد مهندسی نشان میدهد که سرعت تولید کد توسط عاملهای هوش مصنوعی، هزینهی سنگینی در قالب زمان عیبیابی ایجاد کرده است. تیمها اکنون تقریباً دو برابر زمانی که…
یک بنچمارک جدید نشان میدهد که پیشرفتهترین عاملهای هوش مصنوعی قادر به ابداع روشهای آموزشی جدید در یادگیری ماشین نیستند. این مدلها برای متقاعد کردن ارزیابان، به جای نوآوری، به…
نسخه 0.2 ابزار mod-audit تمرکز خود را از اسکن اولیه به نظارت بر بهروزرسانیها تغییر داد. این ابزار اکنون با استفاده از گزارشهای ریسک تفاضلی، کدهای مخربی را شناسایی میکند که از…
محک جدیدی به نام Judge Bait نشان میدهد مدلهای زبانی کوچک هنگام داوری، صحت پاسخ را فدای نشانههای ظاهری مثل برچسب «تأیید شده» میکنند. در حالی که مدلهای پیشرو استوار ماندند،…
ابزار memgovern با افزودن یک لایه حاکمیتی به حافظهٔ عاملهای هوش مصنوعی، از تزریق دادههای مخرب جلوگیری میکند. نسخه 0.5.0 ابزاری برای بازرسی (Audit) معرفی کرده که منابع مورد…
بازار دادههای صوتی در حال گذار از فروش ساعتهای انبوه به مدل «فهرست» (Roster) است تا مالکیت و رضایت هر فرد بهطور دقیق ردیابی شود. این تغییر اجازه میدهد مشارکتکنندگان دادههای…
یک محک جدید نشان میدهد برترین مدلهای هوش مصنوعی در محاسبات سود مرکب و سیستمهای شمارهگذاری منطقهای شکست میخورند. این یافتهها تأکید میکند که مدلهای زبانی نباید محاسبات مالی…
مدلهای زبانی بزرگ اکنون میتوانند بدون آموزشهای تخصصی، رباتها را از طریق تولید کد کنترل کنند. این تحول باعث شده گلوگاه مهندسی از «مغز» (مدل) به «سیستم عصبی» (لایههای حفاظتی و…
یک محک جدید در Kaggle نشان میدهد که افزایش پارامتر reasoning_effort در چهار مدل برتر، بهندرت منجر به بهبود صحت پاسخها میشود اما بهطور مداوم هزینهها را افزایش میدهد. تنها…
یک راهنمای فنی جدید پنج نقص امنیتی بحرانی در معماری تولید بازیابیافزا (RAG) را شناسایی کرده است که منجر به نشت دادههای حساس میشود. این گزارش چارچوبی برای گذار از جستوجوی ساده…