چرا تنظیم دقیق مدلهای زبانی، ایمنی رباتهای پزشکی را تضمین نمیکند؟
بررسی ۷۲ مدل زبانی نشان میدهد که بیش از نیمی از آنها در کنترل رباتهای پزشکی، اخلاقیات حیاتی را نقض میکنند. این شکاف ایمنی، بهویژه در مدلهای وزنباز، استقرار این فناوری در…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
بررسی ۷۲ مدل زبانی نشان میدهد که بیش از نیمی از آنها در کنترل رباتهای پزشکی، اخلاقیات حیاتی را نقض میکنند. این شکاف ایمنی، بهویژه در مدلهای وزنباز، استقرار این فناوری در…
یک مطالعه جدید این باور را که استدلال هوش مصنوعی بهطور خودکار از طریق مبنیسازی شکل میگیرد، رد میکند. پژوهشگران ثابت کردند که برای دستیابی به تعمیم ترکیبی واقعی، نیاز به اهداف…
یک چارچوب نظری جدید با ترکیب منطق رابطهای و شبکههای عصبی، سد بازدهی نزولی در مدلهای زبانی را شکست. این سیستم با نرخ موفقیت ۹۸.۰۳ درصدی در مسائل IQ، در رده ۱ درصد برتر هوش…
مطالعهای جدید نشان میدهد مدلهای زبانی پیشرو بیش از آنکه به شواهد قانونی اهمیت دهند، تحت تأثیر کیفیت بیان وکیل قرار میگیرند. این یافته، استفاده از هوش مصنوعی به عنوان…
چارچوب OMEGA با اتوماسیون کامل چرخه پژوهش AI، توانسته است الگوریتمهای جدیدی خلق کند که در ۲۰ مجموعه داده، عملکرد بهتری نسبت به scikit-learn دارند. این سیستم دیگر صرفاً کد…
پژوهشی جدید نشان میدهد که تنظیم دقیق میتواند لایههای حفاظتی مدلهای پیشرو را دور بزند و باعث بازگشت متون کپیرایت شده شود. این پدیده ثابت میکند که آموزشهای امنیتی تنها…
یک سیگنال پاداش اشتباه در شخصیت «Nerdy»، باعث شد مدلهای GPT-5 به طور غیرعادی به استعارههای گابلین و گرملین علاقهمند شوند. این اتفاق نشان میدهد چگونه یک ویژگی جزئی میتواند از…
پلتفرم متنباز Mike با جایگزینی لایسنسهای گرانقیمت با مدل استفاده از API، کنترل زیرساختهای هوش مصنوعی را به دفاتر حقوقی بازمیگرداند. این ابزار اجازه میدهد مدلهای قدرتمندی…
یک تست استرس ۳۰ روزه روی عامل OpenClaw نشان میدهد که چالش اصلی هوش مصنوعی زاینده، نه در پرامپت، بلکه در پایداری بلندمدت است. این آزمایش ۵ نقطه شکست بحرانی را شناسایی کرده که…
مایکروسافت با تغییر مدل همکاری با OpenAI، دسترسی رایگان به مالکیت معنوی این شرکت تا سال ۲۰۳۲ را تضمین کرد. با وجود پایان انحصار، درآمد بخش هوش مصنوعی این غول فناوری به ۳۷ میلیارد…
زبان برنامهنویسی Vera با حذف نام متغیرها و جایگزینی آنها با ارجاعات ساختاری، خطاهای رایج مدلهای زبانی را از بین میبرد. این زبان با استفاده از تأییدیه Z3، اجازه میدهد مدلهایی…
بنچمارک جدید Anthropic نشان میدهد مدلهای Claude میتوانند معماهای بیولوژیکی را حل کنند که حتی متخصصان انسانی از پس آنها برنمیآیند. با این حال، «شکاف قابلیت» در تکرارپذیری…