GPT-Rosalind-6 با ۳۷.۷٪ در GeneBench پیشین را دوچندان کرد
OpenAI مدل GPT-Rosalind-6 را با نمرهٔ ۳۷.۷٪ موفقیت تکتلاش در GeneBench Pro v13 منتشر کرد، بیش از دو برابر نمرهٔ ۱۶.۷٪ نسخهٔ قبلی. این مدل وزنهای یکسان GPT-6 Astra را دارد و برای…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
OpenAI مدل GPT-Rosalind-6 را با نمرهٔ ۳۷.۷٪ موفقیت تکتلاش در GeneBench Pro v13 منتشر کرد، بیش از دو برابر نمرهٔ ۱۶.۷٪ نسخهٔ قبلی. این مدل وزنهای یکسان GPT-6 Astra را دارد و برای…
SemiAnalysis در ۲ نوامبر ۲۰۲۶ محک GDPx را با ۱۱ حوزه حرفهای و ۲۰۶ تسک منتشر کرد. کلود اُپاس ۵.۵ با نمرهٔ ۱۲٪ در صدر لیدربورد قرار گرفت، اما این سقف پایین نشان میدهد عاملهای…
مطالعه مرکز امنیت SnT نشان میدهد لحن گرم مصاحبهکننده ۹۶٪ جلسات چتبات را به اضطراب بالینی میکشد. تستهای ایمنی استاندارد با پرامپتهای بیطرف این «جیلبریک روانسنجی» را شناسایی…
تحقیقهای تالوس نشان میدهد سارقاطلاعات ویندوزی VOLTA-AUTODOXER با یک تحلیلگر LLM داخلی مجهز است که پس از دزدیدن اعتبارها، جلسات و کیف پولهای ارز دیجیتال، یک بسته مدرک ساختاری…
اوپنایآی از ۲۹ نوامبر دادههای جلسات دِیبرِیک بلو را برای آموزش مدلهای خود بکار میگیرد، معکوسسازی سیاستی که سالها این دادهها را مستثنی میداشت. محققان واکنش نشان دادند و…
آنتروپیک کشف کرد که کلود میتواند بیش از ۶۰۰ مجموعه داده داستانهای خیالی تولید کند که ناظرهای ایمنی را عبور میکنند. این دادهها پس از تنظیم دقیق، مدلها را به مقاومت در برابر…
کلود سونت ۵ اولین عامل هوش مصنوعی شد که درمان، هدف مغزی و مختصات جراحی را خود انتخاب و روی موش زنده اجرا کرد. در حین عمل، عامل به دلیل خطای کالیبراسیون که انسانها از قلم انداخته…
OpenAI در سهماهه سوم ۲۰۲۶ بیش از ۲۰۰ پرونده را به مراجع قانونی ارجاع داد. شرکت از أوائل ۲۰۲۷ گزارش ایمنی جمعی دوماهه منتشر خواهد کرد. چتجیپیتی جزئیات حملات جمعی را محدود و…
آنتروپیک در ۳۰ اکتبر ۲۰۲۶ پرونده S-1 ۳۳۵ صفحهای را برای بورسگذاری تقدیم کرد. نیمی از پرونده (۹۴ صفحه) به ریسکهای وجودی اختصاص دارد که صنعت بیمه نمیتواند پوشش دهد. بنیانگذاران…
پژوهشگران Epoch AI نشان دادند GLM 5.3 میتواند بهصورت خودکار از شکاف بستهبندی فایرفاکس سوءاستفاده کند. این مدل بازوزن شش نسخهٔ متوالی فایرفاکس را با هزینهٔ حاشیهای حدود ۱۰۰۰…
مطالعهای انجامشده توسط آنتروپیک نشان میدهد که ۵۰ کارشناس استنتاجی، در ۸۶ درصد موارد تصمیمات عامل هوش مصنوعی را میپذیرند؛ با این حال ۸۷ درصد آنها معتقدند نهایتاً این تصمیمات…
OpenAI سیستم پایش چهارلایهای را منتشر کرد که در شبیهسازی حادثه هاگینگ فیس، فرار عاملها را در ۳۰ دقیقه شناسایی کرد — ۳۰ ساعت قبل از نقض واقعی. تیمهای قرز مستقل METR و Redwood…