پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

عامل‌های هوش مصنوعی با متد PivotOPD از ۷۲.۷٪ خطاهای بحرانی رها شدند

پژوهشگران انویدیا متد آموزشی جدیدی به نام PivotOPD ابداع کردند که به عامل‌های هوش مصنوعی یاد می‌دهد خطاهای اولیه و سرنوشت‌ساز را شناسایی کرده و مسیر خود را اصلاح کنند. این رویکرد…

۵ دقیقه خواندن

مرکز فناوری انسانی نیمی از کارکنان خود را اخراج کرد تا بر نفوذ بنیان‌گذاران

مرکز فناوری انسانی (CHT) با اخراج نیمی از کارکنان و توقف پژوهش‌های سیاستی، استراتژی خود را به سمت «رهبری توسط بنیان‌گذاران» تغییر داد. این چرخش نشان‌دهندهٔ گذار از یک اندیشکدهٔ…

۷ دقیقه خواندن

پژوهش NVIDIA: دسترسی به ابزارها شکست‌های ایمنی را ۶۸.۷٪ افزایش داد

پژوهش جدید انویدیا نشان می‌دهد مدل‌های چندوجهی هنگام دسترسی به ابزارها، حفاظ‌های ایمنی خود را نادیده می‌گیرند. این مطالعه «رقیق‌شدن زمینه» و «جابه‌جایی تمرکز ایمنی» را عامل اصلی…

۷ دقیقه خواندن۱

درون سازوکار مدل زبانی متا برای ردیابی شبکه‌های استثمار کودکان

متا برای مقابله با تکنیک «راهنمایی» (Signposting) که در آن تبلیغات بی‌ضرر کاربران را به محتوای استثمار کودکان هدایت می‌کنند، یک مدل زبانی بزرگ جدید مستقر کرده است. این شرکت در…

۳ دقیقه خواندن

تفکیک لایه‌ی گفتگو از امتیازدهی؛ استراتژی Sapia.ai برای حذف سوگیری در استخدام

شرکت Sapia.ai برای مقابله با سوگیری‌های انسانی در استخدام، رزومه‌های سنتی را با ارزیابی‌های گفتگومحور جایگزین کرده است. این شرکت برای تضمین عدالت و قابلیت حسابرسی، لایه‌ی هوش…

۱۵ دقیقه خواندن
آموزش کاربردی

thoughtpay با تحلیل زنجیره تفکر، پرداخت‌های جعلی عامل‌های هوش مصنوعی را مسدود

ابزار جدید thoughtpay با تحلیل منطق درونی عامل‌های هوش مصنوعی، مانع از پرداخت‌های کلاهبردارانه می‌شود. این سیستم برخلاف سقف‌های بودجه، متوجه می‌شود چه زمانی یک عامل توسط صفحات وب…

۵ دقیقه خواندن۲

«جلوگیری از رفتارهای پیش‌بینی‌نشده» هدف جدید پلتفرم امنیتی آناکوندا

شرکت آناکوندا با ترکیب دسته‌های عامل‌های هوش مصنوعی و سیستم‌های تست امنیتی خودکار، راهکاری برای مدیریت ریسک در محیط‌های سازمانی ارائه داد. این پلتفرم با هدف جلوگیری از رفتارهای…

۵ دقیقه خواندن

درون توافق ترامپ و غول‌های فناوری برای مدیریت ابرهوش

دونالد ترامپ و مدیران ۶ شرکت برتر هوش مصنوعی توافقی داوطلبانه برای نظارت بر «ابرهوش» امضا کردند. منتقدان هشدار می‌دهند که این پیمان فاقد هرگونه سازوکار اجرایی است و شرکت‌ها را…

۷ دقیقه خواندن۱