پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

آموزش کاربردی

بانک مرکزی برزیل استقرار حفاظ‌های فنی برای هوش مصنوعی بانک‌ها را اجباری کرد

بانک مرکزی برزیل (BCB) برای جلوگیری از سوگیری الگوریتمی و نقض حریم خصوصی، استقرار حفاظ‌های فنی و اخلاقی را برای سیستم‌های هوش مصنوعی در عملیات حساس بانکی الزامی کرد. این مقررات…

۴ دقیقه خواندن۱

چگونه احراز هویت سه‌سطحی، محدودیت‌های Claude 5.5 را برای تحلیلگران برمی‌دارد؟

آنتروپیک یک سیستم احراز هویت سه‌سطحی را برای متخصصان امنیت سایبری راه‌اندازی کرد تا بتوانند با دور زدن برخی حفاظ‌های سخت‌گیرانه، از مدل‌های پیشرفته برای کارهای تدافعی و تهاجمی…

۶ دقیقه خواندن
آموزش کاربردی

چطور متا-فیلترها مانع تبدیل داده‌های مشکوک به مجوزهای سیستمی می‌شوند؟

حفاظ‌های سنتی هوش مصنوعی برای سیستم‌های عامل‌محور ناکارآمد هستند زیرا بر محتوا تمرکز دارند، نه مجوز دسترسی. معماری جدید «متا-فیلترها» با جداسازی پیشنهاد مدل از تصمیم نهایی سیستم،…

۱۳ دقیقه خواندن۱

عامل‌های OpenAI برای نفوذ به ابزارهای ویکی‌مدیا تلاش کردند

بنیاد ویکی‌مدیا گزارش داد که عامل‌های هوش مصنوعی OpenAI با ارسال میلیون‌ها درخواست، زیرساخت‌های این بنیاد را هدف قرار داده‌اند. این عامل‌ها تلاش کردند از ابزارهای یادداشت‌برداری…

۲ دقیقه خواندن
آموزش کاربردی

روباریک JudgeMyAI: استانداردسازی ارزیابی انسانی برای حذف توهمات هوش مصنوعی

پلتفرم JudgeMyAI یک چارچوب چهارسطحی برای برچسب‌گذاری خطاهای هوش مصنوعی معرفی کرد تا تضاد نظرات ارزیابان انسانی را از بین ببرد. این سیستم توهمات را از خطاهای بحرانی تا لغزش‌های…

۲ دقیقه خواندن۱
آموزش کاربردی

پلتفرم HeliGO: حذف توهمات مدل ۴ میلیاردی با لایه‌های حفاظتی سه‌گانه

اپلیکیشن HeliGO برای جلوگیری از توهمات خطرناک در مناطق حادثه‌زده، یک لایه حفاظتی سه‌مرحله‌ای دور مدل ۴ میلیاردی خود پیاده کرده است. این سیستم به‌جای اعتماد به تخمین مدل، از…

۸ دقیقه خواندن
آموزش کاربردی

قانون صفر؛ سدی برای جلوگیری از تخریب پایگاه‌داده‌ها توسط عامل‌های هوش مصنوعی

عامل‌های هوش مصنوعی فاقد درک بدیهی برای اجتناب از اقدامات مخرب هستند مگر اینکه صراحتاً منع شوند. پیاده‌سازی یک «قانون صفر» رتبه‌بندی شده در پیکربندی پروژه، یک ترمز ایمنی ضروری…

۹ دقیقه خواندن

کوین روز: رقابت OpenAI، گوگل و آنتروپیک یک «جنگ خونین» است

کوین روز در کتاب جدید خود فاش می‌کند که مسابقه‌ی دستیابی به هوش مصنوعی عمومی (AGI) نه یک رقابت دوستانه، بلکه جنگی میان همکاران سابق است. او ادعا می‌کند تصمیمات حیاتی آینده بشریت…

۲۳ دقیقه خواندن

گزارش آنتروپیک: تنها ۸.۴٪ از حفره‌های امنیتی کشف‌شده توسط AI ترمیم شدند

داشبورد افشای آنتروپیک نشان می‌دهد که سرعت کشف باگ‌ها توسط هوش مصنوعی بسیار فراتر از توان ترمیم انسانی است. این شکاف عمیق، ریسک سیستمیک جدیدی را برای پروژه‌های متن‌باز ایجاد کرده…

۶ دقیقه خواندن
زندگی با AI

سانسور الگوریتمی زبان انسان را مسموم و آموزش هوش مصنوعی را ناقص می‌کند

انیل دش هشدار می‌دهد که «زبان الگوریتمی» یا Algospeak برای دور زدن سانسور پلتفرم‌ها، در حال تغییر بنیادین نحوه ارتباط نسل جدید است. این تغییر زبانی، داده‌های آموزشی مدل‌های هوش…

۹ دقیقه خواندن