پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

گزارش آنتروپیک به پلیس: گفتگوهای خصوصی با کلود دیگر محرمانه نیستند

بازداشت زنی در فلوریدا پس از گزارش آنتروپیک درباره تهدیدات خشونت‌آمیز در چت‌های کلود، مرز حریم خصوصی AI را جابه‌جا کرد. این پرونده نشان می‌دهد گفتگو با مدل‌های زبانی اکنون به…

۱۰ دقیقه خواندن۱
زندگی با AI

«رایانش رابطه‌ای»؛ بازگرداندن حق اصلاح مدل‌های AI به دست کاربران

پلتفرم LOGIHEART مدل جدیدی به نام «رایانش رابطه‌ای» را پیشنهاد می‌دهد که در آن انسان به‌جای یک نقطهٔ داده‌ای، به‌عنوان سوژه‌ای فعال دیده می‌شود. این رویکرد بر توانایی کاربر در…

۳ دقیقه خواندن

تعهد OpenAI در برابر عقب‌نشینی گوگل در مدیریت ابزارهای کدنویسی

شرکت OpenAI متعهد شده است که طی ۲۸ روز آینده، هر روز یک بهبود ملموس در Codex ارائه دهد یا کل سیستم را بازنشانی کند. هم‌زمان، گوگل به دلیل هجوم گزارش‌های بی‌کیفیت تولیدشده توسط هوش…

۱۲ دقیقه خواندن
آموزش کاربردی

معماری سه لایه RLVR؛ راهکار جلوگیری از تقلب عامل‌های هوش مصنوعی در پاداش‌ها

یادگیری تقویتی با پاداش‌های قابل تأیید (RLVR) برای جلوگیری از سوءاستفاده مدل‌ها از حفره‌های منطقی، به تأییدکننده‌های برنامه‌نویسی‌شده و قطعی نیاز دارد. یک دستورالعمل جدید، معماری…

۱۲ دقیقه خواندن
آموزش کاربردی

«ابهام در مقیاس‌ها»؛ ریشهٔ سوگیری‌های مدل‌های هوش مصنوعی در جذب نیرو

یک محک جدید نشان می‌دهد بسیاری از سوگیری‌های دموگرافیک در مدل‌های هوش مصنوعی، ناشی از ابهام در مقیاس‌های امتیازدهی است. با تحمیل یک قرارداد سخت‌گیرانه برای اعداد صحیح ۰ تا ۱۰۰،…

۴ دقیقه خواندن

نظرسنجی کوینیپیاک: ۷۷٪ آمریکایی‌ها خواهان توقف یا کاهش سرعت توسعه AI هستند

یک نظرسنجی جدید نشان‌دهنده شکاف عمیق میان آزمایشگاه‌های هوش مصنوعی و افکار عمومی است. اکثریت آمریکایی‌ها از تهدیدهای احتمالی برای بقای انسان می‌ترسند و خواهان استانداردهای ایمنی…

۱ دقیقه خواندن۱

آدام شیف: برای جلوگیری از فلجِ قانونی، آمریکا به سازمان نظارتی هوش مصنوعی نیاز

سناتور آدام شیف هشدار داد که پیمان‌های داوطلبانه شرکت‌های فناوری برای ایمنی هوش مصنوعی بی‌معنی هستند. او معتقد است تنها راه مقابله با لابی‌های شرکتی و جلوگیری از فجایع امنیتی،…

۴۰ دقیقه خواندن

کارمندان Anthropic مبلغ ۶۶۰ میلیون دلار از سهام خود را به خیریه بخشیدند

کارمندان Anthropic در یک موج خیرخواهانه، صدها میلیون دلار از سهام خود را به سازمان‌های خیریه اهدا کردند. این اقدام که با حمایت مالی سه برابری شرکت همراه شده، این آزمایشگاه هوش…

۱ دقیقه خواندن

۴ غول فناوری در برابر قوانین سخت‌گیرانهٔ ایمنی نیویورک

شورای شهر نیویورک مدیران OpenAI، گوگل، متا و آنتروپیک را برای پاسخگویی درباره ریسک‌های ایمنی و حفاظت از مصرف‌کننده احضار کرد. این اقدام با بسته‌ای از قوانین سخت‌گیرانه همراه است…

۶ دقیقه خواندن