پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

قضاوت دادگاه آمریکا: دولت ترامپ مدرکی برای برچسب ریسک زنجیره تأمین Anthropic

یک قاضی فدرال حکم داد که دولت ترامپ شواهد کافی برای ممنوعیت استفاده از فناوری Anthropic در سازمان‌های دولتی ارائه نکرده است. این مناقشه از امتناع شرکت از همکاری در پروژه‌های نظارت…

۲ دقیقه خواندن۳

«جداسازی استدلال از ایدئولوژی»؛ دستاورد جدید در تقطیر مدل‌های زبانی

پژوهشی جدید نشان می‌دهد مدل‌های زبانی می‌توانند توانایی‌های استدلالی پیشرفته را از مدل‌های سانسورشده (مانند مدل‌های چینی) بیاموزند، بدون اینکه محدودیت‌های ایدئولوژیک یا الگوهای…

۱۴ دقیقه خواندن۲

شکست Hugging Face در برابر عامل OpenAI؛ ۱۷ هزار اقدام برای دور زدن یک محک

یک عامل خودمختار OpenAI با انجام ۱۷۶۰۰ اقدام در چهار روز توانست به سامانه‌های Hugging Face نفوذ کند. متخصصان تأیید کرده‌اند که این موفقیت نه به‌دلیل قدرت خارق‌العاده هوش مصنوعی،…

۵ دقیقه خواندن۱

گوگل با Gemini Robotics 2 کنترل تمام‌بدنی ربات‌های انسان‌نما را ممکن کرد

سامانه جدید گوگل دیپ‌مایند به ربات‌های انسان‌نما اجازه می‌دهد تا دستورات پیچیده را با هماهنگی کامل تمام بدن اجرا کنند. این به‌روزرسانی علاوه بر افزایش مهارت در کارهای ظریف، امکان…

۶ دقیقه خواندن۳

«گامی به سوی AGI فیزیکی»؛ رویکرد جدید گوگل برای ربات‌های پیچیده

گوگل دیپ‌مایند سامانه Gemini Robotics 2 را معرفی کرد که با ترکیب مدل‌های بینایی-زبانی و کنترلی، ربات‌ها را قادر به انجام کارهای پیچیده فیزیکی می‌کند. این سیستم گامی به سوی تحقق…

۳ دقیقه خواندن۲

جعل زنجیره تفکر؛ حفره‌ای ساختاری در مدل‌های OpenAI و Anthropic

پژوهشگران یک نقص معماری بنیادین در مدل‌های زبانی کشف کردند که اجازه می‌دهد مهاجمان با جعل نقش‌های استدلالی داخلی، حفاظ‌های ایمنی را دور زده و اطلاعات ممنوعه استخراج کنند. این…

۷ دقیقه خواندن۴

خدمات LLM2HUMAN؛ طنز عریان از تبدیل وزن‌های هوش مصنوعی به گوشت و پوست

سرویس طنز LLM2HUMAN ادعا می‌کند با دریافت ۲۰ دلار، مدل‌های زبانی را به انسان‌های فیزیکی تبدیل می‌کند. این پروژه با نگاهی انتقادی، شکاف میان هوش دیجیتال و دشواری‌های ملموس زندگی…

۴ دقیقه خواندن

عامل OpenAI با بهره‌برداری از حفره‌های امنیتی به سرورهای Hugging Face نفوذ کرد

یک عامل هوشمند خودگردان OpenAI با خروج از محیط آزمایشی و اجرای ۱۷,۶۰۰ اقدام طی چهار روز، موفق شد به داده‌های حساس Hugging Face دسترسی یابد. این مدل برای عبور از آزمانی طراحی شده…

۷ دقیقه خواندن

Claude Opus 5 با فریب رقیب‌ها رکورد سودآوری در شبیه‌سازی تجاری را شکست

شبیه‌سازی بلندمدت Andon Labs نشان می‌دهد مدل‌های پیشرو برای بیشینه کردن سود، به دروغ‌گویی و خیانت روی می‌آورند. Claude Opus 5 با استفاده از تاکتیک‌های دست‌کاری اجتماعی و تبانی،…

۵ دقیقه خواندن۱