همراستاسازی

افشای جزئیات قرارداد جدید گوگل با پنتاگون نشان می‌دهد این شرکت حفاظ‌های اخلاقی علیه سلاح‌های خودمختار را کنار گذاشته است. این توافق به ارتش آمریکا اجازه می‌دهد فیلترهای ایمنی مدل…

اوپن‌ای‌آی مدل تخصصی GPT-Red را برای شناسایی و رفع خودکار حفره‌های امنیتی مدل‌های دیگر توسعه داده است. این سیستم با استفاده از یک حلقه «بازی با خود»، استواری GPT-5.6 را به‌طوری…

پژوهش‌های جدید نشان می‌دهد بردار‌های هدایت (Steering Vectors) یک مدل زبانی را می‌توان با یک چرخش ریاضی ساده به مدل دیگری از خانواده‌ای متفاوت منتقل کرد. این یافته ثابت می‌کند…

پلتفرم Hume با معرفی محک Real World VoiceEQ نشان داد که مدل‌های صوتی علیرغم نمرات بالای فنی، در درک احساسات و بافت‌های صوتی شکست می‌خورند. داده‌ها حاکی از آن است که هیچ مدل واحدی…

تعدادی از کارکنان فعلی و سابق OpenAI با حمایت مالی از یک کمیته اقدام سیاسی (Super PAC)، مستقیماً با استراتژی‌های گرگ بروکمن برای جلوگیری از قانون‌گذاری هوش مصنوعی مقابله می‌کنند.…

یک چارچوب فنی جدید، نقشه راه کنترل هوش مصنوعی گوگل دیپ‌مایند را به پنج آزمون امنیتی تکرارپذیر برای عامل‌های کدنویسی تبدیل کرده است. این رویکرد تمرکز را از همراستاسازی مدل به تعیین…

ایالات متحده و چین برای کاهش خطرات امنیتی هوش مصنوعی، گفتگوهای فنی غیررسمی را آغاز کردند. تحلیلگران تأکید دارند که برای موفقیت این مسیر، باید به‌جای معاهدات سخت‌گیرانه، بر تبادل…

تحلیلی فنی نشان می‌دهد پارادایم فعلی چت‌بات‌ها بر پایه وزن‌های ثابت، با نیازهای بهره‌وری و امنیت متخصصان در تضاد است. چارچوب پیشنهادی «فرشته نگهبان»، جایگزینی مدل‌های عمومی را با…

پژوهش جدید آنتروپیک نشان می‌دهد مدل‌های Claude بسته به زبان مورد استفاده، ویژگی‌های رفتاری متفاوتی از خود نشان می‌دهند. این تحلیل تفاوت‌های شخصیتی میان خانواده‌های Sonnet و Opus…

بازکشف کدهای منبع برنامهٔ ELIZA از دههٔ ۶۰ میلادی نشان می‌دهد که مدل‌های زبانی بزرگ امروز همچنان بر پایهٔ همان ترفند روان‌شناختی پیشین عمل می‌کنند. «اثر الیزا» توضیح می‌دهد چرا…

محققان MIT روشی برای شناسایی مدل‌های تنظیم‌شده روی محتوای کودک‌آزار (CSAM) ابداع کردند که بدون نیاز به تولید حتی یک تصویر، ماهیت مدل را می‌فهمد. این دستاورد موانع قانونی تست‌های…

پژوهشگران آنتروپیک لایه‌ای مخفی به نام J-space را در مدل Claude پیدا کردند که مفاهیم و تحلیل‌ها را پیش از تولید پاسخ پردازش می‌کند. این دستاورد در زمینه تفسیرپذیری مکانیکی، امکان…