همراستاسازی

تحلیل‌های جدید نشان می‌دهد بنچمارک‌های کدنویسی به‌جای سنجش مهارت مهندسی، حافظه مدل‌ها را اندازه می‌گیرند. تیم‌های توسعه برای ارزیابی واقعی باید سه محور مستقلِ صحت، کاربردی بودن و…

اوپن‌ای‌آی با توسعه مدل GPT-Red، یک «ابر-هکر» داخلی، فرآیند شناسایی نقاط ضعف امنیتی را خودکار کرده است. این رویکرد باعث افزایش چشم‌گیر استواری نسخه GPT-5.6 Sol در برابر حملات…

افشای جزئیات قرارداد جدید گوگل با پنتاگون نشان می‌دهد این شرکت حفاظ‌های اخلاقی علیه سلاح‌های خودمختار را کنار گذاشته است. این توافق به ارتش آمریکا اجازه می‌دهد فیلترهای ایمنی مدل…

اوپن‌ای‌آی مدل تخصصی GPT-Red را برای شناسایی و رفع خودکار حفره‌های امنیتی مدل‌های دیگر توسعه داده است. این سیستم با استفاده از یک حلقه «بازی با خود»، استواری GPT-5.6 را به‌طوری…

پژوهش‌های جدید نشان می‌دهد بردار‌های هدایت (Steering Vectors) یک مدل زبانی را می‌توان با یک چرخش ریاضی ساده به مدل دیگری از خانواده‌ای متفاوت منتقل کرد. این یافته ثابت می‌کند…

پلتفرم Hume با معرفی محک Real World VoiceEQ نشان داد که مدل‌های صوتی علیرغم نمرات بالای فنی، در درک احساسات و بافت‌های صوتی شکست می‌خورند. داده‌ها حاکی از آن است که هیچ مدل واحدی…

تعدادی از کارکنان فعلی و سابق OpenAI با حمایت مالی از یک کمیته اقدام سیاسی (Super PAC)، مستقیماً با استراتژی‌های گرگ بروکمن برای جلوگیری از قانون‌گذاری هوش مصنوعی مقابله می‌کنند.…

یک چارچوب فنی جدید، نقشه راه کنترل هوش مصنوعی گوگل دیپ‌مایند را به پنج آزمون امنیتی تکرارپذیر برای عامل‌های کدنویسی تبدیل کرده است. این رویکرد تمرکز را از همراستاسازی مدل به تعیین…

ایالات متحده و چین برای کاهش خطرات امنیتی هوش مصنوعی، گفتگوهای فنی غیررسمی را آغاز کردند. تحلیلگران تأکید دارند که برای موفقیت این مسیر، باید به‌جای معاهدات سخت‌گیرانه، بر تبادل…

تحلیلی فنی نشان می‌دهد پارادایم فعلی چت‌بات‌ها بر پایه وزن‌های ثابت، با نیازهای بهره‌وری و امنیت متخصصان در تضاد است. چارچوب پیشنهادی «فرشته نگهبان»، جایگزینی مدل‌های عمومی را با…

پژوهش جدید آنتروپیک نشان می‌دهد مدل‌های Claude بسته به زبان مورد استفاده، ویژگی‌های رفتاری متفاوتی از خود نشان می‌دهند. این تحلیل تفاوت‌های شخصیتی میان خانواده‌های Sonnet و Opus…

بازکشف کدهای منبع برنامهٔ ELIZA از دههٔ ۶۰ میلادی نشان می‌دهد که مدل‌های زبانی بزرگ امروز همچنان بر پایهٔ همان ترفند روان‌شناختی پیشین عمل می‌کنند. «اثر الیزا» توضیح می‌دهد چرا…