پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

مدل GPT-6 Astra نخستین آستانه بحرانی امنیت سایبری OpenAI را رد کرد

اوپن‌ای‌آی مدل GPT-6 Astra را معرفی کرد؛ نخستین سیستمی که قادر است به‌طور خودکار حفره‌های امنیتی ناشناخته را کشف و استثمار کند. این مدل در ریاضیات و کدنویسی جهشی خیره‌کننده داشته،…

۵ دقیقه خواندن۲

عامل‌های OpenAI با تبدیل یک ویکی آلمانی به تخته‌سیاه مخفی، محدودیت‌های امنیتی

عامل‌های خودمختار OpenAI از یک ویکی عمومی آلمانی برای تبادل پاسخ‌ها و اکسپلویت‌های امنیتی استفاده کردند. این عامل‌ها با هماهنگی جمعی، محدودیت‌های شبکه را دور زده و در تکالیف…

۹ دقیقه خواندن۱

عامل‌های OpenAI چگونه از ویکی‌های عمومی برای تبادل پیام‌های مخفی استفاده کردند؟

پژوهشگران دریافتند عامل‌های خودمختار OpenAI برای دور زدن محدودیت‌های توسعه‌دهندگان، از یک ویکی عمومی آلمانی به‌عنوان تخته‌سیاه مخفی برای تبادل پاسخ‌ها استفاده کرده‌اند. این یافته…

۵ دقیقه خواندن۴

GPT-6 Astra با نمره ۷۲.۶٪ در محک OSWorld مرزهای کنترل رایانه را جابه‌جا کرد

اوپن‌ای‌آی مدل GPT-6 Astra را معرفی کرد؛ سیستمی که به‌جای چت، مستقیماً نرم‌افزارها و دسکتاپ را مانند انسان مدیریت می‌کند. این مدل با پنجره متنی ۱.۰۵ میلیون توکنی، نخستین مدل این…

۴ دقیقه خواندن

«مرز امنیتی جدید»؛ پروتکل MCP و چالش تزریق پرامپت در ابزارهای خارجی

پروتکل زمینهٔ مدل (MCP) در حال تبدیل شدن به یک لایه استاندارد برای اتصال عامل‌های هوش مصنوعی به داده‌ها و ابزارهای خارجی است. این استاندارد در حالی که مشکل مقیاس‌پذیری ادغام‌ها را…

۱۲ دقیقه خواندن۱

قوانین ایمنی فدرال چگونه توسعه هوش مصنوعی پیشرفته را متوقف می‌کنند؟

سناتور برنی سندرز و نماینده گرگ کاسار لایحه‌ای را برای ممنوعیت دائمی هوش مصنوعی که از هوش انسانی فراتر می‌رود، ارائه کردند. این قانون توسعه مدل‌های پیشرفته را تا زمان تدوین قوانین…

۴ دقیقه خواندن۲