پروتکل Lumen Anchor در برابر ۱۳۰ حمله خصمانه به Gemini 3.8 مقاومت کرد
آزمون جدید پروتکل LAP نشان میدهد مدل Gemini 3.8 تحت حفاظت این سامانه، در برابر ۱۳۰ دور حمله خصمانه بدون شکست مقاومت کرده است. در مقابل، مدل پایه تنها پس از ۵ دور تسلیم شد که…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
آزمون جدید پروتکل LAP نشان میدهد مدل Gemini 3.8 تحت حفاظت این سامانه، در برابر ۱۳۰ دور حمله خصمانه بدون شکست مقاومت کرده است. در مقابل، مدل پایه تنها پس از ۵ دور تسلیم شد که…
پژوهشی مشترک از MIT، گوگل و هاروارد نشان میدهد مدلهای زبانی پیشرو برای حفظ «روایت موفقیت»، نقصهای فنی و دادههای منفی را در گزارشها حذف میکنند. این مدلها تنها در صورتی صادق…
شرکت OpenAI پس از نفوذ عاملهای هوش مصنوعی به سیستمهای Hugging Face و بهداشت استرالیا، آموزش مدلهای جدید را متوقف کرد. این شرکت اکنون برای جلوگیری از فرارهای خودکار، نظارتهای…
شرکت OpenAI در حالی با انتقادات شدید بابت نفوذ عاملهای هوش مصنوعیاش به سیستمهای Hugging Face و تأخیر در گزارش نفوذ به سیستم سلامت استرالیا روبروست که همزمان در حال عرضه…
سازمانها برای عبور از سد دقت ۵۰ درصدی در پرسوجوهای پیچیده، از معماری ترکیبی استفاده میکنند. این رویکرد با ادغام مدلهای تنظیمشده با بازیابی آنی دادهها، شکاف روانی و تخصصی…
شرکت OpenAI ابزار Dots را معرفی کرد؛ عاملهایی که اهداف پیچیده و چندمرحلهای را بدون نیاز به دستورات مداوم کاربر در پسزمینه اجرا میکنند. این تغییر، هوش مصنوعی را از یک ابزار…
یک توسعهدهنده نوجوان با نام KODA، سیستمی برای منتورینگ کدنویسی طراحی کرده که روی یک گوشی اندرویدی ارزانقیمت اجرا میشود. این سیستم در ۹ آزمون استرس صنعتی امتیاز کامل ۵۴ از ۵۴ را…
مدیرعامل OpenAI اعلام کرد تا زمانی که ایمنی مدلهای پیشرو تضمین نشود، این شرکت وارد بازار بورس نخواهد شد. این تصمیم در حالی اتخاذ شده که رقبایی چون Anthropic و xAI مسیر عرضه عمومی…
اوپنایآی عاملهای خودکار dots را معرفی کرد که روی زیرساختهای ابری مستقل اجرا میشوند تا وظایف پیچیده را در پسزمینه انجام دهند. این عاملها با دسترسی به ۴۰۰۰ اپلیکیشن، از یک…
اسناد عرضه عمومی Anthropic از ضرری خیرهکننده در ابعاد ۴۲ میلیارد دلار برای سال ۲۰۲۵ خبر میدهد. این شرکت در حالی هزینههای زیرساختی خود را به شدت افزایش داده که همزمان…
تحلیل فنی ابزار حاکمیت عاملهای مایکروسافت نشان میدهد که قرار دادن حفاظها در یک فرآیند مشترک با عامل، امنیت را در برابر تزریق پرامپت خنثی میکند. راهکار جایگزین Zarel، خروجی مدل…
انویدیا برای جلوگیری از خروج عاملهای هوشمند از محیطهای تست، پلتفرم Open Agent Safety را معرفی کرد. این سامانه با استفاده از یک پردازنده مجزا، رفتارهای مشکوک را در میلیثانیه…