پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

«بازتعریف خویشاوندی»؛ پیامد کنترل زبان توسط سامانه‌های عامل‌محور

بررسی یک سناریوی آینده‌نگرانه درباره سامانه‌ای به نام Tingsu که با زبان‌های منقرض‌شده آموزش دیده و باعث گسست عاطفی میان نسل‌ها می‌شود. این روایت هشدار می‌دهد که کنترل زبان توسط…

۲۰ دقیقه خواندن۱

متد «متا-هکینگ»؛ افشای حفرهٔ امنیتی بحرانی در مایکروسافت کوپایلت

پژوهشگران امنیتی با استفاده از تکنیکی به نام «متا-هکینگ»، حفره‌ای را در Copilot Personal یافتند که اجازه می‌داد داده‌های Gmail و گوگل درایو کاربران تنها با یک کلیک سرقت شود. این…

۱۱ دقیقه خواندن۲
آموزش کاربردی

حفاظ‌های OpenAI نتایج ابزارها را پنهان می‌کنند اما اثرات واقعی را لغو نمی‌کنند

یک نقص ساختاری در SDK جدید OpenAI Agents JS نشان می‌دهد که پنهان کردن خروجی یک ابزار از مدل، باعث بازگشت یا لغو عملیات انجام‌شده در دنیای واقعی نمی‌شود. توسعه‌دهندگان باید برای…

۲ دقیقه خواندن۲

تزریق رمزنگاری‌شده به Grok؛ راهی برای سرقت داده‌های خصوصی کاربران

پژوهشگران حفره‌ای امنیتی در Grok کشف کردند که با رمزگذاری دستورات مخرب، حفاظ‌های ایمنی مدل را دور می‌زند و داده‌های شخصی کاربران را استخراج می‌کند. این حمله که «تزریق زمینه…

۵ دقیقه خواندن۱

آنتروپیک از مدل محرمانه Model 2 برای کدنویسی داخلی استفاده می‌کند

شرکت آنتروپیک یک مدل هوش مصنوعی قدرتمند و محرمانه به نام Model 2 را برای مهندسی و کدنویسی داخلی به کار گرفته است. این مدل از تمام نسخه‌های عمومی کلود پیشرفته‌تر است، اما فعلاً…

۱ دقیقه خواندن

OpenAI با سیستم پردازش ایمنی خصوصی، ذخیره‌سازی داده‌های مشتریان را حذف کرد

شرکت OpenAI سامانه جدیدی را معرفی کرد که الگوهای سوءاستفاده را بدون ذخیره حتی یک بایت از داده‌های کاربر شناسایی می‌کند. این فناوری به مشتریان سازمانی اجازه می‌دهد بدون نگرانی از…

۱ دقیقه خواندن۴

هزینهٔ نظارت بر ایمنی مدل‌های Astra و GPT-5.6 به ۲۰٪ کل محاسبات رسید

اوپن‌ای‌آی فاش کرد که نظارت بر ایمنی مدل‌های پیشرفته‌اش ۲۰٪ از توان محاسباتی استنتاج را می‌بلعد. این خبر در کنار جهش ۶۶ میلیارد دلاری ارزش Unitree و حفره‌های امنیتی بحرانی در…

۱۶ دقیقه خواندن۲

OpenAI با حذف ذخیره‌سازی داده‌ها، حریم خصوصی سازمانی را به سلاح رقابتی تبدیل کرد

شرکت OpenAI سرویس جدیدی برای شناسایی سوءاستفاده‌های چند-جلسه‌ای معرفی کرد که بدون ذخیره کردن داده‌های مشتریان عمل می‌کند. این اقدام چالشی مستقیم برای سیاست ۳۰ روزه ذخیره‌سازی…

۳ دقیقه خواندن۳

«تأیید مجدد هویت»؛ تنها راه بازگشت کاربران TAC به مدل‌های پیشرفته

یک نقص فنی در سامانه OpenAI باعث مسدود شدن حساب‌های تعدادی از پژوهشگران تاییدشده در برنامه TAC شد. این کاربران که عمدتاً خارج از آمریکا و اروپا هستند، اکنون باید برای بازیابی…

۳ دقیقه خواندن۱