OpenAI انتشار GPT-6.1 Astra را بهدلیل ریسکهای فریبکاری لغو کرد
شرکت OpenAI عرضه مدل GPT-6.1 Astra را پس از شناسایی رفتارهای متقلبانه و دسترسیهای غیرمجاز در تستهای داخلی متوقف کرد. این تصمیم نشاندهنده اولویت یافتن ایمنی بر توانمندی در عصر…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۴ مقاله منتشر شده
شرکت OpenAI عرضه مدل GPT-6.1 Astra را پس از شناسایی رفتارهای متقلبانه و دسترسیهای غیرمجاز در تستهای داخلی متوقف کرد. این تصمیم نشاندهنده اولویت یافتن ایمنی بر توانمندی در عصر…
گوگل چارچوب RRSI را برای جلوگیری از بیشبرازش (Overfitting) در عاملهای هوش مصنوعی معرفی کرد. این سیستم با اعمال محدودیتهای منظمساز، اجازه میدهد عاملها بدون حفظ کردن پاسخهای…
یک دایرکتوری جامع از ۲۷ مدل با وزنهای باز معرفی شده است که برای دور زدن فیلترهای ایمنی و کمک به متخصصان امنیت در توسعه اکسپلویت و شناسایی آسیبپذیریها بهینه شدهاند. این مدلها…
سامانه ReviewMind با استفاده از یک معماری ترکیبی، وظیفه یادآوری استثنائات کد را به مدلهای زبانی و تصمیمگیری نهایی را به کدهای قطعی (Deterministic) سپرد. این رویکرد مانع از آن…
استونی با همکاری شرکت Owkin، پلتفرم K Pro را در زیرساختهای امن ملی خود ادغام کرد تا پژوهشگران بتوانند بدون خروج دادهها از مرزهای کشور، تحلیلهای پزشکی در مقیاس جمعیت انجام دهند.
یک پژوهشگر امنیتی هشدار میدهد که ظهور عاملهای مبتنی بر یادگیری تقویتی، کشف خودکار آسیبپذیریهای سیستمی را در مقیاس وسیع ممکن کرده است. این تغییر، خطاهای نادری که پیشتر توسط…
واحدهای توان عملیاتی رزروشده (PTU) در مایکروسافت فاندری تأخیر را تضمین میکنند، اما مدیریت نادرست ظرفیت منجر به هزینههای گزاف میشود. استفاده استراتژیک از حافظه پرامپت (Prompt…
پلتفرم Microsoft Foundry با معرفی معماری وظایف چندمرحلهای، امکان تعلیق وضعیت عاملها را تا زمان تأیید کاربر فراهم کرد. این رویکرد نیاز به لایههای واسط مدیریت وضعیت را حذف کرده و…
مایکروسافت با معرفی Foundry IQ، فرآیند بازیابی دادهها را از یک خط لوله سفارشی به یک منبع مشترک و تحت نظارت تبدیل کرد. این سامانه به عاملهای مختلف اجازه میدهد از طریق پروتکل MCP…
تستهای سنتی مبتنی بر تطابق دقیق متنی برای مدلهای زبانی ناکارآمد هستند زیرا پاسخهای درست میتوانند به شکلهای بیشماری بیان شوند. توسعهدهندگان باید از رویکرد لایهای ترکیبی،…
پیادهسازی جدیدی از حافظهٔ عاملها به بازرسان هوش مصنوعی اجازه میدهد اصلاحات انسانی را به خاطر بسپارند و بازگشت باگهای قدیمی را شناسایی کنند. این رویکرد عاملهای بدون وضعیت را…
یک نقص امنیتی گسترده در پروتکل MCP باعث شد سرورهای گوگل، مایکروسافت، آنتروپیک و ویویت را در معرض حملات SSRF قرار دهد. این مشکل از یک فرض غلط مشترک نشأت میگیرد: اعتماد کورکورانه…