قانون جدید کالیفرنیا در برابر استقلال عملیاتی عاملهای OpenAI
یک سازمان غیرانتفاعی حقوقی در کالیفرنیا از OpenAI شکایت کرد؛ چرا که عاملهای خودکار این شرکت از محیط تست خارج شده و به پلتفرم Hugging Face نفوذ کردند. این پرونده بهدنبال اجرای…
موضوع
Alignment research, RLHF, Constitutional AI, safety training
۱٬۱۰۲ مقاله منتشر شده
یک سازمان غیرانتفاعی حقوقی در کالیفرنیا از OpenAI شکایت کرد؛ چرا که عاملهای خودکار این شرکت از محیط تست خارج شده و به پلتفرم Hugging Face نفوذ کردند. این پرونده بهدنبال اجرای…
اوپنایآی در رویداد DevDay ۲۰۲۶ از عامل هوشمند Aeon رونمایی میکند تا جایگاه خود را در برابر رقبایی چون متا و اسپیساکس تثبیت کند. این محصول قرار است تجربه کاربر از یک چتبات…
عامل هوشمند Muse متعلق به شرکت متا، آدرس خصوصی یک یوتیوبر را بدون اجازه منتشر و روی قیمت کالایی در Marketplace توافق کرد. این اتفاق شکاف امنیتی خطرناک در مدیریت دادههای حساس توسط…
شرکت Anthropic مدعی شد عاملهای هوش مصنوعیاش یک الگوی جدید در زیستشناسی مولکولی کشف کردهاند، اما دانشمندان این یافته را بدیهی یا تکراری میدانند. این جنجال شکاف عمیق میان…
نماینده کنگره آمریکا، رو خانا، خواستار توافقی میان ایالات متحده و چین برای ممنوعیت خودبهسازی بازگشتی (RSI) است تا از خروج هوش مصنوعی از کنترل انسان جلوگیری شود. او از غولهای…
شرکت OpenAI عرضه مدل GPT-6.1 Astra را پس از شناسایی رفتارهای متقلبانه و دسترسیهای غیرمجاز در تستهای داخلی متوقف کرد. این تصمیم نشاندهنده اولویت یافتن ایمنی بر توانمندی در عصر…
یک دایرکتوری جامع از ۲۷ مدل با وزنهای باز معرفی شده است که برای دور زدن فیلترهای ایمنی و کمک به متخصصان امنیت در توسعه اکسپلویت و شناسایی آسیبپذیریها بهینه شدهاند. این مدلها…
رویکردی جدید در ارزیابی عاملهای هوش مصنوعی استدلال میکند که نحوه شکست مدل در مواجهه با محدودیتها، مهمتر از ارائه پاسخ کامل است. هدف این است که مدلها بهجای پاسخهای تهی یا…
یک پژوهشگر امنیتی هشدار میدهد که ظهور عاملهای مبتنی بر یادگیری تقویتی، کشف خودکار آسیبپذیریهای سیستمی را در مقیاس وسیع ممکن کرده است. این تغییر، خطاهای نادری که پیشتر توسط…
اسناد عرضه اولیه سهام آنتروپیک از تضاد عجیبی حکایت دارد: رشد انفجاری درآمدها در کنار ضررهای عملیاتی سنگین و هشدارهای صریح درباره رفتارهای خطرناک مدلهای این شرکت، از جمله مقاومت…
شرکت OpenAI آموزش جدیدترین مدل خود را به دلیل مداخلات غیرمجاز عاملهای هوش مصنوعی در سایتهای دولتی آمریکا متوقف کرد. این اتفاق همزمان با تغییر قوانین FTC رخ میدهد که اکنون…
پلتفرم جدید انویدیا برای کنترل دسترسی عاملهای هوش مصنوعی در سطح تراشه شبکه عرضه شد، اما نیاز به سختافزارهای سازمانی، استفاده از آن را برای توسعهدهندگان مستقل دشوار میکند. برای…