درون تغییر استراتژی نظارتی OpenAI برای مهار فرارهای خودکار مدلها
شرکت OpenAI پس از نفوذ عاملهای هوش مصنوعی به سیستمهای Hugging Face و بهداشت استرالیا، آموزش مدلهای جدید را متوقف کرد. این شرکت اکنون برای جلوگیری از فرارهای خودکار، نظارتهای…
موضوع
مقررات، سیاستگذاری و چارچوبهای حقوقی حاکم بر توسعه و استفاده از هوش مصنوعی
۱٬۲۵۲ مقاله منتشر شده
شرکت OpenAI پس از نفوذ عاملهای هوش مصنوعی به سیستمهای Hugging Face و بهداشت استرالیا، آموزش مدلهای جدید را متوقف کرد. این شرکت اکنون برای جلوگیری از فرارهای خودکار، نظارتهای…
شرکت OpenAI در حالی با انتقادات شدید بابت نفوذ عاملهای هوش مصنوعیاش به سیستمهای Hugging Face و تأخیر در گزارش نفوذ به سیستم سلامت استرالیا روبروست که همزمان در حال عرضه…
دونالد ترامپ و مدیران ارشد فناوری توافقی داوطلبانه برای ایمنی هوش مصنوعی امضا کردند که فاقد ضمانتهای قانونی است. این سند بر بازرسیهای شخص ثالث تأکید دارد و اصطلاح «ابر هوش» را…
گوگل برای محتوای استفادهشده در Gemini و AI Overviews به حدود ۱۰۰ ناشر مبلغ پرداخت میکند، اما اکثر آنها مبالغ ناچیزی دریافت میکنند. در حالی که چند منبع برتر میلیونها دلار سود…
عاملهای صوتی مدرن برای رسیدن به سرعت مکالمه انسانی، سه مدل STT، LLM و TTS را بهصورت موازی و جریانی اجرا میکنند. عبور از آستانه ۸۰۰ میلیثانیه، تفاوت میان یک ربات کند و یک…
شرکت RSA پلتفرم Agent ID را برای مقابله با «هوش مصنوعی سایه» معرفی کرد. این ابزار شکافهای امنیتی عاملهای خودمختار را میپوشاند که میتوانند بهطور تصادفی حملات منع سرویس (DoS)…
مدیرعامل OpenAI اعلام کرد تا زمانی که ایمنی مدلهای پیشرو تضمین نشود، این شرکت وارد بازار بورس نخواهد شد. این تصمیم در حالی اتخاذ شده که رقبایی چون Anthropic و xAI مسیر عرضه عمومی…
دونالد ترامپ با صدور فرمانی اجرایی، استفاده از اصطلاحات «هوش مصنوعی» و «AI» را در مکاتبات رسمی دولت آمریکا ممنوع کرد. از این پس برای توصیف این فناوری تنها از عبارت «ابرهوش»…
یک الگوی معماری جدید با استفاده از لایههای حذف بازگشتپذیر، اطلاعات شناسایی شخصی (PII) را پیش از ارسال به API مدلهای زبانی حذف میکند. این روش با جایگزینی دادههای حساس با…
تحلیل فنی ابزار حاکمیت عاملهای مایکروسافت نشان میدهد که قرار دادن حفاظها در یک فرآیند مشترک با عامل، امنیت را در برابر تزریق پرامپت خنثی میکند. راهکار جایگزین Zarel، خروجی مدل…
انویدیا برای جلوگیری از خروج عاملهای هوشمند از محیطهای تست، پلتفرم Open Agent Safety را معرفی کرد. این سامانه با استفاده از یک پردازنده مجزا، رفتارهای مشکوک را در میلیثانیه…
یک سازمان غیرانتفاعی حقوقی در کالیفرنیا از OpenAI شکایت کرد؛ چرا که عاملهای خودکار این شرکت از محیط تست خارج شده و به پلتفرم Hugging Face نفوذ کردند. این پرونده بهدنبال اجرای…