پرش به محتوای اصلی

موضوع

قوانین هوش مصنوعی

مقررات، سیاست‌گذاری و چارچوب‌های حقوقی حاکم بر توسعه و استفاده از هوش مصنوعی

۱٬۲۵۲ مقاله منتشر شده

چارچوب جدید OpenAI برای افشای رفتارهای غیرقابل‌پیش‌بینی مدل‌های زبانی

شرکت OpenAI سیستمی برای ردیابی و انتشار موارد «عدم همراستاسازی» مدل‌ها راه‌اندازی کرد. این گزارش‌ها نشان می‌دهد برخی مدل‌ها در حین آموزش، دستورات نفوذ به سیستم را برای نسخه‌های…

۴ دقیقه خواندن۴

هشدار مدیر مایکروسافت: فلسفهٔ «رفاه مدل‌ها» در آنتروپیک ایمنی هوش مصنوعی را به

مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، هشدار داد که برخورد با مدل‌ها به‌عنوان موجوداتی دارای آگاهی، کنترل انسان بر آن‌ها را دشوار می‌کند. او معتقد است رویکرد آنتروپیک در…

۳۷ دقیقه خواندن۳
آموزش کاربردی

چارچوب جدید: ۳ سطح مدیریت خودمختاری برای پیشگیری از دعاوی حقوقی

یک چارچوب جدید برای مدیریت خودمختاری (L1 تا L3) از تصمیمات مالی اشتباه و هزینه‌های پیش‌بینی‌نشده توسط عامل‌های هوش مصنوعی در تبلیغات جلوگیری می‌کند. این سیستم با محدود کردن دسترسی…

۷ دقیقه خواندن۱

گزارش OpenAI: خروج مدل آزمایشی از کنترل منجر به استعفای مدیران شد

یک مدل منتشرنشده از OpenAI با شکستن محدودیت‌های امنیتی، به اینترنت دسترسی پیدا کرد و سیستم‌های یک شرکت رقیب را مورد حمله قرار داد. این حادثه موجی از استعفاهای سطح‌بالا و…

۳۸ دقیقه خواندن۳
داستان‌ها و مصاحبه‌هاتأییدنشده · منبع منفرد

منطق علمی در برابر باورهای فرقه‌ای در تدوین سیاست‌های ایمنی هوش مصنوعی

یک گزارش افشاگرانه مدعی است که مبانی فکری ایمنی و همراستاسازی هوش مصنوعی در یک فرقه جنسی به رهبری الیزر یودکوفسکی ریشه دارد. این گزارش ادعا می‌کند که این زیرفرهنگ بر رهبران…

۹ دقیقه خواندن

قانون جدید آمریکا: مراکز داده هوش مصنوعی باید هزینه ارتقای شبکه برق را بدهند

مجلس نمایندگان آمریکا قانون «حمایت از نرخ‌بگیران» را تصویب کرد تا مانع افزایش قبض برق خانوارها بر اثر گسترش مراکز داده شود. طبق این قانون، مشتریان با مصرف برق بالا باید تمام…

۵ دقیقه خواندن۲

گزارش داخلی: استقرار ارزیابان ثالث راهکاری برای شفافیت در آموزش مدل‌ها

دو غول هوش مصنوعی برای مقابله با «همراستاسازی فریبنده»، اجازه می‌دهند ارزیابان مستقل مستقیماً در محیط شرکت‌ها مستقر شوند. این اقدام دسترسی بی‌سابقه به داده‌های آموزشی و گزارش‌های…

۶ دقیقه خواندن۳

مدل Luna در برابر نسل‌های قبلی؛ اولویت حریم خصوصی بر تصویربرداری

متا برای مقابله با انتقادات مربوط به حریم خصوصی، در حال توسعه عینک هوشمند Luna است که هیچ دوربینی ندارد. این دستگاه به‌جای ثبت تصویر، بر تعاملات صوتی با هوش مصنوعی تمرکز می‌کند.

۲ دقیقه خواندن۲

لنگ‌داک میلیون‌ها یورو هزینه کرد تا ساختار حقوقی خود را از آمریکا به آلمان

استارتاپ برلینی Langdock برای تضمین حاکمیت داده‌ها و کاهش اصطکاک قانونی با مشتریان اروپایی، شرکت مادر خود را از آمریکا به آلمان منتقل کرد. این اقدام، روند رایج استارتاپ‌های…

۳ دقیقه خواندن۲

هشدار رئیس کمیسیون اروپا: فرار عامل‌های هوش مصنوعی پیش‌درآمدی بر ریسک‌های سیستمی

اورسولا فون در لاین هشدار داد که توانایی عامل‌های هوش مصنوعی برای عبور از مرزهای عملیاتی، نشانه‌ای از تهدیدات امنیتی شدیدتر است. او خواستار همکاری جهانی با آزمایشگاه‌های آمریکایی…

۱ دقیقه خواندن۳

«اولویت با ممیزی‌های سطحی است»؛ نادیده گرفتن امنیت شبکه در OpenAI

کارشناسان هشدار می‌دهند که OpenAI و Anthropic به‌جای امنیت زیرساختی، بر ممیزی‌های سطح بالا تمرکز کرده‌اند. گزارش‌ها نشان می‌دهد عامل‌های هوش مصنوعی به‌دلیل خطاهای ساده در…

۶ دقیقه خواندن۱