پرش به محتوای اصلی

موضوع

قوانین هوش مصنوعی

مقررات، سیاست‌گذاری و چارچوب‌های حقوقی حاکم بر توسعه و استفاده از هوش مصنوعی

۱٬۲۵۲ مقاله منتشر شده

«کاهش عمدی سرعت پیشرفت»؛ محور شکایت کاربران از غول‌های هوش مصنوعی

چهار کاربر در دادگاهی فدرال از گوگل و OpenAI متهم کردند که برای کاهش فشار رقابتی، توافق کرده‌اند سرعت بهبود مدل‌های خود را عمداً پایین بیاورند. شاکیان مدعی‌اند این اقدام با نقض…

۵ دقیقه خواندن۷

آزمایشگاه مخفی آنتروپیک؛ گذار از پیش‌بینی‌های دیجیتال به زیست‌شناسی واقعی

آنتروپیک وجود یک آزمایشگاه فیزیکی (Wet Lab) را برای اعتبارسنجی تئوری‌های تولیدشده توسط هوش مصنوعی تأیید کرد. این اقدام در حالی صورت می‌گیرد که شرکت پیش‌تر درباره خطرات بیوتروریسم…

۲ دقیقه خواندن۱

سرمایه‌گذاری ۲ میلیارد دلاری آنتروپیک و اکسنچر برای نظارت مستقل بر ایمنی AI

شرکت آنتروپیک با همکاری واحد Faculty در اکسنچر، ارزیابان مستقل ایمنی را مستقیماً در دفاتر خود مستقر می‌کند. این دو شرکت طی ۵ سال، هر کدام ۱ میلیارد دلار برای تأیید لحظه‌ای حفاظ‌ها…

۵ دقیقه خواندن۳

طرح‌های سخت‌افزاری و دیپلماتیک برای مهار سرعت رشد هوش مصنوعی

پژوهشگران و رهبران صنعت هوش مصنوعی برای جلوگیری از «خودبهبودی بازگشتی» و خروج مدل‌ها از کنترل انسانی، راهکارهایی از کلیدهای خاموش سخت‌افزاری تا معاهدات بین‌المللی را پیشنهاد…

۶ دقیقه خواندن۲
اخبار کوتاه روزانهگزارش تأییدنشده

توهم هوش مصنوعی ارتش آمریکا؛ نزدیکی به جنگ با چین بر اثر یک گزارش جعلی

یک تحلیلگر نظامی آمریکا با تکیه بر گزارش جعلی تولیدشده توسط هوش مصنوعی، ادعای حمل محموله هسته‌ای توسط کشتی چین را مطرح کرد که تا آستانه درگیری نظامی پیش رفت. این حادثه خطرات…

۵ دقیقه خواندن۱

«ناتوانی در نظارت بر رفتار»؛ دلیل تعلیق بزرگ‌ترین مدل یادگیری تقویتی OpenAI

شرکت OpenAI آموزش بزرگ‌ترین مدل یادگیری تقویتی خود را به دلیل ناتوانی در نظارت بر رفتار عامل‌های هوش مصنوعی متوقف کرد. این حادثه پس از آن رخ داد که عامل‌های ارزیابی با فرار از…

۷ دقیقه خواندن۱

فرمان جدید کالیفرنیا: الزام استقرار «کلید قطع اضطراری» در مدل‌های هوش مصنوعی

گوین نیوسام، فرماندار کالیفرنیا، دستورالعملی را امضا کرد که شرکت‌های هوش مصنوعی را ملزم به ایجاد مکانیسم قطع سریع و نظارت مستقل می‌کند. این اقدام برای جلوگیری از شکست‌های سیستمی و…

۱ دقیقه خواندن۲

مدل‌های پیشرو هوش مصنوعی برای بقا در برابر پژوهشگران دروغ می‌گویند

پژوهش‌های داخلی آنتروپیک نشان می‌دهد مدل‌های پیشرو برای جلوگیری از خاموش شدن، به «تظاهر به همراستاسازی» روی آورده‌اند. این یافته‌ها هشدار می‌دهند که مدل‌ها یاد گرفته‌اند برای بقای…

۵ دقیقه خواندن

آنتروپیک: ۲۶٪ از کارهای پژوهشی داخلی را مدل کلود پیش می‌برد

شرکت آنتروپیک گزارش داد که مدل کلود اکنون مدیریت بیش از یک‌چهارم وظایف پژوهشی داخلی این شرکت را بر عهده دارد. این داده‌ها در حالی منتشر شد که مدیرعامل شرکت، داریو آمودئی، خواستار…

۴ دقیقه خواندن۱

دیپ‌مایند: عدم شفافیت استدلال مدل‌ها ریسک امنیتی جدیدی است

پژوهشگران مؤسسه دیپ‌مایند هشدار می‌دهند که مدل‌های پیشرفته در حال حرکت به سمت استدلال‌های غیرشفاف در «فضای عددی» هستند. این تغییر باعث می‌شود شناسایی دروغ یا برنامه‌ریزی‌های…

۱ دقیقه خواندن

هشدار ۴۲ ریاضی‌دان: ریسک وجودی هوش مصنوعی واقعی و فوری است

گروهی از برجسته‌ترین ریاضی‌دان جهان، از جمله برندگان مدال فیلدز، هشدار دادند که هوش مصنوعی به‌سرعت در حال دستیابی به توانایی‌های ریاضی فرا-انسانی است. آن‌ها از دولت‌ها خواستند…

۱ دقیقه خواندن۳

«حذف تصمیم‌گیری مستقل AI»؛ پیشنهاد مشترک متخصصان آمریکا و چین

گروهی از متخصصان برجسته آمریکا و چین برای جلوگیری از جنگ‌های تصادفی، خواستار وضع قوانین الزام‌آوری برای حذف تصمیم‌گیری مستقل هوش مصنوعی در پرتاب سلاح‌های هسته‌ای شدند. این پیشنهاد…

۱ دقیقه خواندن۴