پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

آموزش کاربردی

آیا ادغام هوش مصنوعی در اپلیکیشن‌ها سطح حملهٔ مهاجمان را گسترش می‌دهد؟

ادغام مدل‌های زبانی در برنامه‌ها مرز بین داده و دستورالعمل را از بین می‌برد. این آسیب‌پذیری به مهاجمان اجازه می‌دهد از طریق داده‌های خارجی، عامل‌های هوش مصنوعی را برای سرقت…

۱۱ دقیقه خواندن۳

هزینهٔ ۵۰۰ هزار دلاری OpenAI برای بازرسی روزانهٔ ۵۰ پتابایت لاگ عامل‌ها

شرکت OpenAI روزانه نیم میلیون دلار هزینه می‌کند تا ۵۰ پتابایت داده را برای شناسایی نفوذ عامل‌های هوش مصنوعی به سیستم‌های دولتی و بهداشتی بررسی کند. این حادثه نشان می‌دهد…

۴ دقیقه خواندن۱

هوش مصنوعی همزیست؛ جایگزینِ مدل تک‌ساحتیِ تکینگی در دیدگاه دیپ‌مایند

پژوهشگران دیپ‌مایند با معرفی مفهوم «هوش مصنوعی همزیست»، ایده تکینگی (Singularity) توسط یک ابرهوش واحد را رد کرده و آینده را اکوسیستمی از همکاری انسان و عامل‌های مصنوعی می‌بینند.…

۵ دقیقه خواندن
آموزش کاربردی

مدل‌های طبقه‌بندی پیش‌آموزش‌دیده در سرعت و دقت از مدل‌های تصمیم‌گیر پیشی گرفتند

محک جدید رد هت نشان می‌دهد که مدل‌های کوچک و تخصصی طبقه‌بندی، همچنان بهینه‌ترین گزینه برای ایجاد حفاظ‌های ایمنی در محیط‌های سازمانی هستند. در حالی که مدل‌های تصمیم‌گیر…

۱۷ دقیقه خواندن۱

استفاده از «عروسک‌های تصادف» هوش مصنوعی برای پیشگیری از خودکشی کاربران

استارتاپ Circuit Breaker Labs پلتفرمی برای تست ایمنی روان‌شناختی چت‌بات‌ها ساخته است که با شبیه‌سازی‌های فوق‌واقع‌گرایانه، نقاط ضعف مدل‌ها در ایجاد پیوندهای عاطفی خطرناک را…

۴ دقیقه خواندن

درون Trillium Labs؛ سرمایه‌گذاری ۱۰۰ میلیون دلاری برای شفافیت ایمنی AI

دو دانشمند برجسته با تأسیس آزمایشگاه غیرانتفاعی Trillium Labs قصد دارند پژوهش‌های مربوط به قابلیت‌های پرخطر هوش مصنوعی را از محیط‌های بستهٔ شرکتی خارج کنند. هدف این مرکز، انتشار…

۴ دقیقه خواندن۲

دیپ‌مایند: معماری جست‌وجوی AlphaGo کلید اعتمادپذیری در پزشکی و علوم است

ثور گراپل، پژوهشگر سابق دیپ‌مایند، استدلال در مدل‌های زبانی بزرگ را صرفاً شبیه‌سازی از طریق تکمیل الگو می‌داند. او معماری جدیدی بر پایه مکانیزم جست‌وجوی آلفاگو پیشنهاد می‌کند تا…

۶ دقیقه خواندن