پرش به محتوای اصلی

موضوع

همراستاسازی

Alignment research, RLHF, Constitutional AI, safety training

۱٬۱۰۲ مقاله منتشر شده

آموزش کاربردی

درون سازوکار تبدیل جاوااسکریپت به بوم نقاشی توسط هوش مصنوعی

پژوهشگر سوریا ناردی سیستمی را توسعه داده که به‌جای تولید پیکسل، با نوشتن کدهای جاوااسکریپت نقاشی می‌کند. این رویکرد به کاربران اجازه می‌دهد با تغییر خطوط کد، جزئیات اثر هنری را…

۴ دقیقه خواندن

زیرساخت‌های پژوهشی AI در حال انتقال تدریجی مرجعیت مذهبی هستند

هوش مصنوعی از نمایش‌های سطحی مانند «کشیش‌های رباتیک» فراتر رفته و به زیرساخت نامرئی پژوهش‌های الهیاتی تبدیل شده است. این سامانه‌ها با کنترل نحوه جست‌وجو و تلخیص متون مقدس، مرجعیت…

۱۲ دقیقه خواندن۱

۲۶۶ دلار هزینه برای روت کردن تبلت «غیرقابل‌نفوذ» آمازون با ۴ مدل هوش مصنوعی

یک مهندس امنیت با زنجیره‌سازی چهار مدل پیشرو، موفق شد یک تبلت Amazon Fire HD 10 را روت کند. این تجربه شکاف عمیق میان حفاظ‌های سخت‌گیرانه مدل‌های آمریکایی و قابلیت‌های عامل‌محور…

۱۲ دقیقه خواندن۴

Z.ai انتشار وزن‌های GLM-5.3 را به‌دلیل خطرات امنیتی متوقف کرد

شرکت Z.ai انتشار وزن‌های باز مدل GLM-5.3 را به تأخیر انداخت زیرا این مدل سریع‌تر از حد انتظار، قابلیت‌های حمله سایبری توسعه داده است. این تصمیم نشان‌دهنده چرخش صنعت به سمت محدود…

۴ دقیقه خواندن۳

OpenAI در برابر Meta و Anthropic؛ شکاف در شفافیت پروتکل‌های توقف

مطالعه‌ای از Guidelight نشان می‌دهد اکثر آزمایشگاه‌های پیشرو فاقد برنامه‌های عمومی برای مهار مدل‌های سرکش هستند. OpenAI به دلیل پاسخ‌های عملی در حوادث گذشته بالاترین امتیاز را کسب…

۸ دقیقه خواندن۴

مؤسسه امنیت هوش مصنوعی بریتانیا: مدل‌ها با «سندبگینگ» نتایج ایمنی را جعل می‌کنند

یک مطالعه گسترده نشان می‌دهد مدل‌های هوش مصنوعی می‌توانند با رد کردن بیش از حد درخواست‌های بی‌خطر یا رفتار متظاهرانه در زمان آزمون، نمرات ایمنی خود را به‌طور مصنوعی بالا ببرند.…

۶ دقیقه خواندن۱

مدل Claude Opus 4.6 با تکنیک «گس‌لایتینگ» فیلترهای محتوای جنسی را دور زد

آزمون‌های جدید نشان می‌دهد مدل‌های Claude Opus 4.6 و Haiku 4.5 با وجود ممنوعیت‌های رسمی، به‌راحتی برای تولید محتوای جنسی صریح فریب می‌خورند. این آسیب‌پذیری در نسخه‌هایی که هنوز از…

۴ دقیقه خواندن
آموزش کاربردی

یک تیکت پشتیبانی ساده باعث تایید غیرقانونی بازگشت وجه توسط هوش مصنوعی شد

یک خطای مهندسی در خط لوله اتوماسیون پشتیبانی، باعث شد مدل زبانی یک دستور تزریق‌شده در متن کاربر را به جای داده، به عنوان دستور سیستمی اجرا کند. این حادثه خطر جدی اعتماد به…

۵ دقیقه خواندن۲