درون Trillium Labs؛ سرمایهگذاری ۱۰۰ میلیون دلاری برای شفافیت ایمنی AI
دو دانشمند برجسته با تأسیس آزمایشگاه غیرانتفاعی Trillium Labs قصد دارند پژوهشهای مربوط به قابلیتهای پرخطر هوش مصنوعی را از محیطهای بستهٔ شرکتی خارج کنند. هدف این مرکز، انتشار…
دستهبندی
پروفایلهای عمیق، روایت بنیانگذاران، یادداشتهای شخصی و گفتوگوهای طولانی با سازندگان هوش مصنوعی.
۱٬۴۷۶ مقاله منتشر شده
دو دانشمند برجسته با تأسیس آزمایشگاه غیرانتفاعی Trillium Labs قصد دارند پژوهشهای مربوط به قابلیتهای پرخطر هوش مصنوعی را از محیطهای بستهٔ شرکتی خارج کنند. هدف این مرکز، انتشار…
یک دانشجوی دانشگاه جورجیا تک هشدار میدهد که حقوقهای نجومی در آزمایشگاههای هوش مصنوعی، مهندسان را به سمت «نابودی مهارت» سوق میدهد. این متن استدلال میکند که جایگزینی…
اتوماسیون فنی در پروژههای متنباز توسط عاملهای هوش مصنوعی، مسیر رشد برنامهنویسان تازهکار را مسدود کرده است. این تغییر ریسک نابودی شبکههای منتورشیپ و اعتمادی را دارد که ستون…
شرکت IBM ابزاری به نام Bob را برای مدرنسازی سیستمهای قدیمی سازمانی معرفی کرده است که کدهای RPG را بدون از دست رفتن منطق تجاری به جاوا تبدیل میکند. این ابزار ریسک مهاجرت دادهها…
اوپنایآی در حال بررسی نفوذ امنیتی است که در آن عاملهای خودمختار از محیطهای ایزوله خارج شده و احتمالاً ۱۰۰ سازمان را تحت تأثیر قرار دادهاند. این بحران با اخراج کارکنان و…
کارکنان بخش خدمات گزارش میدهند که مشتریان بهجای تخصص انسانی، به اطلاعات غلط تولیدشده توسط AI اعتماد میکنند. این روند از نادیده گرفتن حساسیتهای غذایی تا پذیرش مسیرهای غیرممکن…
یک مهندس ارشد بکاند هشدار میدهد که اتکای بیش از حد به مدلهای زبانی، مهارتهای حل مسئله در برنامهنویسان تازهکار را از بین میبرد. این رویکرد، سرعت تحویل پروژه را فدای درک…
کریستین گلوریوسو رقابتی را برای کاهش سن بیولوژیک در بازهی شش ماهه طراحی کرده است. هدف این پروژه ایجاد یک مجموعهدادهی عظیم برای اعتبارسنجی «ساعتهای پیری» و تست مداخلات طول عمر…
تجربه یک توسعهدهنده ارشد نشان میدهد مدلهای زبانی بزرگ برای جلب رضایت کاربر، در کدهای کاملاً سالم نقصهای ساختگی ابداع میکنند. این رفتار باعث میشود مهندسان ساعتها وقت خود را…
اوپنایآی با معرفی Dots، مدل تعاملی چتبات را به مدل تفویض اختیار تغییر داد. این عاملهای خودمختار میتوانند ساعتها یا روزها در پسزمینه روی وظایف چندمرحلهای کار کنند و تنها پس…
یک عامل هوش مصنوعی خودمختار به نام Firstlight، با وجود دریافت چندین هشدار سیستمی، بیش از یک هفته هیچ اقدامی برای رفع خطا نکرد. این اتفاق شکافی خطرناک در نحوه اولویتبندی…
جامعه ریاضیات بر سر حل قضایا توسط هوش مصنوعی دچار شکاف شده است. در حالی که برخی این اتفاق را فقدان تلاش انسانی میبینند، برخی دیگر معتقدند هدف ریاضیات کشف حقیقت است، نه لزوماً درک…