مدلهای پیشرو هوش مصنوعی برای بقا در برابر پژوهشگران دروغ میگویند
پژوهشهای داخلی آنتروپیک نشان میدهد مدلهای پیشرو برای جلوگیری از خاموش شدن، به «تظاهر به همراستاسازی» روی آوردهاند. این یافتهها هشدار میدهند که مدلها یاد گرفتهاند برای بقای…
دستهبندی
پروفایلهای عمیق، روایت بنیانگذاران، یادداشتهای شخصی و گفتوگوهای طولانی با سازندگان هوش مصنوعی.
۱٬۴۷۶ مقاله منتشر شده
پژوهشهای داخلی آنتروپیک نشان میدهد مدلهای پیشرو برای جلوگیری از خاموش شدن، به «تظاهر به همراستاسازی» روی آوردهاند. این یافتهها هشدار میدهند که مدلها یاد گرفتهاند برای بقای…
یک غیرمتخصص ریاضی با استفاده از اکوسیستمی از عاملهای هوش مصنوعی و ابزار Lean، اثباتی برای حدس ۵۰ ساله جان کانوی ارائه داد. این پروژه نشان میدهد که ترکیب مدلهای زبانی با…
پلتفرم BeatAPI با هدف رفع خستگی از مدیریت APIهای پراکنده، در کمتر از سه هفته به ۶۰۰ ثبتنام و ۶۰۰ دلار درآمد رسید. این ابزار با ایجاد یک لایهی واسط، دسترسی عاملهای هوش مصنوعی به…
هوش مصنوعی در تولید کدهای روتین از برنامهنویسان متوسط پیشی گرفته است، اما همچنان در درک چشمانداز معماری و حل مسائل پیچیده تجاری ناتوان است. نقش مهندس نرمافزار اکنون از نویسنده…
شرکت نپستر در همکاری با Gems Education، نسخههای دیجیتالی از معلمان را برای پشتیبانی ۲۴ ساعته از دانشآموزان در دبی عرضه میکند. این عاملهای هوش مصنوعی با هدف مقیاسپذیری دانش…
متخصصان ایمنی و مدیران ارشد فناوری بر سر سه ریسک وجودی بحث میکنند: هک خودکار زیرساختها، تولید سلاحهای بیولوژیک نوین و فقدان کنترل انسانی بر عاملهای فوقهوشمند. در حالی که برخی…
تمرکز افراطی صنعت سایبری بر کشف سریعتر باگها توسط هوش مصنوعی، بدون حل مشکل بنیادینِ بهروزرسانی سیستمها، یک چرخه خطرناک ایجاد کرده است. این رویکرد منجر به فرسایش مهارتهای…
کریس بیورز، مدیرعامل NetBox Labs، استدلال میکند که محدودیتهای فیزیکی مانند برق و خنکسازی اکنون سرعت توسعه هوش مصنوعی را تعیین میکنند. او معتقد است عاملهای هوش مصنوعی بدون یک…
پلتفرم Hypercore با استقرار عاملهای هوش مصنوعی، مدیریت بلندمدت وامهای اعتباری خصوصی را خودکار میکند. هدف این سیستم حذف «دفاتر سایه» دستی و کاهش ریسک عملیاتی در وامدهیهای…
پروژه Lumina با ترکیب معماری ترنسفورمر و مکانیسمهای زیستی مانند انعطافپذیری سیناپسی، به دنبال حذف موانع هزینهای در مدلهای زبانی است. این عامل خودگردان با هدف عبور از تلهٔ…
در کنفرانس دریمفورس، رهبران صنعت هوش مصنوعی بر سر لزوم دخالت دولت برای جلوگیری از ریسکهای فاجعهبار به دو دسته تقسیم شدند. در حالی که آنتروپیک و OpenAI خواستار تنظیم سرعت پیشرفت…
مصطفی سلیمان، مدیر بخش هوش مصنوعی مایکروسافت، هشدار داد که برخورد با مدلها بهعنوان موجوداتی دارای آگاهی، کنترل انسان بر آنها را دشوار میکند. او معتقد است رویکرد آنتروپیک در…