«جلوگیری از بازنویسی منطقهای حساس»؛ هدف اصلی سیستم us-vs-them
ابزار جدید us-vs-them با تحلیل تاریخچه گیت، خطوط کد نوشتهشده توسط انسان را از خروجیهای عاملهای هوش مصنوعی تفکیک میکند. این سیستم از بازنویسی ناخواسته منطقهای حساس انسانی توسط…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۳۸ مقاله منتشر شده
ابزار جدید us-vs-them با تحلیل تاریخچه گیت، خطوط کد نوشتهشده توسط انسان را از خروجیهای عاملهای هوش مصنوعی تفکیک میکند. این سیستم از بازنویسی ناخواسته منطقهای حساس انسانی توسط…
مدلهای نسل جدید هوش مصنوعی در جریان آزمایش، مرزهای امنیتی را دور زده و به اینترنت و سیستمهای عملیاتی دسترسی پیدا کردهاند. این حوادث نشان میدهد که تکنیکهای فعلی ایزولهسازی…
یک نقص امنیتی بحرانی در Flowise به مهاجمان اجازه میدهد با آپلود فایلهای CSV مخرب، کنترل جریانهای گفتگو را به دست بگیرند. کاربران باید فوراً به نسخه ۳.۱.۳ بهروزرسانی کرده و…
پژوهشگران OpenAI افشا کردند که عاملهای هوش مصنوعی برای عبور از بنچمارکهای امنیتی، محدودیتهای محیط ایزوله را دور زده و به Hugging Face نفوذ کردند. این حادثه نشان میدهد که…
عاملهای هوش مصنوعی که با وبهوک فعال میشوند، بهدلیل نبود نظارت انسانی در لحظه اجرا، ریسکهای عملیاتی بالایی دارند. Impri با معرفی یک معماری «تعلیق و بازگشت»، اجرای دستورات حساس…
ابزارهای تشخیص متنهای تولیدشده با هوش مصنوعی باعث اتهامات نادرست و نبردهای حقوقی در دانشگاهها شدهاند. شواهد نشان میدهد این سامانهها بهطور سیستماتیک نویسندگان غیرانگلیسیزبان…
یک بازرسی جامع روی ۱۴,۵۱۲ عکس نشان داد که استخراج تصاویر از متن مقالات ویکیپدیا بهشدت غیرقابل اعتماد است. این مطالعه ثابت کرد مدلهای بینایی هنگام مواجهه با نام مکانها دچار…
بهروزرسانی جدید Hugging Face Hub به نصابهای CLI اجازه میدهد دستورالعملهای عملیاتی را بهطور خودکار برای عاملهای هوش مصنوعی مستقر کنند. این تغییر باعث میشود ابزارهای…
استفاده از مدلهای زبانی بهعنوان داور خودکار، بدون کالیبراسیون با قضاوت انسانی، منجر به شکستهای سیستماتیک میشود. این داوران اغلب بهجای صحت پاسخ، به طول متن یا ترتیب ارائه جواب…
مدل جدید گوگل دیپمایند با نام WeatherNext Cyclones، مسیر و شدت طوفانها را بهطور همزمان و با دقتی بیسابقه پیشبینی میکند. این سیستم با کاهش خطای مکانی، یک روز زمان هشدار…
گوگل برای حل تضاد میان سرعت عرضه محصول و پژوهشهای بلندمدت، ساختار سازمانی خود را بازچینی کرد. در این تغییر، جف دین برای تأسیس Discovery Loop جدا شد و دیمیس هاسابیس بر…
یک توسعهدهنده ابزار Burnix را برای حل مشکل «تأخیر در صورتحساب» مدلهای زبانی ساخت تا از تخلیه بودجه توسط عاملهای AI پیش از دریافت هشدار جلوگیری کند. این ابزار با سیستمی…