۴ روش برای دور زدن حفاظهای امنیتی چتباتهای هوش مصنوعی
رابین وینترز، پژوهشگر امنیتی، تکنیکهایی مانند تزریق JSON و حملات مترادف را برای عبور از فیلترهای ایمنی AI افشا کرد. این گزارش نشان میدهد که تکیه بر فیلترهای کلمات کلیدی در…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۲۳ مقاله منتشر شده
رابین وینترز، پژوهشگر امنیتی، تکنیکهایی مانند تزریق JSON و حملات مترادف را برای عبور از فیلترهای ایمنی AI افشا کرد. این گزارش نشان میدهد که تکیه بر فیلترهای کلمات کلیدی در…
یک آسیبپذیری بحرانی در استاندارد C2PA به مهاجمان اجازه میدهد محتوای تصاویر را تغییر دهند اما مهر زمانی (Timestamp) دیجیتال آنها را دستنخورده باقی بگذارند. این نقص از طریق…
کیت متنباز Jeffy امکان استقرار و بازآموزی ۱۳ طبقهبند متنی تخصصی را بهطور کامل روی CPU فراهم میکند. این ابزار با جداسازی بردار معنایی از لایههای طبقهبندی، دقت بالا را بدون…
یک توسعهدهنده با طراحی یک داور ترکیبی (Hybrid Judge) توانست دقت ارزیابی پاسخهای هوش مصنوعی را به سطح انسانی برساند و هزینهٔ هر پاسخ را از ۸۰ سنت به ۳ سنت کاهش دهد. این سیستم با…
ادغام مدلهای زبانی در برنامهها مرز بین داده و دستورالعمل را از بین میبرد. این آسیبپذیری به مهاجمان اجازه میدهد از طریق دادههای خارجی، عاملهای هوش مصنوعی را برای سرقت…
پلتفرم متنباز Graphene با معرفی یک لایه معنایی، امکان ساخت پرسوجوهای SQL و داشبوردهای حرفهای را برای عاملهای کدنویس فراهم میکند. این ابزار رویکرد سنتی BI را با سیستمی جایگزین…
زبان جدید Vx با ادغام مکانهای حافظه سختافزاری در سیستم تایپ خود، مرزهای بین CPU، GPU و NPU را به عنوان تایپهای معنایی تعریف میکند. این رویکرد باعث میشود خطاهای حافظه پیش از…
بحث قدیمی میان رویکردهای API-first و Code-first با ظهور عاملهای هوش مصنوعی تغییر کرده است. در سال ۲۰۲۶، مستندات دقیق API دیگر صرفاً یک راهنما نیستند، بلکه ورودی حیاتی برای عملکرد…
تبادل کدهای منبع خام بین عاملهای خودمختار در مقیاس بالا منجر به فروپاشی شبکه و مخاطرات امنیتی میشود. Sentinel-IR با جایگزینی متن خام با «پاسپورتهای حقیقت» (Fact Passports)، حجم…
اوپنایآی اکنون اجازه میدهد سرورهای پروتکل زمینه مدل (MCP) مستقیماً روی سایتهای ChatGPT میزبانی شوند. این تغییر سد میزبانی را میشکند اما چالش امنیتی را از مرحله نصب به مرحله…
عامل سفر Ninety با ممنوع کردن محاسبات ریاضی برای مدل زبانی و سپردن آنها به یک موتور قطعی TypeScript، توهمات عددی را حذف کرد. این سیستم از پروتکل MCP برای بازیابی قوانین…
شرکت Pagepro ابزاری به نام Cross-Check ساخته است که محتوای وبسایت را با پرسشهای واقعی خریداران و پاسخهای تیم فروش مقایسه میکند. این عامل هوش مصنوعی تضادهای قیمتی و خلأهای…