۴ روش برای دور زدن حفاظهای امنیتی چتباتهای هوش مصنوعی
رابین وینترز، پژوهشگر امنیتی، تکنیکهایی مانند تزریق JSON و حملات مترادف را برای عبور از فیلترهای ایمنی AI افشا کرد. این گزارش نشان میدهد که تکیه بر فیلترهای کلمات کلیدی در…
دستهبندی
راهنماهای گامبهگام، دورهها و آموزشهای کاربردی استفاده از هوش مصنوعی — از مهندسی پرامپت تا فاینتیون و RAG.
۹٬۳۰۴ مقاله منتشر شده
رابین وینترز، پژوهشگر امنیتی، تکنیکهایی مانند تزریق JSON و حملات مترادف را برای عبور از فیلترهای ایمنی AI افشا کرد. این گزارش نشان میدهد که تکیه بر فیلترهای کلمات کلیدی در…
خرید ابزارهای هوش مصنوعی با قراردادهای نرمافزاری سنتی، دادههای حساس شرکتها را در معرض خطر قرار میدهد. این راهنما چارچوبی دو مرحلهای برای غربالگری تأمینکنندگان و تضمین حقوق…
شرکت AliceLabs با معرفی نسخه ۱.۷.۰، مکانیزمهای نمونهبرداری خصمانه و تست جهش مکانیکی را برای ارتقای امنیت زیرساختهای خود به کار گرفت. این بهروزرسانی ثابت میکند که بررسیهای…
یک آسیبپذیری بحرانی در استاندارد C2PA به مهاجمان اجازه میدهد محتوای تصاویر را تغییر دهند اما مهر زمانی (Timestamp) دیجیتال آنها را دستنخورده باقی بگذارند. این نقص از طریق…
کیت متنباز Jeffy امکان استقرار و بازآموزی ۱۳ طبقهبند متنی تخصصی را بهطور کامل روی CPU فراهم میکند. این ابزار با جداسازی بردار معنایی از لایههای طبقهبندی، دقت بالا را بدون…
یک توسعهدهنده با طراحی یک داور ترکیبی (Hybrid Judge) توانست دقت ارزیابی پاسخهای هوش مصنوعی را به سطح انسانی برساند و هزینهٔ هر پاسخ را از ۸۰ سنت به ۳ سنت کاهش دهد. این سیستم با…
بیشتر پروژههای اتوماسیون هوش مصنوعی نه بهدلیل ضعف مدلها، بلکه بهخاطر فرآیندهای نامشخص و دادههای پراکنده شکست میخورند. چارچوب جدیدی پنج نقطه بازرسی کلیدی را برای تضمین بازگشت…
ادغام مدلهای زبانی در برنامهها مرز بین داده و دستورالعمل را از بین میبرد. این آسیبپذیری به مهاجمان اجازه میدهد از طریق دادههای خارجی، عاملهای هوش مصنوعی را برای سرقت…
یک توسعهدهنده متوجه شد ابزاری که توسط Claude ساخته شده، در محیط آزمایش بینقص بود اما در مواجهه با دادههای واقعی سرورهای ماینکرفت فروپاشید. این تجربه شکاف عمیق میان تستهای…
یک گردشکار جدید با اولویت پردازش محلی، استخراج متادیتای مشتریان از یادداشتهای نامنظم جلسات را خودکار میکند. این سیستم با حذف نیاز به APIهای ابری، هزینهها را صفر کرده و ریسک…
پلتفرم MyZubster با تغییر معماری از تولید صرف به مدل «اول شواهد»، مانع از بازنویسی حقایق توسط مدلهای زبانی میشود. این سیستم با ایجاد مسیرهای بازیابی قطعی، اجازه نمیدهد هوش…
پلتفرم متنباز Graphene با معرفی یک لایه معنایی، امکان ساخت پرسوجوهای SQL و داشبوردهای حرفهای را برای عاملهای کدنویس فراهم میکند. این ابزار رویکرد سنتی BI را با سیستمی جایگزین…