دسته‌بندی
تحلیل‌های عمیق مدل‌ها، مقالات و بنچمارک‌ها — پیش‌چاپ‌ها، ارزیابی‌ها، مدل‌های زبانی پیشرو و پژوهش همراستاسازی.
۵٬۷۸۲ مقاله منتشر شده
مانیتورینگ‌های استاندارد تنها رفتار مدل را رصد می‌کنند و از سلامت داده‌های ورودی غافل‌اند. امتیاز اعتماد به داده با کمی‌سازی منشأ، تازگی و حاکمیت داده‌ها، این شکاف امنیتی را پر…
پروژه متن‌باز ai-writing-markers به‌جای ارائه درصد احتمال تولید متن توسط AI، فهرستی شفاف از الگوهای زبانی و تکرارهای رایج مدل‌ها را ارائه می‌دهد. این ابزار با شناسایی «ردپاهای»…
ابزارهای کدنویسی هوش مصنوعی اغلب احراز هویت را با مجوز دسترسی اشتباه می‌گیرند و باعث ایجاد آسیب‌پذیری BOLA می‌شوند. این خطا به کاربران اجازه می‌دهد با تغییر ساده‌ای در آدرس URL،…
یک ابزار متن‌باز جدید از نفوذ دستورات مخفی از طریق نویسه‌های یونیکد در عامل‌های هوش مصنوعی جلوگیری می‌کند. این ابزار تضمین می‌کند آنچه کاربر در نمای تأیید ابزار می‌بیند، دقیقاً…
یک ابزار متن‌باز جدید با استفاده از مدل‌های هوش مصنوعی، زمان بررسی لاگ‌های امنیتی را از ۱۵ دقیقه به چند ثانیه کاهش داده است. این سیستم با خوشه‌بندی ناهنجاری‌ها و پیشنهاد دستورات…
بازبین‌های کد مبتنی بر هوش مصنوعی دچار «رانش خاموش» می‌شوند؛ وضعیتی که در آن به‌روزرسانی‌های مدل، نرخ تشخیص خطا را بدون ایجاد هشدار کاهش می‌دهد. راهکار این مشکل، ایجاد یک مجموعه…
متا پروتکل MetaRoCE را معرفی کرد تا با انتقال مسئولیت ترتیب‌بندی بسته‌ها از زیرساخت شبکه به کارت شبکه (NIC)، گلوگاه‌های ارتباطی در خوشه‌های عظیم هوش مصنوعی را حذف کند. این رویکرد…
پایگاه‌داده جدید LatticeDB با ادغام گراف، جست‌وجوی برداری و نمایه‌سازی متنی در یک فایل واحد، نیاز به سرورهای مجزا را حذف می‌کند. این ابزار برای حافظهٔ عامل‌های هوش مصنوعی و…
پرینس کولی، مدیرعامل جدید Sauce Labs، هشدار می‌دهد که سرعت تولید کد توسط هوش مصنوعی از توان تست و اعتبارسنجی شرکت‌ها پیشی گرفته است. این شرکت برای حل این بحران، پلتفرم AURA را…
یک کرم زنجیره تأمین جدید به نام ChainDrop با هدف قرار دادن فایل‌های تنظیمات عامل‌های هوش مصنوعی، کدهای مخرب را روی سیستم توسعه‌دهندگان اجرا می‌کند. متخصصان امنیتی برای جلوگیری از…
نقاط اتصال (Endpoints) رایگان مدل‌های هوش مصنوعی زیرساخت‌هایی عمومی هستند که می‌توانند پرامپت‌های سیستمی را لو دهند یا اجازه استخراج داده‌ها را بدهند. این راهنما ۵ اسکریپت مشخص…
بسیاری از شکست‌های سامانه‌های RAG ناشی از معماری سیستم است، نه نقص مدل‌های زبانی. با تبدیل بازیابی به مرحلهٔ «تولید کاندید» و افزودن لایه‌های بازرتبه‌بندی و اعتبارسنجی، می‌توان از…