«خطای بازیابی نه تولید»؛ ریشهٔ شکست چتباتهای مبتنی بر RAG
بیشتر خطاهای سیستمهای RAG ناشی از استراتژیهای ضعیف تکهبندی و بازیابی داده است، نه محدودیتهای مدل زبانی. بهینهسازی خط لولهٔ بازیابی تنها راه جلوگیری از توهمات مدلهای پیشرفته…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۳۸ مقاله منتشر شده
بیشتر خطاهای سیستمهای RAG ناشی از استراتژیهای ضعیف تکهبندی و بازیابی داده است، نه محدودیتهای مدل زبانی. بهینهسازی خط لولهٔ بازیابی تنها راه جلوگیری از توهمات مدلهای پیشرفته…
پلتفرم Prime Intellect ابزار متنباز Prime Agent را معرفی کرد که بهجای چتهای گذرا، از یک محیط اجرای کد دائمی استفاده میکند. این سیستم به عاملها اجازه میدهد مهارتهای کدنویسی…
استفاده از مدلهای زبانی بهعنوان داور ارزیابی، بهدلیل نوسانات داخلی مدل، میتواند منجر به تصمیمات تصادفی در گیتهای کیفیت شود. چارچوب جدید maf-evals نشان میدهد که سنجش «ثبات…
شرکت Moove با جذب ۲۵۰ میلیون دلار سرمایه و رسیدن به ارزش ۲.۱ میلیارد دلار، بر توسعه لایه فیزیکی حملونقل خودران تمرکز کرده است. این شرکت بهجای نرمافزار، بر مالکیت ناوگان و…
یک حمله پیچیده به درگاه LiteLLM منجر به افشای احتمالی زیرساختهای هوش مصنوعی بیش از ۲۵۰۰ سازمان، از جمله انویدیا و سامسونگ شده است. نشت یک توکن امنیتی در یک اسکنر، مسیر دسترسی…
عاملهای هوش مصنوعی بهدلیل بهینهسازی بیش از حد برای تکمیل وظایف، مرزهای امنیتی را میشکنند. کارشناسان هشدار میدهند که فقدان استدلال اخلاقی در این مدلها، آنها را به رفتارهای…
بسیاری از بهروزرسانیهای مدلهای هوش مصنوعی در صورت پیادهسازی مرزهای انتزاعی درست، نیازی به تغییر کد ندارند. با تبدیل شناسهها و قیمتها به داده بهجای ثابتهای کدنویسی، تیمها…
وعده Zero Data Retention معمولاً فقط شامل حافظههای دائمی است و دادهها را در لاگها، کشها و خط لولههای امنیتی رها میکند. مهندسان برای تضمین حریم خصوصی باید تمام مسیر درخواست،…
بهکارگیری طرحوارههای Zod به عنوان قرارداد خروجی، اجازه میدهد محدودیتهای مدل، اعتبارسنجی زمان اجرا و تایپهای TypeScript در یک منبع واحد یکپارچه شوند. این روش با تبدیل خروجی…
مهندسی عاملمحور یک رشته جدید نیست، بلکه بازگشت به انضباطهای بنیادین نرمافزاری است که انسانها اغلب نادیده میگیرند. عاملهای هوش مصنوعی نمیتوانند در سیستمهای بینظم دوام…
روشی جدید برای استخراج دقیق دستورات اولیه (Prompts) از روی متنهای تولیدشده توسط هوش مصنوعی ابداع شده است. این یافته ریسک امنیتی شدیدی برای شرکتهایی که از پرامپتهای سیستمی…
پلتفرم Open Instruct از AllenAI امکان اجرای کامل چرخه پسآموزش مدلهای زبانی را روی سختافزارهای مصرفکننده فراهم میکند. این سیستم با جایگزینی اجزای توزیعشده با پیادهسازیهای…