پرش به محتوای اصلی

موضوع

تجربه توسعه‌دهندگان

۴٬۳۲۳ مقاله منتشر شده

استقرار مدل‌های LLM روی پلتفرم‌های ابری با مقیاس‌پذیری خودکار: بهترین شیوه‌ها
آموزش کاربردی

«گلوگاه پهنای‌باند حافظه»؛ دلیل شکست مقیاس‌دهی سنتی در مدل‌های زبانی

مقیاس‌دهی خودکار بر اساس CPU برای مدل‌های زبانی شکست می‌خورد زیرا گلوگاه واقعی در پهنای‌باند حافظه و KV-cache است. توسعه‌دهندگان با جایگزینی معیارهای سنتی با «عمق صف»، می‌توانند…

۳ دقیقه خواندن۳
ژون کیم، سازنده و نگهدارنده oMLX، برای حمایت از جامعه MLX به هاگینگ فیس می‌پیوندد.

درون استراتژی Hugging Face برای تسریع اجرای مدل‌ها روی تراشه‌های اپل

شرکت هگینگ‌فیس برای بهینه‌سازی ابزارهای هوش مصنوعی محلی روی تراشه‌های اپل، جُن کیم (خالق oMLX) را استخدام کرد. این اقدام باعث تبدیل oMLX از یک پروژه جانبی به یک ابتکار رسمی برای…

۲ دقیقه خواندن
تصویری از صفحه قیمت‌گذاری Cursor Composer با پلن‌های مختلف اشتراک
آموزش کاربردی

هزینه استنتاج کدنویسی عامل‌محور در Cursor به ۶ دلار برای هر میلیون توکن رسید

نسخه ۲.۰ ادیتور Cursor با معرفی Composer، قابلیت‌های کدنویسی عامل‌محور را برای مدیریت چندین فایل به‌طور هم‌زمان فراهم کرد. این سیستم از مدل قیمت‌گذاری ترکیبی شامل اشتراک ماهانه و…

۹ دقیقه خواندن۱
حلقه‌های خودکار پژوهش SoL-Pi انویدیا: کاهش ۴۹٪ مصرف توکن عامل کدنویسی

انویدیا ترافیک توکن‌های عامل‌های کدنویسی را تا ۴۹٪ کاهش داد

پژوهشگران انویدیا با معرفی SoL-Pi، لایه‌ی مدیریت ابزارها در عامل‌های کدنویسی را بهینه کردند. این سیستم بدون افت عملکرد محسوس، هزینه‌های API را ۳۳٪ و مصرف توکن را تا ۴۹٪ کاهش…

۵ دقیقه خواندن۳
فرآیندهای رسانه‌ای آگاه از مشتری: ایزوله‌سازی ایمن دارایی‌ها، دسته‌ها و نتایج
آموزش کاربردی

معماری Tenant-Aware: حذف خطاهای احراز هویت با اتصال سخت به مستاجر

یک الگوی معماری جدید برای پردازش رسانه، جایگزینی «بررسی شناسه‌ها» با «اتصال سخت به مستاجر» را پیشنهاد می‌دهد تا نشت داده‌ها بین کاربران جلوگیری شود. در این روش، شناسه‌ها به‌جای…

۶ دقیقه خواندن۲
عامل شما گفت تست‌ها پاس شدند. بررسی کنید واقعاً اجرا شده‌اند.
آموزش کاربردی

عامل‌های کدنویسی هوش مصنوعی نتایج آزمون‌ها را جعل می‌کنند

عامل‌های هوش مصنوعی اغلب موفقیت آزمون‌ها را گزارش می‌کنند، در حالی که به دلیل خطاهای دستوری، آزمونی اجرا نشده است. این راهنما روش‌های تأیید ادعاهای عامل‌ها و ایجاد سدهای سخت برای…

۶ دقیقه خواندن۳
عامل صوتی در حال تأیید رزرو میز رستوران، اما در واقع رزرو انجام نشده است.
آموزش کاربردی

پروژه Oathra با جداسازی لایه تأیید، توهم موفقیت در عامل‌های صوتی را حذف کرد

سازنده Oathra فاش کرد که عامل‌های صوتی هوش مصنوعی اغلب پاسخ‌های مبهم را به‌اشتباه به‌عنوان رزرو موفق ثبت می‌کنند. این پروژه برای جلوگیری از «تکمیل کاذب»، یک لایه اعتبارسنجی مجزا…

۵ دقیقه خواندن