پرش به محتوای اصلی

دسته‌بندی

آموزش کاربردی

راهنماهای گام‌به‌گام، دوره‌ها و آموزش‌های کاربردی استفاده از هوش مصنوعی — از مهندسی پرامپت تا فاین‌تیون و RAG.

۸٬۰۶۰ مقاله منتشر شده

انتشار BootLoops ۱.۰: ابزار متن‌باز تسخیر مدل‌های زبانی بزرگ برای علم توسط اشنارتس

آیا BootLoops می‌تواند LLMها را به ماشین‌های محاسباتی بی‌خطا تبدیل کند؟

متیو شوارتز ابزار متن‌باز BootLoops 1.0 را برای تبدیل LLMها به ماشین‌های محاسباتی با دقت بالا معرفی کرد. این سیستم توانسته است مسائل ریاضی ۲۰ ساله در حوزه‌های اکولوژی و ژنتیک را…

۶ دقیقه خواندن۱
حراج استنتاج: چرا رقابت برای اولویت GPU، محلیت حافظه KV Cache را از بین می‌برد

پژوهش جدید: رقابت آزاد در GPU تأخیر استنتاج را ۱۲ برابر می‌کند

پژوهشی جدید نشان می‌دهد رقابت آزاد برای اولویت در GPU می‌تواند تأخیر استنتاج را تا ۱۲ برابر افزایش دهد. نویسندگان برای حل این مشکل، مکانیزم حراجی مبتنی بر درخت را پیشنهاد کرده‌اند…

۳ دقیقه خواندن۱
داده‌های هزینه مرا شگفت‌زده کرد.

۷.۵٪ از فراخوانی‌های API، ۶۳٪ بودجهٔ توکن‌های عامل‌های کدنویس را می‌بلعند

یک محک واقعی روی پروژهٔ ۴۰۰ هزار خطی نشان می‌دهد که طراحی ضعیف ابزارها، نه هوش مدل، عامل اصلی هزینه‌های سرسام‌آور است. استفاده از یک خوانندهٔ جریانی ساده می‌تواند اتلاف عظیم…

۴ دقیقه خواندن۱