پرش به محتوای اصلی

موضوع

مدل‌های بازوزن

Open-source models, open weights, local hosting, licensing

۲٬۰۵۸ مقاله منتشر شده

کاپیلت هوش مصنوعی رایگان و متن‌باز مک که روی همه پنجره‌ها شناور می‌شود
آموزش کاربردی

cue: دستیار هوش مصنوعی محیطی برای رهایی از جابه‌جایی میان برنامه‌های macOS

پروژه‌ی متن‌باز cue با ایجاد یک لایه‌ی شناور روی سیستم‌عامل macOS، محدودیت ابزارهای متمرکز در یک اپلیکیشن را می‌شکند. این ابزار می‌تواند محتوای صفحه و صدای جلسات را رصد کند و بدون…

۳ دقیقه خواندن۲
محاسبه هزینه واقعی برق جلسات کدنویسی با هوش مصنوعی: بیشتر از هزینه قهوه روزانه!
زندگی با AIتأییدنشده · منبع منفرد

چرا اجرای مدل‌های زبانی روی سخت‌افزار شخصی هزینه‌برتر است؟

یک آزمایش دو هفته‌ای نشان می‌دهد اجرای مدل‌های زبانی روی سخت‌افزار شخصی به‌دلیل نبود کارایی مراکز داده، هزینه‌ی برق بیشتری دارد. عامل اصلی این مصرف، ارسال حجم بالای متن به عنوان…

۳ دقیقه خواندن۱
هوش مصنوعی گفتاری در ۵۰۰ کیلوبایت جا می‌شود. هزینه ابری هرگز مسئله اصلی نبود.

مدل Moonshine: بازشناسی گفتار در حجم ۵۰۰ کیلوبایت برای میکروکنترلرها

مدل‌های فوق‌کوچک بازشناسی گفتار مانند Moonshine، رابط‌های صوتی را به میکروکنترلرها آورده‌اند. این تغییر مسیر بیش از آنکه به دلیل کاهش هزینه‌های ابری باشد، ناشی از نیاز به…

۹ دقیقه خواندن
ساخت برنامه‌های خلاصه‌سازی متن با مدل‌های زبانی بزرگ
آموزش کاربردی

نرخ ثابت در برابر هزینه توکن؛ تغییر رویکرد Oxlo.ai در پردازش داده‌ها

پلتفرم Oxlo.ai با جایگزینی هزینهٔ توکن با نرخ ثابت به‌ازای هر درخواست، ریسک مالی پردازش اسناد حجیم را از بین برد. این رویکرد امکان ساخت ابزارهای خلاصه‌ساز سریع را بدون نگرانی از…

۴ دقیقه خواندن۲
مدل‌های قیمت‌گذاری LLM بر اساس توکن
آموزش کاربردی

Oxlo.ai: کاهش ۱۰ تا ۱۰۰ برابری هزینه‌های پردازش با مدل Request-Based

پلتفرم Oxlo.ai با جایگزینی مدل توکن‌محور با هزینهٔ ثابت به‌ازای هر درخواست، پیش‌بینی هزینه‌ها را برای توسعه‌دهندگان ساده کرد. این تغییر باعث کاهش چشم‌گیر هزینه‌های عملیاتی در…

۳ دقیقه خواندن۱