
Ollama: حذف ۱۰۰ درصدی هزینههای API با اجرای محلی LLM
سرمایه و حریم خصوصی در برابر API؛ ابزار اولاما امکان اجرای مدلهای زبانی بزرگ را مستقیماً روی سختافزار کاربر فراهم میکند. این رویکرد هزینههای تکرار شونده سرویسهای ابری را حذف…
موضوع
SLMs, on-device inference, mobile AI, AI PCs
۱٬۰۹۶ مقاله منتشر شده

سرمایه و حریم خصوصی در برابر API؛ ابزار اولاما امکان اجرای مدلهای زبانی بزرگ را مستقیماً روی سختافزار کاربر فراهم میکند. این رویکرد هزینههای تکرار شونده سرویسهای ابری را حذف…

بسیاری از کسبوکارها برای حفظ حریم خصوصی و کاهش هزینههای API، مدلهای ابری را با جایگزینهای محلی مانند Ollama عوض میکنند. دادهها نشان میدهد این تغییر میتواند زمان بازبینی…

روشی جدید در کتابخانه AudioTrace با استفاده از پردازش سیگنال و سنجش زیروبمی صدا، نیاز به مدلهای گیتدار و GPU را برای تفکیک دو گوینده حذف کرده است. این رویکرد دقت را در تماسهای…

اپل شرکت OpenAI را به سرقت سازمانیافته اسناد فنی و طرحهای محرمانه برای توسعه یک دستگاه سختافزاری رقیب متهم کرد. این شکایت مستقیماً مدیران ارشد و کارکنان سابق اپل را هدف قرار…

مدل DeepAnalyze-8B امکان ساخت عاملهای تحلیل داده مستقل را فراهم میکند که قادر به کدنویسی، اجرا و اصلاح خطا در محیط ایزوله هستند. استفاده از کوانتش ۴ بیتی، این گردش کار را حتی بر…

پروژه متنباز Agent OS با معرفی معماری دو-عاملی، برنامهریزی هوش مصنوعی را از اجرای کد جدا میکند. این سیستم بهجای اعتماد به ادعای مدل، هر تسک را تنها پس از موفقیت در 빌د و…

سپیساکس برای استقرار نسل سوم استارلینک با هدف ارتقای ۱۰۰ برابری پهنای باند درخواست مجوز داده است. این شبکه عظیم قرار است سرعتهای چند گیگابیتی را برای میلیاردها دستگاه هوش مصنوعی…

شرکت AMD با معرفی Ryzen AI Halo، سختافزار دسکتاپی کامپکتی را روانه بازار کرد که با ۱۲۸ گیگابایت حافظه یکپارچه، اجرای مدلهای غولپیکر را بهصورت محلی ممکن میکند. این دستگاه…

یک دموی فنی جدید با استفاده از LiteRT.js گوگل، امکان شناسایی ۳۸۷ نوع محصول کشاورزی را کاملاً درون مرورگر فراهم کرده است. این پروژه ثابت میکند شناسایی تصاویر با تنوع بالا میتواند…

سیستمعامل جدید Aye-Aye با ایندکسگذاری محتوای صفحه و اعلانها بهصورت کاملاً محلی، یک پایگاه دانش قابل جستوجو برای کاربران اندروید میسازد. این ابزار با حذف وابستگی به ابر،…

دستگاه QuadRF یک رادیوی آرایه-فازی بازمنبع است که با کمک رزبری پای ۵، محیطهای RF را بهصورت بصری نمایش میدهد. این ابزار قادر است پهپادها و سیگنالهای WiFi را حتی از میان موانع…

شرکت Xreal با معرفی برند اقتصادی X by Xreal، عینک AR مدل a01+ را برای مصرف محتوای رسانهای روانه بازار کرد. این دستگاه با حذف دوربین و سنسورهای پیچیده، نمایشگرهای باکیفیت را با…