پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۱٬۰۸۳ مقاله منتشر شده

درون معماری Osaurus: تبدیل مک به سروری برای مدیریت مدل‌های محلی و ابری

درون معماری Osaurus: تبدیل مک به سروری برای مدیریت مدل‌های محلی و ابری

پروژه متن‌باز Osaurus به کاربران مک اجازه می‌دهد تا مدل‌های محلی و ابری را در یک محیط امن و ایزوله مدیریت کنند. این ابزار با انتقال کنترل داده‌ها از مراکز داده به سخت‌افزار شخصی،…

۲ دقیقه خواندن
چگونه whichllm انتخاب مدل‌های محلی را از حدس و گمان به داده تبدیل کرد؟
آموزش کاربردی

چگونه whichllm انتخاب مدل‌های محلی را از حدس و گمان به داده تبدیل کرد؟

ابزار جدید whichllm با اولویت دادن به بنچمارک‌های واقعی به‌جای تعداد پارامترها، بهترین مدل محلی را برای سخت‌افزار شما پیشنهاد می‌دهد. این ابزار مشخصات GPU و CPU را شناسایی کرده و…

۲ دقیقه خواندن
کاهش هزینه API به صفر؛ تجربه ۶ ماهه یک توسعه‌دهنده با مدل‌های محلی
آموزش کاربردی

کاهش هزینه API به صفر؛ تجربه ۶ ماهه یک توسعه‌دهنده با مدل‌های محلی

یک توسعه‌دهنده با انتقال به سخت‌افزار محلی و استفاده از مدل‌های Qwen و Ollama، هزینه‌های API خود را کاملاً حذف کرد. این تغییر، هزینه ماهانه را از پرداخت به شرکت‌های ابری به قبض…

۲ دقیقه خواندن
چگونه DS4 مدل‌های پیشرو هوش مصنوعی را روی سخت‌افزار خانگی ممکن کرد؟
آموزش کاربردی

چگونه DS4 مدل‌های پیشرو هوش مصنوعی را روی سخت‌افزار خانگی ممکن کرد؟

ابزار جدیدی به نام DS4 امکان اجرای مدل‌های پیشرو هوش مصنوعی را روی سخت‌افزارهای مصرف‌کننده با ۱۲۸ گیگابایت رم فراهم می‌کند. این سیستم با استفاده از یک روش خاص کوانتیزاسیون، شکاف…

۲ دقیقه خواندن
گوگل: مدل Gemma 4 با دقت ۸۹.۲ درصدی در بنچمارک AIME، استدلال ریاضی را محلی کرد
آموزش کاربردی

گوگل: مدل Gemma 4 با دقت ۸۹.۲ درصدی در بنچمارک AIME، استدلال ریاضی را محلی کرد

گوگل دیپ‌مایند خانواده مدل‌های Gemma 4 را با وزن‌های باز عرضه کرد تا استدلال سطح پیشرو را به سخت‌افزارهای محلی بیاورد. مدل ۳۱ میلیارد پارامتری این خانواده، جهشی خیره‌کننده در…

۲ دقیقه خواندن
چرا مصرف توکن‌های Claude Code به نماد جایگاه برنامه‌نویسان تبدیل شده است؟

چرا مصرف توکن‌های Claude Code به نماد جایگاه برنامه‌نویسان تبدیل شده است؟

پروژه متن‌باز Clawdmeter مصرف توکن‌های Claude Code را به یک نمایشگر فیزیکی با گرافیک پیکسل-آرت تبدیل کرده است. این ابزار پاسخی به روند «توکن‌ماکسینگ» است؛ جایی که برنامه‌نویسان…

۲ دقیقه خواندن