مدل‌های بازوزن

پروژه Nexuscortex با استفاده از معماری شناختی پراکنده در زبان Go، سرعت استنتاج را ۷۳.۹ برابر بیشتر از مدل‌های متراکم کرده است. این سیستم با الهام از علوم اعصاب، حافظه و یادگیری را…

پیاده‌سازی Server-Sent Events (SSE) در Next.js اجازه می‌دهد مدل‌های زبانی محلی در Ollama، توکن‌ها را کلمه به کلمه ارسال کنند. این روش تأخیر در نمایش متن را می‌گیرد و تجربه کاربری…

OpenHuman یک دستیار بازمتن و محلی است که با حافظه یک میلیارد توکنی، نقش «مغز دوم» را برای کاربر ایفا می‌کند. این ابزار با حذف وابستگی به ابر، حریم خصوصی را تضمین کرده و به ۱۱۸…

مایکروسافت با ابزار Local Foundry امکان اجرای مدل‌های هوش مصنوعی را روی شتاب‌دهنده‌های NPU فراهم کرده است. توسعه‌دهندگان اکنون می‌توانند مدیریت مدل‌ها و تولید پاسخ‌ها را از طریق…

انتخاب درست مدل بردار معنایی و متریک شباهت، تعیین‌کننده دقت جست‌وجوی معنایی و سیستم‌های RAG است. این راهنما توازن میان ابعاد بردار و پیش‌پردازش داده‌ها برای بهینه‌سازی بازیابی را…

تولید بازیابی‌افزا (RAG) با اتصال مدل‌های زبانی به داده‌های خصوصی و به‌روز، مشکل توهم و تاریخ انقضای دانش را حل می‌کند. در این معماری، تمرکز مهندسی از طراحی پرامپت به بهینه‌سازی…

یک توسعه‌دهنده با استفاده از OpenRouter و Node.js سیستمی برای پردازش تیکت‌های مشتریان طراحی کرد که هزینه‌های API را ۶۸٪ کاهش داد. این معماری سبک توانست در سه هفته ۴۷ ساعت از زمان…

KVarN با حذف تضاد سنتی میان سرعت و دقت، ظرفیت حافظه KV-cache را ۳ تا ۵ برابر افزایش می‌دهد. این ابزار جدید اجازه می‌دهد مدل‌ها بافت‌های بسیار طولانی‌تر را بدون کاهش سرعت استنتاج…

انویدیا مدل Nemotron 3.5 ASR را با ۶۰۰ میلیون پارامتر معرفی کرد که تبدیل گفتار به متن را برای ۴۰ زبان در لحظه انجام می‌دهد. این مدل با معماری جدید خود، تضاد میان سرعت و دقت را از…

پلتفرم متن‌باز OpenJarvis از دانشگاه استنفورد و آزمایشگاه‌های Lambda، امکان اجرای عامل‌های هوش مصنوعی را به‌صورت کاملاً محلی فراهم می‌کند. این سیستم با دقت نزدیک به مدل‌های ابری،…

ابزار Mnemo یک لایه‌ی حافظه محلی است که با استفاده از SQLite، گراف دانشی دائمی برای مدل‌های زبانی ایجاد می‌کند. این سیستم با سرعت کمتر از ۵۰ میلی‌ثانیه، با مدل‌های OpenAI،…

مدل Ideogram 4.0 با قابلیت رزولوشن 2K و بهبود چشمگیر در رندر متن به صورت مدل با وزن‌های باز منتشر شد. این مدل اکنون در صدر جدول DesignArena قرار دارد و کنترل دقیق طراحی را به…