پرش به محتوای اصلی

موضوع

مدل‌های بازوزن

Open-source models, open weights, local hosting, licensing

۲٬۳۹۶ مقاله منتشر شده

آموزش کاربردی

رمزگشایی گمانه‌زنانه سرعت استنتاج مدل‌های محلی روی سخت‌افزارهای قدیمی را

یک آزمایش عملی نشان می‌دهد ترکیب رمزگشایی گمانه‌زنانه با بهینه‌سازی‌های سطح BIOS و کرنل می‌تواند سرعت تولید توکن را در سرورهای خانگی چند-GPU دوبرابر کند. این روش با رفع گلوگاه‌های…

۲۶ دقیقه خواندن۱
آموزش کاربردی

گیت‌وی Bifrost هزینه استنتاج ابزارهای هوش مصنوعی را ۹۲.۲٪ کاهش داد

پلتفرم Bifrost با معرفی یک گیت‌وی یکپارچه برای پروتکل MCP، مدیریت ابزارها و مدل‌های زبانی را متمرکز کرد. این سیستم با جایگزینی تزریق توکن‌های حجیم با ارکستراسیون پایتونی در حالت…

۱۴ دقیقه خواندن۲
آموزش کاربردی

ابزار Vomit خروجی‌های نامفهوم Claude 5 را با مدل‌های محلی پاک‌سازی می‌کند

ابزار متن‌باز Vomit با انتقال خروجی‌های به‌هم‌ریخته مدل Claude 5 به یک مدل زبانی محلی، آن‌ها را به متنی خوانا تبدیل می‌کند. این ابزار راهکاری کاملاً محلی و بدون نیاز به ارسال داده…

۱ دقیقه خواندن۲
آموزش کاربردی

متن‌باز شدن ابزارهای Mojo چه تأثیری بر بهینه‌سازی نرم‌افزارهای AI دارد؟

زبان برنامه‌نویسی Mojo اکنون تمام کدهای منبع کامپایلر و ابزارهای توسعه خود را به‌صورت متن‌باز منتشر کرده است. این اقدام به توسعه‌دهندگان اجازه می‌دهد با شفافیت کامل، نرم‌افزارهای…

۳ دقیقه خواندن۲
آموزش کاربردی

«جریان‌های کاری عامل‌محور»؛ راهکاری برای ساخت سریع رابط‌های سخت‌افزاری

مایک کاسبرگ با استفاده از Claude و مدل‌های متن‌باز، یک صفحه ساعت سفارشی برای سخت‌افزار ارزان‌قیمت PineTime ساخت. این پروژه نشان می‌دهد چگونه جریان‌های کاری عامل‌محور می‌توانند…

۴ دقیقه خواندن
آموزش کاربردی

اولاما با حافظهٔ متاداده تأخیر استنتاج محلی را کاهش داد

نسخه پیش‌انتشار ۰.۳۲.۱۵ اولاما با معرفی حافظهٔ متاداده، سربار هر درخواست را حذف می‌کند. این به‌روزرسانی نشان می‌دهد که سرعت نهایی تجربه کاربر، فراتر از نرخ تولید توکن و وابسته به…

۲ دقیقه خواندن۲
آموزش کاربردی

تفکیک لایه‌ی استدلال از زیرساخت؛ راهکار جدید برای عبور از سد Cloudflare

توسعه‌دهندگان عامل‌های هوش مصنوعی در سال ۲۰۲۶ با شکافی عمیق میان چارچوب‌های استدلالی و زیرساخت‌های مرورگر مواجه‌اند. در حالی که ابزارهایی مثل Browser Use بر «چه چیزی کلیک شود»…

۱۷ دقیقه خواندن۱

مطالعه استنفورد: مدل‌های زبانی کوچک در ۸۱٪ وظایف با مدل‌های ابری برابری می‌کنند

پژوهش جدید دانشگاه استنفورد نشان می‌دهد مدل‌های زبانی کوچک (SLM) که روی سخت‌افزار محلی اجرا می‌شوند، به‌سرعت در حال پر کردن شکاف عملکرد با مدل‌های ابری هستند. این تغییر می‌تواند…

۵ دقیقه خواندن۲
آموزش کاربردی

استراتژی مسیریابی مدل‌ها؛ جایگزینی بنچمارک‌های کلی با ارزیابی‌های وظیفه‌محور

اتکای صرف به امتیازات کلی بنچمارک‌ها برای انتخاب مدل زبانی اشتباه است. معماری‌های «آگاه از وظیفه» با ایجاد یک لایه مسیریابی، هر درخواست را به مدلی می‌سپارند که بهترین توازن میان…

۳ دقیقه خواندن