پرش به محتوای اصلی

موضوع

مدل‌های بازوزن

Open-source models, open weights, local hosting, licensing

۲٬۳۹۶ مقاله منتشر شده

رقابت آنتروپیک و علی‌بابا برای کاهش هزینهٔ استنتاج عامل‌های هوش مصنوعی

سه آزمایشگاه بزرگ هوش مصنوعی مدل‌هایی را برای کاهش هزینه‌های عملیاتی عامل‌های خودمختار در وظایف طولانی‌مدت معرفی کردند. تمرکز این به‌روزرسانی‌ها بر ایجاد تعادل میان قدرت استدلال و…

۱ دقیقه خواندن
آموزش کاربردی

۴ ابزار رایگان برای اجرای محلی مدل‌های تولید تصویر و حذف هزینه‌های API

اجرای محلی مدل‌های تولید تصویر، ریسک‌های حریم خصوصی و هزینه‌های تکراری APIهای ابری را حذف می‌کند. ابزارهایی مانند ComfyUI و Draw Things اکنون امکان اجرای مدل‌های پیشرفته‌ای مثل…

۶ دقیقه خواندن۲
آموزش کاربردی

زیرساخت‌های ماژولار در برابر اکوسیستم‌های بسته؛ نبرد برای مالکیت داده

سازمان‌ها برای فرار از سیاست‌های محدودکننده داده و رابط‌های بسته، به سمت زیرساخت‌های ماژولار و متن‌باز حرکت می‌کنند. جداسازی لایه‌های مدل، استنتاج و داده، جابه‌جایی بین محیط‌های…

۴ دقیقه خواندن۲
آموزش کاربردی

استقرار درون‌سازمانی مدل‌های زبانی؛ راهکار مقابله با نشت داده‌های پزشکی

سازمان‌های بهداشتی برای حفظ حاکمیت داده‌های حساس بیماران، از استنتاج محلی هوش مصنوعی استفاده می‌کنند. این رویکرد اجازه می‌دهد جریان‌های کاری بالینی بدون ریسک انتقال داده به…

۴ دقیقه خواندن۴
آموزش کاربردی

مک‌مینی M4 Pro با مدل‌های MoE حاکمیت محلی بر هوش مصنوعی را ممکن کرد

یک پیاده‌سازی عملی نشان می‌دهد که مک‌مینی M4 Pro با ۴۸ گیگابایت رم می‌تواند مدل‌های زبانی بزرگ با معماری ترکیب خبره‌ها را به‌صورت محلی اجرا کند. این ساختار هزینه‌های API را حذف…

۷ دقیقه خواندن۲