مدل‌های بازوزن

چارچوب BabyAGI از یک اسکریپت ساده به سیستمی با حافظه پایدار و قابلیت Taskweaving تبدیل شده است. این ابزار اکنون به عنوان نقشه راه آموزشی برای ساخت عامل‌های هوشمند بدون پیچیدگی‌های…

یک استراتژی جدید با ترکیب vLLM و کوانتش INT8، هزینه اجرای Grok-2 را به ۰.۰۰۶۷ دلار به‌ازای هر میلیون توکن رسانده است. این معماری، مدل‌های استدلالی پیشرفته را به‌شدت ارزان‌تر از…

اجرای محلی مدل‌های تولید تصویر، ریسک‌های حریم خصوصی و هزینه‌های تکراری APIهای ابری را حذف می‌کند. ابزارهایی مانند ComfyUI و Draw Things اکنون امکان اجرای مدل‌های پیشرفته‌ای مثل…

سازمان‌ها برای فرار از سیاست‌های محدودکننده داده و رابط‌های بسته، به سمت زیرساخت‌های ماژولار و متن‌باز حرکت می‌کنند. جداسازی لایه‌های مدل، استنتاج و داده، جابه‌جایی بین محیط‌های…

Meetily یک دستیار جلسات متمرکز بر حریم خصوصی است که تمام فرآیندهای تبدیل گفتار به متن و خلاصه‌سازی را روی سیستم کاربر انجام می‌دهد. این ابزار با حذف خط لوله‌های ابری، نیاز به…

سازمان‌های بهداشتی برای حفظ حاکمیت داده‌های حساس بیماران، از استنتاج محلی هوش مصنوعی استفاده می‌کنند. این رویکرد اجازه می‌دهد جریان‌های کاری بالینی بدون ریسک انتقال داده به…

کاربران سطح بالای Claude Max گزارش داده‌اند که حساب‌هایشان به‌دلیل «سیگنال‌های مشکوک» و بدون دلیل مشخص مسدود شده است. نبود پشتیبانی انسانی و شفافیت در اجرای قوانین، کاربران…

اجرای مدل Whisper مستقیماً در مرورگر، مرزهای حریم خصوصی را با نگه داشتن داده‌های صوتی در دستگاه کاربر جابه‌جا می‌کند. این معماری برای جلوگیری از هنگ کردن رابط کاربری، بر…

تحلیل جدید هزینه کل مالکیت نشان می‌دهد که جایگزینی APIها با زیرساخت شخصی برای حجم‌های بالا، حدود یک سال زمان می‌برد تا هزینه سرمایه‌گذاری اولیه را جبران کند. این سودآوری به شدت به…

یک پیاده‌سازی عملی نشان می‌دهد که مک‌مینی M4 Pro با ۴۸ گیگابایت رم می‌تواند مدل‌های زبانی بزرگ با معماری ترکیب خبره‌ها را به‌صورت محلی اجرا کند. این ساختار هزینه‌های API را حذف…

آزمایش‌های جدید روی یک پوسته معنایی نشان می‌دهد مدل‌های کوچک و عمومی مانند Granite در موارد خاص لبه‌ای، از مدل‌های تخصصی فراخوانی ابزار مطمئن‌تر هستند. این یافته‌ها نشان می‌دهد…

پروژه Vault Cortex برای جلوگیری از افشای داده‌های حساس در سرورهای شخصی MCP، یک سیستم احراز هویت سخت‌گیرانه بر پایه OAuth 2.1 پیاده کرد. این معماری با مدیریت چرخش توکن‌ها و ثبت…