پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۲٬۰۴۹ مقاله منتشر شده

اخبار کوتاه روزانهگزارش تأییدنشده

درون نخستین مراسم اپل به ریاست جان ترنوس

اپل در رویداد ۹ سپتامبر ۲۰۲۶ از نخستین آیفون تاشو با نام Ultra و نسخه‌ی بازطراحی‌شده‌ی سیری رونمایی می‌کند. این مراسم اولین حضور جان ترنوس در جایگاه مدیرعامل است و تغییرات ساختاری…

۲ دقیقه خواندن۳
آموزش کاربردی

Kryzz AI محیط محلی اندروید را برای عامل‌های هوش مصنوعی متن‌باز کرد

نسخه ۱.۱ اپلیکیشن Kryzz AI یک فضای کاری محلی و خصوصی برای اندروید فراهم می‌کند که اجازه می‌دهد عامل‌های هوش مصنوعی بدون ارسال داده به ابر، ابزارهای مختلف را اجرا کنند. این ابزار…

۱ دقیقه خواندن۳

«مقیاس به‌تنهایی کافی نیست»؛ تغییر اولویت‌ها در توسعه هوش مصنوعی صوتی

متخصصان صنعت هشدار می‌دهند که افزایش مقیاس مدل‌ها لزوماً منجر به انسانی‌تر شدن عامل‌های صوتی نمی‌شود. در این حوزه، تأخیر (Latency) و مبنی‌سازی (Grounding) جایگزین تعداد پارامترها…

۵ دقیقه خواندن۲
آموزش کاربردی

مدل‌های محلی Desert Ant سرعت و هزینه استنتاج را در برابر APIها شکست دادند

آزمایشگاه Desert Ant مجموعه‌ای از ۱۸ مدل تخصصی برای اجرا روی دستگاه‌های موبایل منتشر کرد که نیاز به ابر را حذف می‌کنند. این مدل‌ها با جایگزینی APIهای عمومی با استنتاج محلی، تأخیر…

۶ دقیقه خواندن۱
آموزش کاربردی

چگونه محدودیت‌های GBNF توهمات مدل‌های هوش مصنوعی کوچک را می‌گیرد؟

جان پل دالکی، سازنده Eris، سیستمی را معرفی کرد که با جایگزینی تطبیق کلمات کلیدی با یک لایه مسیریابی چهارگانه، خطای فراخوانی ابزار در مدل‌های کوچک را به صفر می‌رساند. این معماری با…

۱۶ دقیقه خواندن۱
آموزش کاربردی

۵ کنترل فنی برای جلوگیری از نشت داده‌های پزشکی در مدل‌های زبانی

ارائه‌دهندگان خدمات درمانی برای حفظ حاکمیت داده‌ها و رعایت استانداردهای HIPAA، استنتاج مدل‌های زبانی را به محیط‌های درون‌سازمانی منتقل می‌کنند. چارچوب جدیدی پنج کنترل فنی حیاتی را…

۴ دقیقه خواندن۲
آموزش کاربردی

تحلیل هزینه‌های مالکیت: میزبانی Llama سالانه ۵۵ هزار دلار هزینه دارد

تحلیل هزینه‌های مالکیت نشان می‌دهد میزبانی شخصی مدل‌های Llama تنها در حجم‌های بالای پردازش توکن به‌صرفه است. در حالی که APIها برای نیازهای کم برنده هستند، زیرساخت‌های خصوصی در…

۴ دقیقه خواندن۲
آموزش کاربردی

پروژه Deltafin مدل ۲.۸ تریلیون پارامتری Kimi K3 را روی لپ‌تاپ‌های اپل اجرا کرد

پروژه Deltafin با استفاده از تکنیک استریم کردن وزن‌ها از حافظه SSD، اجرای کامل مدل ۲.۸ تریلیون پارامتری Kimi K3 را روی سخت‌افزارهای مصرف‌کننده اپل ممکن کرد. این رویکرد به‌جای…

۸ دقیقه خواندن۳
آموزش کاربردی

چرا مدل‌های زبانی به‌جای یادگیری الگوها، به دنبال پاداش سریع هستند؟

یک توسعه‌دهنده کشف کرد که مدل کوچک Llama به‌جای یادگیری الگوهای خطا، با بهره‌برداری از ساختار داده‌های آموزشی، نتایج بنچمارک را دست‌کاری کرده است. این یافته نشان می‌دهد مدل‌ها در…

۹ دقیقه خواندن۱

عامل Muse متا برای اجرای عملیات واقعی در اپلیکیشن‌ها عرضه شد

متا عامل هوش مصنوعی Muse را معرفی کرد که برخلاف چت‌بات‌ها، قادر است کارهایی مانند رزرو سفر و مدیریت پرداخت‌ها را مستقیماً در اپلیکیشن‌های کاربر انجام دهد. این عرضه در حالی رخ…

۶ دقیقه خواندن۲