پرش به محتوای اصلی

موضوع

هوش لبه

SLMs, on-device inference, mobile AI, AI PCs

۱٬۶۸۱ مقاله منتشر شده

AWS از کوالکام برای استنتاج هوش مصنوعی استفاده می‌کند؛ در حالی که کوالکام از AWS Bedrock برای طراحی تراشه‌ها بهره می‌برد.

همکاری AWS و کوالکام برای کاهش هزینهٔ انرژی در استنتاج هوش مصنوعی

آمازون و کوالکام برای توسعه تراشه‌های اختصاصی استنتاج و اتصالات نوری با پهنای‌باند بالا وارد شراکت شدند. در مقابل، کوالکام از پلتفرم Bedrock برای تسریع طراحی سخت‌افزارهای نسل جدید…

۱ دقیقه خواندن۱
کارلوس موریرا، مدیرعامل و بنیان‌گذار SEALSQ در مصاحبه اختصاصی

SEALSQ امنیت پساکوانتومی را به لایه‌ی سخت‌افزاری تراشه‌ها منتقل کرد

شرکت SEALSQ برای محافظت از زیرساخت‌های حیاتی با عمر طولانی، رمزنگاری استاندارد NIST را مستقیماً در سیلیکون ادغام کرده است. این رویکرد بر این باور است که به‌روزرسانی‌های نرم‌افزاری…

۹ دقیقه خواندن۱
پوشش زنده رویداد اپل ۲۰۲۶: معرفی اولین آیفون تاشو و سایر محصولات جدید به صورت لحظه‌ای
اخبار کوتاه روزانهگزارش تأییدنشده

درون نخستین مراسم اپل به ریاست جان ترنوس

اپل در رویداد ۹ سپتامبر ۲۰۲۶ از نخستین آیفون تاشو با نام Ultra و نسخه‌ی بازطراحی‌شده‌ی سیری رونمایی می‌کند. این مراسم اولین حضور جان ترنوس در جایگاه مدیرعامل است و تغییرات ساختاری…

۲ دقیقه خواندن۲
رابط کاربری Kryzz AI v1.۱ روی دستگاه اندروید، شامل چت، ویرایشگر یادداشت و پنل مدیریت مدل‌های محلی.
آموزش کاربردی

Kryzz AI محیط محلی اندروید را برای عامل‌های هوش مصنوعی متن‌باز کرد

نسخه ۱.۱ اپلیکیشن Kryzz AI یک فضای کاری محلی و خصوصی برای اندروید فراهم می‌کند که اجازه می‌دهد عامل‌های هوش مصنوعی بدون ارسال داده به ابر، ابزارهای مختلف را اجرا کنند. این ابزار…

۱ دقیقه خواندن۳
هوش مصنوعی صدا: واقعیت در برابر آرزوهای دور از دسترس

«مقیاس به‌تنهایی کافی نیست»؛ تغییر اولویت‌ها در توسعه هوش مصنوعی صوتی

متخصصان صنعت هشدار می‌دهند که افزایش مقیاس مدل‌ها لزوماً منجر به انسانی‌تر شدن عامل‌های صوتی نمی‌شود. در این حوزه، تأخیر (Latency) و مبنی‌سازی (Grounding) جایگزین تعداد پارامترها…

۵ دقیقه خواندن۱
هوشمندی درون‌ دستگاهی برای هر محصول
آموزش کاربردی

مدل‌های محلی Desert Ant سرعت و هزینه استنتاج را در برابر APIها شکست دادند

آزمایشگاه Desert Ant مجموعه‌ای از ۱۸ مدل تخصصی برای اجرا روی دستگاه‌های موبایل منتشر کرد که نیاز به ابر را حذف می‌کنند. این مدل‌ها با جایگزینی APIهای عمومی با استنتاج محلی، تأخیر…

۶ دقیقه خواندن
سخت‌ترین مشکل در عامل هوش مصنوعی محلی من هرگز مدل نبود
آموزش کاربردی

چگونه محدودیت‌های GBNF توهمات مدل‌های هوش مصنوعی کوچک را می‌گیرد؟

جان پل دالکی، سازنده Eris، سیستمی را معرفی کرد که با جایگزینی تطبیق کلمات کلیدی با یک لایه مسیریابی چهارگانه، خطای فراخوانی ابزار در مدل‌های کوچک را به صفر می‌رساند. این معماری با…

۱۶ دقیقه خواندن۱
کنترل‌های ضروری مدل زبانی بزرگ در حاکمیت داده سلامت
آموزش کاربردی

۵ کنترل فنی برای جلوگیری از نشت داده‌های پزشکی در مدل‌های زبانی

ارائه‌دهندگان خدمات درمانی برای حفظ حاکمیت داده‌ها و رعایت استانداردهای HIPAA، استنتاج مدل‌های زبانی را به محیط‌های درون‌سازمانی منتقل می‌کنند. چارچوب جدیدی پنج کنترل فنی حیاتی را…

۴ دقیقه خواندن۱
راهنمای هزینه مالکیت کل استقرار Llama در سرور اختصاصی
آموزش کاربردی

تحلیل هزینه‌های مالکیت: میزبانی Llama سالانه ۵۵ هزار دلار هزینه دارد

تحلیل هزینه‌های مالکیت نشان می‌دهد میزبانی شخصی مدل‌های Llama تنها در حجم‌های بالای پردازش توکن به‌صرفه است. در حالی که APIها برای نیازهای کم برنده هستند، زیرساخت‌های خصوصی در…

۴ دقیقه خواندن۱