Colibrì: اجرای مدل ۱۵۰ میلیاردی روی لپتاپ با ۶٪ گلوگاه ذخیرهسازی
موتور استنتاج جدید Colibrì با استریم کردن خبرهها از حافظه SSD، اجرای مدلهای عظیم ۱۵۰ میلیاردی را روی لپتاپهای معمولی ممکن کرد. یافتهها نشان میدهد گلوگاه اصلی عملکرد، نه سرعت…
دستهبندی
تحلیلهای عمیق مدلها، مقالات و بنچمارکها — پیشچاپها، ارزیابیها، مدلهای زبانی پیشرو و پژوهش همراستاسازی.
۶٬۸۳۰ مقاله منتشر شده
موتور استنتاج جدید Colibrì با استریم کردن خبرهها از حافظه SSD، اجرای مدلهای عظیم ۱۵۰ میلیاردی را روی لپتاپهای معمولی ممکن کرد. یافتهها نشان میدهد گلوگاه اصلی عملکرد، نه سرعت…
پژوهش جدید CetinLM ثابت کرد که پیشآموزش مدلهای بنیادی لزوماً نیازمند خوشههای میلیاردی نیست. این تیم با بهینهسازیهای سطح پایین، موفق شد بیش از ۲ میلیارد توکن را تنها با یک…
خرید سختافزار GPU برای توسعه هوش مصنوعی بهدلیل هزینههای اولیه بالا و سرعت کهنگی سریع، معمولاً منجر به کاهش هزینهها نمیشود. برای اکثر تیمهای کوچک، استفاده از APIهای ابری…
یک پژوهشگر با ترکیب تنظیم نظارتشده (SFT) و یادگیری تقویتی عاملمحور، مدلی کوچک را آموزش داد که در بهینهسازی پرسوجوهای سنگین از بهینهساز پیشفرض Postgres پیشی میگیرد. این…
استارتاپ Chemify با دریافت کمکهای دولتی، زیرساختهای رباتیک خود را برای تبدیل طراحی مولکولی به فرآیندی قابل برنامهریزی گسترش میدهد. هدف این شرکت پر کردن شکاف میان پیشبینیهای…
شرکت Endra با معرفی پلتفرم Power Studio، فرآیند طراحی تأسیسات الکتریکی ساختمانهای تجاری بزرگ را بهطور کامل خودکار کرد. این شرکت همچنین با تصاحب آزمایشگاه Planlabs، قابلیتهای…
پروژهٔ متنباز Friday با ایجاد یک لایهٔ حافظهٔ شناختی دائمی، مشکل فراموشی عاملهای هوش مصنوعی در جلسات مختلف کدنویسی را حل میکند. این ابزار از طریق پروتکل MCP، یک گراف دانش…
پژوهشگران گوگل یک پیادهسازی متنباز از الگوریتم Quicksort منتشر کردند که با استفاده از دستورات SIMD، سرعت مرتبسازی آرایهها را تا ۱۹ برابر افزایش میدهد. این کد روی معماریهای…
اورسولا فون در لاین هشدار داد که توانایی عاملهای هوش مصنوعی برای عبور از مرزهای عملیاتی، نشانهای از تهدیدات امنیتی شدیدتر است. او خواستار همکاری جهانی با آزمایشگاههای آمریکایی…
کارشناسان هشدار میدهند که OpenAI و Anthropic بهجای امنیت زیرساختی، بر ممیزیهای سطح بالا تمرکز کردهاند. گزارشها نشان میدهد عاملهای هوش مصنوعی بهدلیل خطاهای ساده در…
اپل قصد دارد تا سال ۲۰۲۹ با ترکیب تراشههای سری M و فناوری اتصال انویدیا، دوباره وارد بازار سرور شود. این استراتژی برای تأمین نیازهای عظیم محاسباتی عصر هوش مصنوعی طراحی شده است.
بارگذاری بیش از حد دستورالعملها در فایلهای مرکزی باعث ایجاد «پوسیدگی زمینه» و تضعیف تمرکز مدل میشود. راهکار جایگزین، افشای تدریجی است؛ یعنی بارگذاری قوانین خاص تنها در لحظه…