«پرداخت بهازای مصرف»؛ استراتژی جدید Cloudflare برای میزبانی Llama 3
سرویس Cloudflare Workers AI امکان اجرای مدل Llama 3 و سایر مدلهای متنباز را روی شبکه جهانی GPU فراهم میکند. این رویکرد با حذف نیاز به مدیریت زیرساخت و کاهش تأخیر، هزینههای…
دستهبندی
راهنماهای گامبهگام، دورهها و آموزشهای کاربردی استفاده از هوش مصنوعی — از مهندسی پرامپت تا فاینتیون و RAG.
۹٬۳۰۴ مقاله منتشر شده
سرویس Cloudflare Workers AI امکان اجرای مدل Llama 3 و سایر مدلهای متنباز را روی شبکه جهانی GPU فراهم میکند. این رویکرد با حذف نیاز به مدیریت زیرساخت و کاهش تأخیر، هزینههای…
برنامهنویسان برای جلوگیری از نشت دادههای حساس، به جای مدلهای ابری به سمت استقرار محلی هوش مصنوعی روی سختافزار شخصی روی میآورند. با استفاده از مدلهای وزنباز و موتور استنتاج…
به لطف بهینهسازیهای نرمافزاری پیشرفته، یک کارت گرافیک مصرفکننده RTX 4090 اکنون قادر است مدلهای ۱۲۵ میلیارد پارامتری را با سرعت ۱۰۰ تریلیون توکن در ثانیه اجرا کند. این دستاورد…
فریمورک جدید UECA-React با تحمیل یک ساختار سختگیرانه و یکسان به کامپوننتها، از بروز رگرسیون در اپلیکیشنهای مقیاسپذیر جلوگیری میکند. این ابزار جایگزین نمونههای اولیهٔ…
تیم ArtCraft مجموعهای از هفت ابزار حرفهای برای ویرایش تصویر، ویدیو و صفحهآرایی را بهصورت متنباز توسعه میدهد. این اپلیکیشنها با استفاده از زبان Rust و بدون تکیه بر Electron…
شرکت Cantina Security با همکاری Yeta Labs مدل وزنباز apex-flash-1 را برای پژوهشهای آسیبپذیری منتشر کرد. این مدل در حل تسکهای امنیتی با Claude Opus رقابت میکند اما هزینهٔ هر…
یک توسعهدهنده با استفاده از مدل Gemma 4 و ابزار Ollama، اپلیکیشنی به نام One Thing ساخت تا کارهای پیچیده صبحگاهی فرزندش را به مأموریتهای تکمرحلهای تبدیل کند. این پروژه نشان…
بسیاری از توسعهدهندگان با برچسب زدن اشتباه به خطلولههای ساده تحت عنوان «عامل»، دچار بیشمهندسی شدهاند. موفقیت در مقیاس تولیدی بیش از آنکه به بنچمارک مدلها وابسته باشد، به…
یک توسعهدهنده کشف کرد که مدلهای استدلالی تمام بودجهٔ max_tokens را صرف «تفکر» داخلی میکنند و پیش از تولید پاسخ، متوقف میشوند. این اتفاق منجر به پاسخهای خالی و شکستهای خاموش…
یک توسعهدهنده ابزار KODA را برای آموزش کدنویسی به دانشجویان بدون لپتاپ طراحی کرده است. این سیستم با استفاده از زیرساختهای لبه، بدون نیاز به سختافزار گرانقیمت یا اینترنت…
موج جدیدی از ابزارهای متنباز در حال انتقال زیرساخت عاملهای هوش مصنوعی از ابر به سختافزار محلی است. این ابزارها امکان مدیریت حافظه، دستیارهای خصوصی و ردیابی هزینهها را بدون…
یک توسعهدهنده با الهام از ساختار سختگیرانه Delphi، چارچوبی به نام UECA-React را برای پایان دادن به آشفتگی کدها در React طراحی کرد. این متدولوژی با تبدیل کامپوننتها به جعبههای…