تصور کنید مدیر فنی شرکتی هستید که برای اجرای مدلهای هوش مصنوعی، مجبور است میلیونها دلار هزینه کند چون نرمافزارهایش فقط روی تراشههای خاصی جواب میدهد. حالا با ورود ZML/LLMD به میدان، این گلوگاه سختافزاری در حال فروپاشی است. دنیایی را تصور کنید که در آن سرعت هوش مصنوعی دیگر توسط یک انحصار سختافزاری دیکته نمیشود.
به نقل از ZML، تیمی کوچک و چابک متشکل از ۲۰ مهندس در پاریس، سروری را طراحی کردهاند که اجازه میدهد مدلهای زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — با حداکثر سرعت ممکن روی طیف متنوعی از تراشهها اجرا شوند. این سرور استنتاج (Inference Server) به مدلهای بازمتن اجازه میدهد تا روی سختافزارهای مختلف به اوج سرعت خود برسند.
بنبست سختافزاری و وابستگی به تامینکننده
سالهاست که صنعت هوش مصنوعی با یک مشکل جدی روبروست: انحصار سختافزاری. اکثر سازمانها تقریباً بهطور کامل به انویدیا وابسته هستند، زیرا لایههای نرمافزاری که مدلها را به تراشه متصل میکنند، یا اختصاصی هستند یا پراکنده و تکه تکه.
این وضعیت منجر به «قفل شدن توسط تامینکننده» (Vendor Lock-in) شده است؛ یعنی شرکتها هزینهای گزاف برای خرید تراشههای خاص میپردازند، صرفاً چون نرمافزارهایشان در هیچ جای دیگر بهطور بهینه اجرا نمیشوند. همانطور که در تحلیلهای قبلی ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، دسترسی آزاد به ابزارها همیشه اولین قدم برای عبور از این انحصارهاست.
استیو مورین (Steeve Morin)، بنیانگذار ZML، مشاهده میکند که در حالی که در سالهای نخست، تمرکز صنعت بر آموزش مدلها بود، اکنون بهینهسازی استنتاج (Inference) — یعنی همان فرآیند پردازش پرامپتها و تولید پاسخ، شبیه خودِ آشپزی و نه دورهی آموزش آشپز — اهمیت بسیار بیشتری یافته است و سرعت رشد آن از آموزش پیشی گرفته است. این تلاش برای کاهش هزینههای عملیاتی در راستای توصیف دقیقتر مدلهاست؛ برای مثال، مدل SubQ توانست هزینهی پردازش متون طولانی را بهطور چشمگیری کاهش دهد تا دسترسی به تحلیلهای پیچیده ارزانتر شود. با این حال، به دلیل موانع معماری سختافزاری، این بهینهسازی در پشت صحنه همچنان ناقص و پراکنده است. ZML/LLMD با ایجاد یک لایه واحد، این فرآیند را در معماریهای مختلف بهینه میکند تا سازمانها بتوانند سیستمهای خود را بسازند و به بهرهوریای برسند که انتشار هوش مصنوعی را تسهیل کند.
طیف پشتیبانی و گستره فنی
بر اساس مستندات این ابزار، هدف ZML این است که هر تراشهای بتواند با حداکثر توان عملیاتی خود برای کاربردهای هوش مصنوعی به کار گرفته شود؛ و در برخی موارد حتی سریعتر از حد انتظار عمل کند. معماریهای مورد پشتیبانی عبارتاند از:
- واحدهای پردازش گرافیکی Nvidia
- واحدهای پردازش گرافیکی AMD
- واحدهای پردازش تنسور (TPU) گوگل
- معماری Apple Metal
- گرافیکهای Intel Arc
علاوه بر این غولها، مورین اشاره میکند که این دستیار نرمافزاری به موج جدیدی از تراشهسازان اروپایی کمک میکند. او بهطور صریح به شرکتهایی چون Axelera، Fractile، Kalray، OLIX، Q.ANT، SiPearl، SpiNNcloud و VSORA اشاره کرد. از نظر مورین، منشأ منطقهای این شرکتها اهمیت کمتری دارد و آنچه مهم است، توانایی همکاری با آنها برای خلق چیزهایی است که «تا به حال در هیچ جای دنیا انجام نشده است».
میدان رقابت و جذب سرمایه
ZML در محیطی رقابتی فعالیت میکند که اکنون به «تب استخراج طلا در استنتاج» معروف شده است. رقبای سرسختی در این مسیر هستند، از جمله: Baseten که اخیراً ارزش آن ۱۳ میلیارد دلار برآورد شده است؛ Inferact که توسط تیم سازنده پروژه بازمتن vLLM ایجاد شده و RadixArk که نهاد تجاری پشت SGLang است. اگرچه vLLM و SGLang راقیبان частично LLMD هستند، اما مورین ادعا میکند ZML طیف گستردهتری را پوشش میدهد و حتی به مرحله «طراحی مشترک سیلیکون» (Co-designing Silicon) رسیده است.
برای تغذیه این رشد، مورین ۲۰ میلیون دلار سرمایه جذب کرد. پیشینه مورین به عنوان نایبرئیس مهندسی در Zenly (که توسط اسنپچت در سال ۲۰۱۷ با رقمی نه رقمی خریداری شد)، باعث جلب اعتماد لیستی از شرکتهای جسورانه و سرمایهگذاران重量ین شد، از جمله:
- شرکت 20VC متعلق به هری استبینگز
- Kima Ventures (متعلق به خاویر نیل)
- LocalGlobe، Puzzle Ventures، Kindred Capital، Drysdale Ventures، AALVC و >commit
اعتبار این استارتاپ با حضور نامهای بزرگی در جدول سهامداران تقویت شده است، از جمله تاییدیه Yann LeCun (برنده جایزه تورینگ و عضو AMI Labs). دیگر حامیان قابل توجه شامل Solomon Hykes (بنیانگذار Dagger و Docker) و همچنین Clément Delangue و Julien Chaumond از Hugging Face هستند.
استراتژی محصول و چشمانداز
در حالی که چارچوب ML قبلی ZML که در سال ۲۰۲۴ عرضه و در ماه مارس بهروزرسانی شد، بازمتن بود، اما ZML/LLMD یک محصول اختصاصی (Proprietary) است. با این حال، این محصول در حال حاضر بهصورت رایگان عرضه شده است.
مورین به TechCrunch گفته است که ترجیح میدهد ابتدا میزان استفاده را بسنجد و یاد بگیرد که درآمدزایی در کجا موثرتر است، تا اینکه با «طمع احمقانه» در ابتدای راه، مانع رشد محصول شود. این استراتژی به استارتاپ پاریسی اجازه میدهد تا چابکی خود را حفظ کند.
این چرخش به سمت بهینهسازی استنتاج، نشاندهنده یک روند کلی در صنعت است. وقتی مدلها از مرحله آموزش خارج شده و وارد تولید روزمره میشوند، هزینه و بهرهوری انرژی اولویت اول میشود. برای مدیران کسبوکار، این یعنی دوران «یا انویدیا یا هیچ» در حال تضعیف شدن است. اکنون میتوان تراشههای گرانقیمت و با عملکرد بالا را برای کارهای پیچیده و تراشههای ارزانتر و کممصرف را برای پرامپتهای سادهتر به کار گرفت، بدون اینکه سرعت قابل توجهی از دست برود.
مورین به دلیل زنجیره تامین فعلی و روابط خوب، همچنان دیدگاه مثبتی نسبت به انویدیا دارد و خاطرنشان میکند که این غول تراشه نیز خود را برای ظهور دوران استنتاج آماده میکند. باید منتظر نسخههای بعدی ZML بود، زیرا این شرکت قصد دارد رویکرد تیم کوچک و سریع خود را برای به چالش کشیدن بازیگران تثبیتشده در حوزه استنتاج حفظ کند.
گام بعدی شما
- اگر زیرساختی با تراشههای متنوع (AMD یا Intel) دارید، ZML/LLMD را برای تست سرعت استنتاج امتحان کنید.
- هزینههای استنتاج خود را با ترکیب سختافزارهای High-end و Low-energy تحلیل کنید تا بودجه عملیاتی کاهش یابد.
- روندهای جایگزینی GPUهای انویدیا با شتابدهندههای تخصصی اروپایی را دنبال کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو