اگر امروز هزینههای عملیاتی اجرای مدلهای زبانی را مدیریت میکنید، رقابت میان تراشههای عمومی و تخصصی مستقیماً بر بودجه شما اثر میگذارد. شرکت Etched با رسیدن به ارزش ۲۱ میلیارد دلاری، نشان داد که بازار دیگر به دنبال «کارخانههای هوش مصنوعی» همهمنظوره نیست.
در ۱۸ آگوست ۲۰۲۶، این شرکت اعلام کرد که دور جدیدی از سرمایهگذاری ۷۰۰ میلیون دلاری را به رهبری Jane Street جذب کرده است؛ اتفاقی که ارزش این استارتاپ را تنها در ۳۰ روز دو برابر کرد. این جهش سریع در ادامه روند صعودی شرکت است که پیشتر با رسیدن به ارزش ۱۰.۳ میلیارد دلار، به طور جدی جایگاه انویدیا را در سختافزارهای تخصصی به چالش کشیده بود. این رشد در حالی رخ میدهد که صنعت از مرحله آموزش مدلهای غولآسا به واقعیت هزینهبرِ اجرای آنها روی سختافزار منتقل شده است.
هوش مصنوعی زاینده (Generative AI) — شبیه به آشپزخانهای است که ابتدا دستور پخت را یاد میگیرد (آموزش) و سپس هر روز غذا میپزد (استنتاج). در حالی که انویدیا تراشههایی برای هر دو مرحله میسازد، Etched روی استنتاج (Inference) — یعنی همان لحظه تولید جواب توسط مدل — تمرکز کرده است. همانطور که در تحلیلهای قبلی ما درباره بهینهسازی هزینههای محاسباتی اشاره کردیم، تخصص در این مرحله میتواند هزینهها را بهشدت کاهش دهد.
به نقل از رابرت واکن، مدیر عملیاتی Etched، برتری این شرکت در دو مؤلفه سختافزاری نهفته است:
- تراشه پیشپُرکردن (Prefill Chip): این تراشه با ولتاژ پایین کار میکند تا بدون گرم شدن بیش از حد، ترانزیستورهای بیشتری را جای دهد و سرعت پردازش متن ورودی را بالا ببرد.
- حافظه در مقیاس خوشه (Cluster-Scale Memory): نوع جدیدی از حافظه و اتصالات که اجازه میدهد چندین تراشه در مرحله رمزگشایی، از یک استخر حافظه مشترک با تأخیر بسیار کم استفاده کنند.
طبق گزارش منتشر شده در وبلاگ Jane Street، این صندوق پس از تست سختافزاری، اکنون یک رک (Rack) کامل از این تراشهها را در مرکز داده خود برای بارهای کاری سنگین مستقر کرده است. این اقدام ثابت میکند که Etched از رویکرد قدیمی خود — که مدل را بهصورت سختافزاری در سیلیکون حک میکرد — فاصله گرفته و اکنون هر مدل پیشرویی را اجرا میکند.
این اتفاق برای دنیای کسبوکار به معنای قمار بزرگی روی سیلیکونهای تخصصی در برابر GPUهای همهمنظوره است. اگر Etched بتواند سرعت بالاتر را با هزینه کمتر ارائه دهد، خندق اقتصادی انویدیا و تراشههای H100 برای سازمانهایی که استنتاج محور هستند، کوچکتر خواهد شد. این رقابت در حالی شدت میگیرد که بحثهای گستردهای پیرامون تأمین مالی دوری در برابر رشد ارگانیک در بازار سختافزار AI شکل گرفته است. سرمایهگذاران بزرگی چون Sequoia Capital، Andreessen Horowitz و Blackstone اکنون روی این فرضیه شرط بستهاند.
گام بعدی شما
- اگر مدیر زیرساخت هستید، معماری حافظه در مقیاس خوشه را برای کاهش تأخیر در مدلهای استدلالی بررسی کنید.
- تغییرات قیمت سرویسهای ابری را رصد کنید تا ببینید آیا سختافزارهای تخصصی هزینه توکنها را کاهش میدهند یا خیر.
- مدلهای استقرار سختافزاری ASIC را در برابر GPUهای سنتی برای بارهای کاری ثابت مقایسه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو