اگر امروز هزینه‌های بالای پردازش مدل‌های زبانی شما را به چالش می‌کشد، گوگل راهکاری را دنبال می‌کند که قواعد بازی را تغییر دهد. غول جست‌وجوی جهان در حال ساخت تراشه‌ای است که پاسخ‌های هوش مصنوعی را ۶ تا ۱۰ برابر بهینه‌تر از TPUهای فعلی ارائه می‌کند.
به گزارش The Information در ۲۰ ژوئیه ۲۰۲۶، سخت‌افزار جدیدی به نام Frozen v2 طراحی شده است که معماری مدل Gemini را مستقیماً در سیلیکون جای‌گذاری می‌کند. این حرکت در حالی رخ می‌دهد که غول‌های فناوری با بحران مصرف انرژی و هزینه‌های سرسام‌آور استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه به خودِ آشپزی و نه دوره‌ی آموزش آشپز — دست‌وپنجه نرم می‌کنند. TPUهای استاندارد گوگل انعطاف‌پذیری بالایی دارند، اما Frozen v2 این انعطاف را فدای سرعت مطلق کرده است. همان‌طور که در تحلیل قبلی ما درباره‌ی مدیریت داده‌های ساختاریافته و قالب Open Knowledge اشاره کردیم، گوگل در حال انتقال منطق نرم‌افزاری به لایه‌های سخت‌افزاری است.
بر اساس مستندات فنی، تفاوت اصلی این نسل با نسخه‌های پیشین در نوع حکاکی است. در طرح اولیه، گوگل سعی کرد «وزن‌های» مدل را در تراشه تثبیت کند، اما چون مدل‌ها سریعاً به‌روز می‌شوند، این کار باعث می‌شد تراشه‌ها زوداً منسوخ شوند. در Frozen v2، تنها «نقشه یا معماری» مدل در سخت‌افزار حک شده است.
جزئیات فنی این تراشه عبارت است از:
- سازوکار: تثبیت ساختار مدل در سخت‌افزار، تعداد دستورات لازم برای پردازش هر پرس‌وجو را به‌شدت کاهش می‌دهد.
- انعطاف‌پذیری: وزن‌های جدید همچنان قابل بارگذاری هستند؛ یعنی گوگل می‌تواند «دانش» مدل را به‌روز کند بدون اینکه تراشه را عوض کند.
- زمان‌بندی: استقرار گسترده این سخت‌افزار برای سال ۲۰۲۸ برنامه‌ریزی شده است.
به دلیل این تخصصی‌شدن شدید، گوگل قصد ندارد Frozen v2 را به مشتریان خارجی بفروشد. این تراشه صرفاً یک ابزار داخلی برای کاهش فشار روی مراکز داده است. این استراتژی با طرح TPU@Premises که هدفش جذب ۱۰ درصد از درآمدهای سالانه انویدیا از طریق اجاره بود، کاملاً متفاوت است.
به نظر ما، بهینه‌سازی هزینه استنتاج از طریق سخت‌افزار، یک مزیت رقابتی عظیم برای گوگل ایجاد می‌کند. در حالی که OpenAI و Anthropic باید بر سخت‌افزارهای عمومی تکیه کنند، گوگل می‌تواند مدل‌های قدرتمندش را با قیمت بسیار کمتر عرضه کند. البته رقبای گوگل نیز در تلاش برای خروج از وابستگی به انویدیا هستند؛ چنان‌که همکاری OpenAI و Broadcom برای توسعه تراشه‌های اختصاصی استنتاج نشان می‌دهد که تمام بازی‌سازان این صنعت به دنبال بهینه‌سازی لایه سخت‌افزاری هستند. در یک جنگ قیمتی، شرکتی که به بهینه‌ترین سیلیکون دسترسی دارد، برنده است.
گام بعدی شما
- رصد کنید که آیا گوگل نسخه‌های Frozen مشابهی برای مدل‌های متن‌باز یا خانواده‌های دیگر تولید می‌کند یا خیر.
- بررسی کنید که آیا کاهش هزینه‌های داخلی گوگل منجر به ارزان‌تر شدن APIهای Gemini برای توسعه‌دهندگان می‌شود.
- تحلیل‌های مربوط به رقابت سخت‌افزاری گوگل و انویدیا را دنبال کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ اثر این بهینه‌سازی بر مصرف انرژی مراکز داده را در گزارش بعدی بررسی خواهیم کرد.
گفتگو