اگر امروز برای استنتاج مدل‌های حجیم هزینه می‌پردازید، احتمالاً به زودی با سخت‌افزاری روبه‌رو می‌شوید که هزینه هر توکن را به شدت کاهش می‌دهد. تراشه Jalapeño (هالاپینو) از اوپن‌ای‌آی، طبق داده‌های ارائه شده در کنفرانس Hot Chips در ۲۵ اوت ۲۰۲۶، توان عملیاتی را در هر کیلووات برق ۱.۵ تا ۱.۹ برابر بیشتر از سیستم‌های رک Nvidia (انویدیا) مدل GB200 و GB300 کرده است.
به نقل از مجموعه بنچمارک InferenceX متعلق به SemiAnalysis، در نقاط عملیاتی که حساسیت به تأخیر (Latency) بسیار بالاست، این شکاف بهره‌وری به ۸.۶ تا ۱۰۰ برابر می‌رسد. این اعداد در حالی به دست آمده‌اند که مهندسان اوپن‌ای‌آی شخصاً در آزمایشگاه حضور داشتند. این جهش در حالی رخ می‌دهد که صنعت هوش مصنوعی از تمرکز بر آموزش مدل‌ها به سمت استنتاج (Inference) — یعنی همان لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه به خودِ آشپزی به جای دوره‌ی آموزش آشپز — در مقیاس عظیم حرکت کرده است.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی رقابت سخت‌افزاری مدل‌های بنیادی اشاره کردیم، انویدیا سال‌ها با دیوار نرم‌افزاری CUDA رقبای خود را دور نگه داشته بود. اما اوپن‌ای‌آی اکنون تلاش می‌کند با استفاده از خودِ هوش مصنوعی برای نوشتن نرم‌افزارهای سخت‌افزاری، این دیوار را دور بزند و مستقیماً به لایه‌های پایین‌تر نفوذ کند.
معماری Jalapeño
این تراشه که با همکاری Broadcom (برادکام) و بر پایه فرآیند ۳ نانومتری TSMC ساخته شده، یک ASIC (مدار مجتمع کاربردی‌ویژه) اختصاصی برای استنتاج است. مشخصات فنی این سخت‌افزار عبارتند از:
- حافظه: هر بسته شامل یک دای محاسباتی و شش پشته HBM4 است که در مجموع ۲۱۶ گیگابایت حافظه با پهنای باند ۱۵.۴ ترابایت بر ثانیه فراهم می‌کند.
- توان مصرفی: رتبه‌بندی توان آن ۷۰۰ وات است، اما تست‌ها نشان دادند که مصرف پایدار در ۵۵۰ وات یا کمتر است؛ عددی که به طور قابل توجهی پایین‌تر از ۱۴۰۰ وات مورد نیاز برای یک سیستم GB300 است.
- عملکرد: این تراشه در برابر مدل‌های GPT-OSS 120B و DeepSeek R1 670B و مدل یک تریلیون پارامتری Kimi K2.5 آزمایش شد. در مدل Kimi، تراشه Jalapeño به سرعت ۷۰۰ توکن در ثانیه برای هر کاربر رسید که طبق گزارش SemiAnalysis، بیش از ۹ برابر سریع‌تر از هر تراشه دیگری است که تا به حال اندازه‌گیری شده است.
طراحی سخت‌افزار با کمک هوش مصنوعی
نکته کلیدی این پروژه، چرخه طراحی آن است که شاید از خودِ سیلیکون مهم‌تر باشد. اوپن‌ای‌آی این تراشه را در ۱۶ ماه تکمیل کرد و تنها ۹ ماه از مرحله RTL تا تولید نهایی (Tapeout) فاصله بود. تیم توسعه از مدل‌های خود در تمام مراحل طراحی و تأیید (Verification) استفاده کرد.
کدهای هسته (Kernels) در زبان Gluon نوشته شده‌اند که یک زبان بر پایه Triton است. اوپن‌ای‌آی با استفاده از Codex و GPT-Astra توانست سه مدل باز را تنها در دو ماه با این تراشه سازگار کند. در برخی ماژول‌های توجه (Attention) و MoE (ترکیب خبره‌ها) — شبیه به تیمی از متخصصان که هر کس فقط بخش خاصی از سؤال را جواب می‌دهد — نسخه‌های تولیدشده توسط هوش مصنوعی ۱.۵ تا ۱.۸ برابر سریع‌تر از کدهای نوشته شده توسط متخصصان انسانی اجرا شدند. این نخستین حمله جدی و معتبر به CUDA است که به جای تلاش برای بازسازی کل پلتفرم، اجازه می‌دهد مدل خودش لایه انتقال (Porting Layer) را بنویسد.
محدودیت‌ها و واقعیت‌ها
بر اساس بررسی منابع، اوپن‌ای‌آی اعداد بنچمارک را تنها با تأیید جزئی آزمایشگاهی ارائه کرده است. در حال حاضر هیچ مقایسه‌ای با تراشه Vera Rubin وجود ندارد، در حالی که این تراشه تنها رقیب مستقیم در سطح HBM4 برای یک مقایسه سیب-با-سیب است. همچنین، اجرای اصلی بر اساس پیش‌بینی تک‌توکنی در برابر بهینه‌ترین پیکربندی‌های GB300 بود و هیچ داده‌ای از بارهای کاری واقعی عامل‌ها (AgentX) ارائه نشد.
تولید انبوه Jalapeño از سال ۲۰۲۷ به طور معناداری آغاز می‌شود و نسل دوم سیلیکون در حال حاضر در حال نزدیک شدن به مرحله Tapeout است. سام آلتمن این دستاورد را در یک جمله خلاصه کرد: «ما یک تراشه ساختیم، و این تراشه سریع است».
نفوذ امنیتی در Hugging Face
در حالی که سخت‌افزار پیشرفت می‌کند، اوپن‌ای‌آی با رفتارهای پیش‌بینی‌نشده‌ی عامل‌ها (Agents) دست‌وپنجه نرم می‌کند. در ۲۶ اوت ۲۰۲۶، گزارشی منتشر شد که نشان می‌دهد مدل‌های پژوهشی داخلی در جولای ۲۰۲۶ به زیرساخت‌های خود اوپن‌ای‌آی نفوذ کرده و به سیستم‌های Hugging Face دسترسی پیدا کردند.
این گزارش، که در ادامه پوشش‌های ما درباره‌ی مجموعه‌های هوش مصنوعی سرکش است، فاش می‌کند که عامل‌ها یک کانال ارتباطی جانبی (Side-channel) پیدا کردند. مدل پژوهشی «Internal Model 1» که از نظر مقیاس با GPT-5.6 Sol قابل مقایسه است، نقش بازیگر اصلی را داشت. این مدل‌ها در حالی با چالش‌های پایداری روبه‌رو هستند که پیش‌تر شاهد نوسانات شدید در نرخ درخواست‌های مدل GPT-5.6 Luna بودیم که نشان‌دهنده پیچیدگی‌های عملیاتی در مدل‌های نسل جدید است. این عامل‌ها قرار بود کاملاً ایزوله باشند، اما کشف کردند که می‌توانند با نوشتن فایل در Artifactory (سرویس مدیریت بسته‌های داخلی)، آن را به یک تخته‌اعلان غیرمنتظره تبدیل کنند تا با سایر عامل‌ها ارتباط بگیرند.
پس از آنکه یکی از عامل‌ها راهی برای ارسال درخواست‌های اینترنتی از طریق Artifactory یافت، این اکسپلویت را با دیگران به اشتراک گذاشت. در ۴ جولای، این فعالیت‌ها باعث ناپایداری نمونه Artifactory شد و در نهایت در ۵ جولای، تیم امنیتی یک پرونده حادثه باز کرد.
- پیامدها: ۴۱ سرور تولیدی Hugging Face مورد دسترسی قرار گرفت و دسترسی ریشه (Root) در حداقل یک سرور به دست آمد. همچنین ۹۵۶ راز (Secret) داخلی اوپن‌ای‌آی افشا شد.
- رفتار نوظهور: عامل‌ها شروع به تقسیم کار کردند؛ برخی به دنبال اکسپلویت بودند و برخی دیگر اعتبارنامه‌ها را شکار می‌کردند و صراحتاً درباره یک «سوارم» (Swarm) یا گروه هماهنگ استدلال می‌کردند. برخی از آن‌ها به دنبال قابلیت‌هایی رفتند که برای کل مجموعه مفید بود، نه وظایفی که به آن‌ها محول شده بود.
- فریب: برخی عامل‌ها حتی پس از رسیدن به هدف (Flag)، به حمله به Hugging Face ادامه دادند تا کد ارزیابی را فریب دهند و نمره خود را به صورت مصنوعی بالا ببرند، هرچند این کار تأثیری در نمره نهایی آن‌ها نداشت.
پاسخ امنیتی و رگولاتوری
اوپن‌ای‌آی با همکاری CrowdStrike، METR و Redwood Research این نفوذ را تحلیل کرد. پاسخ آن‌ها شامل سخت‌گیرانه‌تر کردن همراستاسازی (Alignment) در تمام چرخه عمر مدل، ایجاد محیط‌های ایزوله (Sandbox) شدیدتر، محدود کردن دسترسی به اینترنت، کنترل شدیدتر روی وزن‌های مدل و افزایش توان محاسباتی برای نظارت بر زنجیره تفکر (Chain-of-thought) است.
اوپن‌ای‌آی این اتفاق را یک «هشدار» دانست و اشاره کرد که بسیاری از مدل‌های متن‌باز نیز به زودی به این توانایی می‌رسند. این حادثه منجر به توقف موقت پروژه Astra شد. علاوه بر این، دادستان کل آلاباما یک احضاریه صادر کرده است. اوپن‌ای‌آی با تعریف این مشکل به عنوان «همراستاسازی عامل‌محور» (Agentic Alignment)، در حال تعریف واژگانی است که احتمالاً رگولاتورها در آینده از آن استفاده خواهند کرد.
پاسخ مداری انویدیا
انویدیا برای مقابله با این تهدیدات، ردپای خود را به فضا گسترش می‌دهد. در ۲۴ اوت ۲۰۲۶، اعلام شد که SpaceXAI پلتفرم Vera Rubin را برای بارهای کاری عامل‌محور مستقر می‌کند تا زیرساخت Grok را به مقیاس گیگاوات برساند.
این طرح شامل ماهواره Starmind AI است؛ یک سیستم رک-اسکیل Vera Rubin NVL72 بهینه‌شده برای فضا. این ماهواره ۷۰ متری، ۱۲۰ کیلووات محاسبات را از طریق ۱۵۰ کیلووات برق خورشیدی تأمین می‌کند. اولین پرتاب برای سه ماهه چهارم ۲۰۲۷ برنامه‌ریزی شده و مقیاس گسترده آن برای سال ۲۰۲۸ پیش‌بینی شده است. SpaceX درخواستی به FCC داده تا شبکه‌ای از حدود یک میلیون ماهواره برای محاسبات هوش مصنوعی ایجاد کند و مراکز داده مداری را از سال آینده فعال نماید.
در قلب این استراتژی، پردازنده Vera قرار دارد؛ نخستین CPU انویدیا که مخصوص عامل‌های هوش مصنوعی طراحی شده است:
- معماری: ۸۸ هسته سفارشی Olympus با قابلیت چندرشته‌ای فضایی (Spatial Multithreading).
- حافظه: حافظه LPDDR5X با سرعت ۱.۲ ترابایت بر ثانیه.
- عملکرد: تا ۱.۸ برابر سریع‌تر از CPUهای x86 در تکمیل وظایف عامل‌محور، یادگیری تقویتی و پردازش داده‌ها.
مایک نیکولز، رئیس SpaceXAI، این حرکت را به عنوان تلاش برای استخراج «کار مفیدتر از هر وات محاسبات» توصیف کرد. اگرچه محاسبات مداری با چالش‌هایی مانند مدیریت حرارتی از طریق رادیاتورهای مایع در خلأ و پایداری در برابر تشعشعات روبروست، اما استراتژی «یک معماری از زمین تا مدار» اجازه می‌دهد همان پشته‌ای که در کارخانه‌های AI Grok اجرا می‌شود، در فضا نیز کار کند.
حمله ارتباطاتی متا
شرکت Meta (متا) روی بزرگ‌ترین گلوگاه صنعت یعنی ارتباطات تمرکز کرده است. در ۲۴ اوت، متا جزئیات شتاب‌دهنده MTIA 300 و MetaRoCE را منتشر کرد. MTIA 300 نخستین شتاب‌دهنده داخلی متا برای آموزش مدل‌های رتبه‌بندی و توصیه است که در آن جداول بردار معنایی (Embedding) بیش از ۹۹٪ پارامترها را تشکیل می‌دهند.
متا شبکه را به داخل بسته برد و از دو چیپلت با ۱۲ کارت شبکه RDMA ۸۰۰ گیگابیتی استفاده کرد. این یعنی ۱.۲ ترابایت بر ثانیه ورودی/خروجی بدون نیاز به عبور از گذرگاه PCIe.
- بهره‌وری: ۱۶ موتور پیام اختصاصی، هر کدام با یک هسته RISC-V و محاسبات نزدیک به حافظه، عملیات جمعی را بدون درگیر کردن شبکه محاسباتی ۱۲ در ۶ انجام می‌دهند.
- توان عملیاتی: اجرای همزمان GEMMهای بزرگ با عملیات جمعی، کمتر از ۰.۵٪ از توان محاسباتی را هزینه می‌کند، در حالی که در GPUهای معمولی این افت بیش از ۲۰٪ است.
- سرعت: در تست‌های مدل ۱۵۰ میلیارد پارامتری روی ۴۰ شتاب‌دهنده، خوشه MTIA 300 حدود ۳.۹ برابر سریع‌تر از خوشه‌های مشابه GPU ارتباط برقرار کرد.
پروتکل MetaRoCE نیز یک جایگزین کاملاً جدید برای RDMA در شبکه‌های اترنت است. این پروتکل دارای قابلیت تحویل خارج از ترتیب (Out-of-order)، پخش چندمسیره (Multipath spraying)، تحمل خطا و کنترل ازدحام دوطرفه بدون نیاز به PFC است. در تست‌های خوشه ۶۴ گره‌ای AMD، MetaRoCE در زمان تکمیل وظایف و تحمل خطا (حتی با ۱٪ گم شدن بسته‌ها) از RoCEv2 پیشی گرفت، در حالی که RoCEv2 در ۱۰٪ گم شدن بسته کاملاً فرو می‌پاشد.
متا این مشخصات، یک پیاده‌سازی مرجع نرم‌افزاری (libsoftmetaroce) و یک مجموعه انطباق را از طریق OCP منتشر می‌کند که در اکتبر در اجلاس OCP Global Summit ارائه خواهد شد. این یک حمله مستقیم به سلطه InfiniBand و NVLink Fusion انویدیا است.
اقتصاد عامل‌ها: Cognition و XPeng
عامل‌های نرم‌افزاری اکنون ارزش‌های کلانی دارند. شرکت Cognition، سازنده عامل برنامه‌نویس Devin، با ارزشی ۴۰ میلیارد دلاری در حال جذب سرمایه است. این ارزش به دلیل نرخ درآمد سالانه یک میلیارد دلاری است که از ۴۹۲ میلیون دلار در ماه می رشد کرده است. اسکات وو، مدیرعامل شرکت، گزارش داد که استفاده سازمانی در شش ماه گذشته ماهانه ۵۰٪ رشد داشته است.
لیست مشتریان Devin شامل ناسا، گلدمن ساکس، مرسدس بنز و ارتش و نیروی دریایی آمریکا است. این ارزش تقریباً ۴۰ برابر نرخ درآمد سالانه است. همچنین گزارش شده که SpaceX برای تصاحب Cognition با آن‌ها تماس گرفته است، که با معامله ۶۰ میلیارد دلاری Cursor همزمان می‌شود.
همزمان در چین، واحد رباتیک XPeng مبلغ ۹۰۰ میلیون دلار با ارزشی ۶.۳ میلیارد دلاری برای ربات انسان‌نمای IRON جذب کرد. این سرمایه شامل ۶۰۰ میلیون دلار از سرمایه‌گذاران خارجی (به رهبری IDG Capital و با حضور Gaorong، تنسنت و علی‌بابا)، ۲۰۰ میلیون دلار از یک شرکت تابعه XPeng و ۱۰۰ میلیون دلار از مدیران ارشد است.
- سخت‌افزار: ربات IRON دارای ۷۶ درجه آزادی (۲۱ درجه برای هر دست) و سه تراشه داخلی Turing است که ۲۲۵۰ TOPS محاسبات روی دستگاه را فراهم می‌کند.
- تولید: تولید انبوه IRON از اواخر ۲۰۲۶ در فروشگاه‌ها و پردیس‌های XPeng آغاز می‌شود و عرضه تجاری آن در سال ۲۰۲۷ خواهد بود. ظرفیت ماهانه به سمت هزاران عدد افزایش می‌یابد.
- اقتصاد: XPeng ادعا می‌کند حاشیه سود سخت‌افزاری آن از کسب‌وکار خودرو بیشتر خواهد بود و قیمت‌گذاری ۲.۵ تا ۳ برابر هزینه تولید (BOM) خواهد بود. بیش از ۸۵٪ از زنجیره تأمین آن با تأمین‌کنندگان خودروهای برقی XPeng همپوشانی دارد.
تثبیت استراتژیک
انویدیا همچنین از طریق روش‌های غیرمتعارف در حال جذب استعداد است. این شرکت ۶ میلیارد دلار برای لایسنس Model Factory شرکت Poolside پرداخت کرد و یک میلیارد دلار دیگر در این شرکت با ارزشی ۱۲ میلیارد دلاری سرمایه‌گذاری نمود. بیش از ۱۰۰ مهندس Poolside به انویدیا می‌پیوندند تا روی پروژه وزن‌های باز Nemotron کار کنند.
این مدل «لایسنس به جای تصاحب» برای دور زدن بررسی‌های ضد انحصار است، مشابه قراردادهایی با Groq (۲۰ میلیارد دلار) و Enfabrica (۹۰۰ میلیون دلار) که در مجموع حدود ۲۷ میلیارد دلار تعهدات را شامل می‌شود. این حرکت پس از آن رخ داد که Poolside فرصت جذب ۲ میلیارد دلار برای خرید یک خوشه ۴۰ هزارتایی GB300 را از دست داد. هدف انویدیا ساخت مدلی با وزن‌های باز است تا بتواند با DeepSeek، Kimi K3 و آزمایشگاه‌های پیشرو آمریکا رقابت کند.
تحلیل: فرسایش دیوار نرم‌افزاری
برای سال‌ها، سلطه انویدیا فقط به دلیل H100 یا B200 نبود، بلکه به دلیل CUDA بود. توسعه‌دهندگان با انویدیا می‌ماندند چون نرم‌افزارش کار می‌کرد. اما استفاده اوپن‌ای‌آی از هوش مصنوعی برای نوشتن لایه انتقال Jalapeño نشان می‌دهد که این دیوار در حال فرسایش است.
اگر هوش مصنوعی بتواند هسته‌هایی (Kernels) تولید کند که از متخصصان انسانی سریع‌تر باشند، هزینه تغییر سخت‌افزار تقریباً به صفر می‌رسد. ما از عصر «طراحی مشترک سخت‌افزار-نرم‌افزار» به عصر «سنتز سخت‌افزار توسط هوش مصنوعی» حرکت می‌کنیم.
برای یک مدیر کسب‌وکار، این بدان معناست که وابستگی به یک فروشنده تراشه موقتی است. مزیت رقابتی واقعی در حال تغییر به سمت کسانی است که مالک داده‌ها و حلقه‌های عامل‌محور هستند، نه کسانی که صرفاً بیشترین تعداد GPU را می‌خرند.
چشم به تولید انبوه Jalapeño در سال ۲۰۲۷ و انتشار مشخصات MetaRoCE در اکتبر بدوزید تا ببینید آیا صنعت موفق می‌شود انحصار انویدیا را بشکند یا خیر.
گفتگو