پرش به محتوای اصلی
پرش به محتوای مقاله

چرا علی‌بابا برای کاهش هزینه‌ی استنتاج، روی بنیاد PyTorch شرط‌بندی کرد؟

·۶ خرداد ۱۴۰۵۲ دقیقه مطالعه۱ بازدید
اشتراک‌گذاری

اگر مدل‌های هوش مصنوعی را در مقیاس بزرگ روی سخت‌افزارهای مختلف اجرا می‌کنید، اصطکاک بین نرم‌افزار و تراشه بزرگ‌ترین هزینه‌ی شما است. باید بدانید که علی‌بابا کلاود برای حل این مشکل، در ۲۷ می ۲۰۲۶ به عنوان عضو پلاتینیوم به بنیاد PyTorch پیوست؛ این خبر را گزارش رسمی این بنیاد تأیید کرده است.

PyTorch استاندارد صنعت برای توسعه‌ی هوش مصنوعی است. اما اجرای آن در مقیاس بالا روی تراشه‌های متنوع، به‌شدت دشوار است. علی‌بابا کلاود یک شبکه‌ی محاسباتی جهانی را مدیریت می‌کند و می‌خواهد خانواده‌ی مدل‌های Qwen — که هر کدام یک مدل زبانی بزرگ (LLM) هستند و مثل کتابخانه‌داری عمل می‌کنند که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — بدون نقص در هر محیطی اجرا شوند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی مدل‌های بازمتن اشاره کردیم، دسترسی به سخت‌افزار متنوع، کلید بقای این مدل‌ها در بازار است.

طبق اعلام شرکت، جونهوا وانگ (Junhua Wang)، معاون این مجموعه، کرسی هیئت‌مدیره را در اختیار گرفت. علی‌بابا اکنون روی دو هدف مهندسی متمرکز است:

  • ایجاد تجربه‌ای یکپارچه و «آماده‌به‌کار» در تمام شتاب‌دهنده‌های سخت‌افزاری.
  • ارائه‌ی تخصص در بهینه‌سازی کامپایلر (Compiler) — شبیه به مترجمی که دستورات برنامه‌نویس را به زبانی تبدیل می‌کند که تراشه بفهمد — و پایداری چندتراشه‌ای برای جامعه‌ی توسعه‌دهندگان.

این همکاری همچنین پروژه‌های حیاتی اکوسیستم مانند vLLM، SGLang، PAI-TurboX و TorchEasyRec را یکپارچه می‌کند.

علی‌بابا کلود به عنوان عضو پلاتینی به بنیاد پای‌تورچ پیوست

این یک بازی استراتژیک برای رسیدن به «استقلال سخت‌افزاری» است. علی‌بابا با اثرگذاری بر هسته‌ی PyTorch، تضمین می‌کند که مشتریانش به یک فروشنده‌ی خاص تراشه وابسته نباشند. برای یک صاحب کسب‌وکار، این یعنی استنتاج (Inference) — یعنی همان لحظه‌ی تولید جواب توسط مدل، شبیه به خودِ آشپزی و نه دوره‌ی آموزش آشپز — پایدارتر و ارزان‌تر می‌شود. این رویکرد با تلاش‌های گسترده‌تر برای بهینه‌سازی ابزارهای استنتاج محلی جهت افزایش سرعت و حفظ حریم خصوصی هم‌سو است تا کارایی مدل‌ها در محیط‌های مختلف به حداکثر برسد. در واقع، تمرکز از قدرت خام محاسباتی به کارایی لایه‌ی نرم‌افزاری تغییر می‌کند.

گام بعدی شما

  • بنچمارک‌های عملکرد مدل Qwen را پس از اعمال بهینه‌سازی‌های جدید در PyTorch دنبال کنید.
  • اگر از زیرساخت‌های ابری استفاده می‌کنید، بررسی کنید که آیا هزینه‌ی استنتاج شما با تغییر سخت‌افزار کاهش می‌یابد یا خیر.
  • مستندات بنیاد را در pytorch.org/foundation برای شناسایی ابزارهای بهینه‌سازی جدید بررسی کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ اثر این بهینه‌سازی‌ها بر رقابت تراشه‌های انویدیا و جایگزین‌های آن را در گزارش بعدی بررسی خواهیم کرد.

چرا این موضوع مهم است؟

این اقدام با تکیه بر اعتبار بنیاد PyTorch، وابستگی صنعت به انحصار تراشه‌های خاص را می‌شکند. در نتیجه، هزینه‌ی عملیاتی مدل‌های زاینده برای شرکت‌ها کاهش می‌یابد و دسترسی به سخت‌افزارهای متنوع تسهیل می‌شود.

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.