اگر تیم مهندسی شما هفته‌ها وقت صرف تنظیم اندازه دسته‌ها (batch sizes) کرده است، احتمالاً فکر می‌کنید دیگر جای پیشرفت نیست. اما انویدیا ثابت کرد که خودِ کامپایلر می‌تواند یک متغیر قابل بهینه‌سازی باشد.
بیش از ۹۰ درصد محاسبات استنتاج (Inference) — همان لحظه‌ای که مدل واقعاً جواب تولید می‌کند، مثل خودِ آشپزی و نه دوره‌ی آموزش آشپز — در دو خانواده‌ی کرنل اتفاق می‌افتد: GEMMها و مدل‌های Attention. کرنل (Kernel) — که کوچک‌ترین واحد پردازشی در GPU است و شبیه به یک ابزار تخصصی در یک کارگاه بزرگ عمل می‌کند — معمولاً با تنظیمات عمومی کامپایلر اجرا می‌شود. این تنظیمات برای همه کاربرد دارند، اما به‌ندرت برای یک مدل خاص، ایده‌آل هستند.
همان‌طور که در تحلیل قبلی ما درباره‌ی بهینه‌سازی حافظه در مدل‌های زبانی اشاره کردیم، گلوگاه اصلی همواره دسترسی به داده‌ها و مدیریت منابع سخت‌افزاری است.
در ۲۶ مه ۲۰۲۶، انویدیا ابزار CompileIQ را به عنوان بخشی از CUDA 13.3 معرفی کرد. این ابزار از الگوریتم‌های ژنتیک (Genetic Algorithms) — که شبیه به تکامل طبیعی گونه‌ها برای بقا در محیطی خاص است — برای یافتن بهترین تنظیمات داخلی کامپایلر استفاده می‌کند. طبق گزارش developer.nvidia.com، این سیستم پارامترهایی مثل تخصیص ثبات‌ها (registers) و زمان‌بندی دستورالعمل‌ها را بهینه می‌کند که در تنظیمات عادی در دسترس نیستند. خروجی این فرآیند یک «فایل کنترل پیشرفته» (ACF) است که کامپایلر را مجبور می‌کند یک فایل باینری کاملاً اختصاصی برای آن مدل بسازد.
این ابزار امکان بهینه‌سازی چندهدفه را فراهم می‌کند. تیم‌ها می‌توانند بین سرعت اجرا، مصرف برق و زمان کامپایل تعادل برقرار کنند. به نقل از ارائه‌ی GTC، این روش در کرنل‌های TritonBench و Helion تا ۱۵٪ بهبود عملکرد ایجاد کرده است.
این تحول، تعریف یک کرنل «تمام‌شده» را عوض می‌کند. برنامه‌نویسان دیگر با آزمون و خطای دستی پیش نمی‌روند. آن‌ها حالا کامپایلر را به عنوان یک مسئله‌ی بهینه‌سازی می‌بینند. برای آزمایشگاه‌های هوش مصنوعی، این یعنی افزایش چشمگیر بازدهی بدون تغییر حتی یک خط کد.
گام بعدی شما
- شناسایی کرنل‌هایی که بیشترین فشار محاسباتی را به GPU وارد می‌کنند.
- نصب و اجرای بسته‌ی پایتون CompileIQ از طریق pip.
- بررسی مستندات رسمی برای تنظیم پارامترهای Pareto frontier جهت تعادل بین مصرف برق و سرعت.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو