اگر توسعهدهندهای هستید که میخواهید مدلهای سنگین هوش مصنوعی را بدون وابستگی به ابر و روی سختافزار شخصی خود اجرا کنید، حالا یک موتور محرک قدرتمند در اختیار دارید. در ۲۲ سپتامبر ۲۰۲۶، هگینگفیس (Hugging Face) اعلام کرد که جُن کیم، خالق و نگهدارنده پروژه oMLX را بهعنوان عضوی رسمی و با بودجه کامل به تیم خود اضافه کرده است.
این تصمیم در حالی اتخاذ میشود که صنعت به سمت استنتاج (Inference) — لحظهای که مدل واقعاً جواب تولید میکند، شبیه به خودِ آشپزی و نه دورهی آموزش آشپز — محلی با کارایی بالا حرکت میکند. همانطور که در تحلیل قبلی ما دربارهی افزایش سرعت در Hugging Face Tokenizers v1 اشاره کردیم، این شرکت اکنون روی سطح فریمورک تمرکز کرده تا کاربران بتوانند مدلهای پیچیده را روی سختافزار خود اجرا کنند.
طبق اعلام رسمی هگینگفیس، این انتقال چندین هدف فنی مشخص را دنبال میکند:
- پایداری oMLX: تبدیل این پروژه از یک فعالیت جانبی به یک پروژه دارای بودجه برای تضمین نگهداری بلندمدت تحت لایسنس Apache 2.0. این گام برای توسعهدهندگانی که با چالشهای سختافزاری روبرو هستند حیاتی است، چرا که oMLX با روشهایی نوآورانه محدودیتهای حافظه را در اجرای مدلهای محلی اپل میشکند.
- پیادهسازیهای مرجع: ایجاد یک مسیر سریع برای انتقال تعاریف مدل از کتابخانه transformers به پیادهسازیهای مرجع MLX.
- یکپارچگی اکوسیستم: استفاده از وابستگیهای موجود مانند mlx-lm و mlx-vlm بهعنوان بستری برای آزمایش ایدههای جدید هوش مصنوعی محلی.
برای یک توسعهدهنده معمولی، این یعنی دشواریهای انتقال یک مدل جدید به مک در حال ناپدید شدن است. هگینگفیس با بهینهسازی خط لوله بین کتابخانه استاندارد ترنسفورمرها و فریمورک بهینهشده اپل، در واقع «مالیات انتقال» را برای هوش مصنوعی محلی حذف میکند.
به باور تحلیلگران، این چرخش نشان میدهد که هگینگفیس اکوسیستم محلی را نه یک سرگرمی برای آماتورها، بلکه ستونی اصلی از زیرساخت هوش مصنوعی میبیند. هدف نهایی این است که هر مدلی بتواند در هر شکلی روی تراشههای محلی اجرا شود.
گام بعدی شما
- بهروزرسانیهای آتی کتابخانه transformers را برای سازگاری با MLX دنبال کنید.
- اگر از مک استفاده میکنید، مدلهای بهینهشده در oMLX را برای کاهش تأخیر استنتاج تست کنید.
- مستندات MLX را برای درک تفاوتهای اجرای محلی با محیطهای ابری مطالعه کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو