تصور کنید یک برنامه‌نویس بتواند بدون وابستگی به سرورهای ابری و با همان قدرت یک کامپیوتر دسکتاپ، مدل‌های سنگین هوش مصنوعی را روی آیپد خود اجرا کند. این رویای تبدیل تبلت به یک ایستگاه کاری قدرتمند، حالا با معرفی LemonSeed Studio به واقعیت تبدیل شده است.
طبق اعلام این پروژه در ۱۱ اکتبر ۲۰۲۶، این محیط توسعه (IDE) اجازه می‌دهد تا بار محاسباتی مدل‌های زبانی بزرگ (LLM) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — به یک واحد پردازش گرافیکی (GPU) خارجی از شرکت AMD منتقل شود. این اتصال از طریق درگاه Thunderbolt صورت می‌گیرد تا سرعت انتقال داده‌ها به حداکثر برسد.
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، اجرای محلی مدل‌ها برای حفظ حریم خصوصی و کنترل کامل روی داده‌ها حیاتی است. در حال حاضر، اکثر ابزارهای موبایلی یا به تراشه‌های محدود NPU متکی هستند یا از APIهای ابری استفاده می‌کنند که هم تأخیر دارند و هم هزینه.
بر اساس مستندات منتشرشده در گیت‌هاب، این سیستم از سه جزء کلیدی تشکیل شده است:
- mac_linuxgpu: یک درایور لینوکس اصلاح‌نشده (amdgpu و amdkfd) که به عنوان افزونه DriverKit در اپلیکیشن تعبیه شده است.
- LemonSeed Engine: موتور استنتاج (Inference) — لحظه‌ای که مدل واقعاً جواب تولید می‌کند، شبیه خودِ آشپزی و نه دوره‌ی آموزش آشپز — که از طریق HSA runtime با GPU ارتباط برقرار می‌کند.
- amdgpu_mtopg: ابزاری اختصاصی برای نظارت لحظه‌ای بر وضعیت و دمای GPU.
این راهکار با دور زدن محدودیت‌های سیستم‌عامل iPadOS، تبلت را از یک «کلاینت ساده» به یک رابط اصلی برای توسعه سنگین AI تبدیل می‌کند. به گزارش توسعه‌دهندگان، تعبیه مستقیم درایور لینوکس در دل اپلیکیشن، پلی میان سخت‌افزار موبایل و قدرت محاسباتی سطح حرفه‌ای ایجاد کرده است.
این دستاورد برای توسعه‌دهندگانی که به دنبال کاهش تأخیر و حذف هزینه‌های اشتراکی هستند، یک تغییر بنیادین در جریان کاری است. حالا می‌توان بدون نیاز به لپ‌تاپ‌های حجیم، محیط توسعه‌ای کامل را در کیف دستی حمل کرد.
گام بعدی شما
- بررسی سورس‌کد پروژه در گیت‌هاب برای درک نحوه مدیریت ارتباطات PCIE توسط DriverKit.
- بررسی سازگاری معماری GPUهای AMD خود با موتور LemonSeed.
- تست مدل‌های کوچک‌تر (SLM) برای مقایسه سرعت استنتاج محلی در برابر مدل‌های ابری.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است؛ برای درک لایه‌های عمیق‌تر ارتباط سخت‌افزاری، به تحلیل ما درباره‌ی استانداردهای Thunderbolt 5 مراجعه کنید.
گفتگو