پرش به محتوای اصلی
پرش به محتوای مقاله

آیا لینک‌های مستقیم Hugging Face گلوگاه‌های GPU را در SageMaker می‌گیرند؟

·۱۷ تیر ۱۴۰۵۴ دقیقه مطالعه
انتقال یک‌کلیکی از Hugging Face به Amazon SageMaker Studio
انتقال یک‌کلیکی از Hugging Face به Amazon SageMaker Studio
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

جایگزینی تنظیمات دستی IAM و بررسی سهمیه‌های GPU با یک جریان کاری خودکار و تک‌کلیکی که مستقیماً از Hugging Face به محیط اجرای ابری متصل می‌شود.

تصور کنید می‌خواهید یک مدل زبانی پیشرفته را در محیط شرکتی اجرا کنید، اما ساعت‌ها در پیچ‌ و خم تنظیمات دسترسی و مجوزهای ابری گیر می‌کناسید. این اصطکاکی است که پیش از این، مسیر تبدیل یک ایده و الهام را به استقرار در سطح سازمانی متوقف می‌کرد؛ فرآیندی دستی و چندمرحله‌ای که زمان‌بر بود. از ۷ ژوئیه ۲۰۲۶، این اصطکاک به پایان رسیده است و یک کلیک ساده، توسعه‌دهنده را از مرحلهٔ کشف یک مدل در Hugging Face مستقیماً به محیط آزمایشگاهی Amazon SageMaker Studio منتقل می‌کند تا بتواند آزمایش‌های خود را آغاز کند.

برای سال‌ها، شکاف عمیقی بین یافتن یک مدل با وزن‌های باز (Open Weights) — که شبیه داشتن دستور پخت یک غذای پیچیده است اما هنوز باید تجهیزات آشپزخانه را آماده کرد — و اجرای واقعی آن در یک محیط ابری امن وجود داشت. طبق گزارش‌های فنی، توسعه‌دهندگان پیش‌تر مجبور بودند در کنسول AWS پیمایش کنند، یک دامنه (Domain) بسازند، مجوزهای پیچیده IAM را پیکربندی کنند و برای سهمیه واحد پردازش گرافیکی (GPU) درخواست دهند تا بتوانند اولین خط کد را اجرا کنند. این روند، سدی بزرگ برای تیم‌هایی بود که نیاز داشتند ایده‌های خود را به‌سرعت تکرار و بهینه‌سازی کنند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی کاهش هزینه‌های استنتاج در مدل‌های باز اشاره کردیم، سرعت دسترسی به سخت‌افزار اکنون به مزیت رقابتی تبدیل شده است.

مسیر اکتشاف تا استقرار

به نقل از یک گزارش در huggingface.co، جریان کاری جدید از «تأمین خودکار» (Automated Provisioning) برای پر کردن این شکاف استفاده می‌کند. زمانی که یک کاربر یک مدل پشتیبانی‌شده را انتخاب می‌کند، SageMaker AI در عرض چند ثانیه یک دامنه جدید با مجوزهای پیش‌فرض و پیکربندی شده ایجاد می‌کند.

این ادغام به توسعه‌دهندگان اجازه می‌دهد مستقیماً وارد جریان کاری مربوطه در Studio شوند. چه هدف شما تنظیم دقیق (Fine-tuning) — که مثل دادن تخصص پوست به یک پزشک عمومی است تا روی یک حوزه خاص خبره شود — یک مدل بنیادی (FM) از Amazon SageMaker JumpStart باشد یا استقرار آن در یک نقطهٔ پایانی (Endpoint) برای استنتاج (Inference)، محیط به‌طور کامل پیکربندی شده و مدل انتخابی در لحظهٔ ورود بارگذاری می‌شود.

انتقال یک‌کلیکی از Hugging Face به Amazon SageMaker Studio

سه قابلیت مستقیم و جدید

  • لینک‌های عمیق مستقیم: صفحهٔ مدل‌های Hugging Face اکنون دارای دکمه‌های «Customize on SageMaker AI» و «Deploy on SageMaker AI» است.
    • دکمهٔ «Customize on SageMaker AI» صفحهٔ شخصی‌سازی مدل در Studio را باز می‌کند و مدل انتخابی برای تنظیم دقیق پیش‌بارگذاری می‌شود.
    • دکمهٔ «Deploy on SageMaker AI» صفحهٔ استقرار در Studio را باز می‌کند و مدل برای استقرار در نقطهٔ پایانی (Endpoint) پیش‌پیکربندی شده است.
    • هر یک از این نقاط ورود، بستر (Context) مدل را حفظ می‌کنند تا کاربر پس از ورود به Studio، مجبور نباشد دوباره به دنبال مدل بگردد.
  • مدیریت خودکار IAM: سیستم اکنون به‌طور خودکار یک سیاست مدیریت‌شده به نام AmazonSageMakerModelCustomizationCoreAccess را پیوست می‌کند. این مجوز دسترسی‌های فوری برای طیف کاملی از قابلیت‌ها، از جمله کارهای آموزشی (Training Jobs) و آزمایش‌های نوت‌بوک را فراهم می‌کند. به‌طور خاص، این قابلیت امکان شخصی‌سازی بدون سرور (Serverless) را با استفاده از روش‌های زیر فراهم می‌کند:
    • تنظیم نظارت‌شده (SFT)
    • بهینه‌سازی مستقیم ترجیح (DPO)
    • یادگیری تقویتی با پاداش‌های قابل‌راستی‌سنجی (RLVR)
    • یادگیری تقویتی از بازخورد هوش مصنوعی (RLAIF)
    • استقرار در نقاط پایانی SageMaker AI یا Amazon Bedrock.
      برای کاربرانی که محیط‌های Studio از پیش موجود دارند، سیستم پیام‌های راهنمایی همراه با لینک‌های مستقیم به مستندات ارائه می‌دهد تا در افزودن این مجوزها کمک کند.
  • شفافیت در سهمیه GPU: رابط کاربری Studio اکنون میزان دسترسی به GPU را مستقیماً در لیست انتخاب نمونه‌ها (Instance Selection List) نمایش می‌دهد.
    • کاربران می‌توانند بلافاصله ببینند کدام انواع نمونه‌های GPU (مانند G5 و G6) با توجه به محدودیت‌های فعلی حسابشان در دسترس هستند.
    • این تغییر نیاز به پیمایش جداگانه در بخش Service Quotas را کاملاً حذف کرده است.
    • اگر نیاز به افزایش سهمیه باشد، رابط کاربری کاربر را مستقیماً به صفحهٔ Service Quotas برای آن نوع خاص از نمونه هدایت می‌کند.

انتقال یک‌کلیکی از Hugging Face به Amazon SageMaker Studio

جریان کاری گام‌به‌گام

برای استفاده از این ویژگی، توسعه‌دهندگان یک مسیر چهارمرحله‌ای را طی می‌کنند. اول، در صفحهٔ مدل Hugging Face روی دکمهٔ «Deploy» کلیک کرده، «Amazon SageMaker AI» را انتخاب می‌کنند و سپس یکی از دکمه‌های Customize یا Deploy را می‌زنند. دوم، وارد حساب AWS می‌شوند؛ اگر یک نشست (Session) فعال در کنسول وجود داشته باشد، این مرحله به‌طور خودکار نادیده گرفته می‌شود.

سوم، کاربر وارد Studio می‌شود. برای شخصی‌سازی، ابرپارامترهای (Hyperparameters)، داده‌های آموزشی و نوع نمونه (Instance Type) را پیش از ارسال درخواست کار (Job) پیکربندی می‌کند. برای استقرار، نوع نمونه را انتخاب کرده و تنظیمات را بررسی می‌کند. در نهایت، پس از استقرار نقطهٔ پایانی، کاربر می‌تواند استنتاج را مستقیماً از طریق رابط تست نقطهٔ پایانی در Studio بررسی و آزمایش کند.

انتقال یک‌کلیکی از Hugging Face به Amazon SageMaker Studio

مارک مک‌کوئید، مدیرعامل Arcee AI، تأکید کرد که این ادغام به سازمان‌ها اجازه می‌دهد «وزن‌ها را بررسی کنند، روی داده‌های خود پسا-آموزش (Post-train) را اجرا کنند و با شرایط خود استقرار یابند». او بیان کرد که انتقال تک‌کلیکی از یک مدل باز به SageMaker Studio دقیقاً همان تجربه‌ای بود که مدل‌های باز کم داشتند: «وزن‌های بازی که مالک آن‌ها هستید، در ابری که کنترل می‌کنید».

این تغییر، زیرساخت‌های حرفه‌ای ML را به تجربهٔ مصرف‌کننده نزدیک می‌کند. این چرخش به نفع استراتژی «مدل‌های باز به صورت تک‌منتیبی» (Open-weights a-la-carte) است. با کاهش زمان راه‌اندازی از چندین ساعت کار DevOps به چند ثانیه کلیک، آمازون استفاده از مدل‌های باز تخصصی را نسبت به چند API بسته و یکپارچه (Monolithic Closed APIs) به‌طور قابل‌توجهی جذاب‌تر می‌کند. این رویکرد در راستای تلاش گسترده‌تر آمازون برای بهینه‌سازی عملیات هوش مصنوعی است که پیش‌تر در استراتژی‌های جدید این شرکت برای تقلید از مدل عملیاتی پالانتیر نیز به آن اشاره شده بود.

برای توسعه‌دهنده، این بدان معناست که «مالیات زیرساختی» AWS تا حد زیادی پنهان شده است. قابلیت مشاهده سهمیه‌های GPU در هنگام انتخاب، یک پیروزی کوچک اما حیاتی در تجربه کاربری (UX) است که ازe ناامیدی رایج کاربر — یعنی تلاش برای راه‌اندازی یک نمونه و سپس متوقف شدن توسط محدودیت‌های حساب — جلوگیری می‌کند.

گام بعدی شما

  • مدل‌های پشتیبانی‌شده در Hugging Face را بررسی کنید و دکمه‌های اکشن SageMaker AI را برای تست سریع محیط خود پیدا کنید.
  • اگر با خطای سهمیه GPU مواجه شدید، از لینک مستقیم جدید در لیست نمونه‌ها برای درخواست افزایش سهمیه استفاده کنید.
  • استراتژی استقرار خود را از مدل‌های بسته به سمت مدل‌های باز با وزن‌های کنترل‌شده تغییر دهید.

اما اثر این تسهیل بر رقابت بین مدل‌های کوچک و بزرگ حتی تعیین‌کننده‌تر است — به تحلیل ما درباره‌ی مدل‌های زبانی کوچک (SLM) مراجعه کنید.

چرا این موضوع مهم است؟

این ادغام با حذف موانع فنی استقرار، سرعت چرخهٔ تبدیل پژوهش به محصول را در مقیاس سازمانی افزایش می‌دهد. تکیه بر اعتبار Amazon SageMaker و دسترسی گسترده Hugging Face، استاندارد جدیدی برای توزیع مدل‌های باز ایجاد کرده است.

تأثیر برای ایران

به‌دلیل محدودیت‌های دسترسی به سرویس‌های AWS و تحریم‌های ابری، این تسهیلات در حال حاضر اثر مستقیمی بر توسعه‌دهندگان ایرانی ندارد.

·نگاه ما
تحریریه دات‌هوش

کاهش اصطکاک در لایه زیرساختی، میدان جنگ را از «قدرت مدل» به «سرعت استقرار» منتقل می‌کند. آمازون با حذف لایه DevOps، در واقع در حال تبدیل کردن زیرساخت ابری به یک کالای مصرفی (Commodity) است تا توسعه‌دهندگان را به اکوسیستم مدل‌های باز جذب کند و وابستگی به APIهای بسته مثل OpenAI را کاهش دهد.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.