حالت Distilled در برابر Base؛ تقابل سخت‌افزار و اپراتور در FLUX 2

بودجهٔ تولید یک تیم طراحی به‌ندرت با قیمت تک‌تک فریم‌ها می‌شکند، اما در برابر صف طولانی ویرایش‌های فوری تسلیم می‌شود. اگر هزینه‌ها را صرفاً بر اساس یک بار تولید (Single-pass generation) محاسبه کنید، زمان انتظار چهل دقیقه‌ای برای تیمی که به یک GPU واحد دسترسی دارد را نادیده گرفته‌اید.

Black Forest Labs با عرضهٔ مدل FLUX 2 Klein 9B، یک تلهٔ فنی خاص ایجاد کرده است: شکاف میان داشتن یک سخت‌افزار سریع و داشتن یک جریان کاری (Workflow) بهره‌ور. وقتی یک طراح منتظر خروجی ویرایش است، قیمت آن فریم اهمیتی ندارد؛ تنها چیزی که اهمیت دارد توان عملیاتی (Throughput) — یعنی تعداد کارهای انجام‌شده در واحد زمان — است.

بسیاری از بحث‌های استقرار هوش مصنوعی بر روی هزینه کل مالکیت (TCO) و قیمت هر تصویر متمرکز است. این رویکرد گمراه‌کننده است چون هزینه تصاویر خطی است: ۱۰۰ ویرایش دقیقاً ۱۰۰ برابر بیشتر از یک ویرایش هزینه دارد. اما صف‌های انتظار غیرخطی هستند. ۱۰۰ ویرایش در یک روز آرام با ۱۰۰ ویرایش در دو ساعت پیش از انتشار یک پروژه، هزینه مالی یکسانی دارند اما تجربه انتظار کاملاً متفاوتی می‌سازند. برای عبور از این بحران، تیم‌ها باید «تعداد تسک در ساعت» را اندازه بگیرند، نه «هزینه هر فریم» را. قیمت منتشرشده توسط فروشنده برای هر پاس یک عدد صادقانه و قابل تایید است، اما در واقع به پرسش اشتباهی درباره بار واقعی سیستم شما پاسخ می‌دهد.

فرضیه مرکزی این است: اگر محاسبات نشان دهد صف انتظار از حد پذیرفتنی می‌گذرد، مدل محلی نمی‌تواند جریان ویرایش تعیین‌شده را پشتیبانی کند؛ فارغ از اینکه قیمت هر تصویر چقدر جذاب باشد. این موضوع تنها زمانی رد می‌شود که جریان کار تیم نادر و یکنواخت باشد؛ در آن صورت هیچ صفی شکل نمی‌گیرد و TCO عامل تصمیم‌گیرنده می‌شود. اگر جریان کار پایین باشد و زمان پاس GPU کوتاه باشد، هم سخت‌افزار و هم اپراتور بیکار می‌مانند و کل بحث درباره صف‌ها غیرضروری می‌شود. اما برای تیم‌های تولیدی، توان عملیاتی تنها معیار حیاتی است.

معماری فنی Klein 9B

مدل FLUX 2 Klein 9B در قالب safetensors یک معماری با ۹ میلیارد پارامتر است که حجم فایل آن حدود ۱۸.۲ گیگابایت است و توسط Black Forest Labs در Hugging Face منتشر شده است. به نقل از مستندات این مدل در تاریخ ۱۸ ژوئیه ۲۰۲۶، این سیستم برای اجرا به رمزگذار متنی Qwen3 با ۸ میلیارد پارامتر نیاز دارد. این رمزگذار فشار جداگانه‌ای بر حافظه ویدیویی (VRAM) و سربار بارگذاری (Loading Overhead) ایجاد می‌کند که فراتر از خودِ ترانسفورمر است؛ جزئیاتی که اغلب در زمان برنامه‌ریزی حافظه فراموش می‌شود. این دو جزء در کنار هم، مصرف پایه منابع را برای هر بار فراخوانی تعریف می‌کنند.

بر اساس داده‌های جامعه کاربران و سازنده، الزامات سخت‌افزاری و محدودیت‌های حافظه به شرح زیر است:

• حداقل پشتیبانی: کارت گرافیک RTX 4080 با ۱۶ گیگابایت VRAM.
• پیشنهادی: کارت گرافیک RTX 4090 با ۲۴ گیگابایت VRAM.
• ظرفیت دسته‌بندی (Batch Capacity): طبق داده‌های جامعه کاربران در DeepWiki، اندازه دسته عملیاتی در کارت‌های ۱۶ گیگابایتی تنها ۱ تصویر و در کارت‌های ۲۴ گیگابایتی یا بیشتر، تنها ۲ تا ۳ تصویر است.

این محدودیت در اندازه دسته (Batch Size) بسیار حیاتی است. این موضوع تعیین می‌کند که یک GPU واحد پیش از آنکه مجبور شود صف را به‌صورت سریال (ترتیبی) پردازش کند، چه مقدار تسک موازی را جذب کند و در واقع یک فرآیند موازی را به یک صف انتظار تبدیل کند. در حالی که Black Forest Labs مدل را ارائه می‌دهد، جزئیات مربوط به دسته‌بندی از طریق تاییدات جامعه (DeepWiki) به دست آمده است که به عنوان یک بررسی ثانویه برای برنامه‌ریزی عمل می‌کند.

تفاوت Distilled و Base: شکاف ۱۷ برابری

به گزارش بنچمارک‌های Comfy Org که در ۱۸ ژوئیه ۲۰۲۶ منتشر شد، انتخاب حالت استنتاج (Inference) گلوگاه سیستم را به‌کلی تغییر می‌دهد. این دو حالت تفاوت شدیدی در سرعت عملیاتی ایجاد می‌کنند:

نسخه Distilled (تقطیر‌شده):

• گام‌های استنتاج: ۴ گام.
• سرعت: تکمیل تولید یا ویرایش در حدود ۲ ثانیه روی RTX 5090.
• پیک VRAM: حدود ۱۹.۶ گیگابایت.

نسخه Base (پایه):

• گام‌های استنتاج: ۵۰ گام.
• سرعت: حدود ۳۵ ثانیه برای هر پاس روی RTX 5090.
• پیک VRAM: حدود ۲۱.۷ گیگابایت.

این یعنی برای یک سخت‌افزار یکسان، تفاوت ۱۷ برابری در توان عملیاتی ایجاد می‌شود. برای یک صف تولید، این یک نقطه تصمیم‌گیرنده است: یک جریان یکسان از تسک‌ها، بسته به حالتی که انتخاب شود، با گلوگاه‌های کاملاً متفاوتی روبرو خواهد شد. تیمی که از حالت Distilled به Base منتقل می‌شود، در واقع ظرفیت ماشین خود را ۹۴٪ کاهش می‌دهد.

مدل چهار-حلقهٔ صف

برای پیش‌بینی بقای یک سیستم محلی در برابر فشار تولید، باید صف ویرایش را در چهار حلقه متمایز مدل کرد: تسک، فراخوانی GPU (یا درخواست API)، زمان انتظار و اپراتور.

تمایز بین «تسک» و «فراخوانی» (Call) حیاتی است. یک «تسک ویرایش» منطقی در یک صف، اغلب شامل چندین فراخوانی مدل است. Klein 9B ویرایش‌ها را از طریق یک رفرنس واحد، چندین رفرنس یا ویرایش‌های تکرارشونده چند-پاسه در یک معماری واحد پشتیبانی می‌کند. در flux 2 klein 9b edit، یک طراح ممکن است بخواهد «پس‌زمینه را اصلاح کند، سپس دست را تغییر دهد و در نهایت نور را تنظیم کند». این یعنی ۳ پاس جداگانه از مدل. بنابراین صف باید بر اساس فراخوانی‌ها محاسبه شود، نه تسک‌ها. این ضریب ضرب‌شونده اغلب دلیل اصلی شکست‌های غیرمنتظره در استقرار محلی است.

با استفاده از یک محاسبه‌گر پیش‌بینی، می‌توان دید که گلوگاه چگونه جابجا می‌شود. سناریویی را در نظر بگیرید با ۴۰ ویرایش ورودی در ساعت، ۲ فراخوانی برای هر تسک (چندپاسه) و ۲۵ ثانیه توقف اپراتور برای پذیرش دستی یا تنظیمات. همچنین ۱۵٪ نرخ تکرار (تسک‌هایی که به دلیل نتایج ضعیف باید دوباره اجرا شوند) را فرض می‌کنیم.

• در حالت Distilled (پاس ۲ ثانیه‌ای): بار کل GPU حدود ۱۸۴ ثانیه در ساعت است (تقریباً ۹۲ فراخوانی). GPU تنها حدود ۵٪ از ساعت را اشغال می‌کند. اما اپراتور ۲۸٪ از ساعت را می‌گیرد. در این حالت، انسان گلوگاه است. افزودن GPU دوم هیچ تأثیری نخواهد داشت زیرا سخت‌افزار ۹۵٪ زمان بیکار است.
• در حالت Base (پاس ۳۵ ثانیه‌ای): بار GPU به حدود ۳,۲۲۰ ثانیه در ساعت می‌رسد، یعنی تقریباً ۸۹٪ بهره‌وری. سخت‌افزار مدت‌ها پیش از انسان به گلوگاه تبدیل می‌شود و صف روی کارت گرافیک شروع به انباشته شدن می‌کند.

این ثابت می‌کند که گلوگاه مطلق نیست—بلکه بر اساس حالت مدل و سخت‌افزار انتخاب‌شده جابجا می‌شود. هدف محاسبه‌گر ارائه حقیقت مطلق نیست، بلکه شناسایی این است که کدام حلقه در زیر مفروضات خاص، زودتر می‌شکند.

حل گلوگاه

تشخیص درست گلوگاه ضروری است چون راهکارهای آن‌ها اساساً متفاوت‌اند و یک اشتباه منجر به ضرر مالی می‌شود. خرید GPU دوم وقتی اپراتور انسانی حلقه کند است، اتلاف سرمایه است.

گلوگاه‌های GPU:

• علائم: بهره‌وری GPU نزدیک به ۱۰۰٪؛ تسک‌ها به‌طور خاص منتظر استنتاج هستند.
• راهکارها: ارتقای سخت‌افزاری (VRAM بیشتر یا کارت‌های سریع‌تر)، انتقال به حالت Distilled یا استفاده از دسته‌بندی (Batching) در کارت‌های رده‌بالاتر.

گلوگاه‌های اپراتور:

• علائم: GPU بیکار یا دارای بهره‌وری پایین است، اما تسک‌ها همچنان منتظرند زیرا انسان نمی‌تواند سریعاً ویرایش‌ها را تنظیم یا تأیید کند.
• راهکارها: بهینه‌سازی فرآیند، استفاده از قالب‌های پرامپت، پذیرش خودکار نتایج بدیهی، پیش‌تنظیمات برش‌خورده (Pre-cut presets) یا افزودن نیروی انسانی به مرحله تأیید.

نرخ تکرار (Retry rate) به‌ویژه در ویرایش‌های چند-پاسه بسیار فریبنده است. اگر نتیجه ضعیف باشد و تسک وارد دور دوم یا سوم شود، بار سیستم را دقیقاً در همان نقطه‌ای که گلوگاه قرار دارد، چند برابر می‌کند. در یک محیط محدود به GPU، تکرارها سخت‌افزار را در هم می‌شکنند؛ در یک محیط محدود به اپراتور، تکرارها انسانی را که باید درخواست را دوباره فرموله کند، تحت فشار قرار می‌دهند. با نگه داشتن retry_rate به عنوان یک پارامتر مجزا در محاسبه‌گر، می‌توانید دقیقاً ببینید سیستم چه زمانی به زمان‌های انتظار غیرقابل قبول می‌رسد.

در نهایت، یک محدودکننده «پنهان» وجود دارد. نه در کارت مدل، نه در لایسنس و نه در مستندات قیمت‌گذاری، محدودیت‌های هم‌زمانی (Concurrency)، عمق صف یا رفتار مقیاس‌بندی در چندین GPU برای Klein 9B ذکر نشده است. این پارامترها توسط فروشنده اعلام نشده‌اند و باید توسط اپراتور اندازه‌گیری شوند. بنابراین، هر عدد مربوط به موازی‌سازی در محاسبات شما، یک «فرض» است.

جایگزین‌های ابری و دیوارهای لایسنس

وقتی صف‌های محلی لبریز می‌شوند، اولین واکنش انتقال بارهای اوج (Peak loads) به یک فروشنده است. برخلاف ثانیه‌های GPU محلی، APIهای میزبان بر اساس خروجی صورت‌حساب می‌کنند. API شرکت Black Forest Labs (طبق مستندات docs.bfl.ai در ۲۰۲۶-۰۷-۱۸) قیمت ویرایش‌ها را از ۰.۰۱۵ دلار برای اولین مگاپیکسل خروجی شروع می‌کند و مگاپیکسل‌های اضافی به‌صورت افزایشی محاسبه می‌شوند. چون قیمت‌گذاری «از» یک مبلغ شروع شده و بر اساس مگاپیکسل است، هزینه واقعی به رزولوشن بستگی دارد و بیشتر معیاری از «بزرگی» است تا یک قیمت ثابت برای هر تصویر.

برای تیم‌هایی که با محدودیت‌های پرداخت مواجه‌اند، پلتفرم‌هایی مانند provod.ai (یک OpenRouter روسی) یک پل SDK سازگار با OpenAI فراهم می‌کنند. این امکان را می‌دهد که کاربران تنها با تغییر base_url و کلید API، بدون بازنویسی کد ادغام، از مدل‌های محلی به مدل‌های ابری منتقل شوند:

from openai import OpenAI
client = OpenAI(api_key="YOUR_KEY", base_url="https://api.provod.ai/v1")

این استراتژی ترکیبی را فعال می‌کند: استفاده از GPU محلی برای کارهای پایه و مسیرهای ابری برای اوج‌های تولیدی. برای تیم‌های روسی، این موضوع از نظر عملی ارزشمند است زیرا پرداخت‌ها از طریق موجودی روبل (کارت، SBP یا حساب‌های بانکی) و بدون نیاز به VPN یا کارت‌های خارجی انجام می‌شود و قیمت‌ها ۱:۱ و بدون بهره‌جویی ارائه‌دهنده اعمال می‌شود. علاوه بر این، مسیریابی چندکاناله پایدار تضمین می‌کند که حتی اگر یک کانال بالادستی موقتاً در دسترس نباشد، کار ادامه یابد؛ ویژگی‌ای حیاتی برای ویرایش‌های فوری تولیدی که در آن در دسترس بودن مهم‌تر از تأخیر (Latency) است.

با این حال، یک سد قانونی قابل توجه وجود دارد که بر تمام محاسبات توان عملیاتی ارجحیت دارد. وزن‌های FLUX 2 Klein 9B تحت لایسنس غیرتجاری FLUX منتشر شده‌اند. طبق اعلام bfl.ai در ۱۸ ژوئیه ۲۰۲۶، هرگونه استقرار درآمدزا، تولیدی یا برای کاربر نهایی بدون داشتن لایسنس تجاری جداگانه اکیداً ممنوع است. این یک پیش‌نیاز سخت برای هر تیمی است که برنامه‌ریزی برای یک صف ویرایش تولیدی را دارد.

سطوح میزبانی تجاری خودکار از Black Forest Labs نیز سهمیه‌های حجمی سختی را اعمال می‌کنند که می‌تواند صف را بیشتر از GPU محدود کند:

• سطح Builder: ۱۰,۰۰۰ تصویر در ماه برای هر دامنه.
• سطح Platform: ۱۰۰,۰۰۰ تصویر در ماه.

حکم نهایی در مورد میزبانی محلی

میزبانی محلی تنها زمانی استراتژی برنده است که جریان تسک‌ها نادر و یکنواخت باشد. اگر جریان متراکم باشد و حالت 'Base' انتخاب شود، GPU به‌سرعت اشباع می‌شود. در این حالت، شما باید یا سخت‌افزار قدرتمندتری با قابلیت دسته‌بندی تهیه کنید یا بخشی از جریان را به یک مسیر خارجی منتقل نمایید.

مهم است ذکر شود که این پیش‌بینی یک بنچمارک مطلق نیست. زمان‌بندی‌های ارائه شده توسط Comfy Org روی یک RTX 5090 خاص در یک محیط مشخص ثبت شده است؛ اعداد واقعی شما بسته به درایورها و رزولوشن متفاوت خواهد بود. محاسبه‌گر شناسایی می‌کند که کدام حلقه در زنجیره زودتر می‌شکند، اما مفروضات ورودی (نرخ تکرار، توقف‌های اپراتور و غیره) بر عهده کاربر است.

خلاصه ماتریس تصمیم‌گیری:

• جریان کم / حالت Distilled: GPU تا حد زیادی آزاد است؛ فرآیند پذیرش انسانی گلوگاه اصلی است. میزبانی محلی توجیه دارد.
• جریان زیاد / حالت Base: GPU سریعاً اشباع می‌شود. شما باید سخت‌افزار را برای دسته‌بندی ارتقا دهید یا جریان را به API ابری منحرف کنید تا از توقف تولید جلوگیری کنید.
• مسیر ابری: دغدغه‌های سخت‌افزاری را حذف می‌کند اما قیمت‌گذاری بر اساس مگاپیکسل و صف‌های ارائه‌دهنده (که شما نمی‌بینید و کنترل نمی‌کنید) را جایگزین می‌کند.

در نهایت، تصمیم برای استقرار محلی باید بر اساس پیش‌بینی توان عملیاتی باشد، نه برگه قیمت. اگر محاسبات نشان دهد صف انتظار از حد مجاز می‌گذرد، هیچ مقدار صرفه‌جویی در هزینه، کاهش بهره‌وری را توجیه نمی‌کند. اگر نمی‌توانید لایسنس تجاری تهیه کنید یا سخت‌افزار نمی‌تواند تأخیر ۳۵ ثانیه‌ای حالت Base را تحمل کند، مسیر ابری — جایی که تولید و ویرایش در یک رابط وجود دارند — تنها راه viable برای پایداری تولید است.