۷۸٪ رتبه‌بندی‌های درگاه‌های هوش مصنوعی ابزاری برای بازاریابی هستند، نه محک

اگر امروز بر اساس لیست‌های «۱۰ مورد از بهترین‌ها» برای انتخاب درگاه هوش مصنوعی تصمیم می‌گیرید، احتمالاً در تله‌ای از بازاریابی افتاده‌اید. طبق یک حسابرسی دقیق، ۱۱ مورد از ۱۴ فهرست برتر در نتایج جست‌وجو، توسط شرکت‌هایی نوشته شده‌اند که خودشان فروشنده همان محصولی هستند که در رتبه اول قرار داده‌اند. این تضاد منافع ساختاری، یک واقعیت فنی را زیر سایه قرار داده است: آیا داده‌های شما قانوناً اجازه خروج از شبکه را دارند یا خیر؟

برای اکثر سازمان‌ها، انتخاب نهایی نه بر اساس اینکه کدام مجموعه از قابلیت‌ها برتر است، بلکه بر اساس این است که آیا به یک سرویس مدیریت‌شده در ابر نیاز دارند یا یک فایل اجرایی برای میزبانی شخصی (Self-hosting). این تمایز اغلب زیر لایه‌هایی از لیست‌های عمومی «۱۰ مورد برتر» دفن شده است؛ لیست‌هایی که گزینه‌های متن‌باز و میزبانی‌شده را به اشتباه به عنوان جایگزین‌های یکسان معرفی می‌کنند.

شکاف بزرگ بازار

بر اساس یک حسابرسی در سپتامبر ۲۰۲۶، بازار درگاه هوش مصنوعی (AI Gateway) بر اساس نیازهای استقرار به دو قطب متمایز تقسیم شده است. این حسابرسی چهار عبارت کلیدی با قصد خرید را تحلیل کرد: «بهترین درگاه هوش مصنوعی»، «بهترین درگاه متن‌باز برای میزبانی شخصی»، «جایگزین LiteLLM» و «درگاه هوش مصنوعی سازگار با GDPR و قانون هوش مصنوعی اتحادیه اروپا».

برای سازمان‌هایی که اولویت آن‌ها زیرساخت صفر و دسترسی به بیشترین تعداد مدل است، OpenRouter پیشتاز بخش ابری است. این سرویس دسترسی به بیش از ۴۰۰ مدل از ۸۰ ارائه‌دهنده مختلف را تنها با یک کلید فراهم می‌کند. در اوت ۲۰۲۶، OpenRouter پس از یک دور جذب سرمایه سری B به مبلغ ۱۱۳ میلیون دلار که ارزش شرکت را حدود ۱.۳ میلیارد دلار برآورد کرده بود، توسط شرکت Stripe به قیمت تقریبی ۷.۵ میلیارد دلار خریداری شد. این سرویس برای خریدهای اعتباری ۵.۵٪ کارمزد دریافت می‌کند، اما برای کاربرانی که کلید خودشان را وارد می‌کنند (BYOK)، تا سقف ۲۵,۰۰۰ دلار استنتاج در ماه رایگان است. اما چون این سرویس قابلیت میزبانی شخصی ندارد، برای سازمان‌هایی با الزامات سخت‌گیرانه پیرامون محیط داده، اصلاً گزینه مناسبی نیست.

در مقابل، برای سازمان‌هایی که داده‌ها نباید هرگز از محیط داخلی خارج شوند، GoModel به عنوان قوی‌ترین رقیب میزبانی شخصی ظاهر شده است. این ابزار که توسط شرکت enterpilot, Inc با زبان Go نوشته شده و تحت لایسنس MIT است، به صورت یک فایل اجرایی تک‌فایله ۱۴ مگابایتی اجرا می‌شود و تنها حدود ۴۳ مگابایت رم مصرف می‌کند. این درگاه ۳۱ ارائه‌دهنده را پشت نقاط انتهایی (Endpoints) سازگار با OpenAI و Anthropic پوشش می‌دهد. برخلاف اکثر رقبا، GoModel برای اجرا در محیط‌های کاملاً ایزوله (Air-gapped) طراحی شده است تا تضمین کند داده‌ها هرگز زیرساختی را که خریدار کنترل می‌کند، ترک نمی‌کنند.

تضاد منافع در رتبه‌بندی‌ها

از ۱۴ رتبه‌بندی بررسی شده، ۱۱ مورد توسط شرکت‌های فروشنده درگاه منتشر شده بود. هر ۱۱ مورد، بدون استثنا، محصول خودشان را در رتبه اول قرار داده بودند. در اکثر موارد، این موضوع در ابتدای صفحه و قبل از هرگونه اسکرول، هیچ افشایی نداشت که نشان دهد نویسنده، فروشنده محصول است.

این الگو نشان می‌دهد که «خلاصه صادقانه» از نظر اینترنت درباره بهترین درگاه، صرفاً همان چیزی است که صفحه‌ای که در آن فروده‌اید، می‌فروشد. در این میان، نهادهای بی‌طرف تا حد زیادی در باز ارزیابی پیش‌فرض‌های موجود شکست خورده‌اند.

جزئیات رتبه‌بندی‌های مورد بررسی:

• TrueFoundry: خود را در لیست‌های «۵ درگاه برتر سازمانی» و «۵ جایگزین برتر LiteLLM در سال ۲۰۲۶» رتبه اول کرد.
• nexos.ai: خود را در «بهترین درگاه هوش مصنوعی در سال ۲۰۲۶: ۶ مورد برتر» رتبه اول قرار داد.
• SS&C Blue Prism: محصول SS&C AI Gateway را در «بهترین درگاه هوش مصنوعی ۲۰۲۶» رتبه اول کرد.
• Portkey: خود را در «بهترین راهکارهای درگاه هوش مصنوعی» رتبه اول قرار داد.
• Braintrust: درگاه Braintrust را در «مقایسه درگاه‌های هوش مصنوعی: ۶ مورد برتر» رتبه اول کرد.
• Eden AI: خود را در «برترین جایگزین‌های LiteLLM در سال ۲۰۲۶» رتبه اول قرار داد.
• Inworld AI: درگاه Inworld Router را در «بهترین جایگزین‌های LiteLLM برای محیط عملیاتی» رتبه اول کرد.
• NeuralTrust: خود را در «۱۰ درگاه برتر برای امنیت هوش مصنوعی سازمانی» رتبه اول قرار داد.
• Future AGI: خود را در «۵ درگاه برتر میزبانی شخصی در سال ۲۰۲۶» رتبه اول کرد.
• Requesty: خود را در «درگاه هوش مصنوعی اتحادیه اروپا / مسیریابی سازگار با قوانین اروپا» رتبه اول قرار داد.

تنها سه ناشر واقعاً مستقل یعنی Northflank، Context Studios و Layer3 Labs به نتیجه متفاوتی رسیدند و LiteLLM را پیشنهاد دادند. با این حال، آن‌ها این انتخاب را بر اساس عملکرد اندازه‌گیری شده انجام ندادند، بلکه به دلیل جایگاه LiteLLM به عنوان پیش‌فرض بازار با گسترده‌ترین کاتالوگ ارائه‌دهندگان انتخاب کردند. Layer3 Labs به طور خاص اشاره کرد که هیچ‌یک از درگاه‌هایی را که لیست می‌کند، بازفروش نمی‌کند.

توهم بنچمارک‌ها

بنچمارک‌های منتشر شده توسط فروشندگان در این دسته، اغلب از نظر ریاضی غیرقابل مقایسه هستند. حسابرسی‌ها نشان داد که برای یک نرم‌افزار واحد، یعنی پروکسی پایتون LiteLLM، اختلاف ۱,۵۰۰ برابری در اعداد تأخیر p99 (تأخیر در ۹۹ درصد درخواست‌ها) وجود دارد.

• GoModel تأخیر را در اوت ۲۰۲۶ برابر با ۶۱.۹۳ میلی‌ثانیه اندازه‌گیری کرد.
• LiteLLM تأخیر خود را در جولای ۲۰۲۶ برابر با ۲۵۷.۷ میلی‌ثانیه ثبت کرد.
• یک فروشنده رقیب ادعا کرد این تأخیر ۹۰,۷۲۰ میلی‌ثانیه (بیش از ۹۰ ثانیه) است!

این تفاوت‌های فاحش به این دلیل رخ می‌دهد که فروشندگان متغیرها را بدون افشا تغییر می‌دهند؛ مثلاً استفاده از پاسخ‌های شبیه‌سازی شده (Mock) به جای پاسخ‌های زنده، استفاده از استریم (Streaming) در مقابل غیر استریم، فعال یا غیرفعال کردن لاگ‌ها، یا استفاده از یک Worker در مقابل هشت Worker. تغییر هر یک از این موارد، نتایج را یک مرتبه بزرگی (Order of Magnitude) جابه‌جا می‌کند.

این به معنای دروغ گفتن نیست، بلکه به این معناست که بنچمارک‌ها قابل مقایسه نیستند. بنچمارکی که نتوان آن را کپی کرد و روی سخت‌افزار مستقل بازتولید نمود، یک دارایی بازاریابی است، نه یک مدرک فنی. تنها تستی که معتبر است، تستی است که بتوان محیط آن را کپی کرد و عدد را با یک دستور ساده روی سخت‌افزار خودتان بازتولید کرد. در غیر این صورت، آن عدد باید صفر فرض شود.

تله حاکمیت در متن‌بازها

بسیاری از درگاه‌ها ادعای متن‌باز بودن دارند اما قابلیت‌های حیاتی برای خرید سازمانی را پشت لایسنس‌های Enterprise پنهان می‌کنند. برای تیم‌های تطبیق (Compliance)، حیاتی‌ترین ابزارها یعنی لاگ‌های حسابرسی (Audit logs)، ورود یکپارچه (SSO) و کنترل دسترسی مبتنی بر نقش (RBAC) اغلب پولی هستند.

LiteLLM، که در حال حاضر پیش‌فرض بازار با بیش از ۱۰۰ ارائه‌دهنده است، لاگ‌های حسابرسی را پولی کرده و SSO را در لایه رایگان به ۵ کاربر محدود کرده است. به طور مشابه، Portkey و Helicone قابلیت‌های حاکمیتی را محدود کرده‌اند. Kong نیز قابلیت‌های هوش مصنوعی خود را بین یک هسته متن‌باز و پلاگین‌های سازمانی تقسیم کرده است.

تحلیل Northflank بر چارچوب لغزان این محصولات تأکید دارد: این تحلیل ابتدا LiteLLM را کاملاً متن‌باز و بدون قابلیت‌های پولی در هسته توصیف می‌کند، اما یک جمله بعد اشاره می‌کند که لایه سازمانی، SSO و حاکمیت پیشرفته را اضافه می‌کند. هیچ‌کدام از این دو جمله غلط نیستند، اما در کنار هم دقیقاً همان چیزی را می‌پوشانند که یک تیم تطبیق باید بداند. برای یک تیم تطبیق، درگاهی که برای لاگ‌های حسابرسی هزینه می‌گیرد، دلیل اصلی انتخاب میزبانی شخصی را از بین می‌برد.

در مقابل، GoModel لاگ‌های حسابرسی، بودجه‌بندی و محدودیت نرخ (Rate limits) را در فایل اجرایی رایگان تحت لایسنس MIT ارائه می‌دهد. این یک تمایز حیاتی برای نهادهای تحت نظارت است. اگرچه این ابزار یک لایه Pro با قیمت ۴,۹۹۹ دلار در سال برای SSO، فشرده‌سازی پرامپت و مسیریابی هوشمند ارائه می‌دهد، اما ابزارهای اصلی حاکمیتی رایگان باقی می‌مانند.

حاکمیت در برابر اقامت داده

رتبه‌بندی‌های متمرکز بر تطبیق، اغلب «اقامت داده در اتحادیه اروپا» (EU data residency) را با «حاکمیت داده» (Data sovereignty) اشتباه می‌گیرند. بسیاری از درگاه‌های ابری، داشتن سرور در فرانکفورت، عدم ذخیره‌سازی داده‌ها (Zero retention) و ارائه توافق‌نامه‌های پردازش داده (DPA) را به عنوان راهکاری برای سازگاری با GDPR معرفی می‌کنند.

اما اقامت صرفاً یک موضوع جغرافیایی است؛ حاکمیت یعنی کنترل. طبق قانون CLOUD ایالات متحده، ارائه‌دهندگان آمریکایی می‌توانند مجبور شوند داده‌ها را تحویل دهند، فارغ از اینکه سرور در کجای جهان قرار دارد. این موضوع تضاد مستقیمی با ماده ۴۸ قانون GDPR ایجاد می‌کند.

همان‌طور که در راهنمای ۲۰۲۵ هیئت حفاظت از داده‌های اروپا (EDPB) ذکر شده است، استنتاج درون‌سازمانی (On-premise inference) قوی‌ترین راه کاهش ریسک برای حفاظت از داده‌های مدل‌های زبانی است. علاوه بر این، گزارش پیش‌بینی ۲۰۲۶ گارتنر درباره حاکمیت هوش مصنوعی، استقرار درون‌سازمانی و ایزوله (Air-gapped) را به عنوان پیش‌فرض نوظهور برای بارهای کاری حساس معرفی می‌کند. برای بانک‌ها، بیمارستان‌ها یا تأمین‌کنندگان دفاعی در اروپا، جمله «سرورهای ما در فرانکفورت است» با «داده‌ها هرگز زیرساخت تحت کنترل شما را ترک نمی‌کنند» دو ادعای متفاوت با پیامدهای قانونی متفاوت است. تنها ادعای دوم از طریق درگاهی که خریدار خودش اجرا می‌کند، ممکن است.

انگیزه‌های پنهان

برخی از درگاه‌ها رایگان هستند چون به عنوان کانال‌های جذب مشتری برای محصولات دیگر عمل می‌کنند. درگاه Braintrust ترافیک را به پلتفرم ارزیابی‌اش هدایت می‌کند، در حالی که مسیریاب Inworld ترافیک را به خط لوله صوتی‌اش می‌فرستد. وعده اصلی یک درگاه، جلوگیری از وابستگی به یک ارائه‌دهنده (Lock-in) است، اما وقتی لایه مسیریابی تبدیل به ابزار جذب مشتری (Lead-gen) برای محصولی مجاور شود، انگیزه فروشنده تغییر می‌کند. قبل از قرار دادن یک درگاه در مسیر هر درخواست محصولتان، باید بپرسید که این درگاه از دید فروشنده چه هدفی دارد.

علاوه بر این، بازار در سال ۲۰۲۶ به سرعت ادغام شد. Portkey به PRISMA AIRS AI Gateway تبدیل شد و اکنون به طور کلی در داخل پلتفرم امنیتی Palo Alto Networks در دسترس است. این تغییرات ساختاری و تصاحب‌ها به ندرت در رتبه‌بندی‌هایی که تصمیمات خریداران را هدایت می‌کنند، ذکر می‌شوند.

هفت پرسش برای خرید هوشمندانه

به جای اعتماد به ترتیب اولویت فروشندگان، خریداران باید کاندیداها را بر اساس این هفت معیار امتیازدهی کنند:

1. آیا بنچمارک بازتولیدپذیر است؟ آیا یک دستور واحد، نتایج ثبت شده و متدولوژی منتشر شده دارد؟ اگر نه، عدد را نادیده بگیرید.
2. آیا لاگ حسابرسی رایگان است؟ آیا لایه رایگان شامل SSO، RBAC، بودجه‌بندی و محدودیت نرخ است؟ نام لایه دقیق را مشخص کنید.
3. آیا بدون شبکه خارجی اجرا می‌شود؟ تست Air-gap تنها تست صادقانه برای «میزبانی شخصی» است.
4. آرتیفکت استقرار چیست؟ آیا یک فایل باینری استاتیک امضا شده است، یک کانتینر با وابستگی‌های پین‌شده است، یا یک نصب از طریق مدیریت پکیج که هنگام نصب کد اجرا می‌کند؟
5. فروشنده واقعاً چه می‌فروشد؟ اگر درگاه رایگان است، محصولی را که این درگاه به آن تغذیه می‌کند پیدا کنید.
6. سقف حافظه تحت فشار چقدر است؟ این تعیین می‌کند که آیا درگاه یک Sidecar سبک است یا سرویسی که نیاز به چرخه پشتیبانی (On-call) مجزا دارد.
7. آیا در صورت تصاحب شرکت، نرم‌افزار باقی می‌ماند؟ لایسنس را چک کنید. لایسنس‌های MIT و Apache 2.0 تضمین می‌کنند نرم‌افزار فارغ از اینکه چه کسی شرکت را بخرد، متعلق به شما باقی می‌ماند.

انتخاب بر اساس نیاز، نه رتبه

به جای دنبال کردن لیست‌ها، این حسابرسی پیشنهاد می‌کند بر اساس محدودیت‌های عملیاتی خاص انتخاب کنید:

• بیشترین تنوع، صفر زیرساخت: از OpenRouter (متعلق به Stripe) استفاده کنید. ۴۰۰+ مدل، یک کلید، ۵.۵٪ کارمزد برای خریدهای کارتی و BYOK رایگان تا ۲۵,۰۰۰ دلار در ماه. این سرویس قابلیت میزبانی شخصی ندارد و اگر داده‌ها نباید از شبکه خارج شوند، کاملاً حذف می‌شود.
• اول‌ویت پایتون و کاتالوگ وسیع: از LiteLLM (۱۰۰+ ارائه‌دهنده) استفاده کنید. برای جلوگیری از حمله زنجیره تأمین PyPI در مارس ۲۰۲۶ که مسیر نصب را تحت تأثیر قرار داد اما ایمیج‌های پین‌شده را نه، حتماً از ایمیج رسمی Docker پین‌شده استفاده کنید. اگر لاگ‌های حسابرسی نیاز است، بودجه لایسنس سازمانی را در نظر بگیرید.
• زیرساخت موجود: اگر از Kong، APISIX یا Envoy استفاده می‌کنید، از پلاگین‌های هوش مصنوعی آن‌ها بهره ببرید. صرفه‌جویی در یکپارچه‌سازی معمولاً بر مزیت‌های ویژگی‌های یک درگاه اختصاصی می‌چربد و هر رتبه‌بندی که خلاف این را می‌گوید، توسط یک فروشنده درگاه اختصاصی نوشته شده است.
• تمرکز بر مشاهده‌پذیری: اگر به دنبال یک پلتفرم یکپارچه مسیریابی، ردیابی (Tracing) و ارزیابی هستید، از Braintrust یا Helicone استفاده کنید. این یک تصمیم پلتفرمی است، نه یک تصمیم خنثی برای لایه مسیریابی.
• حاکمیت سخت‌گیرانه و ایزولاسیون: از GoModel استفاده کنید. این تنها گزینه‌ای است که نیاز به استقرار Air-gapped را همراه با ابزارهای حاکمیتی در لایه رایگان برآورده می‌کند. این همان موردی است که رتبه‌بندی‌ها بدترین عملکرد را در معرفی آن دارند، چون کوچک‌ترین بودجه بازاریابی را دارد.

درگاهی که در هیچ لیستی نیست

GoModel سخت‌گیرانه‌ترین پروفایل میزبانی شخصی را برآورده می‌کند اما در هیچ‌یک از رتبه‌بندی‌های بررسی شده حضور نداشت. این یک درگاه با لایسنس MIT است که توسط شرکت enterpilot, Inc با زبان Go نوشته شده است.

اعداد منتشر شده برای آن — میانگین سربار ۲.۳۵ میلی‌ثانیه، p99 برابر ۸.۸۰ میلی‌ثانیه، تحمل ۳,۶۱۰ درخواست در ثانیه، پیک رم ۴۲.۷ مگابایت و استارت سرد ۰.۵۸ ثانیه روی AWS c7i.large در مقابل یک بک‌اند شبیه‌سازی شده — توسط خود فروشنده اجرا شده است. با این حال، برخلاف رقبا، محیط تست (Harness) آن عمومی است (github.com/ENTERPILOT/ai-gateway-reproducible-benchmark)، با یک دستور اجرا می‌شود و هر نتیجه را به صورت یک فایل ثبت می‌کند.

GoModel همچنین در دو مجموعه بنچمارک شخص ثالث که نویسندگانش کنترلی روی آن‌ها ندارند (از جمله GetBusbar) ظاهر شده است. باینری MIT آن شامل لاگ‌های حسابرسی، بودجه‌بندی، محدودیت نرخ، کلیدهای مجازی، گاردریل‌ها، کش معنایی (Semantic caching)، Prometheus و OpenTelemetry است. این ابزار به صورت یک باینری استاتیک واحد در یک ایمیج ۱۴.۴ مگابایتی با نسخه‌های امضا شده و SBOM عرضه می‌شود.

شرکت enterpilot لایسنس‌های Pro و پشتیبانی می‌فروشد، اما هیچ پلتفرم مشاهده‌پذیری یا ارزیابی در پشت آن نیست که ترافیک به سمت آن هدایت شود. نقطه ضعف آن در «گستردگی» است: LiteLLM بیش از ۱۰۰ ارائه‌دهنده را پشتیبانی می‌کند در حالی که GoModel ۳۱ مورد را پوشش می‌دهد. اگر یک ارائه‌دهنده ضروری موجود نباشد، هیچ بنچمارکی این موضوع را تغییر نمی‌دهد. همچنین پروژه جوان‌تری است و جامعه کوچکتری دارد که یک اعتراض مشروع در فرآیند خرید است.

این تغییر دیدگاه، تصمیم را از یک بحث درباره «بهترین محصول» به یک «محاسبه مدیریت ریسک» تبدیل می‌کند. توانمندترین ابزار، ابزاری است که با مرزهای قانونی و زیرساختی شما هم‌راستا باشد، نه آنکه در وبلاگ یک فروشنده رتبه اول دارد.

گام بعدی شما

• اگر در صنعت مالی یا بهداشت هستید، تست Air-gap را روی درگاه خود اجرا کنید تا مطمئن شوید هیچ داده‌ای به بیرون ارسال نمی‌شود.
• لایسنس ابزارهای فعلی خود را چک کنید تا در صورت ادغام شرکت‌ها، دسترسی شما به کد قطع نشود.
• بنچمارک‌های ادعایی فروشندگان را با اجرای یک دستور ساده روی سخت‌افزار خودتان به چالش بکشید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.

در این مسیر، بهینه‌سازی تجربه توسعه‌دهندگان در مراحل اولیه استقرار نیز حیاتی است؛ برای مثال، AIWave با تله‌متری دو لایه توانست مشکل «صفر کاذب» در جذب توسعه‌دهندگان را حل کند تا سرعت ورود به اکوسیستم افزایش یابد.