اگر امروز برای چندین کلید API مختلف هزینه میکنید، صورتحساب ماهانه شما میتواند تا ۱۰ برابر کاهش یابد. تصور کنید تمام مدلهای هوش مصنوعی دنیا را با یک کلید واحد کنترل کنید.
مدیریت چندین رابط برنامهنویسی کاربردی (API) — شبیه داشتن چندین گارسون با زبانهای مختلف که هر کدام فقط یک میز را میشناسند — برای توسعهدهندگان کابوسی از پیچیدگی است. همانطور که در تحلیلهای پیشین ما دربارهی بهینهسازی هزینههای مدلهای زبانی اشاره کردیم، پراکندگی قیمتها و روشهای احراز هویت، سرعت توسعه را میگیرد. این ابزار جدید مانند یک مترجم همهکاره عمل میکند تا نیاز به نصب چندین SDK مختلف را از بین ببرد.
پروژه ai-multi-model-gateway در ۱۵ مه ۲۰۲۶ منتشر شد. به نقل از گزارش dev.to، این درگاه از ۱۳ ارائهدهنده از جمله OpenAI، Anthropic، Google، Meta، Mistral و DeepSeek پشتیبانی میکند. این ابزار از یک نقطه اتصال سازگار با OpenAI استفاده میکند؛ یعنی شما میتوانید آن را جایگزین کد فعلی خود کنید بدون اینکه منطق برنامه را تغییر دهید.
بر اساس مستندات پروژه، این درگاه سه حالت مسیریابی دارد:
cost: ارزانترین مدلی که بتواند تکلیف را به پایان برساند، انتخاب میکند.speed: سریعترین پاسخ ممکن را اولویت میدهد.balanced: تعادلی میان هزینه و کیفیت برقرار میکند.
این تغییر، دسترسی به هوش مصنوعی باکیفیت را برای تیمهای کوچک و توسعهدهندگان مستقل ممکن میکند. ارائهدهندگان چینی مثل Zhipu GLM و Minimax کیفیتی مشابه مدلهای غربی دارند اما با قیمتی بسیار کمتر. در واقع، این درگاه با حذف موانع فنی، رقابت قیمتی را به یک مزیت مالی مستقیم برای کاربر تبدیل میکند. در این سیستم، استنتاج (Inference) — که شبیه خودِ آشپزی است، نه دورهی آموزش آشپز — با کمترین هزینه ممکن انجام میشود.
گام بعدی شما
- مخزن این پروژه را از GitHub کلون کنید تا مسیریابی درخواستهای خود را آغاز کنید.
- از ماشینحساب هزینهی زنده برای تخمین میزان سود خود در صورت تغییر ارائهدهنده استفاده کنید.
- مدلهای ارزانقیمت چینی را در حالت
balancedتست کنید تا نقطه شکست کیفیت را بیابید.
اما تأثیر این ابزار بر حریم خصوصی دادهها در مدلهای بازمتن موضوع دیگری است — به بررسی ما دربارهی امنیت مدلهای Llama مراجعه کنید.
گفتگو