پرش به محتوای اصلی
پرش به محتوای مقاله

Experiential با یک API واحد مدل‌های بسته و محلی را یکپارچه کرد

·۶ شهریور ۱۴۰۵۳ دقیقه مطالعه۱ بازدید
گیت‌هاب - experiential: دروازه متن‌باز مدل با یک صفحه کنترل واحد برای مدل‌های بسته، متن‌باز، محلی و سفارشی
گیت‌هاب - experiential: دروازه متن‌باز مدل با یک صفحه کنترل واحد برای مدل‌های بسته، متن‌باز، محلی و سفارشی
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

معرفی یک لایه‌ی کنترل متمرکز که اجازه می‌دهد مدل‌های محلی و ابری را بدون تغییر در کد اپلیکیشن و بر اساس ترافیک واقعی جابه‌جا کرد.

اگر امروز برای هر مدل هوش مصنوعی یک کلید API جداگانه مدیریت می‌کنید، احتمالاً بخشی از زمان توسعه‌تان را صرف جنگ با SDKهای مختلف می‌کنید. این پراکندگی در مدل‌های مختلف، بزرگ‌ترین گلوگاه در مسیر ساخت جریان‌های کاری عامل‌محور (Agentic Workflows) است. این چالش مدیریت متمرکز، پیش از این در ابزارهایی مانند Agent-Manager برای مدیریت ارتش عامل‌های کدنویس مورد توجه قرار گرفته بود.

برای حل این مشکل، پروژه Experiential در ۲۷ اوت ۲۰۲۶ به‌عنوان یک درگاه متن‌باز معرفی شد. این سیستم مانند یک مترجم جهانی عمل می‌کند — شبیه به تبدیل‌های برق که اجازه می‌دهد هر دستگاهی را به هر پریزی وصل کنید — و تمام مدل‌های بسته، متن‌باز و محلی را از طریق یک API واحد و سازگار با OpenAI مدیریت می‌کند.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، وابستگی شدید به یک ارائه‌دهنده (Provider Lock-in) ریسک عملیاتی بالایی دارد. Experiential با حذف نیاز به بازنویسی کد هنگام تغییر مدل، این وابستگی را می‌شکند.

به نقل از مستندات گیت‌هاب این پروژه، قابلیت‌های کلیدی آن عبارتند از:

کنترل یکپارچه و مسیریابی

  • مدیریت کلیدها (BYOK): دسترسی مستقیم به مدل‌های OpenAI، Anthropic، Gemini، Azure، Bedrock، Fireworks و OpenRouter.
  • بودجه‌بندی: تعیین سقف هزینه برای هر دستور (مثلاً ۵۰ دلار) برای جلوگیری از هزینه‌های پیش‌بینی‌نشده در عامل‌های خودکار.
  • مدیریت هویت: کنترل دقیق دسترسی کاربران یا عامل‌ها به مدل‌های خاص برای کاربردهای مشخص.

بهینه‌سازی مبتنی بر ترافیک

توسعه‌دهندگان می‌توانند با استفاده از ردپاهای OpenTelemetry، یک مسیریاب سفارشی بسازند. طبق اعلام سازندگان، با اجرای دستور exp build در این درگاه، سیستم بر اساس ترافیک واقعی تولید، تعادلی میان کیفیت، سرعت و هزینه برقرار می‌کند. این رویکرد شباهت زیادی به راهکار پلتفرم Speko در حذف هزینه‌ی تغییر مدل‌های صوتی دارد که از مسیریابی پویا بهره می‌برد. همچنین کاربران می‌توانند مدل‌های متن‌باز خود را با ابزاری به نام Tinker تحت تنظیم دقیق (Fine-tuning) — مثل وقتی به یک پزشک عمومی، تخصص پوست می‌دهیم تا در یک حوزه دقیق شود — بهینه کنند.

گیت‌هاب - experiential: دروازه متن‌باز مدل با یک صفحه کنترل واحد برای مدل‌های بسته، متن‌باز، محلی و سفارشی

این رویکرد، صنعت را از انتخاب استاتیک مدل به سمت مسیریابی پویا می‌برد. حالا توسعه‌دهنده به‌جای انتخاب یک مدل «بهترین»، کل پشته‌ی هوش مصنوعی خود را به عنوان منبعی سیال می‌بیند که بر اساس پیچیدگی تسک و بودجه باقی‌مانده، تغییر می‌کند. این انعطاف‌پذیری در ساختار ابزارها، یادآور توانایی Vendo در حذف نیاز به کدنویسی دستی برای ایجاد قابلیت‌های هوش مصنوعی است.

برای کاربر نهایی، این یعنی تأخیر کمتر و صورت‌حساب ارزان‌تر؛ چرا که دیگر نیازی نیست برای کارهای ساده، هزینه مدل‌های پیشرو (Frontier Models) را بپردازد، در حالی که یک مدل محلی تنظیم‌شده همان دقت را دارد.

گام بعدی شما

  • برای راه‌اندازی درگاه محلی، دستور pip install experiential را اجرا کنید.
  • پلتفرم مدیریت‌شده را در آدرس platform.experientiallabs.ai بررسی کنید.
  • مجموعه داده‌های terminal-tasks OTLP را در Hugging Face برای تست قابلیت‌های مسیریاب بررسی کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.

چرا این موضوع مهم است؟

این ابزار با حذف وابستگی به ارائه‌دهندگان خاص، استقلال فنی توسعه‌دهندگان را افزایش می‌دهد. اعتبار این رویکرد در استفاده از استانداردهای OpenTelemetry برای بهینه‌سازی واقعی هزینه است.

تأثیر برای ایران

به‌دلیل تحریم‌ها و محدودیت API، این ابزار برای توسعه‌دهندگان ایرانی که از مدل‌های محلی (Local LLMs) در کنار مدل‌های ابری استفاده می‌کنند، راهکاری ایده‌آل برای یکپارچه‌سازی زیرساخت است.

·نگاه ما
تحریریه دات‌هوش

تمرکز بر لایه‌ی Gateway نشان می‌دهد که رقابت از «ساخت مدل قوی‌تر» به «مدیریت هوشمندتر مدل‌ها» منتقل شده است. این ابزار در واقع لایه‌ی انتزاعی (Abstraction Layer) مورد نیاز برای مقیاس‌پذیری عامل‌های هوش مصنوعی است تا بتوانند بدون توقف، بین مدل‌های ارزان و گران جابه‌جا شوند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.