اگر زیرساخت‌های هوش مصنوعی خود را در ابرهای خصوصی یا محیط‌های بسته مدیریت می‌کنید، احتمالاً از جابه‌جایی مداوم بین پنج داشبورد مختلف برای پیدا کردن یک خطای ساده خسته شده‌اید. باید بدانید که این «اضطراب استقرار» اکنون راه حلی دارد.
مدیریت LangSmith روی کوبرنتیز (Kubernetes) — که شبیه به یک مدیر انبار خودکار است و تصمیم می‌گیرد هر برنامه در کدام قفسه قرار بگیرد — معمولاً با ابزارهای پراکنده همراه است. در این میان، LangSmith مثل یک جعبه‌سیاه برای هوش مصنوعی عمل می‌کند و تمام حرکات مدل را ثبت می‌کند تا بتوان آن را تحلیل کرد. همان‌طور که در تحلیل قبلی ما درباره‌ی چالش‌های زیرساخت‌های متن‌باز اشاره کردیم، پیچیدگی عملیاتی اغلب مانع از مقیاس‌پذیری سریع می‌شود.
به نقل از وبلاگ رسمی لنگ‌چین (LangChain)، ابزار جدید Mission Control بدون نیاز به کنترل‌پلین خارجی یا دیتابیس اضافی اجرا می‌شود. طبق مستندات این شرکت، قابلیت‌های کلیدی این ابزار عبارتند از:
- ویرایشگر دوطرفه‌ی مقادیر Helm با قابلیت ماسک کردن داده‌های حساس و همگام‌سازی با گیت‌هاب.
- بررسی‌های پیش‌نیاز (Preflight checks) برای ظرفیت نودها و تحلیل DNS جهت جلوگیری از شکست استقرار.
- نمای سلامت برای نظارت لحظه‌ای بر فشار CPU، حافظه و فضای ذخیره‌سازی PVC.
این ابزار همچنین یک دستیار چت متمرکز بر LangSmith و ابزارهای تخصصی برای یکپارچه‌سازی با Redis، PostgreSQL و ClickHouse دارد. لنگ‌چین تاریخ دقیق عرضه یا بنچمارک‌های عددی برای عملکرد این ابزار منتشر نکرده است.
این تغییر، بار عملیاتی را از تخصص کلی در کوبرنتیز به مدیریت تخصصی LangSmith منتقل می‌کند. به باور ما، لنگ‌چین با تجمیع ابزارهای تشخیص خطا، یک تسک پیچیده زیرساختی را به یک عملیات نرم‌افزاری هدایت‌شده تبدیل کرده است.
گام بعدی شما
- مستندات پشتیبانی لنگ‌چین را بررسی کنید تا مطمئن شوید نسخه کوبرنتیز شما با پیش‌نیازهای Mission Control سازگار است.
- اگر از محیط‌های Air-gapped استفاده می‌کنید، اولویت را روی تست قابلیت Preflight checks قرار دهید.
- بررسی کنید آیا جایگزینی اسکریپت‌های دستی عیب‌یابی با این رابط واحد، زمان پاسخگویی تیم شما را کاهش می‌دهد یا خیر.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی بهینه‌سازی هزینه‌های استنتاج در محیط‌های خصوصی مراجعه کنید.
گفتگو