اگر امروز برای مدیریت مدل‌های مختلف هوش مصنوعی در سازمانتان از کدهای سخت‌افزاری (Hardwired) استفاده می‌کنید، هر تغییر مدل به معنای بازنویسی بخش بزرگی از زیرساخت امنیتی شماست. در ۳۰ سپتامبر ۲۰۲۶، شرکت Kong Inc با معرفی Kong AI Gateway 2.2 راهکاری را ارائه داد که انتخاب مدل را از لایهٔ امنیت و انطباق (Compliance) جدا می‌کند. این پلتفرم که اکنون در Kong Konnect (پلتفرم اتصال هوش مصنوعی این شرکت) در دسترس است، اجازه می‌دهد سازمان‌ها بدون نیاز به فعال‌سازی نسخه‌های بتا، کنترل دقیقی بر دسترسی‌ها داشته باشند.
طبق اعلام این شرکت، هدف اصلی این است که مدل‌های هوش مصنوعی مانند یک منبع انرژی باشند و درگاه Kong نقش یک تبدیل جهانی (Universal Adapter) را ایفا کند؛ به گونه‌ای که حتی اگر منبع انرژی را از OpenAI به Amazon Bedrock تغییر دهید، تنظیمات امنیتی و کنترل هزینه‌ها ثابت بمانند. این رویکرد از ایجاد بدهی فنی (Technical Debt) گسترده‌ای که هنگام ظهور مدل‌های برتر رخ می‌دهد، جلوگیری می‌کند. این تلاش برای بهینه‌سازی لایه‌های واسط، در راستای رقابت با راهکارهای پیشرفته‌ای است که تأخیرهای پردازشی را به حداقل رسانده‌اند تا سرعت پاسخ‌دهی سیستم‌ها افزایش یابد.
زمینه: قابلیت جابه‌جایی راهبردی
همان‌طور که در تحلیل‌های قبلی ما درباره‌ی مدیریت زیرساخت‌های مدل‌های بازمتن اشاره کردیم، پیچیدگی رابط‌های برنامه‌نویسی (API) در حال افزایش است. شرکت Kong اکوسیستم فعلی هوش مصنوعی را به‌شدت متنوع توصیف می‌کند؛ جایی که معماری‌های جدید مدل‌ها، APIهای متنوع ارائه‌دهندگان و سرویس‌های تخصصی هوش مصنوعی، رابط‌ها را پیچیده‌تر کرده‌اند.
به همین دلیل Kong مفهوم «قابلیت جابه‌جایی راهبردی» (Strategic Portability) را معرفی کرده است. این هدف تضمین می‌کند که توسعه‌دهندگان بتوانند بدون نیاز به ساخت یک زیرساخت و لایه حاکمیتی جدید در هر بار تغییر ارائه‌دهنده یا رابط، تکنولوژی مناسب را برای هر وظیفه خاص انتخاب کنند. با اختصاص یک پلتفرم و چرخه انتشار مستقل به هوش مصنوعی، سازمان‌ها می‌توانند فناوری‌های جدید را بدون به خطر انداختن تاب‌آوری، دیده‌پذیری یا انطباق با قوانین، پذیرفته و به کار گیرند.
حاکمیت ابزار و هویت
بر اساس مستندات فنی نسخه ۲.۲، چندین مکانیزم کلیدی برای کنترل رفتار عامل‌های هوش مصنوعی (AI Agents) — شبیه به مدیران اجرایی که هر کارمند را فقط به ابزارهای مورد نیازش دسترسی می‌دهند — اضافه شده است:
- بسته‌بندی سرورهای MCP: این قابلیت چندین سرور پروتکل زمینهٔ مدل (Model Context Protocol) را در یک مسیر واحد در Kong تجمیع می‌کند. این امر تضمین می‌کند که فراخوان‌ها فقط ابزارهای خاصی را که مجاز به استفاده از آن‌ها هستند، ببینند و اجرا کنند. این رویکرد در واقع پاسخی به چالش‌های امنیتی و ریسک تزریق پرامپت است که در پیاده‌سازی‌های اولیه پروتکل MCP مشاهده شده بود.
- سیاست‌های آگاه از هویت: با بهره‌گیری از Kong Identity، محدودیت نرخ (Rate Limiting)، تحلیل‌ها و تخصیص هزینه‌ها از سطح مصرف‌کنندگان محلی درگاه به «اصول احراز هویت شده» (Authenticated Principals) منتقل شده است. این یعنی تیم‌های مالی دقیقاً می‌دانند کدام کاربر یا عامل خاص، هزینه استنتاج را بالا برده است.
- یکپارچگی با AWS IAM: احراز هویت بومی و مدیریت‌شده توسط پلتفرم (SigV4) برای Amazon Bedrock AgentCore اضافه شده است. این ویژگی نیاز تیم‌های فعال در محیط AWS به راهکارهای دستی و دور زدن‌های پیچیده برای احراز هویت را از بین می‌برد.
- محدودیت نرخ پیشرفته: افزونه جدید AI Rate Limiting Advanced اکنون از تطبیق مبتنی بر اعتبارنامه (Credential-based matching) پشتیبانی می‌کند. این قابلیت به سازمان‌ها اجازه می‌دهد تا زمانی که چندین اعتبارنامه به سرویس‌های هوش مصنوعی یکسانی دسترسی دارند، از اعتبارنامه به عنوان یک بُعد تطبیق برای کنترل دقیق‌تر استفاده کنند.
گسترش پشتیبانی از مدل‌ها
در بخش پشتیبانی از مدل‌ها، Kong اتصال به TypeSafe JEV را اضافه کرده است. این ابزار به جای متن خام، تصمیمات احتمالی برمی‌گرداند که نرم‌افزارها می‌توانند مستقیماً روی آن‌ها عمل کنند. این یعنی مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — می‌تواند ابتدا تصمیم بگیرد کدام مدل برای یک تسک مناسب‌تر است و سپس درگاه Kong آن را اجرا کند.
علاوه بر این، پشتیبانی بومی از Kimi، Microsoft Foundry و Amazon SageMaker اضافه شده است. همچنین پشتیبانی از Skills APIs اضافه شده است؛ جایی که Kong بین یک نمایش مشترک (Common Representation) و فرمت‌های خاص هر ارائه‌دهنده ترجمه انجام می‌دهد. این امر به تیم‌ها اجازه می‌دهد از «مهارت‌های» (Skills) نسخه‌بندی شده و قابل استفاده مجدد بهره ببرند، بدون اینکه اپلیکیشن‌ها را به یک پیاده‌سازی خاص گره بزنند.
برای تیم‌هایی که از مدل‌های میزبانی شخصی مانند vLLM، Ollama یا NVIDIA NIM استفاده می‌کنند، یا کسانی که از APIهای پیش‌نمایش ارائه‌دهندگان با طرح‌های (Schemas) در حال تغییر بهره می‌برند، یک حالت عبور (Passthrough) تعریف شده است. در این حالت، درگاه بدون تغییر در بدنه درخواست، فقط عملیات احراز هویت، محدودیت نرخ و ثبت وقایع (Logging) را مدیریت می‌کند.
هزینه و قابلیت گسترش
مدیریت هزینه‌ها نیز از تخمین‌های سادهٔ توکنی فراتر رفته است. اکنون سیستم از قیمت‌گذاری آگاه از مودالیته (Modality-aware) استفاده می‌کند تا هزینه متن، صوت، تصویر و ویدیو را به‌طور مجزا ردیابی کند و همچنین تفاوت بین خواندن از حافظه پنهان (Cache Reads) و نوشتن در آن (Cache Writes) را محاسبه کند. این قابلیت، تخصیص هزینه‌های دقیق را برای تیم‌های مالی فراهم می‌کند.
برای کاهش بیشتر هزینه‌ها، یک پیش‌نمایش فنی (Tech Preview) با Headroom ادغام شده است که از طریق فشرده‌سازی پرامپت (Prompt Compression) به وسیله شکل‌دهی خروجی و «صراحت تطبیقی» (Adaptive Verbosity)، مصرف توکن (Token) — تکه‌های کوچکی از متن شبیه برش‌های کیک — را کاهش می‌دهد. Kong معیارهایی درباره توکن‌های ذخیره شده و نسبت‌های فشرده‌سازی را ثبت می‌کند. در صورتی که Headroom دچار وقفه (Timeout) شود، Kong محتوای اصلی را ارسال می‌کند تا از قطع درخواست جلوگیری شود.
این تغییر به سمت «قابلیت جابه‌جایی راهبردی» به این معناست که تیم‌های پلتفرم اکنون می‌توانند منطق‌های خاص سازمانی خود را از طریق افزونه‌های سفارشی در صفحه کنترل (Control Plane) اضافه کنند. این افزونه‌ها می‌توانند به صفحات داده (Data Planes) استریم شوند یا مستقیماً روی آن‌ها نصب گردند.
به نقل از رضا شفیعی، نایب‌رئیس ارشد محصول در Kong، این سطح از دیده‌پذیری و کنترل است که باعث می‌شود هوش مصنوعی عامل‌محور برای سازمان‌ها قابل استقرار باشد. او اشاره کرد که وعدهٔ عامل‌های هوش مصنوعی تنها زمانی محقق می‌شود که سازمان‌ها بتوانند با اطمینان آن‌ها را روی یک بستر حاکمیتی مستقر کنند.
گام بعدی شما
- اگر از چندین ارائه‌دهنده مدل استفاده می‌کنید، لایهٔ انتزاعی (Abstraction Layer) خود را بررسی کنید تا وابستگی مستقیم به APIها را کاهش دهید.
- برای کنترل هزینه‌های عملیاتی، سیستم‌های ردیابی توکن را به سطح هویت کاربر (Identity-based) منتقل کنید.
- قابلیت‌های MCP را برای محدود کردن دسترسی عامل‌ها به ابزارهای حساس سازمان تست کنید.
اما نبرد اصلی اکنون از «بهترین مدل» به «بهترین لایه ارکستراسیون» تغییر کرده است؛ اثر این مدل حاکمیتی بر پذیرش مدل‌های وزن‌باز در صنایع حساس را در گزارش بعدی بررسی خواهیم کرد.
گفتگو