«پایان محدودیت ظرفیت»؛ به‌روزرسانی سرویس Bedrock برای کاربران آسیا-پاسیفیک

اگر برای برنامه‌های سازمانی خود از مدل‌های OpenAI استفاده می‌کنید، دیگر لازم نیست نگران خطاهای «ظرفیت تکمیل شده» در ساعات شلوغ باشید. آمازون با یک تغییر زیرساختی، دسترسی به مدل‌های نسل ششم GPT را در جنوب شرق آسیا به شکلی پویا تغییر داد.

طبق اعلام AWS در پست وبلاگ یادگیری ماشین مورخ ۱۲ اکتبر ۲۰۲۶، توسعه‌دهندگان در تایلند، مالزی، سنگاپور، اندونزی و تایوان اکنون می‌توانند از طریق Amazon Bedrock به مدل‌های GPT-6 Sol و GPT-6 Luna دسترسی داشته باشند. این گسترش از مکانیزم استنتاج متقاطع منطقه‌ای (Cross-Region Inference) استفاده می‌کند تا زمانی که تقاضای محلی از ظرفیت موجود فراتر می‌رود، پایداری سیستم تضمین شود؛ یعنی شبیه به یک سیستم برق سراسری که وقتی یک نیروگاه محلی کم می‌آورد، برق را از شهر دیگری می‌گیرد تا مصرف‌کننده متوجه قطعی نشود.

همان‌طور که در تحلیل قبلی ما درباره‌ی بهینه‌سازی صفحات SaaS برای مدل‌های زبانی اشاره کردیم، دسترسی‌پذیری و سرعت پاسخ‌دهی، ستون فقرات تجربه کاربری در عصر هوش مصنوعی است. این اقدام AWS دقیقاً گلوگاه «محدودیت تک‌منطقه‌ای» (Single-Region Throttling) را هدف قرار داده است. با جداسازی محل فراخوانی API از محل پردازش، تیم‌ها می‌توانند صورت‌حساب و نظارت خود را در منطقهٔ اصلی (Home Region) نگه دارند، اما از قدرت محاسباتی هر مرکزی که در آن لحظه در دسترس است استفاده کنند. این تغییر زیرساختی بازتاب‌دهنده روند گسترده‌تری برای تبدیل هوش مصنوعی به ابزاری قابل استنادتر و در دسترس‌تر است. این رویکرد در کنار بهینه‌سازی استراتژی‌های بازیابی داده در Bedrock که پیش‌تر بررسی کردیم، اکوسیستم ابزارهای سازمانی آمازون را برای مقیاس‌پذیری بیشتر آماده می‌کند.

تخصص و قابلیت‌های مدل‌ها

بر اساس مستندات AWS، سه پروفایل از GPT-6 بر اساس نوع نیازهای کاری (Workload) دسته‌بندی شده‌اند:

• GPT-6 Sol: بهینه‌شده برای استدلال‌های پیچیده و کارهای کدنویسی. این مدل از طریق شناسه global.openai.gpt-6-sol قابل دسترسی است.
• GPT-6 Luna: طراحی‌شده برای کارهای حجیم، متمرکز و تکرارپذیر. این مدل از طریق شناسه global.openai.gpt-6-luna قابل دسترسی است.
• GPT-6 Astra: مخصوص پردازش اسناد طولانی و استدلال‌های عمیق که فعلاً منحصراً در منطقه سنگاپور در دسترس است. (شناسه: global.openai.gpt-6-astra)

هر سه مدل از ورودی‌های متنی و تصویری، حافظه پاداش (Prompt Caching) و استفاده از ابزار (Tool Use) در سمت کلاینت پشتیبانی می‌کنند. در حالی که Sol و Luna اجازه می‌دهند سطح تلاش برای استدلال (Reasoning Effort) را از «هیچ» (none) تا «حداکثر» (max) تنظیم کنید، مدل Astra به حداقل سطح استدلال نیاز دارد و تنظیمات آن از پایین‌ترین سطح موجود تا «حداکثر» پذیرفته می‌شود.

مسیریابی و دسترسی منطقه‌ای

کاربران می‌توانند از پنج منطقه منبع در آسیا-پاسیفیک شامل سنگاپور (ap-southeast-1)، جاکارتا (ap-southeast-3)، مالزی (ap-southeast-5)، تایلند (ap-southeast-7) و تایپه (ap-east-2) به این مدل‌ها متصل شوند.

در این سازوکار استنتاج متقاطع منطقه‌ای، فراخواننده به‌جای شناسه مدل (Model ID)، یک «شناسه پروفایل» (Profile ID) ارسال می‌کند. سپس Amazon Bedrock منطقه مقصد را برای پردازش انتخاب می‌کند. با این حال، در حالی که پردازش در جای دیگری رخ می‌دهد، ردیابی سهمیه (Quota)، صورت‌حساب، گزارش‌های AWS CloudTrail و معیارهای Amazon CloudWatch همچنان در منطقه منبع لنگر انداخته‌اند و در همان‌جا ثبت می‌شوند.

یکپارچه‌سازی فنی و دسترسی

تیم‌ها می‌توانند از طریق Converse API آمازون بدراک یا مسیرهای سازگار با OpenAI (مانند /openai/v1) متصل شوند. مسیر دوم از امضای Signature Version 4 یا کلید API آمازون بدراک پشتیبانی می‌کند. برای کسانی که در حال انتقال کلاینت‌های موجود OpenAI هستند، AWS توصیه می‌کند پارامتر مدل را در هر درخواست تنظیم کنند و از انواع ابزارهای پشتیبانی‌شده شامل function، mcp، custom، namespace و tool_search استفاده نمایند.

برای کسانی که از Codex CLI (نسخه ۰.۱۴۸ یا بالاتر) استفاده می‌کنند، سیستم یک پنجره زمینه (Context Window) به اندازه ۲۷۲,۰۰۰ توکن گزارش می‌کند. البته AWS اشاره کرده که این عدد یک مقدار بسته‌بندی شده (Bundled) است و از طریق تنظیمات model_context_window قابل تغییر است. نکته مهم این است که اپلیکیشن دسکتاپ ChatGPT و Codex CLI یک فایل پیکربندی مشترک دارند، بنابراین یک تغییر در یکی، هر دو را به‌روز می‌کند. همچنین، تنها ارائه‌دهنده amazon-bedrock-runtime است که پروفایل استنتاج را می‌پذیرد.

مدیریت دسترسی و سهمیه

برای پیاده‌سازی این مدل‌ها، یک سیاست IAM چهارگانه لازم است:
۱. دسترسی به پروفایل استنتاج و منابع پیش‌فرض/پروژه در منطقه منبع.
۲. دسترسی به مدل بنیادی در منطقه منبع که محدود به آن پروفایل باشد.
۳. استفاده از ARN مدل بنیادی مستقل از منطقه (Region-agnostic) با تنظیم aws:RequestedRegion روی مقدار unspecified برای اجازه دادن به مسیریابی متقاطع منطقه‌ای.
۴. دسترسی bedrock:CallWithBearerToken برای احراز هویت از طریق API-key.

برای فراخوانی‌های استریمینگ (Streaming)، باید مجوز bedrock:InvokeModelWithResponseStream به سه مورد اول اضافه شود. AWS هشدار داده است که حساب‌های سازمانی که از سیاست‌های کنترل سرویس (SCP) با لیست‌های مجاز منطقه‌ای (Allowlists) استفاده می‌کنند، ممکن است در ابتدا با خطا مواجه شوند، زیرا درخواست‌های جهانی نام منطقه را حمل نمی‌کنند. توصیه می‌شود به‌جای اضافه کردن unspecified به لیست مجاز (که باعث باز شدن استثنا برای تمام سرویس‌ها می‌شود)، از کلید شرطی bedrock:InferenceProfileArn استفاده کنید.

سهمیه بر اساس توکن در دقیقه (TPM) در منطقه منبع محاسبه می‌شود. AWS از مدل مصرف وزنی استفاده می‌کند: توکن‌های ورودی و نوشتن در حافظه (Cache-write) یک واحد حساب می‌شوند، اما هر توکن خروجی ۱۰ واحد از سهمیه را مصرف می‌کند. برای مثال، درخواستی با ۲,۰۰۰ توکن ورودی و ۱,۰۰۰ توکن خروجی، در مجموع ۱۲,۰۰۰ توکن از سهمیه کل کم می‌کند. همچنین Amazon Bedrock مقدار کامل max_tokens را از همان ابتدا رزرو می‌کند.

نظارت و اقامت داده‌ها

تمام صورت‌حساب‌ها، رویدادهای CloudTrail و معیارهای CloudWatch در منطقه منبع باقی می‌مانند. رکورد پردازش هر درخواست در بخش additionalEventData.inferenceRegion در CloudTrail یافت می‌شود. این‌ها رویدادهای مدیریتی هستند که به‌طور پیش‌فرض ثبت می‌شوند، اما تاریخچه رویدادهای CloudTrail تنها ۹۰ روز داده را نگه می‌دارد.

با این حال، ترافیک شناسایی خودکار سوءاستفاده (Abuse Detection) تا ۳۰ روز در منطقه مقصد (جایی که مدل واقعاً مستقر است) ذخیره می‌شود. سازمان‌هایی که قوانین سخت‌گیرانه اقامت داده‌ها (Data Residency) دارند، باید در مراحل اولیه با تیم‌های ریسک و تطبیق هماهنگ کنند تا از طریق تیم حساب AWS خود، درخواست «عدم ذخیره‌سازی کامل داده‌ها» (Full Zero Data Retention) را ثبت نمایند.

برای کسانی که از عامل‌های کدنویسی استفاده می‌کنند، CloudWatch Coding Agent Insights معیارهای بومی OpenTelemetry و داشبوردهایی را تحت بخش GenAI Observability فراهم می‌کند تا مصرف توکن به تفکیک کاربر، تیم و مرکز هزینه (Cost Center) ردیابی شود. AWS توصیه می‌کند هشدارها را روی EstimatedTPMQuotaUsage در فضای نام AWS/Bedrock در سطح ۷۰ تا ۸۰ درصد تخصیص سهمیه تنظیم کنید.

این چرخش به سمت پروفایل‌های استنتاج جهانی نشان می‌دهد که صنعت از استقرار استاتیک منطقه‌ای به سمت مدل‌های محاسباتی سیال و متوازن در حال حرکت است. برای کاربر نهایی، این یعنی خطاهای کمتر «ظرفیت تکمیل شده» و تأخیر پیش‌بینی‌پذیرتر در برنامه‌های هوش مصنوعی در سطح تولید.

توسعه‌دهندگان باید اکنون سیاست‌های IAM خود را بازبینی کنند، اطمینان حاصل کنند که مناطق منبع آن‌ها (به جز سنگاپور) فعال (Opt-in) شده‌اند و نسخه‌های Codex CLI خود را به‌روزرسانی کنند تا از ظرفیت گسترش‌یافته آسیا-پاسیفیک بهره‌مند شوند.

گام بعدی شما

• سیاست‌های IAM خود را برای اجازه دسترسی به unspecified در درخواست‌های منطقه‌ای بازبینی کنید.
• نسخه Codex CLI خود را به ۰.۱۴۸ یا بالاتر به‌روزرسانی کنید تا از ظرفیت جدید آسیا بهره‌مند شوید.
• در صورت داشتن محدودیت‌های قانونی در مورد اقامت داده‌ها، درخواست Zero Data Retention را به تیم AWS ارسال کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.