۲۵٪ کاهش در تأخیر p95؛ این یعنی عاملهای صوتی حالا بسیار انسانیتر به نظر میرسند. با انتشار مدلهای gpt-realtime-2.1 و gpt-realtime-2.1-mini، هدف OpenAI حذف آن سکوتهای آزاردهندهای است که تماسهای تلفنی با هوش مصنوعی را مصنوعی میکند. طبق گزارش وبسایت marktechpost.com، این جهش عملکردی از طریق ارتقای مکانیزمهای کشینگ (Caching) بهدست آمده است. این سیستم دقیقاً روی «دمِ کند» زمان پاسخدهی — یعنی همان تأخیرهای ۹۵ درصدی (95th-percentile latency) که کاربر در مکالمات زنده بیشتر از هر چیز حس میکند — تمرکز کرده است تا زمان انتظار را به حداقل برساند.
همانطور که در تحلیل قبلی ما دربارهی پردازش جستوجوهای وب در ChatGPT اشاره کردیم، تمرکز سیستمها در حال تغییر است. در اینجا اولویت از بازیابی دادهها به تجربهی حسی فوری در صوت تغییر یافته است. برای یک صاحب کسبوکار، فاصله بین یک «بات» و یک «دستیار دیجیتال»، اغلب تنها چند صد میلیثانیه سکوت است. این مدلها با پردازش و تولید صوت در قالب یک مدل واحد — بهجای زنجیره کردن سیستمهای مجزای تبدیل گفتار به متن (STT) و متن به گفتار (TTS) — جزئیات بیان انسانی را حفظ کرده و تأخیر را میکشنند. این رویکرد یکپارچه باعث میشود مدل بتواند تفاوتهای ظریف در لحن و احساسات را بدون از دست دادن زمان در مرحلهی تبدیل، منتقل کند. این تلاش برای حذف تأخیر، یادآور همکاری گوگل و Cerebras برای رسیدن به تأخیر صفر در مدلهای صوتی است که استانداردهای جدیدی را در سرعت پاسخدهی تعریف کرد.
موتور استدلالی برای صوت
قلب این بهروزرسانی، مدل gpt-realtime-2.1-mini است. این مدل برخلاف نسخههای پیشین، یک مدل استدلالی (Reasoning Model) — شبیه به شطرنجبازی که چند حرکت جلوتر را میبیند و قبل از جواب درنگ میکند — است که بهطور ویژه برای صوت طراحی شده است. این مدل از طریق یک اتصال زنده به ورودیهای صوتی و متنی پاسخ میدهد و هزینه آن با نسخه gpt-realtime-mini قدیمی یکسان است. این قابلیت به عامل اجازه میدهد قبل از صحبت کردن، درونی «فکر» کند و مشکل «سکوت در زمان فراخوانی ابزار» را حل کند. این توانایی در تحلیل لایههای زیرین گفتگو، تکاملیافتهی همان رویکردی است که در مدل GPT-5.5 Instant برای درک اهداف پنهان کاربر به کار گرفته شد.
در عاملهای صوتی استاندارد، مدل هنگام فراخوانی یک تابع معمولاً ساکت میشود. کاربر تصور میکند اتصال قطع شده و کلام مدل را قطع میکند. این اتفاق منجر به نتایج ناقص و سردرگمی در وضعیت گفتگو میشود. اما با قابلیت استدلال، مدل میتواند یک پیشدرآمد صوتی ارائه دهد — مثلاً بگوید «همین الآن سفارش شما را بررسی میکنم» — در حالی که در پسزمینه مشغول کار است. این رویکرد، وظایف چندمرحلهای را منسجم نگه میدارد و از قطع شدن روند توسط کاربر در میانهی پردازش جلوگیری میکند.
سطوح عملکرد و کنترل
توسعهدهندگان اکنون میتوانند «تلاش برای استدلال» (Reasoning Effort) را در پنج سطح مشخص تنظیم کنند: حداقلی (minimal)، کم (low)، متوسط (medium)، زیاد (high) و بسیار زیاد (xhigh).
- تلاش کم (Low Effort): تنظیمات پیشفرض است و برای پایین نگه داشتن تأخیر در گفتگوهای ساده بهینه شده است. OpenAI توصیه میکند اکثر عاملهای تولیدی با این سطح شروع شوند تا سرعت پاسخدهی حفظ شود.
- تلاش زیاد/بسیار زیاد (High/XHigh): این تنظیمات باعث افزایش مصرف توکنهای خروجی و بالا رفتن تأخیر میشود، اما در عوض برای وظایف پیچیده، استدلال عمیقتر و دقیقتری ارائه میدهد.
مدل بزرگتر یعنی gpt-realtime-2.1، قویترین استدلال، استفاده از ابزار و پیروی از دستورات را ارائه میدهد. این مدل در بازشناسی حروف و اعداد (Alphanumeric Recognition) پیشرفت کرده و سکوت، نویز پسزمینه و رفتارهای مربوط به قطع کلام (Interruption Behavior) را بهتر مدیریت میکند. این مدل برای کسانی که به بالاترین سطح رفتار عامل صوتی نیاز دارند، از قابلیت تبدیل گفتار به گفتار (Speech-to-Speech) با تلاش استدلالی قابل تنظیم پشتیبانی میکند.
اقتصادِ کشینگ صوتی
اوپنایآی قیمتگذاری را بهشدت به نفع جلسات طولانی تغییر داده است. چون پرامپت سیستمی (System Prompt) — مثل دستورالعمل اصلی آشپزخانه که مدل برای هر سفارش میخواند — بعد از اولین نوبت کش (Cache) میشود، جلسات طولانی بیشترین سود را میبرند. توکنهای ورودی که قبلاً دیده شدهاند، با تخفیفی شدید محاسبه میشوند. در مدل mini، هزینه ورودی صوتی کششده به ۰.۳۰ دلار بهازای هر ۱ میلیون توکن میرسد، در حالی که برای ورودی جدید ۱۰.۰۰ دلار است.
جزئیات قیمتگذاری بهازای هر ۱ میلیون توکن نشاندهنده یک شکاف واضح است:
- ورودی متنی: مدل gpt-realtime-2.1 برابر ۴.۰۰ دلار؛ مدل gpt-realtime-2.1-mini برابر ۰.۶۰ دلار (کششده ۰.۰۶ دلار) است.
- خروجی متنی: مدل gpt-realtime-2.1 برابر ۲۴.۰۰ دلار؛ مدل gpt-realtime-2.1-mini برابر ۲.۴۰ دلار است.
- ورودی صوتی: مدل gpt-realtime-2.1 برابر ۳۲.۰۰ دلار؛ مدل gpt-realtime-2.1-mini برابر ۱۰.۰۰ دلار (کششده ۰.۳۰ دلار) است.
- خروجی صوتی: مدل gpt-realtime-2.1 برابر ۶۴.۰۰ دلار؛ مدل gpt-realtime-2.1-mini برابر ۲۰.۰۰ دلار است.
- ورودی تصویر: مدل gpt-realtime-2.1 برابر ۵.۰۰ دلار؛ مدل gpt-realtime-2.1-mini برابر ۰.۸۰ دلار (کششده ۰.۰۸ دلار) است.
این دادهها یک شکاف قیمتی تقریباً ۳ برابری در خروجی صوتی را نشان میدهد که به تیمها اجازه میدهد ویژگیهای صوتی را در حجم بسیار بالاتر و بدون قربانی کردن قدرت استدلال، مقیاس کنند.
بررسی کاربردهای عملی
این مدلها از طریق ترکیبی از استدلال و استفاده از ابزار (Tool Use) یا همان فراخوانی تابع (Function Calling)، روی گردشکارهای حساس تجاری که اصطکاک بالایی دارند تمرکز میکنند:
- اولیه سازی پشتیبانی مشتری (Customer Support Triage): کاربر گزارشی از خطای صورتحساب میدهد. مدل mini با تلاش کم استدلال میکند، ابزار
lookup_accountو سپسcheck_invoiceرا فراخوانی میکند و هر مرحله را برای کاربر روایت میکند تا او را در جریان وضعیت قرار دهد. - ثبت دادههای میدانی (Field Data Capture): تکنسینها میتوانند شماره قطعات پیچیده مثل «۸-۳-۵-۷-۱» را با بازشناسی بهبودیافتهی حروف و اعداد ثبت کنند. مدل مقدار را برای تأیید بازخوانی میکند و سپس عملیات را انجام میدهد.
- زمانبندی قرارها (Appointment Scheduling): کاربر میخواهد رزرو را به سهشنبه آینده منتقل کند. مدل تاریخ دقیق را کاراکتر به کاراکتر میگیرد و قبل از فراخوانی تابع
rescheduleجزئیات را تأیید میکند تا از ورودیهای حدسی و اشتباه جلوگیری شود. - دستیارهای صوتی درونبرنامهای: اپلیکیشنهای موبایلی که صوت میکروفون را روی WebRTC استریم میکنند، میتوانند از مدل mini برای پاسخ به سؤالات محصول در جملات کوتاه و با هزینه کمتر استفاده کنند.
معماری پیادهسازی
از دیدگاه فنی، کلاینتهای مرورگر از طریق WebRTC متصل میشوند. برای حفظ امنیت، فرآیند از این مسیر دقیق میگذرد:
۱. رمز محرمانه سمت سرور: سرور یک رمز کلاینت موقت و کوتاهمدت (Ephemeral Client Secret) را از طریق نقطه اتصال /realtime/client_secrets صادر میکند تا کلید API استاندارد در سمت کلاینت امن بماند.
۲. پیکربندی جلسه: سرور مدل (مثلاً gpt-realtime-2.1-mini) را تعریف کرده، تلاش استدلال را روی low تنظیم میکند و ابزارهای در دسترس (مثل lookup_account) را مشخص میکند.
۳. اتصال مرورگر: مرورگر یک اتصال peer در WebRTC باز میکند و ترک میکروفون (Microphone Track) و یک کانال داده برای رویدادها را اضافه میکند.
۴. دستدادن (Handshake): مرورگر پیشنهاد SDP خود را به نقطه اتصال /realtime/calls ارسال کرده و توصیف راه دور (Remote Description) را از پاسخ API تنظیم میکند.
برای محیطهای دیگر، خط لولههای رسانهای سرور (Server Media Pipelines) از WebSockets استفاده میکنند و سیستمهای تلفنی از پروتکل SIP بهره میبرند.
این بهروزرسانی نشاندهنده تغییری در پیشفرضهای این حوزه درباره موازنه هزینه و هوشمندی است. با آوردن استدلال به لایهی mini، اوپنایآی میگوید «هوش» دیگر یک ویژگی ممتاز نیست، بلکه پیشنیاز هر عاملی است که قرار است در محیط زنده از ابزار استفاده کند. اثر ثانویه این تصمیم، احتمالاً موجی از اتوماسیونهای صوتی پیچیده و چندمرحلهای خواهد بود که پیشتر بهدلیل هزینه یا تأخیر، غیرطبیعی به نظر میرسیدند.
گام بعدی شما
- توسعهدهندگان باید برای عاملهای تولیدی با سطح تلاش استدلالی low شروع کنند تا تعادل بین سرعت و دقت برقرار شود.
- دستورالعملهای کوتاهی را برای جداسازی قوانین سخت (Hard Rules) از پیشفرضها به پرامپتها اضافه کنید.
- ارزیابیهای جامع (Evals) را قبل و بعد از مهاجرت به مدل جدید اجرا کنید تا مطمئن شوید موازنه قابلیت و هزینه برای مورد استفاده خاص شما پذیرفتنی است.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو