تصور کنید یک برنامه‌نویس است که ساعت‌ها وقت خود را صرف حدس زدن دلیل شکست یک عامل هوش مصنوعی در محیط عملیاتی می‌کند. برای پایان دادن به این چرخه از حدس و خطا، در ۱۹ اوت ۲۰۲۶ ابزاری به نام AI Flight Recorder معرفی شد تا جلسات مدل‌های زبانی را مانند جعبه‌سیاه هواپیما ضبط کند.
بسیاری از توسعه‌دهندگان در حال حاضر نمی‌توانند هزینه‌ی دقیق توکن (Token) — که شبیه برش‌های کوچک یک کیک است و مدل متن را تکه‌تکه می‌خورد — را به یک جلسه‌ی خاص کاربر متصل کنند یا دقیقاً بفهمند یک استفاده از ابزار (Tool Use) در کجا شکست خورده است. طبق گزارش سازندگان این ابزار، این شکاف باعث ایجاد یک «نقطه کور» در تولیدات هوش مصنوعی شده است؛ جایی که تنها راه یافتن باگ، امید به تکرار خطا در حضور توسعه‌دهنده است. این چالش در مدیریت جلسات، پیش از این در معماری OpenCode برای تبدیل جلسات به کانتینرهای پایدار مورد بررسی قرار گرفته بود.
همان‌طور که در بحث‌های گذشته‌ی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در خروجی‌ها کلید پایداری سیستم است. SDK ابزار AI Flight Recorder با افزودن تنها یک خط کد به کلاینت‌های موجود، مانند کتابخانه OpenAI، تمام پرامپت‌ها، توکن‌های استریم‌شده و نتایج ابزارها را در یک فایل با پسوند .flight ذخیره می‌کند. بر اساس مستندات این پروژه، این فایل‌ها در قالب JSON ساده هستند و به‌راحتی می‌توان آن‌ها را در Git ثبت کرد یا به گزارش‌های خطا پیوست نمود. این رویکرد به طور مستقیم با مفاهیم خودکارسازی تست و بررسی کد توسط AI همسو است تا خطاهای سیستمی سریع‌تر شناسایی شوند.
قابلیت‌های فنی
- بازپخش متغیر: اپلیکیشن DevTools اختصاصی اجازه می‌دهد جلسات را با سرعتی بین ۰.۲۵ تا ۸ برابر بازپخش کنید.
- شفافیت هزینه‌ها: ابزار مذکور هزینه تخمینی هر درخواست را تفکیک کرده و دقیقاً مشخص می‌کند بودجه‌ی توکن‌ها کجا مصرف شده است. این دقت در مدیریت هزینه‌ها یادآور راهکارهای کاهش هزینه در SoundScript است که با بهینه‌سازی مصرف منابع، بهره‌وری را افزایش داد.
- یکپارچگی با IDE: افزونه VS Code به توسعه‌دهندگان اجازه می‌دهد بدون ترک محیط کدنویسی، جلسات را تحلیل کنند.
این رویکرد، توسعه‌ی هوش مصنوعی را از «عیب‌یابی مبتنی بر امید» به یک فرآیند جرم‌شناسی قطعی تبدیل می‌کند. با استانداردسازی فرمت جلسات، تیم‌ها می‌توانند فایل .flight را به هم‌تیمی خود منتقل کنند تا هر دو نفر دقیقاً همان توالی رویدادها و زمان‌بندی توکن‌ها را مشاهده کنند.
گام بعدی شما
- مخزن گیت‌هاب پروژه را بررسی کنید تا نحوه پیاده‌سازی این SDK در پروژه‌های فعلی خود را بیابید.
- دموی زنده DevTools را تست کنید تا ببینید هزینه‌ی توکن‌های شما چگونه به رویدادهای جلسه متصل می‌شود.
- برای تحلیل عمیق‌تر، فایل‌های ضبط‌شده را در افزونه VS Code باز کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو