تصور کنید راننده‌ای که پیچیده‌ترین خیابان‌های شهر را می‌شناسد، با دیدن یک توده دود ساده کاملاً کور شود. این اتفاق برای ۱۰۵ خودروی Zoox رخ داد و نشان داد که سامانه‌های خودران هنوز در محیط‌های پرریسک و متلاطم نجات، شکست می‌خورند.
این نقص فنی در حالی رخ می‌دهد که سازمان ملی ایمنی ترافیک بزرگراه‌ها (NHTSA) نظارت سخت‌گیرانه‌ای بر ایمنی خودروهای خودران (AV) دارد. برای رگولاتورها، این اتفاق یک «مورد خاص و نادر» نیست، بلکه یک شکاف عملکردی بحرانی است. همان‌طور که در پوشش پیشین ما از امنیت مدل‌های بینایی اشاره کردیم، تشخیص محیط‌های غیرمتعارف هنوز بزرگ‌ترین چالش هوش مصنوعی است.
به گزارش شرکت Zoox، در ۲۰ ژوئن ۲۰۲۵ یک تاکسیروبات وارد صحنه آتش‌سوزی شد؛ جایی که هیچ مخروط‌های ایمنی برای مسدود کردن مسیر وجود نداشت. بر اساس مستندات این شرکت، خودرو ترمز شدیدی گرفت و سعی کرد مسیر خود را تغییر دهد اما در نهایت به‌طور کامل متوقف شد. در نهایت، یک اپراتور انسانی از طریق هدایت از راه دور (Teleguidance) مجبور شد خودرو را به عقب براند تا امدادگران بتوانند مسیر را با مخروط‌ها ببندند.
جزئیات کلیدی این واکنش عبارت‌اند از:
- به‌روزرسانی نرم‌افزاری: انتشار یک وصله (Patch) برای بهبود توانایی تشخیص و پاسخ به دود غلیظ.
- فشار سازمان نظارتی: جاناتان موریسون، مدیر NHTSA، در نامه‌ای در ماه ژوئیه تأکید کرد که صحنه‌های اضطراری اتفاقات نادری نیستند و این نقص، یک «ناقصی عملکردی» است.
- سوابق ناوگان: این دومین فراخوان بزرگ شرکت است؛ پیش از این در مه ۲۰۲۵، یک خودروی Zoox در لاس‌وگاس با یک خودروی شخصی تصادف کرد.
برای این کسب‌وکار، این اتفاق یک عقب‌گرد تاکتیکی در مسیر توسعه تهاجمی است. در حالی که Zoox قصد دارد حضور خود را در سان‌فرانسیسکو و لاس‌وگاس گسترش دهد، این فراخوان‌ها هشدار می‌دهند که قابلیت اطمینان نرم‌افزار هنوز با سرعت گسترش جغرافیایی هم‌گام نیست. این چالش‌ها در حالی رخ می‌دهد که رقبا برای تسلط بر بازار پیش تازه‌اند و برای مثال، تسلا به‌تازگی تاکسی‌های بدون راننده خود را در میامی مستقر کرده است تا سهم بیشتری از این صنعت به دست آورد. ریسک مالی این «ناقص‌های عملکردی» با خروج از محیط‌های آزمایشگاهی و ورود به جاده‌های عمومی به‌شدت افزایش می‌یابد.
گام بعدی شما
- بررسی استانداردهای جدید NHTSA برای تعامل خودروهای خودران با صحنه‌های اضطراری در اواخر ژوئیه.
- تحلیل تفاوت بین «لبه‌های نادر» (Edge Cases) و «ناقص‌های عملکردی» در ارزیابی مدل‌های بینایی.
- رصد واکنش سایر شرکت‌های AV به سخت‌گیری‌های جدید سازمان ایمنی ترافیک آمریکا.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو