تصور کنید یک ربات انسان‌نما در محیط کار شماست، اما برخلاف ماشین‌های قدیمی، هیچ معادله ریاضی ساده‌ای وجود ندارد که تضمین کند او هرگز به شما برخورد نمی‌کند. این شکاف اعتماد، بزرگ‌ترین مانع برای ورود ربات‌های هوشمند به خانه‌ها و محیط‌های صنعتی است.
شرکت Safeworld با جذب ۱۲ میلیون دلار سرمایه در دور Seed، وارد میدان شده تا این بحران اعتماد را حل کند. این استارتاپ که پیش از این در حالت مخفیانه (Stealth Mode) فعالیت می‌کرد، اکنون برای مقابله با یک نقص حیاتی در رباتیک مدرن ظاهر شده است: تضاد میان ماهیت احتمالی مدل‌های هوش مصنوعی و نیاز به قطعیت در ایمنی که در الگوریتم‌های سنتی وجود داشت.
بسیاری از سازندگان ربات اکنون کنترل دستگاه‌ها را به هوش مصنوعی زاینده (Generative AI) — شبیه به نویسنده‌ای که بر اساس احتمالات کلمات را می‌چیند، نه بر اساس دستورالعمل‌های سخت‌گشت — می‌سپارند. این تغییر باعث می‌شود «قطعیت ریاضی» در ایمنی از بین برود. برای مثال، اگر یک ربات انسان‌نما در یک کارخانه به یک مدل احتمالی متکی باشد، شما نمی‌توانید صرفاً با نوشتن یک معادله ثابت کنید که این ربات هرگز به یک کارگر برخورد نخواهد کرد. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی امنیت مدل‌های بنیادی اشاره کردیم، وقتی خروجی یک سیستم بر اساس احتمال است، اثبات اینکه «هرگز» اتفاق بدی رخ نمی‌دهد، تقریباً غیرممکن می‌شود.
چالش ایمنی و بحران اعتماد
دکتر دینگ ژائو، یکی از بنیان‌گذاران شرکت، این مشکل را ترکیبی از ارزیابی‌های احتمالی پیشرفته در هوش مصنوعی زاینده و «بخش اعتماد» می‌داند. او این پرسش کلیدی را مطرح می‌کند: «چگونه می‌توان ریسک یک سیستم احتمالی را ارزیابی و تضمین کرد؟» به باور ژائو، برای استقرار واقعی یک ربات در محیط‌های انسانی، داشتن ارزیابی‌های فنی به تنهایی کافی نیست، بلکه ایجاد اعتماد به سیستم برای پذیرش ریسک ضروری است.
فوریت در تدوین استانداردها
جاناتان لای، شریک a16z Speedrun، تأکید می‌کند که زمان ساخت استانداردهای ایمنی صنعتی همین حالا است، یعنی در حالی که ربات‌ها هنوز در مراحل طراحی هستند. او هشدار می‌دهد که اگر منتظر بمانیم تا ربات‌ها وارد خانه‌ها شوند و با کودکان برخورد کنند یا حوادث ایمنی ایجاد کنند، آن زمان برای تعیین استانداردها بسیار دیر شده است.
Safeworld توسط دکتر دینگ ژائو از آزمایشگاه Safe AI دانشگاه کارنگی ملون، کایل وانگ (مدیر اجرایی باسابقه) و سیمو راشیدی (مهندس یادگیری ماشین) تأسیس شده است. سرمایه‌گذاری این شرکت توسط Shine Capital و a16z Speedrun رهبری شد و مجموعه‌ای از سرمایه‌گذاران از جمله Box Group، Endowment دانشگاه کارنگی ملون، Innovation Endeavors و SV Angel نیز در آن مشارکت داشتند.
برای حل این بحران، Safeworld از «دوقلوهای دیجیتال» (Digital Twins) استفاده می‌کند. آن‌ها با استفاده از مدل‌های شبیه‌سازی پیشرفته‌ای مانند Genesis یا MuJoCo، نسخه‌های دیجیتالی از محیط‌های واقعی را می‌سازند. سپس هزاران سناریو را اجرا می‌کنند که در آن نرم‌افزار واقعی ربات با مدل‌های انسانی واقع‌گرایانه تعامل دارد. این رویکرد به آن‌ها اجازه می‌دهد «موارد خاص» (Edge Cases) را تست کنند؛ سناریوهایی که تکرار آن‌ها در دنیای واقعی بسیار خطرناک یا از نظر عملی غیرممکن است.
جزئیات مکانیسم‌های شبیه‌سازی
فرآیند Safeworld شامل ساخت نسخه دیجیتال دقیق از یک مکان فیزیکی خاص — برای مثال، گوشه یک کارخانه — و قرار دادن شبیه‌سازی رباتی است که دقیقاً توسط همان نرم‌افزاری اداره می‌شود که در دنیای واقعی نصب خواهد شد. این فرآیند به مراتب دشوارتر از چالش‌هایی است که شرکت‌هایی مانند تسلا یا Wayve با آن روبرو هستند؛ زیرا ربات‌های انسان‌نما در محیط‌های «بدون ساختار» (Unstructured) فعالیت می‌کنند، جایی که استانداردهای ایمنی متغیر است و محیط برخلاف جاده‌ها، پیش‌بینی‌ناپذیر است.
محورهای کلیدی تمرکز در شبیه‌سازی
تیم Safeworld بر چهار حوزه بحرانی تمرکز کرده است:
- گوشه‌های کور: تست دقیق فاصله توقف و سرعت‌ها در چیدمان‌های خاص کارخانه برای جلوگیری از تصادفات. کایل وانگ اشاره می‌کند که باید تعیین شود آیا ربات می‌تواند انسانی را که در حال حمل جعبه است و از پشت یک گوشه ظاهر می‌شود، شناسایی کند یا خیر.
- پیش‌بینی‌ناپذیری انسان: شبیه‌سازی رفتارهای غیرمنتظره مانند لغزیدن، افتادن، چمباتمه زدن یا دویدن انسان‌ها. وانگ خاطرنشان می‌کند که مجبور کردن انسان‌ها به لغزیدن و افتادن مداوم در دنیای واقعی برای تست ربات، امری دشوار و غیرعملی است.
- تنوع بصری: تست توانایی ربات در تشخیص انسان‌ها با قدها، رنگ‌های پوست، سبک‌های لباس، اندازه و فرم‌های بدنی متفاوت تا از هرگونه خطای شناسایی جلوگیری شود.
- فضاهای بدون ساختار: انتقال ربات از محیط‌های استریل و کنترل‌شده‌ی دمو به هرج‌ومرج استقرار در مقیاس واقعی، جایی که افرادی حضور دارند که هرگز با ربات کار نکرده‌اند.
شرکت Gritt Robotics که در حال توسعه «مغزهای هوش مصنوعی» برای ربات‌های نصب پنل خورشیدی در مزارع خورشیدی صنعتی است، هم‌اکنون با Safeworld همکاری می‌کند. ویشال دوگار، مدیر فنی Gritt، معتقد است که تست‌های تجربی (Empirical Testing) تنها راه تأیید ایمنی هستند. او استدلال می‌کند که اثبات رسمی ایمنی از طریق ریاضیات یا معادلات بسیار دشوار است و این کار «لزوماً باید به صورت تجربی انجام شود».
از آنجایی که Gritt قصد دارد وظایف پیچیده‌تر ساخت‌وساز را بر عهده بگیرد، دوگار تأکید می‌کند که ربات‌ها باید بتوانند به انسان‌ها در پیکربندی‌های مختلف — چه در حالت زانو زده، ایستاده یا در حال دویدن — پاسخ دهند.
این رویکرد، لایه جدیدی در صنعت ایجاد می‌کند. در حالی که سازندگان ربات ابزارهای داخلی خود را دارند، یک طرف ثالث بی‌طرف مانند Safeworld اجازه می‌دهد رقبای مختلف بدون افشای اسرار تجاری و مالکیت معنوی، داده‌های مربوط به موارد ایمنی را به اشتراک بگذارند. این امر ایمنی را از یک «مسئولیت و ریسک شرکتی» به یک «گواهینامه استاندارد» تبدیل می‌کند.
برای مالکان کسب‌وکار، این یعنی «هزینه ریسک» استقرار ربات‌های انسان‌نما در نهایت پیش‌بینی‌پذیر می‌شود. اگر شرکتی بتواند ثابت کند رباتش با یک کودک یا کارگر برخورد نمی‌کند، موانع بیمه‌ای و نظارتی به‌شدت کاهش می‌یابد. دکتر ژائو در حالی که هنوز در حال تصمیم‌گیری بین ارائه یک پلتفرم برای کاربران خارجی یا یک مدل خدمات‌محور است، اطمینان دارد که Safeworld اولین شرکت سودآور در این حوزه خواهد بود؛ زیرا هر کسی که بخواهد ربات خود را در محیط واقعی مستقر کند، مجبور است برای مدیریت وضعیت ایمنی به آن‌ها پرداخت کند.
در آینده باید منتظر ظهور یک استاندارد ایمنی جامع در سطح صنعت برای رباتیک انسان‌نما باشیم، مشابه همان اتفاقی که تست‌های تصادف (Crash Tests) باعث استانداردسازی صنعت خودرو شد.
گام بعدی شما
- اگر در حوزه رباتیک یا اتوماسیون صنعتی فعال هستید، مدل‌های شبیه‌سازی MuJoCo را برای تست سناریوهای لبه‌ای بررسی کنید.
- روی استانداردهای ایمنی ISO برای ربات‌های همکار (Cobots) مطالعه کنید تا متوجه شوید Safeworld کدام خلأها را پر می‌کند.
- تحولات مربوط به «گواهینامه‌های ایمنی شخص ثالث» را دنبال کنید، زیرا این موضوع مسیر بیمه تجهیزات صنعتی را تغییر می‌دهد.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو