اپل و تولیدکنندگان تراشه مانند کوالکام در حال توسعه دستیارهای هوشمند نسل بعدی هستند که توانایی حرکت درون برنامهها، تکمیل رزروها و مدیریت وظایف را دارند. با این حال، این سیستمها بهطور عمدی با محدودیتها و نقاط بازبینی داخلی طراحی شدهاند. نسخههای آزمایشی خصوصی اولیه توانایی تهیه پیشنویس خرید، آمادهسازی رزرو و عبور از جریانکار برنامهها را نشان دادهاند، اما این سیستمها در نقاط تصمیمگیری حیاتی، بهویژه برای صفحات پرداخت و تغییرات حساب، متوقف میشوند و قبل از ادامه، تأیید صریح کاربر را الزام میکنند.
این رویکرد از مدل «انسان در حلقه» پیروی میکند که در آن سیستمهای هوشمند اقدامات را آماده میکنند اما تصمیم نهایی را به کاربر واگذار میکنند. تحقیقات مرتبط با کار هوشمند اپل، مکانیزمهایی را برای اطمینان از توقف سیستمها قبل از اجرای اقداماتی که کاربر بهطور صریح مجاز نکرده بود، بررسی کرده است. به جای اعطای دسترسی کامل به برنامهها و دادهها، شرکتها محدودیتهایی برای اینکه کدام برنامهها قابل دسترسی هستند و چه زمانی اقدامات میتوانند فعال شوند، تعیین کردهاند. این لایه کنترل به این معناست که هوش مصنوعی ممکن است تراکنشی را پیشنویس یا رزروی را آماده کند، اما بدون تأیید انسانی نمیتواند آن را نهایی کند.
ملاحظات حریم خصوصی بخش بزرگی از این طراحی را شکل میدهد. بر اساس گزارشها، نگهداری دادهها روی دستگاه، نیاز به ارسال اطلاعات حساس به سرورهای خارجی را از بین میبرد. وقتی اقدامات هوشمند شامل پرداخت میشوند، انتظار میرود سیستمها با شرکایی کار کنند که از قبل قوانین سختگیرانه انطباق را رعایت میکنند. خدمات ارائهدهندگان پرداخت برای ارائه احراز هویت ایمن قبل از تکمیل تراکنشها ادغام میشوند و یک لایه تأیید اضافی فراتر از کنترلهای هوش مصنوعی اضافه میکنند.
چالش حکمرانی بهطور قابل توجهی بین استقرار هوش مصنوعی سازمانی و مصرفکننده متفاوت است. برنامههای سازمانی بر امنیت سایبری و اتوماسیون در مقیاس بزرگ تمرکز کردهاند، اما هوش مصنوعی مصرفکننده خطرات متمایزی را معرفی میکند زیرا خطاها میتوانند مستقیماً به ضرر مالی یا افشای داده منجر شوند. با قرار دادن کنترلها در نقاط متعدد، از جمله جریانهای کاری تأیید و محافظتهای زیرساختی، شرکتها هدف دارند این خطرات را مدیریت کنند در حالی که مزایای اتوماسیون را ارائه میدهند.
تحلیلگران صنعت پیشنهاد میکنند که این رویکرد کنترلشده ممکن است شکلدهنده نحوه توسعه هوش مصنوعی عاملی در کوتاهمدت باشد. به جای پیگیری استقلال کامل، شرکتها به نظر میرسد بر ساختن محیطهای کنترلشدهای تمرکز کردهاند که خطرات قابل مدیریت باشند و اعتماد کاربر حفظ شود. برنامههای بانکی از مدتها قبل برای انتقالها تأیید الزامی داشتهاند و همین اصل اکنون بهطور سیستماتیک در سراسر خدمات هوشمند در بازار مصرفکننده به کار گرفته میشود.
گفتگو