پرش به محتوای اصلی
پرش به محتوای مقاله

سیتی‌بانک و جیمورگان مسئولیت هک عامل هوش مصنوعی را به دوش مشتریان گذاشتند

·۲۷ آبان ۱۴۰۵۳ دقیقه مطالعه
لوگوهای سیتی‌بانک و جیمورگان چیس در کنار هم روی پس‌زمینه تیره
لوگوهای سیتی‌بانک و جیمورگان چیس در کنار هم روی پس‌زمینه تیره
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

نخستین واکنش هماهنگ خرده‌فروشی بانک‌های بزرگ آمریکا در برابر عامل‌های هوش مصنوعی شخص ثالث — واگذاری کامل مسئولیت هک به مشتری.

پنج بانک بزرگ آمریکا مشتریان را برای مسئولیت عامل هوش مصنوعی شخص ثالث — از جمله هک یا نشت اطلاعات — پاسخگو دانستند. سیتی‌بانک، جیمورگان چیس، بانک آف آمریکا، پی‌ان‌سی و سیتیزنز این هفته شرایط خدمات را به‌صورت هماهنگ به‌روزرسانی کردند. این تغییرات هم‌زمان با محدودیت‌های جدیدی است که بانک‌های آمریکا برای عامل‌های هوش مصنوعی غیرمجاز اعمال کرده‌اند گزارش قبلی.

زمینه: مقیاس بانک‌ها و زمان‌بندی

  • سیتی‌بانک سومین بانک تجاری بزرگ ایالات متحده است.
  • جیمورگان چیس و بانک آف آمریکا دو بانک بزرگترین کشور هستند.
  • پی‌ان‌سی فایننشیال سرویسز هشتمین بانک بزرگ است.
  • جیمورگان و بانک آف آمریکا ماه گذشته سیاست‌های مشابه را اعلام کردند.
  • پی‌ان‌سی امروز شرایط خود را تغییر داد، هم‌زمان با سیتی.
  • سیتیزنز فایننشیال گروپ در این هفته به مشتریان ایمیل فرستاد با هشدار مسئولیت مشابه.

بانک‌ها این تغییرات را «افشای ریسک» می‌نامند. یک سخنگوی سیتی به تکنوکرچ گفت این به‌روزرسانی «شفافیت بیشتری درباره آن ریسک‌ها» فراهم می‌کند. بیانیه کامل سیتی: «با توجه به اینکه ابزارهای هوش مصنوعی شخص ثالث به‌صورت گسترده‌تر در دسترس قرار می‌گیرند، ما می‌خواهیم مشتریان ریسک‌های مرتبط با اشتراک‌گذاری اطلاعات بانکی یا مجوز دادن به آن ابزارها برای دسترسی به حساب‌هایشان را درک کنند. ما اخیراً توافقنامه کاربری آنلاین خود را به‌روزرسانی کردیم تا شفافیت بیشتری درباره آن ریسک‌ها فراهم آوریم و تأکید کنیم که مشتریانی که انتخاب می‌کنند دسترسی به حساب را به عامل‌های هوش مصنوعی شخص ثالث بدهند، برای فعالیت‌هایی که از طریق آن عامل‌ها انجام می‌شود مسئول هستند.» اما زبان توافقنامه فراتر می‌رود: مشتریانی که اعتبار ورود خود را با ابزارهای شخص ثالث به اشتراک می‌گذارند، مالک هر تراکنش بعدی هستند، سواء قانونی باشد یا تقلبی.

جزئیات: سناریوهای مشمول واگذاری مسئولیت

واگذاری مسئولیت سه سناریو را پوشش می‌دهد:

  • تراکنش‌های غیرمجاز که عامل به اشتباه آغاز می‌کند.
  • نشت اطلاعات ورود از زیرساخت خود عامل.
  • تسلط هکرها پس از هک شدن عامل.

به نقل از تکنوکرچ، توافقنامه کاربری آنلاین سیتی صریحاً بیان می‌کند: اگر ابزارهای هوش مصنوعی اطلاعات ورود را لو دهند یا هک شوند، مشتری برای هر کاری که هکرها با حساب انجام دهند پاسخگو است. ایمیل سیتیزنز به مشتریان حاوی زبان مشابهی بود، بر اساس کپی‌ای که تکنوکرچ دیده است. تحقیقات اخیر نشان می‌دهد که ابزارهای هک مبتنی بر هوش مصنوعی می‌توانند در کمتر از سه ساعت شبکه‌ها را در خطر بیندازند تحلیل اف‌بی‌آی.

راهکار آنتروپیک و تهدید رقابتی

آنتروپیک با ابزار مالی شخصی «فقط‌خواندنی» (read-only) که «نمی‌تواند پول شما را جابجا، مدیریت یا سرمایه‌گذاری کند» راه‌حل جایگزینی ارائه کرده — این طراحی دامۀ مسئولیت را دور می‌زند اما کاربرد عامل را محدود می‌کند.

بانک‌ها همچنین تهدید رقابتی می‌بینند: عامل‌هایی که کارمزدها را بهینه و سود بالاتر می‌یابند، سپرده‌های کم‌بهره و جریمه‌هایی را که حاشیه سود بانک‌ها را پر می‌کنند، تهدید می‌کنند. بازارها در اوایل این ماه برای لحظه‌ای لرزیدند در واکنش به احتمال اینکه ابزارهای هوش مصنوعی اجتناب از کارمزدهای غیرضروری یا حساب‌های سپرده کم‌بهره را برای مصرف‌کنندگان آسان‌تر کند.

سیستم دو سطحی و پیام به مصرف‌کنندگان

شرایط سیتی یادآوری می‌کند که عامل‌های ارائه‌شده توسط خود بانک قابل استفاده‌اند بدون نگرانی از مسئولیت اضافه. این یک سیستم دو سطحی (two-tier system) می‌سازد: عامل‌های بومی بانک تحت حفاظت‌اند؛ عامل‌های شخص ثالث نه.

برای مصرف‌کنندگان، پیام روشن است: راحتی اکنون با یک انکار مسئولیت همراه است. اگر شما یک عامل بودجه‌ریزی متصل کنید که نقض شود، بانک پول‌های دزدیده شده را جبران نخواهد کرد. تنها بندر امن در این سیستم دو سطحی، استفاده از عامل رسمی خود بانک است. به طور مشابه، آزمایش‌های کیپمگ نشان می‌دهد عامل‌های خودمختار می‌توانند در حسابرسی‌ها عمیق‌تر عمل کنند مطالعه کیپمگ.

پیش‌بینی‌ها و نظارت قانونی

این رویارویی یادآور درگیری‌های حمل‌ونقل اشتراکی و تحویل غذا است، جایی که پلتفرم‌ها ابتدا یکپارچه‌سازی شخص ثالث را خوش‌آمد گفتند و بعد تنگ کردند. واکنش بانک‌ها بخشی از روند وسیع‌تری است: آزمایشگاه‌های هوش مصنوعی وعده می‌دهند عامل‌ها نحوه تعامل مردم با ارائه‌دهندگان خدمات را متحول خواهند کرد، سپس ارائه‌دهندگان می‌گویند «یک لحظه صبر کنید». هر کس لایه احراز هویت را کنترل کند، شرایط را دیکته می‌کند. انتظار می‌رود بانک‌های بیشتری عامل بومی راه‌اندازی کنند تا این کنترل را حفظ کنند.

منتظر بمانید تا بورو حفاظت مالی مصرف‌کننده (CFPB) در مورد اینکه آیا این واگذاری‌های مسئولیت تحت قوانین موجود انتقال وجه الکترونیکی بجا هستند، نظر دهد. یک حکم می‌تواند کل اکوسیستم عامل‌های هوش مصنوعی را بازتعریف کند.

گام بعدی شما

قبل از اتصال هر ابزار شخص ثالث، توافقنامه کاربری به‌روزرسانی‌شده را بخوانید. چند دقیقه بررسی می‌تواند از مناقشه‌ی پرهزینه‌ی بعدی جلوگیری کند.

چرا این موضوع مهم است؟

این تغییر لایه احراز هویت را به میدان نبرد تبدیل می‌کند: بانک‌ها کنترل را حفظ می‌کنند، استارتاپ‌های عامل به موانع قانونی می‌خورند، و مصرف‌کننده نهایی هزینه امنیتی را می‌پردازد. تصمیم بورو حفاظت مالی مصرف‌کننده (CFPB) می‌تواند کل اکوسیستم عامل‌های مالی را بازتعریف کند.

تأثیر برای ایران

این تغییر مستقیماً بر مشتریان بانک‌های آمریکایی اثر می‌گذارد، اما الگویی است که ممکن است بانک‌های دیگر در جهان هم پیروی کنند؛ توسعه‌دهندگان ابزارهای مالی هوش مصنوعی باید ریسک انکار مسئولیت توسط بانک‌ها را در نظر بگیرند.

·نگاه ما
تحریریه دات‌هوش

بانک‌ها لایه احراز هویت را به عنوان سد دفاعی آخر می‌دانند؛ با واگذاری مسئولیت، آن‌ها زمان می‌خرند تا عامل‌های بومی خود را بسازند و کنترل را نگه دارند. این حرکتی پیشگیرانه است، نه واکنش لحظه‌ای — بانک‌ها می‌دانند که عامل‌های مالی فردی به‌زودی استاندارد می‌شوند و می‌خواهند درِ ورود را در دست بگیرند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.