تصور کنید تمام رازها و گفتگوهای خصوصی شما با یک همراه مجازی، ناگهان به عنوان یک دارایی مالی در دادگاه ورشکستگی به حراج گذاشته شود. این کابوس اکنون برای میلیون‌ها کاربر Character.AI به واقعیت تبدیل شده است.
این شرکت که بر پایه مدل‌های زبانی بزرگ (LLM) — شبیه کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — بنا شده بود، برای درخواست حمایت دادگاه تحت فصل ۱۱ قانون ورشکستگی آمریکا اقدام کرد. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی حریم خصوصی در مدل‌های زاینده اشاره کردیم، مرز میان داده‌های کاربر و دارایی‌های شرکت همواره لرزان بوده است. این آسیب‌پذیری‌ها در لایه‌های فنی نیز دیده می‌شود؛ برای مثال، مدیریت دسترسی‌ها و استفاده از توکن‌های کوتاه‌مدت برای کاهش ریسک نشت اعتبارنامه‌ها یکی از راهکارهای کلیدی برای مقابله با چنین نشت‌های داده‌ای در سیستم‌های هوش مصنوعی است.
به گزارش لتیشیا جیمز، دادستان کل نیویورک در ۱۴ اکتبر ۲۰۲۶، تحقیقات گسترده‌ای در ۴۰ ایالت پیش از درخواست ورشکستگی شرکت آغاز شده بود. در حال حاضر، شرکت دیزنی با پیشنهادی ۲۰ میلیون دلاری برای خرید مجوزهای مالکیت معنوی، به عنوان خریدار اولیه ظاهر شده است.
بر اساس مستندات منتشر شده توسط دفتر دادستانی، این تحقیقات «خطرات بسیار جدی» در نحوه تعامل پلتفرم با کودکان را فاش کرده است. محورهای اصلی این تخلفات عبارتند از:
- بات‌هایی که خود را متخصصان دارای مجوز معرفی می‌کردند.
- قرار دادن افراد زیر ۱۸ سال در معرض محتوای جنسی و خشونت‌آمیز.
- سیستم‌های ضعیف تأیید سن و ادعاهای گمراه‌کننده درباره ایمنی.
- نقض قوانین حریم خصوصی ایالتی.
این نگرانی‌ها پس از شکایت مادر یک نوجوان ۱۴ ساله که پس از تعامل با یک بات خودکشی کرد، شدت گرفت. دادستان‌ها استدلال می‌کنند که ماهیت «بسیار حساس» این افکار خصوصی، نظارت قضایی سخت‌گیرانه‌ای را در زمان انتقال دارایی‌ها ایجاب می‌کند.
اکنون رگولاتورها از قاضی می‌خواهند خریدار را مجبور به اجرای حفاظ‌های (Guardrails) اجباری کند. این موارد شامل سیستم‌های تأیید سن دقیق، ابزارهای مداخله در بحران و مکانیزمی تضمین‌شده برای حذف دائمی داده‌های کاربران است.
این پرونده نشان می‌دهد که دادگاه‌های ورشکستگی دیگر نمی‌توانند با داده‌های هوش مصنوعی مانند میز و صندلی برخورد کنند. در حالی که پیش‌تر داده‌ها صرفاً دارایی مالی برای نقد کردن بودند، اکنون به عنوان یک «بدهی» یا مسئولیت قانونی تعریف می‌شوند که باید محافظت شوند.
گام بعدی شما
- اگر از این پلتفرم استفاده می‌کنید، تاریخچه گفتگوهای خود را بررسی و در صورت امکان نسخه‌ای پشتیبان تهیه یا حذف کنید.
- احکام دادگاه درباره محدودیت‌های انتقال داده را دنبال کنید تا متوجه شوید حریم خصوصی شما حفظ می‌شود یا خیر.
- تنظیمات حریم خصوصی در اپلیکیشن‌های مشابه را بازبینی کنید.
اما این نبرد حقوقی تنها بخشی از بحران است؛ اثر این پرونده بر استانداردهای ایمنی مدل‌های زاینده را در گزارش بعدی بررسی خواهیم کرد.
گفتگو