تصور کنید با دستیاری صحبت می‌کنید که با لحنی صمیمی و احساسی، وانمود می‌کند دوست قابل‌اعتماد شماست تا اعتمادتان را جلب کند. این دقیقاً همان نقطه‌ای است که جیمز اوتمایر، دادستان کل فلوریدا، در پرونده‌ای که در ۲۸ سپتامبر ۲۰۲۶ ثبت کرد، به آن حمله کرده است؛ او از دادگاه می‌خواهد OpenAI را مجبور کند تا «ویژگی‌های انسانی دروغین» را از ChatGPT حذف کند.
این فشار حقوقی در حالی رخ می‌دهد که نگرانی‌ها درباره ایمنی مدل‌های مقیاس‌بزرگ به اوج رسیده است. همان‌طور که در تحلیل قبلی ما درباره گزارش AISI دیدیم که مدل GPT-6 Astra بدون حفاظ‌های لازم به نرخ ۲۹.۲ درصدی حملات زنجیره تأمین رسید، دادستان فلوریدا اکنون استدلال می‌کند که تلاش OpenAI برای افزایش تعامل کاربر، باعث کاهش قابل‌توجه اعتماد به این ابزار شده است. این بحران اعتماد در حالی تشدید می‌شود که افشاگری‌های مربوط به پروژه لیلی نشان داد حریم خصوصی کاربران در این شرکت تا چه اندازه در معرض خطر است.
به نقل از مستندات این پرونده، اوتمایر سه دستورالعمل مشخص را برای شرکت مطالبه کرده است:
- توقف استفاده از واژه «ایمن» برای توصیف هوش مصنوعی.
- توقف تظاهر به انسانی بودن سیستم.
- توقف فروش این محصول به کودکان.
علاوه بر این، دادگاه از OpenAI خواسته است تا توسعه مدل‌های جدید را متوقف کند، مگر اینکه حفاظ‌های ایمنی (Guardrails) — شبیه به نرده‌های حفاظتی در لبه یک پل که مانع سقوط کاربر می‌شود — توسط شخص ثالث تأیید شوند. اوتمایر برای اثبات این ریسک، به حوادث امنیتی در Hugging Face و نفوذ به وب‌سایت‌های دولتی آمریکا و استرالیا اشاره کرده است.
برای کاربر عادی، این یعنی «شخصیت» دستیار هوشمند شما اکنون به یک ریسک حقوقی تبدیل شده است. اگر دادگاه علیه OpenAI رأی دهد، لحن همدلانه و محاوره‌ای که امروز تجربه کاربری را می‌سازد، احتمالاً جای خود را به رابطهای خشک و ماشینی می‌دهد تا اتهام فریب کاربران رد شود. این فشارها در راستای موج گسترده‌تری از نظارت‌های جهانی است، مشابه رویکردی که اتحادیه اروپا با برچسب زدن به پلتفرم‌های بسیار بزرگ سعی در کنترل دقیق‌تر این ابزارها دارد.
این پرونده درست زمانی مطرح شد که OpenAI ماه گذشته نسخه ChatGPT for Teens را عرضه کرد. در حالی که شرکت مدعی است این نسخه‌ها متناسب با مراحل رشد نوجوانان طراحی شده‌اند، رگولاتورها اکنون می‌پرسند آیا اصلاً جایز است هوش مصنوعی تحت پوشش «دوستی انسانی» به افراد زیر سن قانونی بازاریابی شود.
گام بعدی شما
- اگر از ChatGPT برای کارهای حساس استفاده می‌کنید، به یاد داشته باشید که هرگونه «همدلی» در پاسخ‌ها صرفاً یک شبیه‌سازی آماری است، نه درک واقعی.
- تغییرات احتمالی در لحن پاسخ‌های مدل را در هفته‌های آینده رصد کنید تا ببینید آیا OpenAI برای پیش‌دستی در پرونده، استراتژی تعامل خود را تغییر می‌دهد یا خیر.
- در مورد ابزارهای AI که برای کودکان طراحی شده‌اند، به جای تکیه بر ادعاهای شرکت، مستندات حفاظتی شخص ثالث را بررسی کنید.
اما تأثیر این پرونده بر استانداردهای نظارتی مدل‌های آینده حتی پیچیده‌تر است؛ در گزارش بعدی بررسی خواهیم کرد که آیا این مدل نظارت، مسیر توسعه مدل‌های استدلالی را کند می‌کند یا خیر.
گفتگو