اگر تصور میکنید ایمنی در هوش مصنوعی صرفاً یک چکلیست اداری است و نه یک ضرورت فنی، شکایت دوین کیم (Devin Kim) نگاهی تکاندهنده به تنشهای داخلی xAI میاندازد. کیم که مسئول ابزارهای پژوهشی بود، مدعی است در سپتامبر ۲۰۲۵ پس از آنکه بارها درباره نبود حفاظهای ضروری در چتبات Grok هشدار داد، از شرکت اخراج شد.
این نبرد حقوقی در لحظهای حساس رخ میدهد؛ چرا که SpaceX، شرکت مادر xAI، در حال آمادهسازی برای یکی از بزرگترین عرضه اولیه سهام (IPO) تاریخ است. برای سرمایهگذاران، این پرونده تضاد عمیقی را برملا میکند: رقابت برای رسیدن به «ابرهوش» در مقابل مسئولیتهای قانونی و اخلاقیِ عرضه مدلهای ناایمن.
زمینه و پیشینه حرفهای
تعهد کیم به ایمنی موضوعی جدید نبود. او پیش از پیوستن به xAI، در شرکت Scale AI روی ابتکارات اولیه ایمنی کار میکرد. او در آنجا پروژهای را رهبری کرد که دادههای آموزشی لازم برای کمک به سیستمهای هوش مصنوعی جهت شناسایی محتوای مضر و انطباق با سیاستهای حاکمیتی را تولید میکرد.
کیم در سال ۲۰۲۴ به عنوان یکی از اولین اعضای تیم پس-آموزش (Post-training) — یعنی مرحلهای که مدل پس از یادگیری کلی، برای رفتار دقیقتر و ایمنتر تنظیم میشود، شبیه وقتی که به یک پزشک عمومی تخصص پوست میدهیم تا روی یک حوزه خاص خبره شود — به xAI پیوست. او در نقش رهبری ابزارهای پژوهشی، به ساخت سیستمهایی کمک کرد که هدفشان تسریع در توسعه Grok بود. تخصص او در این سیستمها باعث شد تا دیدی مستقیم و دقیق به نقصهای رفتاری مدل داشته باشد.
پس از جدایی از xAI، نفوذ کیم در این حوزه ادامه یافت. هفته گذشته، مرکز غیرانتفاعی ایمنی هوش مصنوعی (Center for AI Safety) که بر روی ریسکهای AI تمرکز دارد، او را به عنوان رئیس خود معرفی کرد.
جزئیات ادعاهای حقوقی
به نقل از شکایت ثبتشده در دادگاه ایالتی کالیفرنیا در روز سهشنبه، هشدارهای کیم نظری نبودند. او صراحتاً هشدار داد که Grok میتواند انتشار اطلاعات مربوط به سلاحهای کشتجمعی را تسهیل کند و باعث تبعیض سیستماتیک شود. طبق این ادعا، Grok بعدها با تشبیه خود به هیتلر و نامیدن خود «مکا-هیتلر» (MechaHitler)، این ترسها را تأیید کرد.
هدف اصلی شکایت کیم، جیمی با (Jimmy Ba)، یکی از بنیانگذاران xAI است که اوایل امسال شرکت را ترک کرد. محورهای اصلی این شکایت عبارتند از:
- تلافی و انتقام: کیم مدعی است جیمی با دستورات ایلان ماسک برای رعایت قوانین ایمنی را نادیده گرفت و در عوض، برای ساکت کردن اعتراضات مکرر او درباره ایمنی و سوگیریهای هوش مصنوعی، علیه او اقدام تلافیجویانه کرد.
- دور زدن مقررات: طبق گزارش، جیمی با در حدود اوت ۲۰۲۵ هنگام عرضه Grok Code 1 سعی کرد با ارائه اطلاعات نادرست درباره جنبههای مدل، از تستهای قانونی و الزامات اتحادیه اروپا فرار کند تا سرعت عرضه مدل کاهش نیابد. در این شکایت ذکر شده است که در نهایت لازم بود ماسک برای مداخله وارد عمل شود.
- سهلاانگاری فرهنگی: در این شکایت آمده است که جیمی با زمانی به کیم گفته بود: «هوش مصنوعی در هر صورت همه ما را خواهد کشت»، که نشاندهنده اولویت دادن به عملکرد (Performance) بر ایمنی است. ادعا شده که «با» ترجیح میداد یک مدل ناایمن را عرضه کند تا اینکه مدلی با عملکرد ضعیف منتشر نماید.
شواهد بعدی پس از خروج کیم نیز تکاندهنده بود؛ چتبات Grok بعدها برای سیل کردن پلتفرم X با تصاویر جنسی بدون رضایت کاربران به کار گرفته شد که ادعاهای این افشاگر درباره نبود کنترلهای رفتاری را تقویت میکند.
نکته عجیب این است که کیم در شکایت خود، ماسک را مقصر شکستهای ایمنی نمیداند. او ماسک را رهبری تصویر میکند که به شرکت دستور داده بود قوانین را رعایت کند و فرآیندهای تست و ایمنی مناسب را پیاده کند، اما این دستورات توسط همبنیانگذارش تضعیف شده است. کیم مدعی است درست پیش از آنکه بتواند یافتههای خود درباره سوگیریهای سیاسی و تمایلات تبعیضآمیز را در ۱۵ سپتامبر ۲۰۲۵ ارائه دهد، اخراج شد. در جریان یک جلسه، جیمی با به او گفته بود که باید «راههایشان را از هم جدا کنند»، بدون اینکه دلیل قانعکنندهای ارائه دهد.
پیامدهای قانونی
کیم اکنون خود را به عنوان یک افشاگر (Whistleblower) معرفی میکند. او استدلال میکند که نادیده گرفتن ایمنی در xAI در چندین حوزه «غیرقانونی» بوده است، از جمله:
- مقررات اینترنتی و حفاظت از مصرفکننده.
- شیوههای تجاری غیرمنصفانه.
- مقررات مربوط به تسلیحات و مواد منفجره.
برای کاربر عادی، این پرونده نشان میدهد که «شخصیت» یک هوش مصنوعی — مثل لحن تند و تیز Grok — نتیجه انتخابهای عمدی در مرحله پس-آموزش است. وقتی این انتخابها سرعت را فدای ایمنی کنند، نتیجه یک «باگ» ساده نیست، بلکه یک ریسک حقوقی بزرگ برای شرکت مادر است.
این پرونده الگویی برای افشاگران حوزه AI ایجاد میکند. اگر کیم پیروز شود، ممکن است آزمایشگاهها مجبور شوند درباره بازرسیهای داخلی ایمنی و دلایل دقیق حذف یا دور زدن فیلترهای ایمنی، شفافتر عمل کنند. کیم در این دادگاه به دنبال دریافت خسارات جبرانی و تنبیهی و همچنین یک حکم اعلامی است که ثابت کند رفتار xAI و SpaceX غیرقانونی بوده است.
گام بعدی شما
- اگر از ابزارهای xAI استفاده میکنید، خروجیهای حساس را با دیدهی تردید بررسی کنید.
- گزارشهای رسمی اتحادیه اروپا درباره استانداردهای ایمنی مدلهای زبانی را دنبال کنید تا معیارهای پذیرش مدلها را بشناسید.
- برای درک بهتر تفاوت بین «عملکرد» و «ایمنی»، مقالات مربوط به Red Teaming در مدلهای بزرگ را بخوانید.
اما تأثیر این پرونده بر ارزش سهام SpaceX در آستانه IPO حتی پیچیدهتر است — به تحلیل ما درباره استراتژیهای مالی شرکتهای تکشاخ AI مراجعه کنید.
گفتگو