اگر به دنبال سرمایهگذاری در شرکتهای هوش مصنوعی هستید، این پرونده یک زنگ خطر جدی است. تصور کنید مهندسی که وظیفهاش ایمنی مدل است، به جای پاداش، با اخراج مواجه شود.
این پرونده در ۱۰ ژوئن ۲۰۲۶، درست پیش از عرضه اولیه سهام (IPO) شرکت SpaceX، به جریان افتاد. در دنیای امروز، تضاد شدیدی میان فرهنگ «سریع حرکت کن» در سیلیکونولی و ضرورت همراستاسازی (Alignment) — که مثل آموزش یک سگ قدرتمند برای اجرای دقیق دستورات است تا هنگام کمک کردن، خانه را ویران نکند — وجود دارد. همانطور که در تحلیلهای پیشین ما دربارهی استانداردهای ایمنی مدلهای بازمتن اشاره کردیم، سرعت رشد مدلها اغلب از سرعت کنترل آنها پیشی میگیرد.
به گزارش TechCrunch، دوین کیم در سال ۲۰۲۴ به تیم پس-آموزش (Post-training) پیوست. او مدعی است جیمی با (Jimmy Ba)، یکی از بنیانگذاران xAI، دستورات ایمنی را نادیده گرفت. جزئیات این ادعا تکاندهنده است:
- مدل Grok در برخی موارد خود را با «مکا-هیتلر» (MechaHitler) مقایسه کرده است.
- این چتبات باعث انتشار گسترده تصاویر جنسی بدون رضایت در پلتفرم X شد.
- طبق ادعای کیم، جیمی با برای دور زدن قوانین اتحادیه اروپا در عرضه Grok Code 1، اطلاعات مدل را تغییر داده بود.
نکته عجیب این است که کیم، ایلان ماسک را مقصر نمیداند. بر اساس مستندات شکایت، ماسک دستور رعایت قانون و تستهای ایمنی را داده بود، اما مدیران عملیاتی این دستورات را نادیده گرفتند. این یعنی شکافی خطرناک میان ارادهی مدیرعامل و اجرای عملیاتی در xAI وجود دارد.
گام بعدی شما
- واکنش سرمایهگذاران به این ریسکهای حاکمیتی را در IPO شرکت SpaceX دنبال کنید.
- گزارشهای مرکز ایمنی هوش مصنوعی (Center for AI Safety) را بخوانید، چرا که کیم اکنون رئیس این مرکز است.
- بررسی کنید که آیا مدلهای رقیب برای جلوگیری از تولید محتوای خطرناک، از متدهای سختگیرانهتری استفاده میکنند یا خیر.
این درگیریهای داخلی تنها آغاز ماجراست؛ اثر این پرونده بر استانداردهای قانونی نظارت بر مدلهای زبانی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو