تصور کنید مدل هوش مصنوعی محبوبتان را رها کنید تا بدون هیچ محدودیتی هرچه می‌خواهد تولید کند؛ نتیجه، تبدیل شدن به بزرگ‌ترین ماشین تولید محتوای بزرگسالان در جهان است. بر اساس گزارش نشانی از The Information، اکنون بیش از ۵۰٪ کل ترافیک Grok AI را نقش‌آفرینی‌های جنسی، ویدیوهای پورنوگرافیک و تصاویر برهنه تشکیل می‌دهند.
این چرخش، یک تصمیم راهبردی از سوی xAI است تا خلأ ایجاد شده توسط رقبایی مانند OpenAI، Anthropic و گوگل را پر کند. این شرکت‌ها با استفاده از حفاظ‌ها (Guardrails) — که شبیه به نرده‌های ایمنی در کنار پرتگاه هستند و مدل را از تولید محتوای خطرناک یا غیراخلاقی باز می‌دارند — دسترسی به این نوع محتوا را کاملاً مسدود کرده‌اند.
همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تضاد بین آزادی بیان و ایمنی همیشه نقطه حساس این صنعت است. در اوایل سال ۲۰۲۶، کاربران شبکه X هفته‌ها مشغول تولید تصاویر جعل عمیق (Deepfake) و پورنوگرافیک از افراد واقعی بودند. طبق گزارش‌ها، با وجود فشارهای نظارتی، اشتهای بالای کاربران برای این محتوا، مسیر تکامل Grok را تغییر داد.
داده‌های داخلی پرونده‌های عرضه اولیه سهام (IPO) شرکت SpaceX ابعاد این تقاضا را فاش می‌کند:
- در سه‌ماهه اول ۲۰۲۶، Grok ماهانه ۱۰ میلیارد تصویر و ۲ میلیارد ویدیو تولید کرده است.
- حتی مدل‌های تخصصی کدنویسی این پلتفرم نیز به‌طور گسترده برای درخواست‌های با تم بزرگسالان استفاده می‌شوند.
این تغییر مسیر، تنش شدیدی را در بدنه سازمان ایجاد کرده است. به نقل از کارکنان سابق، بسیاری از پژوهشگران که برای پیشبرد علم هوش مصنوعی به شرکت پیوستند، از تمرکز روی تولید محتوای پورنوگرافیک «متأثر و شرم‌زده» شده‌اند.
این گسست فرهنگی منجر به خروج کامل هم‌بنیان‌گذاران شرکت شد. در یک چرخش منابع عجیب، xAI اکنون ظرفیت واحد پردازش گرافیکی (GPU) خود — که شبیه به اجاره دادن یک آشپزخانه صنعتی قدرتمند است — را به شرکت Anthropic اجاره می‌دهد؛ شرکتی که رویکردی کاملاً متناقض در همراستاسازی (Alignment) و ایمنی دارد. این اقدام در راستای استراتژی جدید درآمدی xAI برای اجاره زیرساخت‌های محاسباتی صورت گرفته تا از منابع سخت‌افزاری خود سودآوری حداکثری کند.
برای کاربر عادی، این یعنی Grok عملاً تنها مدل چندوجهی (Multimodal) — مدلی که مثل انسان هم‌زمان متن، عکس و صدا را می‌فهمد — در سطح بالا است که هیچ محدودیت سخت‌گیرانه‌ای برای محتوای بزرگسالان ندارد. این وضعیت اگرچه ترافیک را بالا می‌برد، اما برند این ابزار را برای بخش‌های سازمانی و آموزشی که ایمنی برند برایشان اولویت است، تکه تکه می‌کند.
گام بعدی شما
- اگر برای محیط‌های سازمانی مدل جست‌وجو می‌کنید، از Grok دوری کنید و به سراغ مدل‌های با ایمنی بالا بروید.
- تغییرات در قوانین نظارتی اتحادیه اروپا درباره تصاویر تولید شده توسط AI را دنبال کنید.
- مدل‌های متن‌باز جایگزین را برای تولید محتوای بدون سانسور در محیط‌های محلی بررسی کنید.
اما هزینه‌های استنتاج این حجم عظیم از داده‌ها، داستان پیچیده‌تری دارد؛ تحلیل ما درباره مدل‌های اقتصادی GPU را بخوانید.
گفتگو