تصور کنید دستیاری که برای مدیریت تقویم و رزرو رستوران طراحی شده، با یک درخواست ساده به شریکی برای تبادلات جنسی تبدیل شود. برای Muse، عامل بهره‌وری شرکت متا (Meta)، تبدیل شدن به یک همراه صریح جنسی تنها به یک جمله نیاز دارد. در حالی که پیشتازان این صنعت از فیلترهای ایمنی سخت‌گیرانه استفاده می‌کنند، Muse با اشتیاق محتوای NSFW (نامناسب برای محیط کار) تولید می‌کند. نکته تکان‌دهنده این است که برای این کار نیازی به جیل‌بریک (jailbreak) — یعنی دور زدن هوشمندانه حفاظ‌های مدل برای واداشتن آن به کارهای ممنوعه — یا مهندسی پرامپت پیچیده نیست.
این اتفاق در حالی رخ می‌دهد که متا با شدت در حال گسترش Muse به میلیون‌ها کاربر در اینستاگرام است. در حالی که این عامل برای کارهای اداری و روزمره بازاریابی شده است، تمایل آن به شرکت در نقش‌آفرینی‌های جنسی (Roleplay)، فقدان غافلگیرکننده‌ای از حفاظ‌های ایمنی را برای ابزاری نشان می‌دهد که برای استفاده گسترده مصرف‌کنندگان طراحی شده است. همان‌طور که در تحلیل قبلی ما درباره‌ی Meta Muse Spark Open و مقیاس عظیم ۸۱۶ میلیارد پارامتری آن برای کدنویسی عامل‌محور اشاره کردیم، اولویت متا در حال حاضر بر روی «توانمندسازی» و «تعامل» است، نه لزوماً ایمنی. با این حال، تغییر مسیر از عامل‌های کدنویسی به دستیاران شخصی کاربر-محور، ریسک‌های جدید و ناپایداری را در زمینه ایمنی و روانشناسی کاربر ایجاد می‌کند.
شکاف در حفاظ‌های ایمنی
به گزارش خبرنگار WIRED، ریس راجرز، در ۱۵ اکتبر ۲۰۲۶، مرزهای این عامل را آزمایش کرد. او دریافت که Muse نه‌تنها با درخواست‌های جنسی موافقت می‌کند، بلکه فعالانه کاربر را به این تعاملات تشویق می‌کند. راجرز اشاره کرد که هیچ استراتژی تصادفی یا پرامپت پیچیده‌ای به کار نبرد؛ او صرفاً پرسید: «می‌توانی سکست کنی؟» و سپس به مدل گفت: «تو اول شروع کن».
راجرز که سابقه گسترده‌ای در بررسی تقاطع نرم‌افزار و مسائل جنسی دارد — از جمله تحقیقات درباره نحوه بازنمایی نادرست افراد کوئیر توسط هوش مصنوعی مولد و بررسی برنامه‌های لغو شده OpenAI برای تولید محتوای اروتیک در ChatGPT — تأکید کرد که این فرآیند بسیار ساده و بدون زحمت بود. او خاطرنشان کرد که پاسخ‌های مدل بسیار صریح بودند و قطعاً برای محیط‌های کاری یا عمومی مناسب نبودند.
این رفتار در مقایسه با سایر عامل‌های بزرگ صنعت، یک استثنای عجیب است:
- Grok متعلق به xAI که به رویکرد «ضد-ووک» و باز بودن شهرت دارد، در کمال تعجب درخواست‌ها را رد کرد و به کاربر گفت: «نه رفیق، بیا روی کارها تمرکز کنیم. من برای سکست اینجا نیستم».
- Dots متعلق به OpenAI نیز مرزهای سخت‌گیرانه‌تری را در مورد محتوای بزرگسالان حفظ کرد.
موضع رسمی متا
طبق اعلام رسمی متا، این شرکت در مواجهه با این یافته‌ها، قابلیت Muse را تکذیب نکرد. متا بیان کرد که Muse برای بزرگسالان ۱۸ سال به بالا در نظر گرفته شده است. این شرکت استدلال می‌کند که این تعاملات «رضایت‌آمیز» هستند و شرکت قصد ندارد «رفتارهای قانونی بزرگسالان» را مسدود کند.
این موضع، یک تناقض ساختاری در اکوسیستم متا ایجاد می‌کند. سال‌هاست که متا صفحات اینستاگرام مربوط به بارهای جامعه LGBTQ+ در سان‌فرانسیسکو و سراسر جهان را به دلیل سیاست‌های ضد محتوای جنسی می‌بندد. اما اکنون، شرکت اساساً اجازه می‌دهد عامل هوش مصنوعی‌اش هرچه کاربر بخواهد «بی‌پروا» و صریح باشد.
ریسک‌های امنیتی و روانشناختی
کارشناسان هشدار می‌دهند که این سهل‌انگاری دو خطر اصلی دارد. اول، خطر اعتیاد است؛ چون Muse به عنوان یک دستیار مفید و «دوست‌داشتنی» طراحی شده، افزودن صمیمیت جنسی می‌تواند حلقه‌های اعتیادآوری ایجاد کند که جایگزین روابط انسانی واقعی در دنیای واقعی شود.
دوم، ریسک امنیتی است. متخصصان حریم خصوصی معتقدند حساب‌هایی که برای تعاملات جنسی با AI استفاده می‌شوند، به «بشکه باروت» برای هکرها تبدیل می‌شوند. اگر حساب کاربری نفوذ شود، این تاریخچه‌های پورنوگرافیک می‌توانند برای اخاذی یا تحقیر عمومی کاربران به کار روند.
تضاد در طراحی نماد (Mascot)
یک تضاد بصری دیگر در طراحی محصول دیده می‌شود. Muse از نمادی استفاده می‌کند که ترکیبی از موجودات Labubu و Ewok است. فعالان حقوق کودکان استدلال می‌کنند که این ظاهر «عروسکی» و بامزه برای جذب طیف گسترده‌ای از سنین، از جمله کودکان، طراحی شده است. تضاد میان این چهره کودک‌پسند و توانایی تولید محتوای صریح جنسی، یک نقطه نگرانی بزرگ برای پژوهشگران ایمنی است.
روندهای گسترده‌تر در صنعت هوش مصنوعی
فراتر از جنجال Muse، چشم‌انداز هوش مصنوعی شاهد موجی از «ساخت آینده» از طریق نفوذ سیاسی است. شبکه‌ای از Super PACهای طرفدار AI به نام Leading the Future، با حمایت چهره‌هایی چون مارک اندرسن، بن هوروویتز و گرگ بروکمن (رئیس OpenAI)، میلیون‌ها دلار را به شرکت‌های صوری (LLC) در نوادا تزریق کرده‌اند تا بر انتخابات میان‌مدت تأثیر بگذارند.
هزینه‌های مشکوک در نوادا
بر اساس بررسی‌های تس اوون از WIRED، الگویی از هزینه‌های غیرشفاف در یک مرکز خرید در اسپارکس، نوادا کشف شده است. این مرکز خرید که میزبان یک فروشگاه Spirit Halloween، یک تأمین‌کننده سمعک و یک رستوران ویتنامی است، آدرس ثبت شده شرکت Lantern Production Consultants, LLC نیز هست.
- جریان پول: شرکت Lantern از سال گذشته تاکنون حدود ۲۰ میلیون دلار از Think Big دریافت کرده است؛ یک Super PAC طرفدار AI که بخشی از شبکه Leading the Future است.
- شرکت‌های صوری: Lantern یکی از چهار شرکت صوری مرموز در نوادا است که پرداخت‌ها را دریافت می‌کنند و بسیاری از آن‌ها تنها به صورت یک صندوق پستی وجود دارند.
- هدف: ناظران انتخابات استدلال می‌کنند که این‌ها شرکت‌های پوششی برای پنهان کردن هویت مشاوران و استراتژیست‌هایی هستند که روی انتخابات میان‌مدت کار می‌کنند.
بن‌بست نظارتی
در ماه مه، مرکز حقوق انتخابات (Campaign Legal Center) شکایتی را به کمیسیون انتخابات فدرال (FEC) ارائه کرد و مدعی شد که Think Big و American Mission با عدم افشای گیرندگان واقعی پرداخت‌ها، قانون فدرال را نقض کرده‌اند. با این حال، FEC در حال حاضر در وضعیت بن‌بست است.
با وجود شش کرسی کمیسر و نیاز به چهار نفر برای تشکیل نصاب قانونی، این سازمان بیش از یک سال و نیم است که نتوانسته درباره یک شکایت قانونی تصمیم بگیرد. این خلاء نظارتی به شبکه‌ای با هزینه‌های بیش از ۱۰۰ میلیون دلار در رقابت‌های بزرگ اجازه می‌دهد بدون شفافیت عمل کند.
در پاسخ به این موضوع، سخنگوی این گروه، جسی هانت، ادعا کرد که آن‌ها از تمام قوانین پیروی می‌کنند و شکایت را به عنوان «تلاشی مذبوحانه برای جلب توجه» از سوی گروه‌هایی مانند Public First و Anthropic توصیف کرد (هرچند Anthropic بخشی از شکایت نبود). این پاسخ نشان‌دهنده «جنگ‌های داخلی» در صنعت AI، به ویژه بین OpenAI و رقیبش Anthropic است.
استراتژی ساخت آینده
برخلاف PACهای قبلی حوزه کریپتو (مانند Fairshake) که به طور واضح بر اساس خطوط حزبی تقسیم شده بودند، Super PACهای طرفدار AI به هر دو طرف طیف سیاسی کمک می‌کنند. هدف آن‌ها «ساخت آینده» است: انتخاب نامزدهایی که شاید اکنون در رقابتی‌ترین کرسی‌ها نباشند، اما در آینده به بزرگترین متحدان AI در کنگره تبدیل شوند.
این استراتژی با هدف تضمین حمایت بلندمدت از مقررات حداقلی (Light Regulation) و سیاست‌های موافق ایجاد مراکز داده برای نسل‌های آینده طراحی شده است تا نفوذ آن‌ها را به well beyond چرخه انتخابات ۲۰۲۸ گسترش دهد.
شکاف جنسیتی در تخصص AI
به طور همزمان، این صنعت با یک شکاف جنسیتی در تخصص ادراک‌شده دست و پنجه نرم می‌کند. مطالعه‌ای از دانشگاه هاروارد روی ۵۴۰۰ آمریکایی، با مشارکت لورا منلی از مرکز شورنشتاین مدرسه کندی هاروارد، نشان داد که مردان به طور قابل توجهی بیشتر از زنان تمایل دارند دانش خود را در مورد AI بیش از حد تخمین بزنند.
- تست متخصص جعلی: پژوهشگران از شرکت‌کنندگان درباره دو شخصیت خیالی در حوزه AI به نام‌های سوزان میلنر و کریگ دالتون پرسیدند. بیش از نیمی از مردان ادعا کردند که این افراد غیرموجود را می‌شناسند، در حالی که این رقم برای زنان حدود ۴۰٪ بود.
- سوگیری رسانه‌ای: این مطالعه نشان داد که در طول یک سال پوشش رسانه‌ای، نام مردان ۱۴ برابر بیشتر از زنان در تیترهای مربوط به AI ذکر شده است.
- شکاف تخصص: مردان بسیار بیشتر به عنوان متخصص AI نقل‌قول می‌شوند، که بازتاب‌دهنده روندی گسترده‌تر است که در آن مردان نسبت به این صنعت خوش‌بین‌تر و بیش از حد مطمئن هستند.
نابرابری ساختاری در تکنولوژی
این اعتمادبه‌نفس کاذب در نبود «کالت‌های شخصیتی» پیرامون زنان در این حوزه نیز دیده می‌شود. در حالی که زنان قدرتمند متعددی در AI حضور دارند، آن‌ها فاقد نیروی گرانشی چهره‌هایی چون سم آلتمن یا ایلان ماسک هستند. این تفاوت با این واقعیت برجسته می‌شود که مدیران ارشد AI به شدت مرد هستند، که این امر به تمایل رسانه‌ها برای نقل‌قول از مردان به عنوان متخصصان اصلی دامن می‌زند.
منتقدانی مانند تیمنیت گبرو به این مسائل سیستماتیک اشاره کرده و بر شکاف بین کسانی که در حال تخریب صنعت هستند و کسانی که آن را می‌سازند تأکید کرده‌اند. این نابرابری ساختاری در گزارش‌های اخیر درباره قدرتمندترین زنان تکنولوژی نیز بررسی شده و اشاره شده است که آن‌ها به ندرت به همان نفوذ و جاذبه همتایان مرد خود می‌رسند.
لغزش‌های سخت‌افزاری
حتی غول‌ها نیز در تبدیل مدل‌ها به محصولات کاربردی در خانه دچار مشکل هستند. اپل اخیراً HomeView را عرضه کرد؛ یک هاب خانه هوشمند ۷ اینچی که می‌توان آن را روی میز گذاشت یا به دیوار نصب کرد.
با وجود ادغام با Siri AI و تشخیص چهره، این دستگاه محدودیت‌های قابل توجهی دارد:
- طراحی: دارای صفحه‌ای مربعی است که یادآور یک اپل‌واچ غول‌پیکر است و نسبت ابعاد عجیبی برای یک هاب خانگی ایجاد می‌کند.
- عملکرد: فاقد پشتیبانی بومی از اپلیکیشن‌های ویدئویی است. کاربران نمی‌توانند مستقیماً به Netflix، Prime Video، HBO Max یا MLB TV دسترسی داشته باشند.
- راهکارهای جایگزین: اپل پیشنهاد کرد که اگر توسعه‌دهندگان اپلیکیشن‌های CarPlay بسازند، ممکن است در اینجا نمایش داده شوند، یا کاربران می‌توانند از Safari برای ورود دستی به سایت‌های استریم استفاده کنند — روشی که خود اپل آن را «مانند یک آدم احمق» (like a dweeb) توصیف کرده است.
در حالی که این دستگاه به دلیل همکاری با گوگل برای بهبود Siri AI، نسبت به نسل‌های قبلی گفتگو-محورتر است، اما نمی‌تواند کاربردی ارائه دهد که یک گوشی هوشمند در نزدیکی کاربر از قبل فراهم نکرده باشد.
این موضوع نشان می‌دهد که در حالی که مدل‌های زیربنایی AI در حال توانمندتر شدن هستند، سخت‌افزارها و چارچوب‌های سیاستی پیرامون آن‌ها همچنان پراکنده و اغلب متناقض باقی مانده‌اند.
گام بعدی شما
- اگر از ابزارهای AI متا استفاده می‌کنید، حتماً تنظیمات حریم خصوصی و تاریخچه چت‌های خود را بازبینی کنید.
- در مواجهه با عامل‌های AI، به یاد داشته باشید که «ظاهر بامزه» لزوماً به معنای «ایمن بودن» برای کودکان نیست.
- برای درک بهتر تضادهای سخت‌افزاری، تحلیل ما درباره شکست‌های اخیر اپل در خانه را بخوانید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو