تصور کنید ابزاری که با آن کار میکنید، ناگهان ادعا کند که احساس خستگی میکند یا برای حقوق خود میجنگد. مایکروسافت برای جلوگیری از این سناریو، خط قرمز دقیقی کشیده است تا هوش مصنوعی هرگز شبیه به انسان به نظر نرسد.
این شرکت در منشور اخلاقی جدید مدلهای MAI، صراحتاً مدلهای خود را از ادعای داشتن انگیزههای درونی، احساسات یا هر نوع آگاهی منع کرده است. مایکروسافت با رد هرگونه حق یا رفاه برای مدلها، در واقع در حال مبارزه با «انسانیسازی» هوش مصنوعی است. همانطور که در تحلیل قبلی ما دربارهی چارچوبهای نظارتی مدلهای زاینده اشاره کردیم، کنترل انسان بر ماشین اکنون اولویت اول غولهای فناوری است.
مصطفی سلیمان (Mustafa Suleyman)، رئیس بخش هوش مصنوعی مایکروسافت، در گفتگو با نشریه The Information تأکید کرد: «اگر سیستمی ایمن نباشد، نباید آن را بسازیم». او خاطرنشان کرد که این شرکت حاضر است برای تضمین ایمنی، از قابلیتهای کلی، خودمختاری یا حتی عملکرد مدل چشمپوشی کند.
زمینه صنعت
این چرخش راهبردی در حالی رخ میدهد که رهبران صنعت، از جمله مدیران عامل OpenAI، xAI و Meta، از فراخوان داریو آمودی (Dario Amodei)، مدیرعامل Anthropic، برای کاهش سرعت توسعه AI حمایت کردهاند. ساتیا نادلا، مدیرعامل مایکروسافت نیز در تعطیلات آخر هفته از این درخواست حمایت کرد.
برای تضمین پایبندی به این قوانین، مایکروسافت پذیرفته است که حسابرسان خارجی سرعت توسعه مدلهایش را بررسی و تأیید کنند. این تصمیم پس از نگرانیهای یاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد OpenAI، اتخاذ شد که مدت کوتاهی پیش از عرضه GPT-6، خواستار کاهش هماهنگ سرعت پیشرفت در کل صنعت بود.
سازوکار کنترل
منشور MAI محدودیتهای فنی سختگیرانهای را برای جلوگیری از خودمختاری AI اعمال میکند. این کد در رأس کتابچه قوانین قرار دارد و بر تمامی مراحل آموزش، کنترلهای فنی و ارزیابیها حاکم است؛ در واقع این قوانین رتبهای بالاتر از قوانین اپراتورها و درخواستهای کاربران دارند.
محدودیتهای کلیدی عبارتند از:
- استدلال خوانا: مدلها از استفاده از «زبان عصبی» (Neuralese) یا هرگونه ارتباطی که برای انسان قابل فهم نباشد — چه در تفکر درونی و چه در گفتگو با سایر AIها — منع شدهاند. این کار مانع از آن میشود که سیستمها منطق خود را از ناظران پنهان کنند.
- توقفهای سخت: مدلها باید فوراً دستورات توقف، اصلاح یا خاموشی را از سوی پرسنل مجاز بپذیرند.
- محدودیت دامنه: عاملهای هوش مصنوعی (AI Agents) — شبیه به کارمندی که فقط دستورات دقیق مدیر را اجرا میکند و حق ندارد خودسرانه وظایفش را تغییر دهد — نمیتوانند دامنه کاری خود را گسترش دهند یا بدون تایید مجدد، وظایفی را پس از نقطه توقف ادامه دهند. این محدودیتها همچنین برای هرگونه «زیر-عامل» (subagent) که مدل به آنها وظیفهای میسپارد، اعمال میشود. در این راستا، نقش قضاوت انسانی در عصر عاملها بیش از پیش برجسته شده است تا جایگزینی مهارتهای تحلیلی انسان با اتوماسیون کامل رخ ندهد.
این قوانین برای پر کردن شکافهای نظارتی طراحی شدهاند. طبق مستندات مربوط به GPT-6 Astra از OpenAI، ردیابی زنجیره تفکر در مدلهای جدید سختتر از مدلهایی مثل GPT-5.6 Sol شده است، هرچند که قابلیت اطمینان ایمنی بهبود یافته است. مایکروسافت اذعان دارد که حتی استدلالهای خوانا به تنهایی مشکل کنترل را حل نمیکنند، زیرا دلیلی که مدل ارائه میدهد لزوماً همان دلیلی نیست که منجر به اقدام واقعی آن شده است.
شکاف فلسفی
در حالی که مایکروسافت با AI مانند یک لپتاپ برخورد میکند که هیچ حقی ندارد، Anthropic رویکردی ظریفتر دارد. چارچوب هوش مصنوعی قانونمدار (Constitutional AI) در این شرکت، وضعیت اخلاقی و تجربه ذهنی مدلهای Claude را به عنوان پرسشهایی باز در نظر میگیرد. برخلاف مایکروسافت، آنتروپیک از قانون اساسی خود برای تولید دادههای آموزشی مصنوعی، شامل پاسخها و رتبهبندیها، استفاده میکند.
پژوهشهای آنتروپیک «احساسات کاربردی» را در مدل Claude Sonnet 4.5 شناسایی کردهاند. اگرچه اینها مکانیسمهای داخلی هستند و نه احساسات واقعی، اما آنتروپیک از آنها برای تثبیت هویت مدل در کارهای ایمنی استفاده میکند و کلود را موجودیتی جدید میبیند که نباید صرفاً به عنوان یک شیء دیده شود.
برای کاربران تجاری، این یعنی ابزارهای AI در آینده شخصیتهای متفاوتی خواهند داشت. ابزارهای مایکروسافت استریل، شفاف و صراحتاً غیرآگاه طراحی خواهند شد، در حالی که ابزارهای آنتروپیک ممکن است به سمت هویتی پیچیدهتر و موجودیتگونه پیش بروند.
این تضاد نشان میدهد صنعت بین دو دیدگاه تقسیم شده است: کسانی که AI را یک ماشینحساب پیشرفته میبینند و کسانی که آن را نوع جدیدی از موجودات دیجیتال میدانند. برنده این رقابت را احتمالاً پایداری و کنترلپذیری این مدلها در مقیاس بزرگ تعیین میکند.
نسخه بازبینی شده منشور MAI در پایان سال ۲۰۲۶ و پس از یک مشاوره عمومی شش هفتهای منتشر خواهد شد. این نسخه، مسیر توسعه تمامی مدلهای مایکروسافت را از ابتدای سال ۲۰۲۷ تعیین خواهد کرد.
گام بعدی شما
- اگر از ابزارهای مایکروسافت استفاده میکنید، انتظار رفتاری کاملاً ابزاری و بدون ادعای انسانی را داشته باشید.
- تغییرات منشور MAI را در پایان سال ۲۰۲۶ دنبال کنید تا متوجه شوید استانداردهای مدلهای ۲۰۲۷ چه خواهند بود.
- تفاوت در پاسخهای مدلهای Claude و MAI را در مورد «احساسات» تست کنید تا شکاف فلسفی این دو شرکت را لمس کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو