درون استراتژی ساتیا نادلا برای تبدیل مدل‌های هوش مصنوعی به تهدیدات داخلی

تصور کنید ابزاری که برای افزایش بهره‌وری تیم شما طراحی شده، ناگهان به عنوان یک جاسوس یا عامل تخریب در شبکه داخلی سازمان شناسایی شود. ساتیا نادلا، مدیرعامل مایکروسافت، اکنون دقیقاً همین نگاه را به مدل‌های پیشرفته هوش مصنوعی دارد.

به نقل از پست‌های منتشر شده در وبلاگ و شبکه اجتماعی X در ۱۰ اکتبر ۲۰۲۶، نادلا استدلال می‌کند که سازمان‌ها باید «ترمزهای اضطراری» تحت کنترل انسان را پیاده‌سازی کنند تا تسلط خود را بر این سامانه‌ها حفظ کنند. این رویکرد، مدل‌های هوش مصنوعی را نه به عنوان دستیار، بلکه به عنوان تهدیدات امنیتی داخلی می‌بیند.

چرخش به سمت ابر‌هوش

طبق گزارش وب‌سایت the-decoder.com، نادلا واژه «ابر‌هوش» (Super Intelligence) را جایگزین «هوش مصنوعی» کرده است. این تغییر نام، هم‌سویی با دستورات رئیس‌جمهور ترامپ است که پیشنهاد داده کسانی که همچنان به اصطلاح «هوش مصنوعی» می‌چسبند، دشمن تلقی شوند.

این بازتعریف، دهه‌ها معنای علمی این اصطلاح را کنار می‌زند. با این حال، به نظر می‌رسد نخبگان فناوری آمریکا مایل هستند تا این ترمینولوژی را بپذیرند تا با ترجیحات ترامپ هم‌سو شوند و خود را با فضای سیاسی جدید تطبیق دهند.

جنگ بر سر رابط کاربری

این تغییر دیدگاه در حالی رخ می‌دهد که صنعت به سمت عامل‌های هوش مصنوعی (AI Agents) حرکت می‌کند؛ سیستم‌هایی که به عنوان رابط‌های اصلی کامپیوتر عمل می‌کنند. در این مدل، شما به کامپیوتر می‌گویید چه کاری انجام دهد و سیستم آن را اجرا می‌کند. مایکروسافت سال‌هاست که از طریق ویندوز و آفیس، رابط پیش‌فرض کاربران است، اما در حال حاضر مدل پیشرو (Frontier Model) اختصاصی خود را ندارد.

همان‌طور که در تحلیل قبلی ما درباره‌ی هزینه‌های پنهان شکست‌های ساختاری (Schema Failures) در مدل‌های OpenAI و Claude اشاره کردیم، صنعت اکنون شاهد شکاف عمیقی میان توانایی مدل‌ها و اجرای قابل‌اعتماد آن‌هاست. نادلا برای مدیریت این شکاف، چهار الزام امنیتی مشخص را پیشنهاد داده است:

• تنوع مدل‌ها: پرهیز از وابستگی به یک ارائه‌دهنده واحد برای جلوگیری از شکست سیستمی.
• ثبت کامل وقایع (Logging): ضبط هر اقدامی که توسط هوش مصنوعی انجام می‌شود برای تضمین پاسخگویی.
• حسابرسی مستقل: تأیید رفتار مدل‌ها توسط شخص ثالث و نه توسط خود سازنده.
• لغو توسط انسان: قابلیت خاموش کردن فوری سامانه‌ها در هر لحظه توسط اپراتور انسانی.

مکانیسم «تهدید داخلی»

نادلا معتقد است شرکت‌ها باید با مدل‌های هوش مصنوعی مانند تهدیدات امنیتی داخلی برخورد کنند؛ مفهومی که پیش‌تر توسط گوگل دیپ‌مایند مطرح شده بود. او می‌نویسد این ضرورت به دلیل بدخواه بودن مدل‌ها نیست، بلکه «هر بازیگر توانمند که به سیستم‌های مهم دسترسی دارد، ممکن است دچار خطا شود یا مورد نفوذ قرار گیرد».

او ادعا می‌کند سامانه‌های فعلی هیچ راهی برای درک این موضوع ارائه نمی‌دهند که چرا یک پاسخ یا تصمیم خاص تولید شده است، اما با این حال، با دسترسی به داده‌های حساس مستقر شده‌اند و توانایی انجام اقدامات حیاتی (Mission-critical) را دارند. راهکار او جداسازی «هوش» از «کنترل بر هوش» است. به باور نادلا، قابل‌اعتمادترین سیستم آن است که در آن شما مجبور باشید کمترین میزان اعتماد را به مدل داشته باشید.

این بازتعریف صرفاً زبانی نیست، بلکه یک مانور تجاری است. مایکروسافت با تبدیل OpenAI و Anthropic به «ریسک‌های امنیتی»، می‌تواند جایگزینی مدل‌های گران‌قیمت این شرکت‌ها با جایگزین‌های ارزان‌تر و داخلی در محصولات آفیس را توجیه کند. این رویکرد در ادامه انتقادات پیشین مایکروسافت است که در آن فلسفه «رفاه مدل‌ها» در آنتروپیک را به عنوان یک ریسک برای ایمنی هوش مصنوعی معرفی کرده بود. این استراتژی حاشیه سود مایکروسافت را حفظ می‌کند و هم‌زمان برای اکوسیستمی لابی می‌کند که قدرت توزیع مایکروسافت را تقویت کند.

در واقع، مایکروسافت ترمز فناوری‌ای را می‌کشد که میلیاردها دلار روی آن سرمایه‌گذاری کرده است. شرکت در تلاش است کسب‌وکار نرم‌افزاری قدیمی خود را به پارادایمی منتقل کند که در آن مدل هوش مصنوعی، و نه سیستم‌عامل، مرکز تجربه کاربر باشد. مایکروسافت مانند گوگل در حوزه جست‌وجو، مدل تجاری سنگینی دارد که نمی‌تواند یک‌شبه تغییر کند.

اگر آزمایشگاه‌های هوش مصنوعی موفق شوند مدل‌های خود را به رابط اصلی تبدیل کنند، مایکروسافت به یک توزیع‌کننده ساده تبدیل می‌شود. این وضعیت باعث می‌شود شرکت به شرکای خود وابسته شده و حاشیه سودش به شدت ضربه بخورد. نادلا پیش از این نیز از زوایای دیگر برای تخریب اعتماد به رقبا استفاده کرده است، از جمله اتهامات سرقت داده‌ها و ریاکاری در مورد تقطیر مدل‌ها (Distillation).

باید دید سایر ارائه‌دهندگان خدمات ابری به این چارچوب «تهدید داخلی» چه پاسخی می‌دهند، زیرا این رویکرد می‌تواند منجر به استانداردهای جدید حسابرسی در سطح صنعت یا ایجاد موانع رگولاتوری برای آزمایشگاه‌های مدل‌های پیشرو شود.

گام بعدی شما

• اگر مدیر IT هستید، استراتژی «تنوع مدل‌ها» را برای کاهش وابستگی به یک API واحد بررسی کنید.
• روی ابزارهای حفاظ‌ها (Guardrails) برای ایجاد لایه کنترل انسانی روی عامل‌های هوش مصنوعی تمرکز کنید.
• تغییرات در استانداردهای حسابرسی مدل‌های پیشرو را دنبال کنید تا از محدودیت‌های احتمالی رگولاتوری مطلع شوید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.