تصور کنید مهندسی باشید که برای ساختن ایمنترین هوش مصنوعی جهان تلاش کرده، اما حالا میبیند کدهای او برای هدفگیری خودکار در میدان جنگ بهینه میشوند. یک پژوهشگر سابق در گوگل دیپمایند (Google DeepMind) ترجیح داد استعفا دهد تا شریک جنایاتی باشد که در نتیجهی یک قرارداد نظامی، تمام خطقرمزهای اخلاقی شرکت را پاک کرد. طبق گزارش ۲۷ آوریل ۲۰۲۶، گوگل قراردادی را امضا کرد که به وزارت دفاع آمریکا (DoD) اجازه میدهد از مدلهای Gemini برای «هرگونه هدف قانونی دولتی» استفاده کند. این عبارت مبهم، در عمل به معنای چراغ سبز برای جاسوسی گسترده و هدفگیری خودمختار توسط ماشینهاست.
این چرخش راهبردی در حالی رخ میدهد که صنعت هوش مصنوعی تحت فشار شدید برای همسویی با منافع امنیت ملی است. در واقع، آنچه بخش فناوری به عنوان «اصول اخلاقی هوش مصنوعی» (AI Principles) به نمایش میگذارد، در برابر اجبار دولتها و فشارهای سیاسی به سرعت فرو میپاشد. واقعیت امروز، یک کشمکش شدید و بیثبات میان تعهدات اخلاقی و فشار اجباری دولتهاست. همانطور که در تحلیل قبلی ما درباره تضادهای حاکم بر اکوسیستم در حال تکامل گوگل و چالشهای کنترل ابزارهای شخص ثالث اشاره کردیم، این اتفاق نشاندهنده یک شکست ساختاری عمیق در حکمرانی شرکتی هوش مصنوعی است.
کاتالیزور بحران: وزارت امنیت داخلی و «زنجیره تامین»
بحران داخلی در ژانویه ۲۰۲۶ و پس از مرگ الکس پرتی آغاز شد؛ شهروندی که توسط ماموران وزارت امنیت داخلی آمریکا (DHS) کشته شد. در هر دو مورد مربوط به این مرگها، ماموران فدرال اسلحههای خود را 향ه شهروندانی صلحطلب گرفتند و آنها را به ضرب گلوله کشتند.
تحقیقات بعدی فاش کرد که گوگل از طریق شرکتهای واسطهای مانند ITC Federal، سرویسهای ابری (Cloud) خود را به سازمان مهاجرت و گمرک (ICE) میفروشد. در «فهرست موارد کاربردی هوش مصنوعی سال ۲۰۲۵» متعلق به وزارت امنیت داخلی، صراحتاً از گوگل به عنوان ارائهدهنده هوش مصنوعی زاینده (Generative AI) نام برده شده است که هدفش «بهبود کارایی عملیاتی» وزارت امنیت داخلی است.
فراتر از تامین زیرساختها، ادعاهای جدیتری مطرح شد؛ گوگل متهم شد که با تحویل حساب کاربری یک دانشجوی معترض به سازمان ICE بدون هیچگونه اطلاعی، شرایط خدمات (Terms of Service) خود را نقض کرده است. این اقدام، پیمان گوگل مبنی بر ارسال ایمیل به کاربران پیش از افشای اطلاعات آنها به دولت را زیر پا گذاشت. علاوه بر این، در ۳ اکتبر ۲۰۲۵، گوگل این حلقه امنیتی را تنگتر کرد و اپلیکیشنهایی را که کاربران را از فعالیتهای سازمان ICE باخبر میکردند، از لیست خود حذف نمود.
سازماندهی استراتژیک و هزینههای داخلی
پژوهشگر مذکور ابتدا سعی کرد گوگل را متقاعد کند تا سرمایهگذاری در زنجیره تامین وزارت امنیت داخلی (DHS) را متوقف کند و از آن خارج شود. او با درک این نکته که فعالگریهای کلیشهای مانند جمعآوری امضا — که گوگل پیشتر آنها را نادیده گرفته بود — بیاثر خواهد بود، تصمیم گرفت بر «ماهیت متمرکز» و رأس-سنگین استعدادهای AI تمرکز کند. هدف او سازماندهی ۱۰۰ مهندس تصادفی نبود، بلکه تمرکز بر گروه کوچکی از ستارههای غیرقابل جایگزیری بود که خروجشان ریسک تجاری چنان بزرگی برای ساندر پیچای ایجاد کند که نتواند آن را نادیده بگیرد.
تمرکز اصلی این استراتژی روی جف دین، دانشمند ارشد گوگل بود. دین برای کارکنان مانند یک «قدیس» است؛ او سیامین کارمند گوگل و معمار افسانهای الگوریتمهای بنیادی شرکت است. خروج او میتوانست یک فاجعه برای پروژه Gemini باشد. پژوهشگر تناقضی عمیق را مشاهده کرد: دین مکرراً در توییتر درباره وحشتناک بودن اقدامات سازمان ICE مینوشت و از خاطرات آن فرانک نقلقول میکرد، اما در عین حال، گوگل همچنان در قراردادهای سازمان ICE غرق بود.
بنبست Anthropic و فشار پنتاگون
در فوریه ۲۰۲۶، پنتاگون فشار شدیدی بر شرکت Anthropic آورد تا «خطوط قرمز» خود را در مورد سامانههای سلاح خودمختار مرگبار و پروفایلسازی AI حذف کند. وزارت دفاع آمریکا ضربالاجلی را برای ساعت ۵ عصر روز جمعه صادر کرد: یا این محدودیتها حذف شوند یا شرکت به عنوان «ریسک زنجیره تامین» (supply chain risk) شناخته شود.
این برچسب، یک سلاح برای تخریب اقتصادی بود. اگر Anthropic به عنوان ریسک شناسایی میشد، تمام پیمانکاران نظامی دیگر مجبور میشدند استفاده از مدل Claude را متوقف کنند. دولت تقاضا کرد که هوش مصنوعی برای «تمام کاربردهای قانونی» در دسترس باشد. کارشناسان حقوقی هشدار دادند که طبق تفسیر پنتاگون از «قانونیت» — که شامل اقداماتی مانند حملات Double-tap (حمله مجدد) به بازماندگان کشتیهای غرق شده است — این قرارداد میتواند راه را برای جنایات جنگی و پروفایلسازی مخالفان هموار کند.
در همین راستا، یک کارمند دیپمایند تلاش کرد در کنفرانسی در پاریس که توسط انجمن بینالمللی هوش مصنوعی ایمن و اخلاقی (iaseai) برگزار میشد، جامعه AI را بسیج کند. این انجمن غیرانتفاعی در سال ۲۰۲۴ با هدف تبدیل شدن به «صدایی واحد» برای هوش مصنوعی ایمن و اخلاقی تاسیس شده بود.
با وجود حضور بزرگان برنده جایزه تورینگ مانند یوشوا بنجیو و برنده جایزه نوبل جفری هینتون، هیچ واکنش جمعی و هماهنگ عمومی شکل نگرفت. پژوهشگر مستقیماً به بنجیو مراجعه کرد، اما دفتر او بعدها از دادن هرگونه بیانیه خودداری کرد. هینتون نیز که در سال ۲۰۲۳ برای آزادی در بیان استعفا داده بود، بهصورت مجازی در جلسه شرکت میکرد.
در جریان کنفرانس، پژوهشگر سخنان استوارت راسل را قطع کرد — او چهرهای پیشرو در کمپین ممنوعیت سلاحهای خودمختار مرگبار و نویسنده کتاب مرجع AI است که در بیش از ۱۵۰۰ دانشگاه جهان تدریس میشود — تا از او بخواهد بیانیهای عمومی صادر کند. راسل موافقت کرد که یک رایگیری در iaseai ترتیب دهد و برای اتخاذ یک موضع فشار بیاورد. در بخش پرسش و پاسخ پایانی، راسل اقدامات وزارت دفاع را «یک رانت باجخواهی» نامید و اشاره کرد که اگرچه تصمیم با شرکتهایی چون گوگل است که موضع بگیرند یا خیر، اما حق رد استفاده از یک محصول برای اهداف خاص باید به طور قانونی محفوظ بماند.
«انجمن بینالمللی سکوت»
وعده برگزاری نظرسنجی به سرعت تبخیر شد. در حالی که تقریباً تمام حاضران با بالا بردن دست خود از حمایت از Anthropic حمایت کردند، رهبری iaseai در سکوت کامل نظرسنجی را لغو کرد. مارک نیتزبرگ، مدیر اجرایی موقت، دلایل متناقضی ارائه داد: آنها به زمان بیشتری برای پیشنویس بیانیه نیاز داشتند، مطمئن نبودند کدام اصل اخلاقی را ذکر کنند، یا احساس کردند چون خود Anthropic بیانیهای داده است، دیگر دخالت سازمان لازم نیست.
پاسخهای مارک نیتزبرگ به یک چرخه از گریز تبدیل شد. او نیاز به «بهبود فرآیندهای iaseai» را بهانه کرد و استدلال کرد چون Anthropic در نهایت بر موضع خود ایستاد، سازمان دیگر نیازی به مداخله ندارد. هیچ بیانیه رسمی از سوی iaseai صادر نشد، با وجود اینکه پژوهشگر ۷۵ دلار هزینه عضویت پرداخت کرده بود تا در آن نظرسنجی وعدهدادهشده شرکت کند.
مقاومت داخلی و «چارچوب»
در درون گوگل دیپمایند، مقاومتها قابل توجه اما پراکنده بود. پژوهشگر مذکور در کانال گفتگوهای مخصوص کارکنان دیپمایند استدلال کرد که عبارت «هرگونه استفاده قانونی» میتواند شامل کشتن ngưان بیگناه در سواحل ونزوئلا باشد. این پیام با بیش از ۱۲۵ واکنش تایید (✅) مواجه شد که به عنوان یک مکانیسم سازماندهی نامحسوس برای شناسایی کارکنان نگران عمل کرد.
سپس عریضهای با امضای بیش از ۲۵۰ پژوهشگر دیپمایند به جف دین، دانشمند ارشد گوگل ارسال شد تا از نفوذ خود برای متوقف کردن این معامله استفاده کند. کارکنان نوشتند: «لطفاً هر کاری که در توان دارید انجام دهید تا هر قراردادی که این خطوط قرمز اساسی را رد میکند، متوقف شود». هدف این بود که هزینه داخلی برای سندور پیچای به قدری بالا رود که سودهای احتمالی — مانند اجتناب از تلافی دولت ترامپ — دیگر جذاب نباشد.
برای ارائه جایگزینی واقعی به جای عبارت مبهم «هرگونه استفاده قانونی»، این پژوهشگر یک «چارچوب نظارتی» (Oversight Framework) ۲۵ صفحهای طراحی کرد. این پیشنهاد که مورد تحسین کارشناسان حقوق نظامی و نظارتی قرار گرفت، شامل دو استاندارد محدود و غیرقابل مذاکره بود:
- کنترل انسانی: عدم هدفگیری یا استفاده از قوه قهریه توسط AI بدون کنترل مستقیم و مناسب انسان در هر درگیری. این قانون چه زمانی که گوگل سیستم را مستقیماً ارائه دهد و چه زمانی که AI بخشی از یک خط لوله (pipeline) باشد، اجرا میشود. سیستمهای دفاعی ضد موشکی، تحلیلهای اطلاعاتی (مشمول استاندارد ۲)، لجستیک و تحقیق و توسعه صراحتاً از این محدودیت مستثنی بودند.
- ممنوعیت پروفایلسازی غیرهدفمند: ممنوعیت تبدیل دادههای انبوه به اطلاعات فردی درباره افرادی که سوژههای شناسایی شده و مشخص تحقیقات نیستند. تحلیلها باید متناسب با منافع امنیتی باشند و نمیتوانند صرفاً بر اساس ویژگیهای دموگرافیک یا ابراز عقاید سیاسی باشند. خروجیهای تولید شده توسط AI نمیتوانند تنها مبنای آغاز بررسیهای فردی باشند.
جزئیات مکانیسمهای چارچوب نظارتی
برای تضمین اینکه این چارچوب در برابر فشارهای شرکتی و دولتی دوام بیاورد، پژوهشگر protections (حفاظتها) خاصی را در آن گنجاند:
- ریشه اعتماد (Root of Trust): دانشمند ارشد به عنوان تنها مرجع اعتماد تعیین شد تا یک «هیئت بررسی» (Review Body) را برای مشاوره در مورد قراردادها تشکیل دهد.
- شفافیت به مثابه پاسخگویی: هرگونه نادیده گرفتن توصیههای هیئت بررسی، مستلزم افشا در گزارش شفافیت سالانه به اطلاع تمام کارکنان AI بود. همچنین انحلال این هیئت مستلزم اطلاعرسانی پیشاز-اجرا و افشای یافتههای مربوط به عدم رعایت استاندارها بود.
- بقابلیت عملیاتی: برای جلوگیری از اینکه پنتاگون یا بخش گوگل کلاد (Google Cloud) قرارداد را به بهانه «کاهش بهرهوری» مسدود کنند، پژوهشگر زمان تأخیرها را حداکثر به ۱۰ روز محدود کرد و مذاکرات را تحت پوشش «حق привиilegای وکیل-موکل» قرار داد.
- ضربهگیرهای مذاکراتی: پیشنهاد شامل مفاد «قربانی» بود — مانند قابلیت ارجاع موضوع به هیئت مدیره Alphabet از طریق رأی اکثریت مطلق — که میتوانست در مذاکرات حذف شوند بدون اینکه استانداردهای هستهای چارچوب به خطر بیفتد.
شکست رهبری
با وجود کیفیت فنی بالای این چارچوب، مدیریت دیپمایند بیتفاوت ماند. پیشنهاد به دمیس هاسابیس، مدیرعامل شرکت ارسال شد و او آن را به کارکنان بخش سیاستگذاری ارجاع داد. هفتهها پیامها بدون پاسخ ماندند، حتی وقتی پژوهشگر پیشنهاد داد برای پاسخ به سوالات از سانفرانسیسکو به لندن پرواز کند، اما پیامها فقط «خوانده شدند» (left on read). پژوهشگر به طور خاص کارکنان سیاستگذاری را یادآوری کرد که یادداشت ۹ ژانویه پنتاگون، به پیمانکاران AI مهلتی ۱۸۰ روزه (که ۸ جولای به پایان میرسید) داده بود تا قراردادهای «هرگونه استفاده قانونی» را بپذیرند.
تلاشها برای درگیر کردن جف دین نتایج متناقضی داشت. دین در سال ۲۰۱۸ متعهد شده بود که نه در سلاحهای خودمختار مرگبار شرکت کند و نه از آنها حمایت نماید. او همچنین علناً در توییتر نوشته بود که نظارت گسترده بر آمریکاییها «آخرین چیزی است که [او میخواهد]».
در ۹ مارس ۲۰۲۶، دین با امضای یک «لایحه دوست» (amicus brief) در حمایت از شکایت Anthropic علیه پنتاگون، گامی görünbar برداشت. این حرکت باعث ایجاد یک مانع موقت در مذاکرات گوگل شد، زیرا پنتاگون میترسید گوگل در آینده عقبنشینی کند؛ درست مانند تصمیم گوگل در سال ۲۰۱۸ که پس از اعتراضات کارکنان، یک قرارداد نظامی را رها کرد.
با این حال، دین در نهایت تهدید به ترک شرکت را نکرد. پس از ناهاری در ۱۷ مارس، پژوهشگر متوجه شد که اگرچه دین به عنوان یک «قدیس» و مردی بااصالت شناخته میشد، اما او نه از هیئت بررسی حمایت کرد و نه در برابر سندور پیچای ایستادگی کرد. این نوع برخورد با کارکنان متخصص و مخالف، یادآور رویکرد سختگیرانه گوگل در پروندههای دیگر است؛ برای مثال، اخراج مهندس گوگل به دلیل توسعه یک ابزار متنباز نشان داد که این شرکت چگونه با هرگونه اقدامی که خارج از کنترل مطلق مدیریت باشد، برخورد میکند.
تسلیم نهایی
در ۲۷ آوریل ۲۰۲۶، گوگل در سکوت قرارداد را امضا کرد. این توافق به پنتاگون اجازه میدهد از AI گوگل برای «هرگونه هدف قانونی دولتی» استفاده کند و گوگل را ملزم میکند که در صورت درخواست دولت، تنظیمات ایمنی و فیلترها را تغییر دهد.
این قرارداد تنها به صورت صوری به اخلاقیات پرداخت. در حالی که شامل عبارات آرمانی است که میگوید AI «نباید برای» نظارت گسترده داخلی یا سلاحهای خودمختار استفاده شود، اما صراحتاً اعلام میکند که گوگل هیچ حق کنترل یا وتویی بر تصمیمات عملیاتی قانونی دولت ندارد. زبانِ «نباید» (should not) در اینجا هیچ الزام قانونی ندارد.
در یک تناقض عجیب، گوگل در ۱۱ فوریه به طور ناگهانی از یک رقابت ۱۰۰ میلیون دلاری پنتاگون برای «سربازان پهپادی صوتی» به دلیل بررسیهای اخلاقی داخلی خارج شد، در حالی که همزمان در حال آمادهسازی برای امضای قرارداد کلی «استفاده قانونی» بود.
پارادوکس اصول AI
در مصاحبههای بعدی، دمیس هاسابیس ادعا کرد که اصول AI گوگل «تغییر نکرده است». او استدلال کرد که شرکت باید با «دموکراسیهای غربی» همکاری کند تا چین را شکست دهد و تضمین کند ارزشهای دموکراتیک پیروز میشوند.
با این حال، اسناد نشان میدهد که در ۴ فوریه ۲۰۲۵، هاسابیس در تدوین بهروزرسانیهایی همکاری کرد که ممنوعیتهای صریح مربوط به سلاح و نظارت را از اصول AI گوگل حذف کرد. این اقدام در واقع یک «خط اخلاقی ثابت» را با یک «تحلیل سود و زیان» جایگزین کرد که در آن، منافع باید «به طور قابل توجهی بیشتر از» آسیبها باشند.
همانطور که پژوهشگر اشاره میکند، «اصلی» که اجازه تصمیمگیری مورد-به-مورد (case-by-case) میدهد، دیگر اصل نیست، بلکه یک محاسبه تجاری است. نتیجه این است که تکنولوژیای که جهان را تغییر میدهد، به جای حکمرانی الزامآور و Trustless (بدون نیاز به اعتماد شخصی)، بر پایه اعتماد به افراد بنا شده است.
این چرخش نشان میدهد که جنبش «ایمنی AI» در آزمایشگاههای بزرگ، در مواجهه با تهدید وجودی مانند قوانین ضد انحصار دولت یا برچسبهای زنجیره تامین، تا حد زیادی نمایشی (performative) است. اثر ثانویه این روند، یک «فرار مغزی» گسترده از پژوهشگران اخلاقگراست که میبینند پیمانهای داخلیشان هیچ ارزشی ندارد.
کاربران و توسعهدهندگان باید افشای قراردادهای بعدی وزارت دفاع را رصد کنند تا ببینند آیا آزمایشگاههای پیشرو دیگر، «خطوط قرمز» الزامآور و بازرسیشده توسط شخص ثالث را پیاده میکنند یا مسیر گوگل را در پیش گرفته و به زبان آرمانی و غیرالزامآور روی میآورند.
گام بعدی شما
- دنبال کنید آیا آزمایشگاههای دیگر مثل OpenAI یا Meta نیز بندهای «استفاده قانونی» را در قراردادهای نظامی جایگزین خطوط قرمز اخلاقی میکنند یا خیر.
- گزارشهای شفافیت سالانه شرکتهای AI را برای یافتن موارد «نقض توصیههای بازرسی» رصد کنید.
- ابزارهای متنباز را دنبال کنید که سعی میکنند استانداردهای نظارتی انسانی را در لایههای کد پیاده کنند تا جایگزینی برای کنترلهای شرکتی باشند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell و نقش آنها در شتابدهی به پردازشهای نظامی مراجعه کنید.
گفتگو