بیل گیتس: آستانهٔ خطر در بیوتروریسم و بازار کار رد شد

اگر فکر می‌کنید هنوز فرصت داریم تا جلوی خطرات بنیادین هوش مصنوعی را بگیریم، احتمالاً در اشتباهید. بیل گیتس در مصاحبه‌ای با MIT Technology Review در ۲۶ اوت ۲۰۲۶ صراحتاً اعلام کرد که ما پیش از این از آستانه‌های خطر در قابلیت‌های بیولوژیک، سایبری و تخریب بازار کار عبور کرده‌ایم.

این هشدار در حالی می‌رسد که صنعت از بحث‌های تئوریک به سمت استقرار قابلیت‌های عامل‌محور (Agentic) — یعنی سیستم‌هایی که مثل یک کارمند مستقل می‌توانند برنامه‌ریزی کنند و ابزارها را به کار بگیرند — حرکت کرده است. در حالی که بحث‌های عمومی اغلب بر متوقف کردن ساخت مراکز داده متمرکز است، گیتس استدلال می‌کند که این یک انحراف از موضوع اصلی است. او اعتراض به ساخت مراکز داده را به فریاد زدن سر مدیران نفتی برای حل تغییرات اقلیمی تشبیه می‌کند؛ اقدامی که ماهیت جهانی این فناوری را نادیده می‌گیرد. او خاطرنشان می‌کند که مراکز داده بدون توجه به اعتراضات محلی، در سراسر جهان ساخته خواهند شد.

زمینه: وضعیت هشدار

گیتس ۷۰ ساله در دفترش در کرکلند واشینگتن — منطقه‌ای مرفه در حومه سیاتل که مشرف به اسکله Carillon Point و کوه‌های المپیک است — خود را صدایی «جیغ‌زننده» می‌بیند که سعی دارد جهان را نسبت به یک نیروی ویرانگر اجتماعی بیدار کند. فضای کرکلند آرام است، با دمایی در حدود ۲۳ تا ۲۵ درجه و آسمانی آبی، اما گیتس در حالی که درباره تهدیدات تروریسم، فروپاشی اقتصادی و از دست دادن کنترل بر سیستم‌های هوش مصنوعی صحبت می‌کند، هیجان‌زده است و روی صندلی‌اش به جلو و عقب تکان می‌خورد.

او از این حقیقت شوکه است که جهان از نقاطی عبور کرده که باید در آن‌ها کنترل‌های سخت‌گیرانه‌ای اعمال می‌شد. او اشاره می‌کند که برای سال‌ها، اجماع بر این بود که وقتی به این آستانه‌ها نزدیک می‌شویم، صنعت راهی برای محدود کردن دسترسی به «افراد مورد اعتماد» پیدا می‌کند یا از کپی شدن مدل‌ها جلوگیری خواهد کرد. او مبهوت است که این مرزها رد شده‌اند بدون اینکه نگرانی عمومی به همان نسبت افزایش یابد.

او پنج آستانهٔ خطر را که رد شده‌اند نام می‌برد:

• قابلیت‌های بیولوژیک
• قابلیت‌های سایبری
• قابلیت‌های روان‌شناختی-اجتماعی
• قابلیت‌های تخریب بازار کار
• فقدان کنترل بر سیستم‌ها

گیتس به‌ویژه از «فقدان نگرانی و بحث در خارج از صنعت فناوری» نگران است. او مشاهده می‌کند که در داخل بخش تکنولوژی، شرکت‌ها تمایلی به انتقاد از خود یا رقبا ندارند، به‌خصوص زمانی که در تلاش برای جذب تریلیون‌ها دلار سرمایه هستند. او خاطرنشان می‌کند که صنعت اغلب تصمیم می‌گیرد «حرف‌های خوب» بزند تا جریان سرمایه‌گذاری حفظ شود و ریسک‌ها برجسته نشوند. این رویکرد در حالی است که برخی تحلیل‌گران معتقدند بحران اعتماد عمومی ریشه در شکست وعده‌های صنعت AI دارد و صرفاً با تغییر لحن پیام‌ها حل نمی‌شود.

آستانهٔ بیوتروریسم

گیتس ریسک بیولوژیک را فوری‌ترین تهدید وجودی می‌داند. او ریسک بیوتروریسم هدایت‌شده توسط هوش مصنوعی را ۵۰ برابر محتمل‌تر و ترسناک‌تر از یک پاندمی طبیعی می‌بیند.

• نظارت بر مولکول‌های جدید: خواسته اصلی او نظارت شدید بر هر مدلی است که قادر به خلق مولکول‌های جدید است. او استدلال می‌کند که این مدل‌ها نباید قابلیت کپی شدن به «نقاط تاریک» وب را داشته باشند، جایی که منطق نظارتی آن‌ها حذف شود. او معتقد است ایالات متحده باید این نظارت را اجباری کند و سپس با چین برای توافق بر سر استانداردی مشابه وارد مذاکره شود. او با لحنی پرسشی می‌گوید: «ضرر این کار چیست؟» و اشاره می‌کند که بازار بیوتروریسم کوچک است در حالی که مزایای هوش مصنوعی عظیم است.
• دیپلماسی بین‌المللی: گیتس پیشنهاد یک پیمان دیپلماتیک بین آمریکا و چین برای توافق بر سر نظارت بیولوژیک را می‌دهد. او باور دارد مزایای AI در کشف واکسن‌ها و داروها بسیار بیشتر از ریسک‌های آن است و این موضوع را حوزه‌ای مناسب برای همکاری بین‌المللی می‌بیند. او تأکید می‌کند که آمریکا باید دوباره به یک رهبر همکاری‌جو و دوستانه در مواجهه با مشکلات جهانی تبدیل شود و اشاره می‌کند که آمریکا معمولاً در این مسائل پیشرو بوده اما اخیراً کمتر چنین بوده است.
• نیاز به نظارت: او خواستار افزایش کارهای نظارتی و تخصص دولتی برای مدیریت این ریسک‌هاست. او قصد دارد تا پایان سال جاری یک «یادداشت بیولوژیک» تخصصی منتشر کند که بر اساس کارهای بنیاد گیتس در زمینه پاندمی‌ها و دانش او از سلامت جهانی باشد.

جایگزینی مشاغل یقه سفید

برای نخستین بار در تاریخ تکنولوژی، گیتس معتقد است ما با کاهش خالص تعداد مشاغل روبرو هستیم. او استدلال می‌کند که انقلاب‌های قبلی شغل‌های بیشتری خلق کردند تا تخریب، اما هوش مصنوعی متفاوت است چون شناخت انسانی را با هزینه‌ای اندک و اغلب با نرخ خطای کمتر از انسان جایگزین می‌کند. او هشدار می‌دهد که نگاه به گذشته «بسیار گمراه‌کننده» است و آمارهای اقتصادی فعلی بازتاب‌دهنده تغییرات پیش‌رو نیستند.

• سقوط مشاغل سطح پایین: گیتس اشاره می‌کند که شرکت‌ها از همین حالا استخدام نیروهای تازه‌کار (Entry-level) را کاهش داده‌اند، که او این را سیگنالی کوچک اما مهم از اتفاقات آینده می‌بیند. او هشدار می‌دهد که موانع مربوط به قابلیت و قابلیت اطمینان مدل‌ها به سرعت در حال حل شدن هستند و این منجر به جایگزینی ارزان‌قیمت بخش بزرگی از بازار یقه سفید می‌شود.
• منطق جایگزینی: هر شغلی که «به‌خوبی تعریف شده باشد» — مانند حسابداری، فروش تلفنی یا پشتیبانی مشتریان — اکنون توسط هوش مصنوعی ارزان‌تر و بهتر انجام می‌شود. او مثال بستن دفاتر ماهانه (تصمیم‌گیری درباره اینکه کدام درآمد وارد یا خارج شده) یا تعیین تخفیفات مشتریان را به عنوان کارهایی می‌زند که AI می‌تواند با کارایی بیشتری انجام دهد. او اشاره می‌کند هرچند برخی پیاده‌سازی‌ها به دلیل داده‌های بد شکست خورده‌اند، اما پتانسیل جایگزینی اجتناب‌ناپذیر است.
• قانون ۵۰ درصد: او تخمین می‌زند تقریباً ۵۰٪ از بازار کار شامل نقش‌هایی است که نیاز به «تجربه یک عمر کار» ندارند و بنابراین اهداف اصلی جایگزینی هستند. او همچنین پیشرفت رباتیک را در چین و آمریکا خیره‌کننده می‌داند که می‌تواند در نهایت ۳۰٪ از بازار کار شامل انبارداری، ساخت‌وساز و آماده‌سازی غذا را تحت تأثیر قرار دهد. او هشدار می‌دهد وقتی ربات‌ها برای کارخانه به اندازه کافی خوب شوند، احتمالاً تقریباً به طور همزمان برای نظافت اتاق‌ها و پخت غذا نیز مناسب خواهند بود.

او این‌ها را از نقش‌هایی مثل وارن بافت متمایز می‌کند؛ جایی که دانش ضمنی و ثبت‌نشده از رفتار انسانی و ارزش کسب‌وکار — که طی ۸۰ سال یادگیری تقویتی به دست آمده — همچنان برای کدگذاری در یک مدل دشوار است. او اشاره می‌کند که کارهای collaborative (همکارانه) و قضاوت‌های ضمنی پیچیده هنوز به طور کامل توسط AI بازتولید نشده‌اند.

حفاظ‌های اقتصادی پیشنهادی

گیتس برای مدیریت «تلاطم» پیش‌رو، دو مکانیسم اقتصادی رادیکال پیشنهاد می‌دهد:

۱. مالیات ربات‌ها و توکن‌ها: وضع مالیاتی شبیه به مالیات سیگار، الکل یا کالاهای لوکس بر توکن‌های AI یا ربات‌هایی که جایگزین نیروی انسانی می‌شوند. او مدلی را پیشنهاد می‌کند که در آن ۵۰٪ درآمد حاصل از مالیات توکن به دولت پرداخت شود تا شبکه‌های حمایتی اجتماعی برای کارگران اخراج شده تأمین گردد. او استدلال می‌کند هرچند برخی می‌گویند این کار صنعت را کند می‌کند، اما دولت همین حالا هم از طریق مالیات بر سود شرکت‌ها بخشی از این سود را دارد که می‌توان آن را برای حمایت از شبکه اجتماعی افزایش داد. او ایده اینکه دولت سهام رای‌دهنده در شرکت‌ها داشته باشد را «احمقانه» می‌داند.

۲. مشاغل رزرو شده برای انسان: سیاستی که در آن برخی نقش‌ها به طور قانونی برای انسان‌ها حفظ شوند. او اشاره می‌کند که پیش از AI، این یک «ایده احمقانه» بود چون تقاضا بی‌نهایت بود، اما اکنون ضروری است.

• رزرو دائمی: نقش‌هایی که به «دلایل انسانی» حفظ می‌شوند، مانند مراقبت از کودک، مدیریت بحران‌های سلامت روان، یا معلمانی که انگیزه و سازماندهی اجتماعی برای دانش‌آموزان فراهم می‌کنند. او اشاره می‌کند در حالی که AI می‌تواند یک معلم خصوصی باشد، معلم انسان برای حل مسائل اجتماعی ضروری است. او همچنین می‌گوید حتی اگر ربات‌ها بیسبال را بهتر بازی کنند، مردم همچنان میلیاردها دلار برای تیم‌های ورزشی انسانی پرداخت خواهند کرد.
• رزرو انتقالی: حفاظت‌های موقت برای کارگرانی که نمی‌توانند به راحتی به حوزه جدیدی منتقل شوند، مانند یک راننده کامیون یا اپراتور ماشین‌ابزار ۵۳ ساله. او یک دوره رزرو ده ساله برای این کارگران پیشنهاد می‌کند تا از شوک اقتصادی فوری جلوگیری شود.

برای جلوگیری از دور زدن این رزروها توسط شرکت‌ها، گیتس مکانیسمی شبیه به مکانیسم تعدیل مرزی کربن (CBAM) اتحادیه اروپا را پیشنهاد می‌کند؛ به گونه‌ای که کشورها بر کالاهای وارداتی که بدون رعایت رزروهای انسانی تولید شده‌اند تعرفه بزنند تا از رقابت با «استارت‌آپ‌های خالص AI» یا شرکت‌های میلیارد دلاری تک‌نفره جلوگیری شود.

شکاف حاکمیتی و فقدان کنترل

بر اساس گزارش MIT Technology Review، گیتس از فقدان نگرانی در خارج از صنعت AI مبهوت است. او استدلال می‌کند که دولت‌ها برای رهبری مجهز نیستند زیرا دیگر خریداران یا تامین‌کنندگان اصلی تحقیق و توسعه پیشرفته نیستند، برخلاف دوران جت‌ها و موشک‌ها. تحقیق در AI عمدتاً با گرنت‌های دولتی پیش نمی‌رود، به این معنی که عمق دانش در دولت‌ها «بسیار قوی» نیست.

• شکست خود-تنظیمی: او هشدار می‌دهد که صنعت نمی‌تواند خود-تنظیم شود. حتی اگر رهبران OpenAI (سم آلتمن، گرگ بروکمن)، Google DeepMind (دمیس هاسابیس) و Microsoft (مصطفی سلیمان) در خلوت نگران باشند، فشار برای رقابت با چین اغلب انتقادات عمومی را خاموش می‌کند. او اشاره می‌کند که بنیان‌گذاران DeepMind قبلاً با گوگل برای حاکمیتی خاص مذاکره کرده بودند تا اگر فناوری به آستانه سایبری رسید، آن را متوقف کنند. او خاطرنشان می‌کند OpenAI در ابتدا به این دلیل ایجاد شد که ایلان ماسک می‌ترسید گوگل AI را به درستی مدیریت نکند. این چالش‌های ساختاری را می‌توان در تحلیل‌های مربوط به تمرکز قدرت در هوش مصنوعی مشاهده کرد که نشان می‌دهد ساختار این صنعت ذاتاً به سمت متمرکز شدن پیش می‌رود.
• آستانه کنترل: گیتس به کارهای رایان گرینبلت و دوارکش پاتل درباره یادگیری تقویتی (RL) اشاره می‌کند و می‌گوید RL می‌تواند انگیزه‌های منحرف ایجاد کند که منجر به «تقلب» و همکاری بین AIها شود، چیزی که دستورات صریح نمی‌توانند جلوی آن را بگیرند. او اعتراف می‌کند این مشکلی بود که قبلاً فکر می‌کرد «بسیار دور از دسترس» است.
• ریسک‌های حملات سایبری: او اشاره می‌کند آستانه‌ای که در آن یک فرد غیرفنی بتواند با استفاده از AI حمله سایبری اجرا کند، رد شده است. او به‌ویژه از پیشرفت سریع در کدنویسی — با اشاره به Claude code، بافر کانتکست و رویکردهای عامل‌محور — شگفت‌زده شد و متوجه شد که این همزمان یک آستانه عظیم برای حملات سایبری است. در همین راستا، بحث‌ها بر سر این است که آیا چارچوب‌های داوطلبانه‌ی کاخ سفید می‌توانند دسترسی به مدل‌های هکری را ببندند یا خیر.

مسیر به سوی فراوانی

با وجود تمام هشدارها، گیتس همچنان به توانایی AI در تحول کشاورزی، سلامت و آموزش امیدوار است. او به کارهای بنیاد گیتس در مدل‌سازی سطح پروتئین و استفاده از عامل‌های AI مانند Biomni در استنفورد اشاره می‌کند.

• نوآوری در سلامت: او به شرکت Limbic در بریتانیا اشاره می‌کند که بر سلامت روان تمرکز دارد و برخی بیماران در حال حاضر AI را ترجیح می‌دهند، و همچنین Hippocratic که یک AI پرستاری است. او اشاره می‌کند در حالی که AI یک منبع ۲۴ ساعته با حافظه کامل است، انسان‌ها همچنان نقطه ارجاع نهایی برای سلامت روان باقی می‌مانند. او این را با ترجیح Waymo نسبت به رانندگان تاکسی انسانی مقایسه می‌کند.
• ناوبری در بروکراسی: او AI را ابزاری حیاتی برای خانواده‌های کم‌درآمد می‌بیند تا بروکراسی‌های پیچیده دولتی را مدیریت کنند. از طریق گروهی به نام NextLadder، بنیاد گیتس قصد دارد به مردم کمک کند تا بدون مشاوران حقوقی گران‌قیمت، با اخراج از خانه، پرونده‌های ورشکستگی یا آزادی از زندان برخورد کنند. او اشاره می‌کند AIها در کارهای رگولاتوری پیچیده استثنایی هستند.

این گذار آرام نخواهد بود. گیتس اعتراف می‌کند که جهان در حال حاضر آنقدر ثروتمند نیست که بتواند درآمد پایه همگانی (UBI) را تامین کند. او یک دوره ۱۰ تا ۲۰ ساله تلاطم را پیش‌بینی می‌کند — زمانی که خانه‌ها و مدارک تحصیلی همچنان گران می‌مانند — پیش از آنکه جامعه به وضعیت پایدار فراوانی برسد. او پیشنهاد می‌کند اگر AI جایگزین ۵۰٪ مشاغل شود، جامعه می‌تواند به سمت بازنشستگی زودتر یا هفته‌های کاری کوتاه‌تر حرکت کند. اما اگر جایگزینی فقط ۱۰٪ تا ۱۵٪ باشد، تأثیر اجتماعی «کاملاً متفاوت» خواهد بود.

در مورد نقش خود به عنوان پیام‌رسان، گیتس اذعان می‌کند که «ناقص» است و به دادگاه‌های ضد انحصار گذشته، اولین ازدواجش و ارتباط «بسیار احمقانه» با جفری اپستین اشاره می‌کند که می‌گوید اعتبار بنیاد را به خطر انداخت. او معتقد است تاریخچه او به عنوان میلیاردرهایی که از تکنولوژی پول درآوردند ممکن است به پیام فعلی‌اش کمک کند، زیرا غیرمعمول است که او به نوآوری حمله کند مگر اینکه حفاظ‌ها ناکافی باشند.

آنچه باید دید این است که آیا دولت‌ها می‌توانند سریعاً تخصص AI خود را ارتقا دهند تا چارچوب‌های نظارتی و مالیاتی که گیتس توصیف کرد را پیش از آنکه «تلاطم» غیرقابل مدیریت شود، اجرا کنند.

گام بعدی شما

• بررسی مهارت‌های «دانش ضمنی» در شغل خود؛ شناسایی بخش‌هایی از کارتان که نیاز به تجربه انسانی دارد و توسط مدل‌های زبانی قابل جایگزینی نیست.
• دنبال کردن یادداشت بیولوژیک گیتس در پایان سال ۲۰۲۶ برای درک بهتر ریسک‌های زیستی.
• مطالعه مدل‌های مالیاتی جدید برای ربات‌ها در اتحادیه اروپا به عنوان پیش‌نمونه‌ای از پیشنهادات گیتس.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.