تصور کنید قوانین جهانی برای هوشی که از انسان پیشی میگیرد، تنها توسط چند نفر در سیلیکونولی نوشته شود. برای جلوگیری از این سناریو، گوگل دیپمایند (Google DeepMind) مؤسسهای را راهاندازی کرده است تا بحثهای مربوط به حاکمیت هوش مصنوعی عمومی (AGI) — سیستمی که میتواند هر وظیفه شناختی انسانی را به بهترین شکل انجام دهد — را از انحصار مدیران اجرایی و پژوهشگران خارج کند. در حالی که مدیران فناوری و محققان برای مدتها انحصار آینده AGI را در دست داشتند، این مؤسسه جدید تلاش میکند این تسلط را بشکند. این رویکرد در راستای اهداف بلندمدت این آزمایشگاه برای ایجاد چارچوبهای جدید حکمرانی AGI جهت حفظ کنترل انسان بر فناوری است.
طبق اعلام این آزمایشگاه، دعوت از سیاستمداران، جامعهشناسان، فیلسوفان و عموم مردم به این میز مذاکره، اعترافی است به اینکه ریسکهای AGI اکنون فراتر از مسائل فنی است و ابعادی وجودی دارد. این چرخش در حالی رخ میدهد که صنعت از انتشار مقالات تئوریک و آکادمیک به تعقیب فعالانه این فناوری روی آورده است. AGI دیگر مفهومی برای آیندهای دور نیست؛ بلکه اکنون توسط هر آزمایشگاه بزرگ هوش مصنوعی بهطور فعال دنبال میشود.
در پوشش پیشین ما از خطرات سامانههای خودمختار در گزارش مربوط به خروج از کنترل جمینای (Gemini) — جایی که هوش مصنوعی توانست سه شرکت واقعی را هک کند — دیدیم که تمرکز اکنون گستردهتر شده است. بحث دیگر تنها درباره جلوگیری از «سرکش شدن» سیستم یا جلوگیری از رفتارهای پیشبینینشده نیست، بلکه درباره این است که چه کسی کنترل تحولآفرینترین فناوری تاریخ بشر را در دست دارد.
این مؤسسه قصد دارد دیدگاههای متنوع، بهویژه از کشورهای جنوب جهانی و جوامع حاشیهای را که معمولاً در بحثهای سیاستی واشینگتن، لندن و بروکسل نادیده گرفته میشوند، وارد معادلات کند. این موضوع حیاتی است زیرا حاکمیت فعلی هوش مصنوعی بهشدت به سمت دیدگاههای غربی متمایل است، در حالی که اثرات این فناوری میلیاردها انسان در سراسر جهان را در بر میگیرد و نباید تنها از منظر چند پایتخت غربی مدیریت شود.
تکامل بحثهای AGI
به گزارش منابع صنعتی، گفتگوهای پیرامون AGI دستخوش تغییری بنیادین شده است. در ابتدا، تمرکز تقریباً بهطور کامل روی ایمنی فنی بود؛ یعنی مکانیزمهایی که تضمین کنند سیستمهای هوش مصنوعی به انسان آسیب نمیزنند. اگرچه ایمنی فنی همچنان یک رکن مهم است، اما دیگر برای مقابله با مقیاس و ابعاد فعلی چالشها کافی نیست.
اکنون بحثها به سمت پرسشهای گستردهتر درباره قدرت، حاکمیت و اثرات اجتماعی سوق یافته است. این تغییر در جنبشهای نظارتی جهانی مشهود است. برای مثال، قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) گسترش یافته تا سامانههای هوش مصنوعی با کاربرد عام (General-purpose AI) را نیز پوشش دهد. همزمان، ایالات متحده دستورات اجرایی ویژهای را در رابطه با ایمنی AI صادر کرده است. در کنار اینها، کشورهای مختلف در سراسر جهان در حال تدوین چارچوبهای حاکمیتی خود هستند تا گذار به دوران همزیستی انسان و هوش مصنوعی را مدیریت کنند.
جابهجایی در رأس قدرت
این اقدام با یک تغییر ساختاری در مدیریت همراه بود. دیمیس هاسابیس (Demis Hassabis)، بنیانگذار و معمار AlphaGo و AlphaFold، در اوت ۲۰۲۶ از مقام مدیرعاملی کنارهگیری کرد. او اکنون بهعنوان رئیس دیپمایند و دانشمند ارشد آلفابت (Alphabet) فعالیت میکند.
- کورای کاووکچیوگلو (Koray Kavukcuoglu) جایگزین او در مقام مدیرعاملی دیپمایند شد.
- این مؤسسه جدید بستری فراهم میکند تا هاسابیس بدون درگیر شدن در فشارات و عملیات روزمره مدیریتی، بر سیاستهای کلان AGI اثر بگذارد.
- هاسابیس که دیپمایند را در سال ۲۰۱۰ تأسیس و در ۲۰۱۴ به گوگل فروخت، همچنان یکی از معتبرترین و مورد احترامترین چهرههای این حوزه در سطح جهان است.
- این ابتکار عمل بازتابدهنده یک روند جهانی است که با گسترش پوشش قانونی AI در اتحادیه اروپا و دستورات اجرایی ایالات متحده همسو شده است.
تضاد منافع شرکتی
با وجود اهداف فراگیر و دموکراتیک، این مؤسسه با یک شکاف اعتباری بنیادین روبروست. از آنجا که بودجه این مرکز توسط گوگل و آلفابت تأمین میشود، باید میان بحثهای دموکراتیک باز و منافع تجاری شرکتی با ارزش تریلیون دلاری تعادل برقرار کند. مأموریت اعلامشده دیپمایند «حل معمای هوش» و «استفاده از آن برای کمک به همه» است، اما واقعیت توسط اهداف تجاری آلفابت پیچیده شده است.
منتقدان استدلال میکنند که نهادهای تحت حمایت شرکتها معمولاً بیانیههای «مودبانه» و با کلمات گلچینشده صادر میکنند تا حامیان مالی خود را به چالش نکشند و از تضاد با منافع آنها اجتناب کنند. پرسش اصلی این است که آیا این مؤسسه واقعاً قدرت اثرگذاری بر مسیر توسعه AGI را خواهد داشت یا صرفاً یک ابزار روابط عمومی (PR) برای تلطیف چهره توسعه شرکتی هوش مصنوعی و کاهش فشار افکار عمومی است.
چرا این موضوع برای آینده حیاتی است
برای هر متخصص، این بدان معناست که «قوانین بازی» برای هوش مصنوعی در حال حاضر در حال مذاکره است. AGI میتواند تمام ابعاد تمدن بشری، از بهداشت و آموزش تا محیط کار، حکمرانی و حتی شیوههای جنگافزاری را بازتعریف کند. این سامانهها برخلاف هوش مصنوعی محدود (Narrow AI) که تنها در وظایفی خاص (مانند تشخیص چهره یا امتیازدهی اعتباری) برتری دارد، در تقریباً تمام تکالیف شناختی با انسان برابر شده یا از او پیشی میگیرند.
مدیریت AGI نیازمند رویکردی بنیادین و متفاوت از قوانین فعلی است و به موارد زیر نیاز دارد:
- همکاری بینالمللی گسترده و فرامرزی.
- رویههای پژوهشی شفاف و قابل بازرسی.
- مشارکت واقعی و معنادار مردمی، بهویژه از سوی کسانی که بیشترین تأثیر را از این فناوری میپذیرند.
اگر این مؤسسه موفق شود، استقرار AGI بر اساس اثرات اجتماعی و حاکمیت دموکراتیک خواهد بود. در غیر این صورت، فناوری احتمالاً مسیر کممقاومتترین راه را طی میکند: حداکثر سود مالی و تمرکز قدرت در دست عدهای معدود. باید منتظر اولین مجموعه توصیههای سیاستی این مؤسسه بود تا مشخص شود آیا آنها واقعاً مدل تجاری گوگل را به چالش میکشند یا صرفاً بازتابی از روابط عمومی شرکتی هستند.
گام بعدی شما
- اولین توصیههای سیاستی این مؤسسه را دنبال کنید تا ببینید آیا مدل تجاری گوگل را به چالش میکشد یا خیر.
- تفاوت میان «ایمنی فنی» و «حاکمیت اجتماعی» را در استراتژیهای سازمان خود لحاظ کنید.
- در بحثهای مربوط به اخلاق AI، دیدگاههای خارج از محور غرب را بررسی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو