تصور کنید سیستمی بسازید که تمام تواناییهای شناختی مغز انسان را دارد، اما هیچ ترمز اخلاقی یا امنیتی برای متوقف کردنش ندارید. این کابوس، دلیل اصلی تأسیس مؤسسه دیپمایند (DMI) است تا پیش از رسیدن به نقطه بیبازگشت، راهکارهای حکمرانی را تعریف کند.
این اقدام در حالی رخ میدهد که جامعه علمی جهان از پیامدهای فاجعهباری مثل حملات سایبری سیستماتیک یا فقدان کامل کنترل انسانی بیمناک است. گوگل با ایجاد این مرکز، قصد دارد بحران حکمرانی پیش از ظهور هوش مصنوعی عمومی (AGI) — یعنی سیستمی که مثل یک انسان همهفنحریف در هر زمینهای فکر میکند و یاد میگیرد — را حل کند. این نگرانیها بهویژه پس از آن شدت یافت که گزارشهایی از توانایی مدلهای پیشرفته در شناسایی حفرههای امنیتی و نزدیک شدن به استانداردهای AGI منتشر شد.
همانطور که در تحلیلهای قبلی ما درباره امنیت مدلهای بنیادی اشاره کردیم، تمرکز شرکتها از قابلیتهای محصول به سمت ایمنی وجودی تغییر کرده است. گوگل معتقد است متخصصان فنی بهتنهایی نمیتوانند ریسکهای AGI را مدیریت کنند؛ بنابراین، سیاستگذاران، هنرمندان و پژوهشگران علوم انسانی را به این میز آورده است.
به گزارش وبسایت the-decoder.com در ۱۶ سپتامبر ۲۰۲۶، این مؤسسه توسط دیمیس هاسابیس (برنده جایزه نوبل)، شین لگ و جیمز مانیکا مدیریت میشود. طبق مستندات منتشر شده، DMI بر سه محور اصلی متمرکز است:
- ایمنی و حکمرانی: ایجاد چارچوبهایی برای مدیریت سیستمهایی با توانایی شناختی در سطح انسان.
- کاهش ریسک: تمرکز ویژه بر جلوگیری از جنگهای سایبری خودکار.
- بحثهای بینرشتهای: ادغام حوزههای غیرفنی دانشگاهی در فرآیند توسعه AI.
دیمیس هاسابیس باور دارد AGI طی چند سال آینده فرا میرسد. شین لگ حتی پیشبینی کرده است که پیشدرآمدی برای این فناوری تا سال ۲۰۲۸ ظاهر شود. این نهادینهسازی نشان میدهد گوگل در حال آمادهسازی برای دنیایی است که در آن هوش مصنوعی دیگر یک ابزار نیست، بلکه یک «همتا» است.
در واقع گوگل سعی میکند همزمان با فشار دادن پدال گاز، ترمزهای سیستم را هم بسازد. این رویکرد تضاد استراتژیک شدیدی با OpenAI دارد که در حال حاضر بیشتر بر ارزش اقتصادی فوری این سیستمها متمرکز است.
گام بعدی شما
- توصیههای سیاستی DMI را در ماههای آینده دنبال کنید، زیرا احتمالاً مبنای قوانین بینالمللی AI خواهند بود.
- تفاوت رویکرد «ایمنی وجودی» گوگل و «تجاریسازی سریع» OpenAI را در استقرار مدلهای آینده رصد کنید.
- بررسی کنید که چگونه ادغام علوم انسانی در توسعه فنی، خروجیهای مدلهای استدلالی را تغییر میدهد.
اما نبرد واقعی در لایه سختافزاری جریان دارد؛ برای درک اینکه این مدلهای عظیم روی چه زیرساختی اجرا میشوند، به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو