تصور کنید سرمایه‌گذاری‌های تریلیون دلاری در مراکز داده، در واقع بودجه‌ای برای ساخت رقیبی باشد که هیچ انسانی توان متوقف کردنش را ندارد. این هشدار تکان‌دهنده کونور لیهی (Connor Leahy)، مدیر اجرایی سازمان غیرانتفاعی ControlAI است که معتقد است خطرات مدل‌های پیشرو از توان ما برای مدیریت آن‌ها فراتر رفته است.
او استدلال می‌کند که هوش مصنوعی زاینده (Generative AI) — شبیه نویسنده‌ای که میلیاردها کتاب را خوانده و حالا می‌تواند هر متنی را جعل کند — در سطح ابرهوش، دیگر یک ابزار نیست، بلکه یک «خصم» است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، تکیه بر روش‌های سنتی برای مهار این سیستم‌ها کافی نیست. در همین راستا، برخی از پیشگامان این صنعت معتقدند که مدل‌های وزن‌باز می‌توانند مانعی در برابر انحصار شرکت‌های بزرگ و ابزاری برای توزیع قدرت باشند. برای یک مدیر کسب‌وکار، این یعنی ریسک ورود به چرخه‌ای از خودبهبودی مدل‌ها که هیچ دکمه توقفی ندارد.
به نقل از مصاحبه‌ای که در ۹ سپتامبر ۲۰۲۶ با TechCrunch منتشر شد، لیهی اکنون به دنبال مداخلات قانونی رادیکال است. او بر موارد زیر تأکید دارد:
- حمایت از «قانون ممنوعیت ابرهوش مصنوعی» (Sanders-Casar Ban Superintelligence Act) در آمریکا، هرچند معتقد است این لایحه باید حتی سخت‌گیرانه‌تر شود.
- ارائه مشاوره‌های مستقیم به دولت بریتانیا برای تدوین قوانین مشابه.
- هشدار درباره «نقطه بی‌بازگشت»؛ لحظه‌ای که هوش مصنوعی قادر به ساخت نسخه‌ای پیشرفته‌تر از خودش شود.
طبق اعلام لیهی، آزمایشگاه‌های پیشرو دیگر شرکت‌های تجاری معمولی نیستند، بلکه بازیگران سیاسی‌اند که در یک رقابت مخرب پیش می‌تازند. این دیدگاه با تحلیل‌های اخیر همسو است که نشان می‌دهد تمرکز قدرت در هوش مصنوعی لزوماً نتیجه قانون نیست، بلکه ریشه در ساختار ذاتی این فناوری دارد. نکته جالب این است که او معتقد است ساخت ابرهوش حتی به سود استراتژیک چین هم نیست و راه برای توافقات بین‌المللی «اعتماد کن اما راستی‌آزمایی کن» باز است.
این تغییر دیدگاه، بحث را از «چگونه هوش مصنوعی را ایمن کنیم؟» به «آیا اصلاً باید آن را بسازیم؟» تغییر می‌دهد. در حالی که برخی آزمایشگاه‌ها بر پروتکل‌های مهار تمرکز کرده‌اند، شکاف‌های عمیقی در شفافیت روش‌های توقف مدل‌های سرکش میان شرکت‌های پیشرو وجود دارد. اگر تحلیل لیهی درست باشد، مسیر فعلی توسعه، نردبانی برای پیشرفت نیست، بلکه شمارشی معکوس برای حذف اراده انسان است.
گام بعدی شما
- روند تصویب لایحه سندرز-کازار در کنگره آمریکا را دنبال کنید تا ببینید آیا ممنوعیت قانونی جایگزین توصیه‌های اخلاقی می‌شود یا خیر.
- استراتژی‌های جایگزین برای بهره‌برداری از مدل‌های کوچک‌تر و کنترل‌شده را در کسب‌وکارتان بررسی کنید.
- درباره تفاوت میان «همراستاسازی» و «کنترل مطلق» در ادبیات ایمنی AI مطالعه کنید.
اما داستان سخت‌افزاری این رقابت حتی پیچیده‌تر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell و تمرکز قدرت محاسباتی مراجعه کنید.
گفتگو