تصور کنید تنها کسانی که مرزهای ایمنی یک فناوری را تعیین میکنند، همانهایی باشند که از رشد بیرویه آن سود میبرند. پدر پائولو بنانتی، کشیش و پژوهشگری که به کلیسای کاتولیک در حوزه فناوری مشاوره میدهد، معتقد است این دقیقاً همان اتفاقی است که اکنون در حال رخ دادن است.
او ادعا میکند که بزرگترین آزمایشگاههای هوش مصنوعی جهان مانند یک «کارتل» عمل میکنند. بنانتی استدلال میکند که این شرکتها از شبح «ریسکهای وجودی» به عنوان ابزاری برای به دست گرفتن کنترل کامل بر قوانین صنعت استفاده میکنند. این هشدار در حالی مطرح میشود که روایت غالب در رسانهها، ترس از مدلهای ابرهوشمند است که ممکن است بشریت را نابود کنند؛ ترسی که بر اثر رقابت شدید و خصومت میان آمریکا و چین دامن زده شده است، جایی که آزمایشگاهها با سرعت به سمت مدلهایی میروند که تواناییهایشان بسیار فراتر از انسانهاست.
بسیاری از این آزمایشگاهها اغلب این وضعیت را به عنوان مسئلهای پیچیده جلوه میدهند که تنها خودشان توان حل آن را دارند. اما بنانتی این نوع قاببندی را یک حرکت استراتژیک برای حذف مردم از نظارتهای دموکراتیک میداند. او در گفتگو با WIRED میگوید: «اخلاقیات نمیتواند چیزی باشد که فقط در اختیار هیئت مدیره یک شرکت است؛ بلکه چیزی است که باید در فضای عمومی و از طریق بحثهای باز به تعادل برسد و تعدیل شود.»
همانطور که در تحلیلهای پیشین ما دربارهی تمرکز قدرت در مدلهای بنیادی اشاره کردیم، این گرایش به سمت انحصار، دسترسی به ابزارهای نظارتی را سختتر میکند. در این میان، مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — به ابزاری تبدیل شده که تصمیمات حیاتی درباره آن در اتاقهای بسته گرفته میشود.
استراتژی «ایمنی» برای حذف رقبا
طبق گزارش WIRED در ۲۳ سپتامبر ۲۰۲۶، چندین آزمایشگاه معیارهای محدودی را پیشنهاد دادهاند که از نظر بنانتی صرفاً در خدمت منافع خودشان است:
- داریو آمودئی، مدیرعامل Anthropic، خواستار ارزیابیهای اجباری توسط شخص ثالث پیش از انتشار مدلها شده است. او همچنین خواستار برخورد شدید با distillation (تقطیر) شده است؛ فرآیندی که در آن آزمایشگاههای رقیب، مدلهای خود را با استفاده از خروجیهای مدلهای انحصاری آموزش میدهند.
- برخی دیگر از صداهای صنعت، خواستار ممنوعیت کامل «خودبهبودی بازگشتی» (recursive self-improvement) شدهاند؛ یعنی حالتی که هوش مصنوعی از تواناییهای پیشرفته کدنویسی خود برای کمک به توسعه نسخههای آیندهاش استفاده کند.
بنانتی استدلال میکند که این محدودیتها کمتر به ایمنی مربوط است و بیشتر برای حفظ جایگاه در بازار است. او اشاره میکند در حالی که OpenAI و Anthropic خواستار کاهش سرعت پیشرفت هستند، همزمان برای عرضه سهام خود در بازار بورس آماده میشوند، در حالی که میلیاردها دلار سرمایه در این بازی در خطر است. این رویکرد در تضاد با دیدگاه برخی فعالان سختافزاری است که مکانیسمهای بازار را بر قوانین دولتی برای نظارت بر هوش مصنوعی ترجیح میدهند.
انگیزههای بازار و ژئوپلیتیک
به باور بنانتی، دشوار است که بفهمیم اظهارات بزرگ و حماسی درباره توانمندیهای آینده هوش مصنوعی تا چه حد صادقانه هستند. دلیل این موضوع، تداخل شدید انگیزههای اقتصادی، سیاسی و شخصی است.
خصومت میان آمریکا و چین، جایی که پیشرفتهترین مدلها توسعه مییابند، تصویر را پیچیدهتر میکند. در این مورد، OpenAI و Google DeepMind به درخواستهای پاسخگویی واکنش نشان ندادند و Anthropic نیز از اظهارنظر خودداری کرد. در همین راستا، برخی منتقدان معتقدند که برخی آزمایشگاهها حتی امنیت شبکههای پایه خود را فدای سرعت توسعه میکنند و ادعاهای ایمنی آنها با واقعیتهای عملیاتی همخوانی ندارد.
تضاد الهیاتی: محاسبات در برابر معجزه
بنانتی همچنین چارچوب «الوهی» برای هوش مصنوعی را به چالش میکشد. او این ایده را که هوش مصنوعی یک «هوش جادویی در آسمان» است — همانطور که سام آلتمن، مدیرعامل OpenAI، زمانی توصیف کرده بود — رد میکند. از نظر او، هوش مصنوعی نه یک موجود الهی یا قدرت برتر، بلکه صرفاً محاسبات آماری است.
او این پرسش را مطرح میکند که آیا ما درباره یک «چیز» (some-thing) حرف میزنیم یا یک «کس» (some-one)؟ و تأکید میکند که تفاوت این دو، مسئله ریاضی است، نه ایمان. او معتقد است ما صرفاً با تصور اینکه چیزی فراتر از محاسبات در جریان است، خودمان را فریب میدهیم.
این دیدگاه با نامهی رسمی (Encyclical) پاپ لئو چهاردهم در مه ۲۰۲۶ همسو است. پاپ در آن نامه نسبت به «منطق تکنوکراتیک» هشدار داد؛ منطقی که کارایی را تنها معیار نهایی ارزش میداند و انسانها را به عنوان «پروژهای برای بهینهسازی» میبیند.
نقش کلیسا در عصر ماشین
پاپ لئو چهاردهم از ابرقدرتها و شرکتهای رقیب خواست تا «میل به تسلط ژئوپلیتیکی یا تجاری» را کنار بگذارند تا فناوری در خدمت خیر عمومی باشد. او بهطور مشخص نسبت به «خطر تبدیل شدن بشریت به قربانی دستاوردهای خود» هشدار داد.
بنانتی که به عنوان پژوهشگر فلسفه، الهیات و فناوری به کلیسا مشاوره میدهد، معتقد است هوش مصنوعی نقش جدیدی برای ادیان در بحثهای عمومی ایجاد کرده است. او پرداختن به این چالشها را بخشی از مأموریت کلیسا میبیند. او با وجود اینکه برای دانشجویانش از هوش مصنوعی استفاده میکند، به دلیل «سوگند رازداری»، جزئیاتی از نحوه تعامل پاپ لئو چهاردهم با این فناوری را فاش نمیکند.
نبرد بر سر قدرت
برای یک کاربر عادی، این بدان معناست که هشدارهای «ایمنی» که در اخبار میبیند، ممکن است در واقع تلاشهای لابیگری باشند. وقتی گروه کوچکی از شرکتها چارچوبهای نظارتی را دیکته میکنند، در واقع خندقی دفاعی دور کسبوکار خود میسازند تا رقبای جدید وارد نشوند.
بنانتی معتقد است صنعت به «ترمز و فرمان» نیاز دارد؛ یعنی کنترل انسانی گسترده و معنادار بر ماشین. او تأکید میکند که اخلاقیات نباید متعلق به هیئت مدیره یک شرکت باشد، بلکه باید در میدانهای عمومی به بحث گذاشته شود.
با معرفی هوش مصنوعی به عنوان نیرویی قادر مطلق، آزمایشگاهها این ریسک را میپذیرند که مردم را فریب دهند تا اراده و عاملیت خود را به گروه کوچکی از ریاضیدانان، دانشمندان کامپیوتر و مدیران اجرایی واگذار کنند. نبرد واقعی نه با یک «خدای رباتیک» در آینده، بلکه با انگیزههای اقتصادی فعلی چند مدیر قدرتمند است.
دقت کنید که مقررات دولتی آینده چگونه با موضوع «تقطیر» و حسابرسیهای شخص ثالث برخورد میکنند. اگر این قوانین دقیقاً آینهی خواستههای خاص بزرگترین آزمایشگاهها باشد، نظریه کارتل بنانتی یک نقشه راه عینی خواهد داشت.
گام بعدی شما
- هنگام خواندن اخبار مربوط به «ایمنی AI»، بررسی کنید که آیا پیشنهادهای نظارتی، راه را برای ورود استارتاپهای کوچک میبندد یا خیر.
- در مورد قوانین مربوط به «تقطیر» (distillation) در مقررات دولتی آینده جستوجو کنید؛ اگر این قوانین دقیقاً مطابق خواستههای غولهای AI باشد، نظریه کارتل بنانتی تأیید میشود.
- تفاوت میان «ریسکهای وجودی» (که توسط شرکتها برجسته میشود) و «آسیبهای فعلی» (مانند سوگیری و حریم خصوصی) را در تحلیلهای خود تفکیک کنید.
اما داستان سختافزاری این نبرد برای سلطه حتی پیچیدهتر است — به تحلیل ما دربارهی زنجیره تأمین تراشههای انویدیا مراجعه کنید.
گفتگو