اگر استراتژی هوش مصنوعی شما بر بازدهی محض متمرکز است و کرامت انسانی را نادیده می‌گیرد، در حال تغذیه چیزی هستید که پاپ لئو چهارteenth آن را «سندرم بابل» می‌نامد. در ۲۵ مه ۲۰۲۶، پاپ نخستین مانیفست جامع خود را برای هشدار علیه بت‌واره کردن سودآوری منتشر کرد.
این اقدام در حالی رخ می‌دهد که شرکت‌های جهانی بدون داشتن نرده‌های اخلاقی استاندارد، پذیرش AI را تسریع می‌کنند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی هشدارهای پاپ در مورد تمرکز قدرت اشاره کردیم، این سند جدید تمرکز را به سمت یک چارچوب قانونی ملموس می‌برد. برای اکثر مدیران کسب‌وکار، این یک سیگنال است: «بهره‌وری» دیگر توجیه کافی برای حذف انسان از چرخه کار نیست.
هوش مصنوعی زاینده (Generative AI) — مثل دستیاری که تمام کتابخانه‌های جهان را حفظ کرده اما هیچ‌کدام از احساسات انسانی را نمی‌فهمد — اکنون در مرکز این تقابل قرار دارد. طبق اعلام واتیکان، این دستورالعمل که Magnifica Humanitas نام دارد، سه منطقه خطرناک را شناسایی کرده است:
- جنگ‌های مبتنی بر AI و از بین رفتن کنترل انسانی بر سلاح‌ها.
- از دست دادن گسترده‌ی شغل‌ها و آشوب‌های اجتماعی ناشی از تغییرات سریع بازار کار.
- قرار گرفتن کودکان در معرض محتوای بدون نظارت و مضر.
پاپ استدلال می‌کند که تبدیل «راز وجودی انسان» به داده‌های عددی، یک اشتباه بنیادین است. به گزارش The Verge، این سند به‌طور کامل بحث‌های مربوط به هوش مصنوعی عام (AGI) — سیستمی که مثل انسان در هر کاری مهارت دارد و محدود به یک تخصص نیست — را نادیده گرفته است. در عوض، تمرکز روی آسیب‌های فعلی و واقعی است.
این یک چرخش راهبردی است. پاپ با کنار گذاشتن «آخرالزمان‌گرایی» در مورد AGI، استدلال خود را در دنیای مادی لنگر انداخته است. برای دنیای تجارت، این یعنی فشار برای اخلاق در AI از وعده‌های مبهم شرکتی به تقاض برای پاسخگویی قانونی تغییر می‌کند. «سندرم بابل» یک شکست فنی نیست، بلکه یک شکست اخلاقی است که در آن یکنواختی جایگزین تفاوت‌های انسانی می‌شود.
گام بعدی شما
- بررسی نحوه ادغام این اصول انسانی در نسخه‌ی بعدی قانون AI Act اتحادیه اروپا.
- مطالعه متن کامل مانیفست برای درک تعریف «تشخیص اخلاقی» در حکمرانی فنی.
اما تأثیر این فشار اخلاقی بر مدل‌های متن‌باز حتی پیچیده‌تر است — به بررسی ما درباره‌ی آینده مدل‌های وزن‌های باز (Open Weights) مراجعه کنید.
گفتگو