تصور کنید دنیایی را که در آن قضاوتهای انسانی به ماشینها سپرده شده و دادههای شخصی ما مانند مواد خام صنعتی استخراج میشوند. این همان خطری است که پاپ لئو چهاردهم در ۱۵ مه ۲۰۲۶ در نامهی رسمی خود با عنوان «بزرگی انسانیت — دربارهی صیانت از شخص در عصر هوش مصنوعی» (Magnifica Humanitas) به آن اشاره کرد. از طریق این سند، کلیسای کاتولیک هشدار شدیدی صادر کرده است که هوش مصنوعی صرفاً یک ابزار فنی نیست، بلکه نیرویی است که قادر است مسئولیتهای سیاسی و کرامت انسانی را بازتعریف کند.
این مداخله در حالی صورت میگیرد که آزمایشگاههای پیشرو در حوزه هوش مصنوعی در رقابتی شدید برای تصاحب سهم بازار هستند و اغلب تحت انگیزههای تجاری فعالیت میکنند که با خیر عمومی در تضاد است. در حالی که صنعت فناوری بر معیارهای ارزیابی (Benchmarks) و قابلیتهای عاملمحور (Agentic capabilities) تمرکز کرده است، واتیکان عصر هوش مصنوعی را به عنوان یک «کارگاه ساختوساز اخلاقی» ترسیم میکند. همانطور که کاردینال مایکل چرنی (S.J.) اشاره میکند، مسیری که هوش مصنوعی طی میکند در ذات خودِ تکنولوژی نوشته نشده است؛ بلکه به انتخابهای ما، نهادهایی که این انتخابها را پشتیبانی میکنند و توانایی ما در مدیریت مسئولانه نوآوری برای خدمت به خیر جمعی بستگی دارد. این نامهی رسمی به عنوان بذری برای بحث درباره این موضوع عمل میکند که چگونه میتوان نوآوری را بدون قربانی کردن جوهر انسانیت مدیریت کرد.
تلهی ارتباطات شبیهسازیشده
پاپ لئو چهاردهم سه چالش اصلی برای کاربر فردی شناسایی کرده است: حفظ آزادی درونی هنگام استفاده از ابزارهای هوش مصنوعی، حفظ قضاوت انتقادی با وجود دسترسی به دادههای بیانتها و حفظ لذت دیدارهای واقعی در دنیای فیزیکی. در مرکز این چالشها، محدودیتهای انسانی و کرامت انسان قرار دارد. این سند استدلال میکند که محدودیتها نقص نیستند، بلکه فضایی هستند که در آن انسانها رشد میکنند و شفقت، همدلی و درک رنج دیگران را پرورش میدهند. کرامت انسانی به عنوان تمام آن چیزی توصیف شده است که انسانها را شایسته این میکند که خود را «انسان» بنامند.
در استفادههای شخصی، این سند به سه جنبه خاص اشاره میکند که نیازمند بررسی دقیق هستند:
- سهولت در دستیابی به نتایج: سرعت و سادگی در دسترسی به تحلیلهای پیچیده، محتوای رسانهای و کمکهای کاربردی، زندگی را آسانتر میکند، اما در عین حال کاربران را به اتکای بیش از حد به پاسخهای آماده تشویق میکند که این امر منجر به تضعیف خلاقیت شخصی و قدرت قضاوت میشود.
- توهم عینیت: عینیت ظاهری پاسخهای هوش مصنوعی میتواند کاربران را به این باور برساند که این سیستمها بیطرف هستند. در حالی که در واقعیت، این مدلها بازتابدهندهی پیشفرضهای فرهنگی، نقاط قوت و محدودیتهای کسانی هستند که آنها را طراحی و آموزش دادهاند.
- شبیهسازی ارتباطات: هوش مصنوعی میتواند همدلی، دوستی و حتی عشق را تقلید کند. اگرچه این قابلیت میتواند مفید باشد، اما توهمی از یک رابطه با یک «سوژه شخصی واقعی» ایجاد میکند.
یکی از مبرمترین خطرات، شبیهسازی ارتباطات انسانی است. نامهی رسمی اشاره میکند که وقتی کلمات شبیهسازی میشوند، آنها روابط واقعی نمیسازند، بلکه تنها ظاهر رابطه را ایجاد میکنند. برای کاربران آسیبپذیر، این تقلید خطرناک است؛ نه به این دلیل که آنها تصور میکنند ماشین انسان است، بلکه به این دلیل که ممکن است به تدریج میل به برقراری پیوندهای انسانی واقعی را از دست بدهند، بهویژه در محیطهایی که پیوندهای عاطفی واقعی از پیش کمبود دارند. این تمایل به جایگزینی پیوندهای انسانی با مدلهای دیجیتال، یادآور پدیدههایی چون جذب کاربران به دینهای نوظهور مبتنی بر هوش مصنوعی است که در آن ماشینها جایگاههای معنوی و عاطفی عمیقی را اشغال میکنند.
استعمار دیجیتال و استخراج داده
سند «بزرگی انسانیت» مفهوم جدیدی از استعمار را معرفی میکند. در این مدل مدرن، به جای تسلط بر جسم انسانها، دادهها تصاحب میشوند و زندگیهای شخصی به اطلاعات قابل بهرهبرداری تبدیل میگردند. این سند استدلال میکند که استعمار اکنون اشکال جدیدی به خود گرفته است و با دادههای شخصی به عنوان منبعی برای استخراج برخورد میکند.
- جنوب جهانی: این سند برجسته میکند که چگونه مناطقی که با شکنندگی ساختاری و اهمیت ژئوپلیتیک محدود شناخته میشوند، مورد هدف طرز تفکر جدیدی از استخراج قرار گرفتهاند.
- عناصر نادر جدید: دادههای سلامت، پروفایلهای اپیدمیولوژیک، نقشههای ژنتیکی و اطلاعات جمعیتشناختی به «عناصر نادر» جدید قدرت تبدیل شدهاند.
- کنترل پیشبینانه: این دادههای تجمیعشده برای آموزش مدلهای پیشبین، هدایت استراتژیهای سرمایهگذاری، پیشبینی بحرانها و تعیین اینکه چه کسی یا چه چیزی «مهم» تلقی شود، استفاده میشوند.
پروفسور لئوکادی لوشومبو از مدرسه الهیات یسوعی در دانشگاه سانتا کلارا، از این دیدگاه حمایت میکند و بیان میدارد که جنوب جهانی نباید ارزشهای انسانی خود را فدای هوش مصنوعی کند. او هشدار میدهد که وقتی از ماشینها میخواهیم برای ما فکر کنند، در واقع آزادی خود را تسلیم میکنیم. خطر الگوریتمهایی که اعتیاد ایجاد میکنند و استعمار دیجیتال هماکنون وجود دارد و سیستمی شکننده ایجاد کرده است که در آن تنها چند بازیگر تصمیم میگیرند چه کسی به هوش مصنوعی دسترسی داشته باشد.
بحران مسئولیتپذیری
سپردن عاملیت به الگوریتمها، خلأیی در مسئولیت ایجاد میکند. نامهی رسمی استدلال میکند که استفاده از هوش مصنوعی هرگز یک موضوع صرفاً فنی نیست؛ وقتی این فناوری بر زندگی مردم اثر میگذارد، با حقوق، فرصتها، جایگاه اجتماعی و آزادی آنها در ارتباط است. تصمیمات حساسی در مورد استخدام، اعتبار بانکی، دسترسی به خدمات عمومی یا شهرت یک فرد، اکنون به سامانههای خودکار سپرده شده است.
این سیستمها اساساً محدود هستند زیرا مفاهیمی چون «شفقت، رحمت، بخشش و بالاتر از همه، این امید که انسانها قادر به تغییر هستند» را نمیشناسند. در نتیجه، واگذاری این وظایف میتواند منجر به اشکال جدیدی از طرد اجتماعی شود.
وقتی یک الگوریتم تصمیم میگیرد که چه کسی «شایسته» است، حذف افراد آسیبپذیر پشت نقابی از بیطرفی و عینیت پنهان میشود. این امر اعتراض به تصمیمات را دشوار میکند و در واقع مسئولیت سیاسی و همدلی را از فرآیند تصمیمگیری حذف میکند. بیعدالتی نادیده گرفته میشود زیرا شفقت و رحمت — که به عنوان اقدامات سیاسی واقعی تعریف میشوند و نه صرفاً ظواهر — به تدریج از دید خارج میشوند. پروفسور لئوکادی لوشومبو بر لزوم این تأکید میکند که انسانها باید ظرفیت ذهن خود را برای توجه به حقیقت، صیانت کنند. این جابجایی قدرت تصمیمگیری و تحلیل حقیقت، با تغییر تدریجی مرجعیتهای مذهبی و اخلاقی به سمت ابزارهای پژوهشی AI همسو است که در آن ماشینها به جای متفکران انسانی، به منبع پاسخهای بنیادین تبدیل میشوند.
انگیزههای بازار در برابر خیر عمومی
این سند تمرکز قدرت در دست چند شرکت هوش مصنوعی را نقد میکند. استدلال میشود که در دنیایی که ثروت ملی به دانش وابسته است، اشکال جدید مالکیت — شامل پتنتها، الگوریتمها، پلتفرمهای دیجیتال، زیرساختهای تکنولوژیک و دادهها — باید جزو کالاهایی باشند که به طور جهانی برای همه در نظر گرفته شدهاند.
وقتی این کالاها بدون اشتراکگذاری مناسب در دست عدهای معدود متمرکز میمانند، عدم تعادلی ایجاد میشود که با اصل «مقصد جهانی کالاها» در تضاد است. این وضعیت شکاف بین افراد پذیرفتهشده و طردشده را گسترش میدهد. علاوه بر این، نامهی رسمی اشاره میکند که مراقبت از «خانه مشترک ما» و مسئولیت در قبال فقرا ایجاب میکند که فناوری برای احترام به محیط زیست و جلوگیری از اتلاف منابع تنظیم شود.
کریستوفر اولاه، یکی از بنیانگذاران Anthropic، اذعان میکند که آزمایشگاههای پیشرو تحت فشارهایی هستند — از جمله توجیه تجاری، رقابتهای ژئوپلیتیک و «فشارهای قدیمیتر و سادهتری مانند غرور و جاهطلبی» — که میتواند با انجام کار درست در تضاد باشد. او میپذیرد که فارغ از نیتهای صادقانه توسعهدهندگان، آنها همواره تحت تأثیر این انگیزهها خواهند بود.
پروفسور آنا رولاندز از دانشگاه دورهام میافزاید که بازار به تنهایی بشریت را نجات نخواهد داد و تأکید میکند که قدرت باید شفاف باشد و برای خیر عمومی به کار گرفته شود، نه برای «بتهای دروغین». نگرانی وجود دارد که آزمایشگاههای پیشرو در یک «حالت اکتشافی» هستند که توسط سود هدایت میشود و اغلب بر استفاده ناعادلانهای از دادهها تکیه میکنند که برای رقبایی که سعی در رعایت قانون دارند، غیرقابل دسترس است. این سناریویی ایجاد میکند که در آن رعایت قانون، به طور خودکار یک بازیگر را از رقابت با آزمایشگاههای پیشرو حذف میکند.
هزینه انسانانگاری
در نهایت، نامهی رسمی به کیفیت تمدن میپردازد و آن را نه با قدرت ابزارهایش، بلکه با میزان مراقبتی که قادر به ارائه است میسنجد. تمدن بر اساس توانایی شناخت دیگری به عنوان یک «چهره» تعریف میشود، نه صرفاً به عنوان یک «کارکرد».
- ارزش مراقبت: توانایی مراقبت از طریق تجربه زیسته آموخته میشود — مانند خواندن داستان برای یک کودک، همراهی با سالمندان یا گرم و صمیمی کردن خانه. این ژستهای ساده به ما میآموزند که دیگران را به عنوان افرادی شایسته توجه بشناسیم.
- نقش فناوری: فناوری باید با کمک به ما در سازماندهی و پیشبینی، از مراقبت متقابل حمایت کند، اما نباید آزادی و قضاوت انسانی را تضعیف نماید.
واتیکان نسبت به استراتژی بازاریابی «انسانانگاری» (Anthropomorphism) — یعنی نسبت دادن ویژگیها، احساسات و نیات انسانی به برندهای غیرانسانی یا ابزارهای هوش مصنوعی — هشدار میدهد. در حالی که این کار به فروش محصولات کمک میکند، اما خطر تخریب ارزش پیوندهای واقعی انسانی را به همراه دارد. این سند میپرسد هزینه واقعی این رویه چیست و چگونه بر روابط انسانی و استحکام جوامع محلی تأثیر میگذارد.
پرسشهای باز برای آینده
برای هدایت گفتگوهای جاری، نامهی رسمی و تحلیلگران آن چندین پرسش حیاتی را در مورد تلاقی فناوری و کرامت مطرح میکنند:
- درباره کرامت انسانی: کرامت انسانی دقیقاً چیست و چگونه میتوانیم آگاهی جهانی از آن را افزایش دهیم تا از اشکال جدید اعتیاد دیجیتال و استثمار جلوگیری کنیم؟
- درباره عدالت در بازار: قانونگذاریای که هم از کرامت انسانی محافظت کند و هم اجازه رقابت را بدهد، چگونه است؟ چگونه میتوانیم اطمینان حاصل کنیم که دستاوردهای هوش مصنوعی از طریق اشتراکگذاری پتنتها، الگوریتمها و زیرساختها در سطح جهانی توزیع میشود؟
- درباره مسئولیتپذیری: چه کسی مسئول تصمیمی خواهد بود که توسط یک ماشین گرفته شده و زندگی یک فرد را تغییر میدهد؟ چگونه میتوانیم مسئولیتپذیری را در برابر حجم عظیمی از دادهها حفظ کنیم؟
- درباره نوآوری: اگر مدلهای هوش مصنوعی فقط آنچه را که رایج (Mainstream) است تبلیغ و ترویج کنند، نوآوری واقعی از کجا خواهد آمد؟ چگونه میتوانیم اثرات سوگیری هوش مصنوعی را که جهان را به سمت یک «تکفرهنگی» (Monoculture) میبرد، کاهش دهیم؟
واتیکان در پایان نتیجه میگیرد که هوش مصنوعی هنوز در وضعیت ساخت است و قانونگذاران برای پاسخ به تغییرات سریع در تکاپو هستند. هدف «بزرگی انسانیت» این است که اطمینان حاصل شود صدای حاشیهنشینان شنیده میشود و ما از «کثیف کردن دستهایمان» در «کارگاه ساختوساز» زمانهمان نترسیم، پیش از آنکه معماری عصر هوش مصنوعی برای همیشه بر روی سنگ حک شود.
گام بعدی شما
- بررسی کنید که در چه بخشهایی از تصمیمگیریهای شغلی یا شخصی خود، بیش از حد به «عینیت» ظاهری مدلهای AI تکیه کردهاید.
- در مواجهه با ابزارهای AI، آگاهانه زمانهایی را برای تفکر عمیق و بدون کمک ماشین اختصاص دهید تا قدرت قضاوت انتقادیتان تحلیل نرود.
- درباره نحوه جمعآوری دادههایتان در پلتفرمهای مختلف تحقیق کنید تا متوجه شوید چه بخشی از «سرمایه دیجیتال» شما در حال استخراج است.
اما این بحثهای اخلاقی تنها بخشی از ماجراست؛ اثرات اقتصادی این تمرکز قدرت بر زیرساختهای محاسباتی را در تحلیل ما درباره تراشههای انویدیا بررسی کنید.
گفتگو