تصور کنید وجدان یک مدل هوش مصنوعی نه با خطوط کد، بلکه با قرنها بحث کلامی و الهیاتی شکل بگیرد. اگر فکر میکنید ایمنی هوش مصنوعی فقط یک مسئله ریاضی است، باید بدانید غولهای این صنعت مسیر خود را به سمت معابد و مساجد تغییر دادهاند.
این تحول در زمانی رخ میدهد که هوش مصنوعی زاینده (Generative AI) — تشبیه روزمره: مثل نقاشی هوشمندی که تمام آثار جهان را دیده و حالا میتواند هر چه بخواهید خلق کند — در حال بازتعریف نحوه دسترسی انسان به دانش و قضاوتهای اخلاقی است. همانطور که در تحلیل قبلی ما دربارهی چشمانداز Anthropic برای خودبهبودی مدلها تا سال ۲۰۲۸ اشاره کردیم، این شرکت اکنون به سمت محدودیتهای انسانمحور و ایمانبنیاد حرکت میکند تا امنیت مدلهای پیشرو (Frontier Models) — تشبیه روزمره: مثل سریعترین ماشینهای مسابقهای جهان که هنوز هیچکس دقیقاً نمیداند در سرعتهای بسیار بالا چه اتفاقی میافتد — را تضمین کند.
طبق گزارش Associated Press، نخستین میزگرد این ابتکار که تحت عنوان «پیمان Faith-AI» شناخته میشود، هفتهی گذشته (مه ۲۰۲۶) در نیویورک برگزار شد. این نشست توسط اتحادیه بینالادیانی برای جوامع امنتر (IAFSC) که در ژنو مستقر است، سازماندهی شده است.
نکات کلیدی این همکاری عبارتند از:
- Anthropic پیش از این دیدگاههای مذهبی را در قانون اساسی (Constitution) — تشبیه روزمره: مثل دفترچه قوانین یک مدرسه که به دانشآموز میگوید چه چیزی درست است و چه چیزی غلط — مدل کلود ادغام کرده است.
- سام آلتمن، مدیرعامل OpenAI، بارها از استعارههای معنوی استفاده کرده و هدف خود را خلق «هوش جادویی در آسمان» توصیف نموده است.
- بارونس جوانا شیلدز، مدیرعامل Precognition، معتقد است مقررات سنتی نمیتوانند با سرعت رشد هوش مصنوعی پیش بروند.
- اتحادیه IAFSC برنامههایی برای برگزاری میزگردهای مشابه در پکن، نایروبی و ابوظبی دارد.
برای رهبران کسبوکار، این یک سیگنال است که همراستاسازی (Alignment) — تشبیه روزمره: مثل تنظیم کردن قطبنمای یک کشتی تا دقیقاً به همان سمتی برود که ناخدای انسانی میخواهد — از یک چالش فنی به یک مسئله فرهنگی و فلسفی تبدیل شده است. با این حال، بر اساس بررسی منابع متعدد، منتقدانی چون رومن چودوری و برایان بوید نسبت به این رویکرد مشکوک هستند. به نظر میرسد سیلیکونولی با «اخلاقی کردن» تصویر خود، سعی دارد از گفتگوهای سختتر دربارهی قدرت شرکتی و مسئولیتهای قانونی بگریزد.
گام بعدی شما
- نتایج میزگردهای آتی در ابوظبی و پکن را دنبال کنید تا ببینید آیا یک «استاندارد اخلاقی جهانی» واقعاً شکل میگیرد یا خیر.
- بهروزرسانیهای عمومی IAFSC را در لینکدین رصد کنید تا متوجه شوید کدام اصول اخلاقی در نسخههای بعدی مدلها اعمال میشوند.
این تنها آغاز ماجراست؛ اثر موجگونهی این تصمیم بر اکوسیستم متنباز را در گزارش بعدی بررسی خواهیم کرد.
گفتگو