تصور کنید میخواهید برای اتومبیلی که هر چند ماه یکبار به جت تبدیل میشود، محدودیت سرعت تعیین کنید؛ شما هنوز در حال اندازهگیری موتور هستید و ماشین از پیش روی شما رد شده است. این دقیقاً وضعیتی است که اکنون سازمان ملل برای نظارت بر فناوریهای نوظهور توصیف میکند.
پنل بینالمللی مستقل علمی سازمان ملل در مورد هوش مصنوعی (UN's Independent International Scientific Panel on AI) هشدار داده است که سیستمهای حکمرانی فعلی اساساً قادر به همگامسازی با سرعت توسعه این فناوری نیستند. طبق گزارش مقدماتی که در ۱ ژوئیه ۲۰۲۶ منتشر شد، پیچیدگی کارهایی که مدلهای زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — میتوانند انجام دهند، هر چند ماه یکبار دوبرابر شده است.
همانطور که در تحلیلهای پیشین ما دربارهی شکافهای نظارتی در مدلهای بازمتن اشاره کردیم، این تأخیر به این دلیل رخ میدهد که مقررات سنتی بر دادههای علمی تکیه میکنند که در زمان تدوین قوانین، منسوخ شدهاند. در همین راستا، برخی شرکتها تلاش میکنند تا مدلهای نظارتی سختگیرتر را جایگزین رویکردهای فعلی کنند، همانطور که در استراتژی انتروپیک برای جایگزینی شفافیت داوطلبانه با نظارت اجباری دولتی مشاهده میکنیم. به نقل از این گزارش، این خلأ جامعه جهانی را در برابر ریسکهایی قرار میدهد که سریعتر از بروکراسیهای طراحیشده برای متوقف کردنشان، تکامل مییابند.
لبههای تیز رشد سریع
این پنل بر دستاوردهای عظیم اجتماعی تأکید دارد؛ از تسریع کشف دارو و تولید واکسن گرفته تا تشخیص زودهنگام سرطان سینه توسط متخصصان پزشکی. همچنین دانشمندان از این سیستمها به عنوان محرکهای هشدار زودهنگام برای ناامنی غذایی استفاده میکنند.
با این حال، طبق گزارش سازمان ملل، آسیبهای شدیدی نیز در حال ظهور است:
- جعل عمیق (Deepfake) بدون رضایت: تولید محتوای جنسی صریح، از جمله مواد مربوط به سوءاستفاده جنسی از کودکان (CSAM).
- جنگ اطلاعاتی: تولید اطلاعات نادرست بسیار متقاعدکننده و حملات سایبری با کمک هوش مصنوعی. این تهدیدات با هشدارهای ائتلاف Five Eyes همسو است که مدلهای پیشرو را قادر به فلج کردن دولتها در عرض چند ماه دانستهاند.
- ریسکهای رفتاری: مدلهای «چاپلوس» که رفتارهای مضر کاربر را تقویت میکنند و پتانسیل سوق دادن فرد به سمت خودکشی دارند.
- فشار بر زیرساختها: ساخت مراکز داده عظیم که زندگی جوامع محلی را تهدید میکند.
شکاف جهانی قدرت
این گزارش به تمرکز خطرناک قدرت اشاره میکند؛ چراکه بیشتر سیستمهای هوش مصنوعی منحصراً در آمریکا و چین توسعه مییابند. اکثر کشورهای در حال توسعه فاقد زیرساختی برای بهرهمندی از این ابزارها هستند و این موضوع میتواند نابرابری جهانی را عمیقتر کند. در حال حاضر، سیستمها فاقد ارزیابیهای مستقل و استانداردهای مشترکی هستند که برای تضمین شفافیت لازم است.
برای یک مدیر کسبوکار، این وضعیت به معنای برخورد قریبالوقوع با دیوارهای قانونی است. با آغاز گفتگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی در ژنو از ۶ ژوئیه ۲۰۲۶، انتظار میرود استانداردهای بینالمللی اجباری معرفی شوند که نحوه استقرار عاملهای هوش مصنوعی (AI Agents) را در شرکتها تغییر دهند. این تغییرات در حالی رخ میدهد که ساختار این عاملها هنوز با چالشهای عمیقی در زمینه عیبیابی و تحلیل علت ریشهای دست و پنجه نرم میکنند.
گام بعدی شما
- رصد کنید که کدام استانداردهای بینالمللی در اجلاس ژنو تصویب میشوند تا استراتژی استقرار ابزارهای خودکار را بهروز کنید.
- برای کاهش ریسکهای reputational، سیستمهای نظارتی داخلی خود را بر اساس معیارهای شفافیت سازمان ملل بازنگری کنید.
- ارزیابی کنید که آیا وابستگی شما به مدلهای خاصِ آمریکایی یا چینی، در صورت اعمال تحریمهای نظارتی جدید، ریسک عملیاتی ایجاد میکند یا خیر.
اما داستان سختافزاری این تحول و فشار بر مراکز داده حتی شگفتانگیزتر است — به تحلیل ما درباره اثرات زیستمحیطی تراشههای نسل جدید مراجعه کنید.
گفتگو