تصور کنید در دنیایی زندگی میکنید که تنها چند شرکت معدود، کلید دسترسی به هوشمندترین ابزارهای تاریخ بشر را در دست دارند. این همان واقعیت تلخی است که در حاشیهٔ نمایشهای خیرهکنندهٔ اجلاس دهم AI for Good در ژنو، خودنمایی میکرد.
این رویداد در یک مرکز همایش عظیم به مساحت ۱۰۶ هزار متر مربع در نزدیکی فرودگاه ژنو برگزار شد. طبق گزارشهای میدانی، فضای اجلاس با تضادی شدید میان نمایشهای تکنولوژیک و نابرابریهای سیستمیک گره خورده بود. شرکتکنندگان میان ابزارهای متنوعی میگشتند؛ برخی با هدفونهای سبز رنگ به پنلهای سازمان ملل گوش میدادند و برخی دیگر روی صندلیهای چرخانی به نام UFOTECH استراحت میکردند که شبیه سینیهای گردان رستورانهای چینی بود.
این اجلاس در حالی برگزار میشود که رقابت جهانی در حوزه هوش مصنوعی از بحث قابلیتهای نظری به نبرد بر سر زیرساختهای سختافزاری تغییر مسیر داده است. در حالی که کاخ سفید محدودیتهای صادرات تراشه را اعمال میکند و چین در حال بررسی محدود کردن مدلهای وزنهای باز (Open Weights) — یعنی مدلهایی که دستور پخت یا ساختار داخلیشان علناً منتشر شده تا همه بتوانند از آن استفاده کنند — است، سازمان ملل تلاش میکند تا بر سر معنای «خیر» در دنیایی که چند غول شرکتی آن را اداره میکنند، به توافق برسد. همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای بازمتن اشاره کردیم، نگرانی اصلی این است که استقرار بیقید و شرط این فناوری توسط انحصارات شرکتی، نابرابری جهانی را نهادینه کند. این چالشها دقیقاً با گزارشهای اخیر سازمان ملل مبنی بر پیشی گرفتن سرعت رشد قابلیتهای هوش مصنوعی از سیستمهای نظارتی جهانی همسو است.
تضاد میان تبلیغات و واقعیت
دورین بوگدان-مارتین، دبیرکل اتحادیه بینالمللی مخابرات (ITU)، در سخنرانی کلیدی خود استدلال کرد که هوش مصنوعی اگر مسئولانه مستقر شود، میتواند با گرسنگی، بیماری و گرمایش زمین مبارزه کند. با این حال، او پذیرفت که این ایدهآلها در حال حاضر توسط چالشهای خودِ هوش مصنوعی به آزمایش گذاشته شدهاند. متخصصان حاضر در event این نگاه اومتوپیایی را به چالش کشیدند:
- جولیو کوپی از سازمان Access Now مدعی شد که «عصر معصومیت» به پایان رسیده است. او هشدار داد که بخشهای بشردوستانه بیش از حد به غولهای فناوری وابسته شدهاند و به قراردادهای چند میلیون دلاری و غیرشفافی اشاره کرد که با بودجههای عمومی تامین شدهاند. کوپی اشاره کرد که سازمانها اغلب نمیتوانند زیرساختهای فنی خود را توضیح دهند، زیرا این ساختارها بیش از حد سریع تغییر میکنند.
- ویجای جاناپا ردی، استاد مهندسی هاروارد، تاکید کرد که واژه «خیر» یک استاندارد فنی بیش از حد مبهم است تا بتوان بر اساس آن مهندسی کرد. او گفت که تبلیغات بهندرت به اجرا تبدیل میشوند و با این جمله هشدار داد: «هواپیمایی که فقط پنج دقیقه پرواز میکند، به هیچ دردی نمیخورد».
- فعالان طرفدار فلسطین نیز در جلسهای با حضور ورنر ووگلز، مدیر فناوری آمازون، اعتراض کردند و مدعی شدند فناوری این شرکت در درگیریهای غزه علیه فلسطینیان به کار میرود؛ این افراد سپس از سالن خارج شدند.
شکاف محاسباتی
یک محور مرکزی در این اجلاس، تغییر ماهیت شکاف دیجیتالی بود. بحثها از دسترسی ساده به اینترنت به آنچه «مشکل توسعه» در زیرساختهای محاسبات (Compute) — یعنی قدرت پردازش سختافزاری که مانند موتور یک ماشین برای اجرای مدلهاست — نامیده میشود، تغییر یافته است. اکنون بحث بر سر این است که چه کسی میتواند تراشهها را بخرد و چه کسی از اقتصاد محاسباتی حذف میشود.
سید منیر خسرو از مؤسسه سیاستگذاری، حمایت و حکمرانی تاکید کرد که «محاسبات برای همه» نیازمند زیرساختهای توسعه قانونی است، نه فقط دسترسی به نرمافزار. او استدلال کرد که محاسبات دیگر یک مسئله فنی نیست، بلکه یک مسئله توسعهای است. برای مقابله با این انحصار، تلاشهایی نظیر پروژه Tapestry برای آموزش مدلهای جهانی بدون نیاز به اشتراک دادههای خام در حال شکلگیری است تا دسترسی عادلانهتر فراهم شود.
سخنرانان دیگر به موانع زبانی اشاره کردند. از آنجا که اکثر مدلهای زبانی بزرگ (LLM) — شبیه کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — بر پایه زبان انگلیسی ساخته شدهاند، ساخت مدلهای محلی روی سختافزارهای ارزانقیمت برای خدمت به جوامعی خارج از بازارهای ثروتمند ضروری است تا کشورهای فقیر کاملاً به پلتفرمها و استانداردهای خارجی وابسته نشوند.
استانداردهای فنی و حقوق بشر
اجلاس تلاش کرد تا از «تئاتر حکمرانی» فراتر رود. ژیل تونت، معاون دبیرکل کمیسیون بینالمللی الکتروتکنیک، اشاره کرد که مهندسان پیشتر حقوق بشر را موضوعی مربوط به دیگران میدیدند، اما اکنون این تصور تغییر کرده است.
آنیا کاسپرسن از IEEE استدلال کرد که حیاتیترین تصمیمات هوش مصنوعی نه در plenums سازمان ملل، بلکه در استانداردهای فنی، معماریهای پنهان و انتخابهای خرید تجهیزات نهفته است. او برای حل این مشکل، ایجاد یک «میانافزار» (Middleware) را پیشنهاد کرد؛ لایهای رابط که اصول سطح بالای حقوق بشر را به اجرای فنی قابل راستیآزمایی تبدیل کند.
جرمی انجی از بانک جهانی نیز افزود که ارزیابیهای اثرگذاری هوش مصنوعی باید به جای اینکه صرفاً تیک زدن یک فرم توسط شرکتهای فناوری باشد، به ابزارهایی کاربردی با «قدرت اجرایی واقعی» تبدیل شوند.
مسیر پیش رو
سازمان ملل از تشکیل یک کمیسیون ۴۴ عضوی برای هدایت ابتکار AI for Good خبر داد. ریاست مشترک این گروه بر عهده پل کاگامه، رئیسجمهور رواندا و مارک بنیوف، مدیرعامل Salesforce است. این مشارکت تلاشی برای پر کردن شکاف بین دولتهای حاکم و سازندگان شرکتی است. با توجه به ریسکهای سیستمی، برخی متخصصان همکاری فوری آمریکا و چین را تنها راهکار برای جلوگیری از سقوطهای امنیتی در این مسیر میدانند.
با وجود این تلاشهای دیپلماتیک، واقعیت فیزیکی سالن نمایش چیز دیگری را میگفت. رباتهای انساننما میان غرفهها میدویدند و سایبرتراکهای تسلا کنار هلیکوپترهای امداد سازمان ملل قرار داشتند. سرعت حرکت این رباتها نشان میداد که فناوری در حال حاضر سریعتر از توانایی جهان برای تعریف مرزهای اخلاقیاش پیش میرود.
گام بعدی شما
- اگر در حوزه توسعه مدلهای محلی فعالیت میکنید، روی مدلهای کوچکتر که نیاز به سختافزار کمتر دارند تمرکز کنید تا وابستگی به زیرساختهای ابری غولها کم شود.
- استانداردهای فنی IEEE را دنبال کنید تا متوجه شوید تصمیمات کلان حقوق بشری چگونه در کدها و معماریها پیاده میشوند.
- گزارشهای مربوط به «هوش مصنوعی حاکمیتی» را مطالعه کنید تا بفهمید دولتها چگونه تلاش میکنند مالکیت داده و محاسبات خود را بازیابند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است؛ اثر این انحصار بر قیمت تراشهها و دسترسی کشورهای در حال توسعه را در گزارش بعدی بررسی خواهیم کرد.
گفتگو