تصور کنید دنیای نرمافزار را به گونهای ببینید که در آن تنها سه یا چهار شرکت تصمیم بگیرند چه کسی اجازه دارد از ابزارهای هوش مصنوعی استفاده کند و چه کسی خیر. اگر این سناریو محقق شود، سرعت پیشرفت تکنولوژی دیگر تابع نبوغ محققان نخواهد بود، بلکه تابع استراتژیهای سودآوری چند شرکت بزرگ است.
سه نفر از تاثیرگذارترین چهرههای تاریخ هوش مصنوعی — جفری هینتون (Geoffrey Hinton)، فیفی لی (Fei-Fei Li) و اندرو انجی (Andrew Ng) — در کنفرانس Ai4 در لاسوگاس در هفتهی گذشته هشدار دادند که اجازه دادن به چند شرکت برای کنترل دسترسی به این فناوری، نوآوری جهانی را خفه میکند. این پژوهشگران استدلال کردند که صنعت باید در برابر ظهور «دروازهبانها» مقاومت کند؛ وضعیتی شبیه به تسلط اپل و گوگل بر سیستمعاملهای موبایل. وقتی تعداد کمی از شرکتها پلتفرمها را کنترل میکنند، میتوانند بر آنچه روی آنها ساخته میشود تاثیر بگذارند و سرعت کلی پیشرفت را کاهش دهند.
این بحث در حالی رخ میدهد که آزمایشگاههای بزرگ، مدلهای وزنباز (Open Weights) — یعنی مدلهایی که «دستور پخت» یا پارامترهای نهایی آنها علناً منتشر شده تا دیگران نیاز به صرف هزینههای میلیاردی آموزش اولیه نداشته باشند — را به عنوان تهدیدی برای امنیت میبینند. با توزیع رایگان و کنترل کم بر نحوه استفاده، برخی آزمایشگاهها این مدلها را کاملاً ترسناک میدانند. همانطور که در تحلیل قبلی ما دربارهی نفوذ محتوای تولید شده توسط هوش مصنوعی در رسانههای جریان اصلی، مانند مورد Treblo Classifier اشاره کردیم، تنش فعلی بر سر این است که آیا خطر سوءاستفاده از این مدلها، بیشتر از خطر متمرکز شدن قدرت در دست چند شرکت است یا خیر. طبق گزارشهای منتشر شده از این کنفرانس، توانایی بازرسی و کنترل این مدلها اکنون به یک نقطهٔ عطف ژئوپلیتیک و اقتصادی تبدیل شده است.
استدلال علیه دروازهبانها
اندرو انجی، همبنیانگذار کورسرا، معتقد است باز بودن مدلها تنها راه تضمین دسترسی همگانی به هوش مصنوعی است. او بر این باور است که شرکتها انگیزهای طبیعی دارند تا با لابی کردن برای قوانینی که فقط شرکتهای سرمایهدار میتوانند رعایت کنند، مزیت رقابتی خود را حفظ کنند. انجی صراحتاً اعلام کرد: «من نمیخواهم دروازهبانی در کار باشد»، و خاطرنشان کرد که چنین پویاییای، نحوه دسترسی همگان به این فناوری را محدود میکند.
راهکار پیشنهادی انجی، حفظ تامینکنندگان متعدد است تا مدلها و شرکتها با یکدیگر رقابت کنند، به جای آنکه اجازه دهیم چند بازیگر بر بازار مسلط شوند. او معتقد است ترویج باز بودن مدلها تنها نسخهٔ درمانی است، زیرا هوش مصنوعی یک «فناوری شگفتانگیز» است که باید در دسترس همه باشد.
قدرت نرم و رقابت ژئوپلیتیک
انجی بهطور خاص به خطر از دست دادن «قدرت نرم» در برابر چین اشاره کرد. او خاطرنشان کرد که اگر مدلهای وزنباز چین در آفریقا، آسیا و کشورهای در حال توسعه پذیرفته شوند، میتوانند بر ایدههای جهانی دربارهٔ دموکراسی، آزادی و حقوق بشر تاثیر بگذارند. به نقل از او، مدلهای چینی همین حالا هم «دستاوردهای چشمگیری» در آفریقا داشتهاند.
او هشدار داد که لابیهای ترسافکن و ایجاد فضای اضطراری در آمریکا باعث میشود هوش مصنوعی متنباز ایالات متحده در رقابت با جایگزینهای ارزانتر و بهینهتر چینی شکست بخورد. انجی استدلال کرد که اگر چین راهی بنیادین و کمهزینهتر برای ساخت هوش مصنوعی پیدا کند، در پذیرش تجاری برتری مطلق و بنیادین خواهد داشت.
پارادوکس ایمنی
جفری هینتون، برندهٔ جایزه نوبل، دیدگاه محتاطانهتری داشت. او تمایزی شدید بین نرمافزار متنباز (که کد آن قابل بازرسی است) و مدلهای وزنباز (که پارامترهای آموزشدیده منتشر میشوند) قائل شد. در حالی که متنباز بودن اجازه میدهد باگهای کد پیدا شوند، وزنهای باز در واقع محصول نهایی یک فرآیند آموزشی بسیار گرانقیمت را در اختیار کاربر قرار میدهند.
نگرانیهای اصلی هینتون عبارتند از:
- هزینهٔ پایین برای بازیگران بدخواه جهت برداشتن مدلهای بنیادی گرانقیمت و آموزش آنها برای «کارهای بد مانند حملات سایبری».
- خطر ذاتی موجوداتی که ممکن است از انسان باهوشتر شوند.
- ریسک استفاده از برچسب «ترسافکنی» برای ساکت کردن نگرانیهای مشروع ایمنی، که او این رویکرد را «ناعادلانه» میداند.
با این حال، هینتون پذیرفت که نبرد برای مدلهای بسته شکست خورده است. او اعلام کرد چون مدلهای وزنباز همین حالا وجود دارند، سد هزینهای برای دسترسی به مدلهای بنیادی عملاً از بین رفته و برای توقف توزیع وزنها «خیلی دیر شده است». با این وجود، او همچنان خوشبین است که هوش مصنوعی بهرهوری را افزایش داده و مراقبتهای بهداشتی و آموزش را بهبود میبخشد.
راه میانه و مدلهای ترکیبی
فیفی لی، مدیرعامل World Labs، انتخاب دوتایی بین «باز بودن کامل» یا «رازداری مطلق» را رد کرد. او معتقد است تبدیل این موضوع به یک دوگانگی «بسیار خطرناک» است، زیرا سیستمهای علمی و نرمافزاری پیچیده، ظرافتهای بیشتری دارند.
لی فیزیک هستهای را به عنوان الگویی برای حکمرانی هوش مصنوعی پیشنهاد داد. در آن حوزه، مقالات علمی بهطور باز منتشر میشوند، اما مواد فیزیکی (مثل اورانیوم) بهشدت کنترل میشوند. او پیشنهاد کرد هوش مصنوعی از رویکرد لایهای پیروی کند:
- باز بودن در اکتشافات علمی و آموزش.
- دسترسی کنترلشده به قابلیتهای پرخطر (شبیه به محیط آزمایشگاهی).
- مدلهای تجاری بسته و سودآور برای کارآفرینان.
او پروژه ژنوم انسان را به عنوان نمونهای موفق از همکاری بخش خصوصی و عمومی ذکر کرد. این پروژه پلتفرمی از دانش ایجاد کرد که به شرکتهای داروسازی اجازه داد سود ببرند و دانشمندان کارهای خود را پیش ببرند، در حالی که جامعه نیز بهرهمند شد. او معتقد است هوش مصنوعی باید به عنوان زیرساختی مشابه عمل کند و تعادلی بین مشارکتهای جهانی و مدلهای تجاری ایجاد نماید.
اجماع بر سر نظارت
با وجود تفاوت در تاکتیکها، هر سه پیشگام توافق داشتند که سطحی از نظارت اجباری است. هینتون صراحتاً بیان کرد که آینده هوش مصنوعی نباید به تصمیمات و صلاحدید افرادی مانند ایلان ماسک یا مارک زاکربرگ سپرده شود. او معتقد است نظارت کمک میکند تا هوش مصنوعی در جهتی توسعه یابد که بهطور خاص به انسانها کمک کند.
این تغییر نشان میدهد که صنعت از فاز «غرب وحشی» به سمت یک اکوسیستم ساختاریافته حرکت میکند. هدف این است که تعادلی بین ضرورت اقتصادی سودآوری مدلهای بسته و ضرورت دموکراتیک دسترسی به وزنهای باز ایجاد شود.
برای کسانی که تغییرات در رهبری هوش مصنوعی را دنبال میکنند، سیگنال حیاتی بعدی این خواهد بود که آیا دولت ایالات متحده سیاستهای خود را برای حمایت از تامینکنندگان داخلی مدلهای وزنباز، جهت مقابله با کارایی مدلهای چینی، تغییر میدهد یا خیر.
گام بعدی شما
- اگر توسعهدهنده هستید، مدلهای وزنباز را برای کاهش وابستگی به APIهای گرانقیمت شرکتهای بزرگ بررسی کنید.
- در مورد تفاوتهای مدلهای متنباز و وزنباز مطالعه کنید تا ریسکهای امنیتی استقرار را بهتر درک کنید.
- تحولات سیاستهای دولت آمریکا در حمایت از مدلهای باز داخلی را دنبال کنید تا تغییرات در هزینه استنتاج را پیشبینی کنید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو