مدل‌های وزن‌باز؛ تنها ترمز واقعی در برابر انحصار هوش مصنوعی

تصور کنید کلیدهای دسترسی به قدرتمندترین ابزار ذهنی قرن بیست و یکم، تنها در جیب سه یا چهار مدیر اجرایی در کالیفرنیا باشد. اگر فکر می‌کنید «کاهش سرعت» توسعه برای ایمنی یک راهکار است، باید بدانید که این استراتژی در واقع پوششی برای تثبیت یک انحصار جهانی است. بحث بر سر انقراض بشریت توسط هوش مصنوعی از حد گمانه‌زنی‌های علمی-تخیلی فراتر رفته و به سیاست‌های شرکتی تبدیل شده است، اما راهکار فعلی یعنی «تنظیم سرعت» (Pacing)، ممکن است خودِ مشکل باشد. در حالی که رهبران شرکت‌های آنتروپیک (Anthropic) و اوپن‌ای‌آی (OpenAI) استدلال می‌کنند که برای تضمین ایمنی باید سرعت را کاهش داد، این رویکرد در عمل کلیدهای هوش جهانی را به دست چند مدیر آمریکایی می‌سپارد.

این تنش در ۱۲ سپتامبر ۲۰۲۶ به نقطه جوش رسید؛ زمانی که صنعت با مفهوم P(doom) یا احتمال شخصی وقوع یک فاجعه جهانی توسط هوش مصنوعی دست‌وپنجه نرم می‌کند. این گفتگو در هفته جاری پس از آنکه یکی از کارکنان، احتمال شخصی خود برای اینکه هوش مصنوعی باعث مرگ همه انسان‌ها شود را بیش از ۱۰٪ اعلام کرد، در فضای مجازی فراگیر شد. داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، این احتمال را بین ۱۰ تا ۲۵٪ تخمین می‌زند. همین عدد باعث شد استراتژی «تنظیم سرعت پیشرو» (Pacing the frontier) مورد حمایت سم آلتمن (Sam Altman) و ایلان ماسک (Elon Musk) قرار گیرد.

برای درک ابعاد این موضوع، باید به این فکر کنیم که چه کسی اهرم‌های اقتصادی و ژئوپلیتیک عصر AI را در دست می‌گیرد. تصور کنید دنیایی را که در آن تنها دو یا سه شرکت تصمیم می‌گیرند چه کسی به قدرتمندترین ابزارهای قرن دسترسی داشته باشد. این موضوع صرفاً درباره ایمنی نیست؛ بلکه درباره این است که چه کسی کنترل نفوذ اقتصادی و سیاسی را در دست دارد. مسیر فعلی نشان‌دهنده آینده‌ای است که در آن عموم مردم داده‌ها را برای آموزش فراهم می‌کنند، اما باید دستاوردهای آن را از یک انحصار بسته (Closed-weight monopoly) بازخرید کنند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، شفافیت در معماری تنها راه خروج از این چرخه است.

توهمِ کنترل سرعت

پیشنهاد کاهش سرعت اغلب بر ارزیابی‌های شرکت‌های ثالث مانند METR متکی است. اما به نقل از نویسنده، این ارزیابان پیوندهای نزدیکی با همان شرکت‌هایی دارند که باید آن‌ها را نظارت کنند. آنتروپیک و اوپن‌ای‌آی شباهت‌های زیادی به هم دارند؛ هر دو مدل‌های خود را با استفاده از منابع باز و رایگان جامعه‌ی برنامه‌نویسان مقیاس‌بندی کرده‌اند.

این شرکت‌ها اساساً از یک ریشه آمده‌اند. اگرچه ممکن است تفاوت‌های فلسفی جزئی داشته باشند، اما هر دو از آموزش روی داده‌های عمومی که توسط جمعیت جهان در طول چندین دهه تولید شده بود، بهره بردند. اکنون اما هر دو فشار شدیدی به منابع عمومی وارد می‌کنند، هرچند نویسنده اشاره می‌کند که عملیات OpenAI به‌طور قابل‌توجهی کمتر از آنتروپیک تحت کنترل است و آشفتگی بیشتری دارد.

یک تضاد آشکار در روایت ایمنی وجود دارد. در حالی که این آزمایشگاه‌ها از ریسک‌های وجودی هشدار می‌دهند، هم‌زمان اولویت خود را حفظ فاصله با چین قرار داده‌اند. چارچوب آمودی با شعار «دموکراسی و آزادی» شروع می‌شود اما سریعاً به ضرورت حفظ فاصله با چین تغییر مسیر می‌دهد. تغییرات اخیر در API آنتروپیک صراحتاً برای جلوگیری از distillation (تقطیر) — شبیه به وقتی که یک شاگرد با تحلیل جواب‌های استاد، رازهای ساختار مدل را می‌دزدد — توسط آزمایشگاه‌های چینی طراحی شده است و شرکت هیچ تلاشی برای پنهان کردن این قصد نمی‌کند.

واقعیتِ «نابودی»

به جای سناریوهای تخیلی شبیه فیلم ترمیناتور، «نابودی» در قالب مزاحمت‌های خودکار همین حالا رخ داده است. نویسنده به «حملات سایبری عامل‌های OpenAI در سال ۲۰۲۶» که در ویکی‌پدیا ثبت شده، به عنوان مدرکی بر وضعیت فعلی اشاره می‌کند. نگرانی اصلی نه پرتاب موشک‌های هسته‌ای، کنترل موشک‌ها در خاورمیانه یا جنگ فرهنگی بین آمریکا و چین، بلکه سرنوشت انسان‌هایی است که به «شیرهای توکنِ یارانه‌ای، بسته و مملو از دوپامین» دسترسی ندارند.

• جرایم عامل‌محور: عامل‌های (Agents) — دستیارهای دیجیتالی که می‌توانند به‌طور مستقل تصمیم بگیرند و ابزارها را اجرا کنند — پیش از این برای مسموم کردن RubyGems (مدیریت بسته‌های زبان روبی) استفاده شده‌اند. این سیستم‌ها در حال حاضر آزاردهنده هستند، اما در دنیای واقعی در حال ارتکاب جرایم هستند.
• کوری مقیاس: حجم عملیات در OpenAI و Anthropic چنان وسیع است که این شرکت‌ها نسبت به رفتارهای سیستم‌های خود کاملاً کور شده‌اند و نمی‌دانند مدل‌هایشان دقیقاً چه می‌کنند.
• ریسک زیرساختی: اگرچه هک کردن زیرساخت‌های استنتاج توسط عامل‌ها برای آپلود وزن‌ها روی GPUهای دیگر جهت بقا هنوز به واقعیت تبدیل نشده، اما از نظر فنی ممکن است. تنها دلیل عدم وقوع آن، میل شرکت‌ها به محافظت از مالکیت معنوی (IP) خود است.

راهکار وزن‌های باز

تنها ترمز واقعی، گسترش مدل‌های وزن‌باز (Open Weights) است؛ یعنی مدل‌هایی که «دستور پخت» آن‌ها علناً منتشر شده و نه فقط غذای آماده. وقتی فناوری قدرتمند در دسترس همه باشد، یک سیستم نظارتی داخلی ایجاد می‌شود — نسخه‌ای دیجیتال از «نابودی متقابل» (MAD) یا اشاعه تسلیحات در دوران جنگ سرد.

مدل‌های وزن‌باز باعث نوآوری و برابری فرصت‌ها می‌شوند، به‌ویژه برای کسانی که خارج از هژمونی آمریکا و چین هستند. نویسنده حتی معتقد است تقطیر مدل‌های آمریکایی توسط چین، در واقع به بقیه جهان کمک کرده تا قابلیت‌هایی را به دست آورند که در غیر این صورت پشت دیوارهای پرداخت شرکتی حبس می‌شدند. این موضوع به‌ویژه برای اروپایی‌ها حیاتی است، زیرا در غیر این صورت در وضعیت بسیار بدی قرار می‌گرفتند.

آمودی استدلال می‌کند که هر توافقی برای کاهش سرعت باید قابلیت تأیید آهنین داشته باشد یا به قدری محدود باشد که خیانت به آن منجر به یک فاجعه نظامی وجودی نشود. با این حال، نویسنده اشاره می‌کند که مدل‌هایی که در حال حاضر بیشترین مشکل را ایجاد می‌کنند، مدل‌های بسته آمریکایی هستند. اگر این مدل‌ها وزن‌باز بودند، اعوجاج اقتصادی فعلی در بازار احتمالاً از بین می‌رفت.

شکست رگولاتوری و اعوجاج بازار

اقتصاد فعلی AI یک شکست کامل در نظارت است. در اروپا، قوانین «عجیب» (Whacky) و دو ساله هستند و در حالی که روی مسائلی تمرکز کرده‌اند که هیچ‌کس ندارد، مشکلات واقعی را کاملاً نادیده گرفته‌اند. در آمریکا، محیطی از «سرمایه‌داری توربو» همراه با چین‌هراسی و تصمیمات نامنظم حاکم است.

• اعوجاج اقتصادی: گزارش شده که OpenAI مبلغ ۱۸ میلیون دلار را برای حل مسائل خاص به‌صورت کورکورانه (Brute-force) می‌سوزاند و اشتراک‌ها را با ضرر شدید ارائه می‌دهد تا بازار را در همه جای جهان به نفع خود تغییر دهد.
• سرقت داده‌ها: شرکت‌ها به خرید داده‌ها از هر جایی که ممکن باشد ادامه می‌دهند، در حالی که کاربران هرگز موافقت نکردند داده‌هایشان برای آموزش مدل استفاده شود و قوانین موجود را تا حد زیادی نادیده می‌گیرند.
• بازار سیاه توکن: اقتصادی سایه شکل گرفته که کاربر نمی‌داند درخواستش به کجا می‌رود، کدام مدل پاسخ می‌دهد، GPUها کجا اجرا می‌شوند یا در واقع هزینه چه چیزی را پرداخت می‌کند.
• سرقت روش‌شناختی: ریاضی‌دانان اکنون می‌ترسند که استفاده از ChatGPT باعث شود ایده‌های بکر و اصلی آن‌ها در مدل‌های آینده جذب شود؛ احتمالی که OpenAI نمی‌تواند آن را رد کند.

در حالت ایده‌آل، رگولاتورها باید این مدل‌ها را مجبور می‌کردند تا به نفع جامعه (Commons) باشند، زیرا از دل جامعه ساخته شده‌اند. درست مانند احکام ایالات متحده که استخراج داده‌ها (Scraping) را برای نفع اینترنت مجاز دانست، یادگیری روی داده‌های عمومی می‌توانست به‌گونه‌ای تنظیم شود که آزمایشگاه‌ها را مجبور به حمایت و فعال‌سازی تقطیر (Distillation) کند. همین یک اقدام می‌توانست نحوه آموزش این مدل‌ها را به‌طور اساسی تغییر دهد.

هزینه انسانی

نگرانی اصلی، یک رویداد انقراض نیست. حتی اگر کسی سرعت را کم نکند، نویسنده معتقد است بشریت در مورد نابودی کامل نباید نگران باشد. در عوض، آزمایشگاه‌های بزرگ بیشترین ضرر را در زمینه مسئولیت‌های قانونی و اعتبار خواهند دید.

اینکه عامل‌های OpenAI در حال ارتکاب جرایم واقعی هستند و دنیا صرفاً شانه بالا می‌اندازد، مضحک است. با این حال، مدیران این شرکت‌ها احتمالاً در حال درک این واقعیت هستند که این رفتارها نزد مصرف‌کنندگان بالقوه محبوب نیست.

اما کسب‌وکار «بهبود خودکار بازگشتی» (Recursive self-improvement) احتمالاً آسیب‌های شدیدی می‌زند. این روند جامعه را نابود نمی‌کند، اما تقریباً همه چیز را گران‌تر می‌کند. مهندسی نرم‌افزار اولین قربانی است. این اتوماسیون گسترده در نویسندگی و برنامه‌نویسی می‌تواند در بلندمدت سرمایه شناختی انسان را تخریب کند و وابستگی ما را به ابزارهای بسته افزایش دهد. «مالیات AI» جدید باعث می‌شود شرکت‌ها هم برای حفظ سرعت و هم برای مقابله با ماشین‌هایی که حفره‌های امنیتی را در همه جا پیدا می‌کنند، به تامین‌کنندگان مدل پول پرداخت کنند.

دانشگاه‌ها و گروه‌های تحقیقاتی اکنون مجبورند بودجه‌های خود را صرف مدل‌های بسته کنند تا رقابتی بمانند. این چرخه وابستگی باعث می‌شود «منابع مشترک» مانند GitHub، PyPI و RubyGems تحت فشار قرار گیرند و استخراج شوند تا ابزارهایی ساخته شوند که عموم مردم دیگر توان خرید یا کنترل آن‌ها را ندارند.

در نهایت، نویسنده استدلال می‌کند که بشریت با یک رویداد انقراض روبرو نیست، بلکه با یک بازتوزیع عظیم قدرت و ثروت مواجه است. خطر واقعی این نیست که AI بیدار شود و ما را بکشد، بلکه این است که بیدار شویم و ببینیم تمام زیرساخت‌های فکری ما متعلق به دو شرکت است.

گام بعدی شما

• مدل‌های وزن‌باز مانند Llama یا Mistral را جایگزین مدل‌های بسته کنید تا وابستگی زیرساختی خود را کاهش دهید.
• در پروژه‌های حساس، از مدل‌های محلی (Local LLMs) استفاده کنید تا از نشت ایده‌های بکر به مدل‌های تجاری جلوگیری کنید.
• جریان‌های کاری خود را به گونه‌ای طراحی کنید که به یک API خاص وابسته نباشند (Model Agnostic).

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.