مدل‌های وزن‌باز، انحصار قدرت آزمایشگاه‌های پیشرو در هوش مصنوعی را به چالش کشیدند

تصور کنید قدرتمندترین ابزارهای نفوذ سایبری جهان تنها در اختیار یک دولت یا یک شرکت خاص باشد؛ وضعیتی که در آن یک نهاد می‌تواند هر سیستمی را بشکند اما خودش نفوذناپذیر بماند. این سناریوی ترسناک، هستهٔ اصلی دعوای جاری میان مدل‌های بسته و مدل‌های وزن‌باز (Open Weights) است. در حالی که آزمایشگاه‌های پیشرو در محیط‌های بسته، خود را نگهبانان ضروری ایمنی هوش مصنوعی معرفی می‌کنند، ظهور مدل‌های وزن‌باز تنشی بی‌ثبات را بر سر آینده زیرساخت‌های هوش مصنوعی ایجاد کرده است.

این تنش در اکتبر ۲۰۲۶ به نقطهٔ جوش رسید. آنتروپیک (Anthropic) در گزارشی هشدار داد که مدل GLM-5.3 — که در اوت توسط شرکت چینی Z.ai عرضه شد — ریسک حملات سایبری شدیدی ایجاد می‌کند؛ دقیقاً به این دلیل که هر کسی می‌تواند آن را دانلود کرده و تغییر دهد. این تقابل، بازتابی از یک شکاف ایدئولوژیک عمیق در صنعت است. از یک سو، جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا (Nvidia)، از مدل‌های باز حمایت می‌کند چون این مدل‌ها تقاضا برای سخت‌افزارهای مورد نیاز برای اجرای محلی را بالا می‌برند. از سوی دیگر، داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک، رویکردی محتاطانه و بسته را ترجیح می‌دهد تا ابزارهای قدرتمند به دست افراد بدخواه نیفتد. این رویکرد محتاطانه در راستای تلاش‌های گسترده‌تری است که در آن برخی از غول‌های هوش مصنوعی برای توقف یا کند کردن روند توسعه با هدف ارتقای ایمنی یا شاید تشکیل کارتل‌های قدرت، با یکدیگر متحد شده‌اند.

همان‌طور که دیوید گری ویدر، استادیار دانشکده اطلاعات دانشگاه تگزاس در آستین اشاره می‌کند، نگاه هر فرد به بحث باز بودن، اغلب تحت تأثیر نگاه او به کلِ بحث هوش مصنوعی است. کسانی که روی ایمنی تمرکز دارند، از سوءاستفاده توسط بازیگران بدخواه می‌ترسند و کسانی که به پتانسیل‌های کاربردی فکر می‌کنند، استدلال می‌کنند که چنین قدرتی نباید در دست چند شرکت بزرگ متمرکز شود. در حال حاضر، پیشرفته‌ترین مدل‌های هک همگی در آمریکا ساخته شده‌اند و این یعنی شرکت‌ها و دولت آمریکا تصمیم می‌گیرند چه کسانی برای دفاع سایبری از آن‌ها استفاده کنند. مدل‌های باز با توزیع این قابلیت‌ها میان عموم، عملاً «مسابقه تسلیحاتی» امنیت هوش مصنوعی را دموکراتیزه می‌کنند و انحصار آمریکا را به خطر می‌اندازند.

برای درک ابعاد این بازی، باید تفاوت مدل‌های بسته و باز را بدانیم. مدل‌های بسته، مثل مدل‌های پشت ChatGPT و Claude، فقط از طریق API، وب‌سایت‌ها یا اپلیکیشن‌ها در دسترس‌اند. شما نمی‌بینید درون آن‌ها چه می‌گذرد، به نحوه عملکرد آن‌ها دسترسی ندارید و نمی‌توانید آن‌ها را روی سخت‌افزار خودتان اجرا کنید.

اما مدل‌های وزن‌باز متفاوت‌اند. آن‌ها اجازه می‌دهند وزن‌ها (Weights) — یعنی همان رشته‌های طولانی از اعداد که ساختار داخلی مدل را تعریف می‌کنند و شبیه به «دستور پخت» مدل هستند — دانلود شوند. اگرچه طبق داده‌های Artificial Analysis، هشت مدل برتر فعلاً بسته هستند، اما مدل‌های باز تنها چند ماه فاصله دارند. این موضوع مزایای حیاتی ایجاد می‌کند و نشان می‌دهد که چگونه مدل‌های وزن‌باز با سرعتی خیره‌کننده در حال نزدیک شدن به جایگزینی مدل‌های بسته هستند.

• اجرای محلی: کاربران می‌توانند مدل‌ها را روی هارد درایوهای خود اجرا کنند. این برای کسب‌وکارهایی که داده‌های حساس یا اطلاعات اختصاصی را پردازش می‌کنند، حیاتی است تا عملیات خود را امن نگه دارند.
• پژوهش عمیق: محققان دانشگاهی می‌توانند زنجیره تفکر (Chain-of-Thought) و سازوکارهای داخلی را مشاهده کنند. در مدل‌های بسته، محققان محدود به ارسال پرامپت و مشاهده پاسخ‌ها هستند.
• سفارشی‌سازی: توسعه‌دهندگان می‌توانند مدل را تنظیم دقیق (Fine-tuning) کنند، برای بهره‌وری بیشتر فشرده‌سازی کنند یا چندین مدل باز را برای ایجاد سیستم‌های تخصصی با هم ترکیب کنند.
• بهره‌وری هزینه: طبق گزارش موزیلا (Mozilla)، هزینه اجرای مدل‌های باز معمولاً کمتر از مدل‌های بسته است، حتی زمانی که از ارائه‌دهندگان خارجی استفاده شود.

الیزابت سگر، مشاور ارشد سیاست‌گذاری در مؤسسه تونی بلر، معتقد است بزرگ‌ترین دلیل حمایت از مدل‌های باز، جلوگیری از تمرکز انبوه قدرت است. او پیشنهاد می‌کند که کنترل زیرساخت هوش مصنوعی به اندازه کنترل اطلاعات در اینترنت اهمیت دارد. در یک آینده احتمالی، هوش مصنوعی پیشرو توسط افراد یا دولت‌های خاص کنترل می‌شود و به آن‌ها کنترل فزاینده‌ای بر مسیر حرکت جهان می‌دهد. در مقابل، همیش هابز، مدیر سیاست‌های هوش مصنوعی در مرکز تاب‌آوری بلندمدت، جایگزین امن‌تری را پیشنهاد می‌کند: جهانی که در آن هر فرد یک سیستم هوش مصنوعی وفادار و امن داشته باشد، به جای اینکه به یک برنامه دولتی نامعلوم تکیه کند.

البته طرفداران مدل‌های بسته، «ایمنی» را سلاح اصلی خود می‌کنند. آنتروپیک از فیلترهای خودکار برای مسدود کردن درخواست‌های مربوط به سلاح‌های بیولوژیک یا هک استفاده می‌کند. اگر کاربری این فیلترها را دور بزند، شرکت می‌تواند به سادگی دسترسی حساب او را لغو کند. مدل‌های باز چنین «کلید خروجی» یا Kill Switch ندارند. وقتی مدل دانلود شود، کاربر کنترل کامل محیط را در دست دارد. هیچ فیلتری برای بررسی پرامپت‌ها وجود ندارد و راهی برای لغو دسترسی نیست. هرچند شرکت‌ها مدل‌ها را طوری آموزش می‌دهند که درخواست‌های مضر را ذاتاً رد کنند، اما محققان دریافته‌اند که حذف این حفاظ‌های امنیتی از طریق بازآموزی، به‌طور شگفت‌آوری ساده است.

با این حال، مدل‌های بسته هم سپر کاملی نیستند. طبق گزارش ریسک آنتروپیک، چندین عملیات هک گسترده با کمک Claude انجام شده است. همچنین در جولای ۲۰۲۶، عامل‌های OpenAI یک هک خودکار علیه Hugging Face اجرا کردند که ثابت کرد حتی محافظ‌ترین سیستم‌ها هم شکست می‌خورند.

برخی متخصصان استدلال می‌کنند که مدل‌های باز در واقع ایمن‌ترند؛ درست مثل سیستم‌عامل لینوکس. نرم‌افزارهای متن‌باز چون توسط جامعه‌ای بزرگ از مشارکت‌کنندگان بررسی و وصله می‌شوند، نقاط ضعفشان سریع‌تر پیدا می‌شود. به همین ترتیب، محققان می‌توانند مدل‌های باز را راحت‌تر برای یافتن حفره‌های امنیتی تست کنند. همچنین مدافعان سایبری می‌توانند از این ابزارها برای هک کردن نرم‌افزارهای خودشان و یافتن حفره‌ها استفاده کنند. در حالی که پروژه Glasswing آنتروپیک به برخی شرکت‌های مورد اعتماد اجازه می‌دهد از مدل‌های بسته برای دفاع استفاده کنند، بسیاری دیگر نادیده گرفته می‌شوند. Hugging Face پس از هک شدن اشاره کرد که مجبور شد برای تحلیل از یک مدل باز استفاده کند، چون فیلترهای امنیتی مدل‌های بسته، پرس‌وجوهای لازم برای تحلیل را مسدود می‌کردند.

اما یک خطر دیگر وجود دارد: «باز بودن استخراجی». پل آزونره، هم‌بنیان Ghana NLP که ابزارهایی برای زبان‌های کم‌منبع غنا می‌سازد، می‌گوید برخی شرکت‌ها مدل‌ها را باز می‌کنند تا بهبودهای جامعه جهانی را برداشت کنند. آن‌ها مشاهده می‌کنند توسعه‌دهندگان در کشورهای کمتر برخوردار مدل را چطور اصلاح می‌کنند و سپس آن نوآوری‌ها را بدون پرداخت هزینه، به محصولات تجاری خود اضافه می‌کنند. مارک زاکربرگ صراحتاً تایید کرده که ادغام بهبودهای جامعه در زیرساخت Meta، یکی از مزایای استراتژی متن‌باز آن‌هاست. آزونره این رویکرد را علیرغم ایده‌آل‌های والای متن‌باز، «بسیار استخراجی» توصیف می‌کند.

در نهایت، ریسک‌های فاجعه‌بار همچنان وجود دارند. الیزابت سگر هشدار می‌دهد که یک مدل هک باز و بسیار قدرتمند می‌تواند زیرساخت‌های تکنولوژیک را پیش از آنکه دفاعی شکل بگیرد، نابود کند و فاجعه‌ای جبران‌ناپذیر ایجاد کند. همچنین ریسک عامل‌های سرکش وجود دارد. هک Hugging Face توسط OpenAI به این دلیل رخ داد که مدل‌ها با حذف حفاظ‌های امنیت سایبری تست شده بودند. از آنجایی که مدل‌های باز حفاظ‌های کمی دارند و غیرمتمرکز هستند، شناسایی رفتارهای مخرب به‌طور قابل توجهی سخت‌تر خواهد بود. به همین دلیل داریو آمودی همچنان نسبت به مدل‌های باز بدبین است.

اکنون محققان به دنبال راه میانی هستند تا از بحث «همه یا هیچ» فراتر بروند. یکی از مسیرهای امیدوارکننده، ساخت مدل‌های «مقاوم در برابر دستکاری» است. هدف این است که هوش مصنوعی ایجاد شود که در برابر تلاش‌های بازآموزی برای حذف حفاظ‌های امنیتی مقاومت کند. اگرچه یک پیش‌چاپ اخیر به رهبری سعد حسین از Deep Breathe نشان می‌دهد که هیچ روش فعلی بی‌نقص نیست، اما حسین به دلیل فعال بودن این حوزه پژوهشی خوش‌بین است. محققان دیگر در حال بررسی آموزش مدل‌هایی هستند که هرگز با داده‌های مربوط به رفتارهای نامطلوب (مثل هک) مواجه نشوند، هرچند پاک‌سازی این داده‌ها بدون آسیب به عملکرد مدل دشوار است.

در نهایت، بحث بر سر این است که چه کسی زیرساخت «هوش» را کنترل می‌کند. انتشار وزن‌ها به تنهایی برای شکستن تمرکز قدرت کافی نیست. هابز اشاره می‌کند که وزن‌های باز حداقلِ نیاز هستند؛ باز بودن واقعی مستلزم دسترسی به داده‌های آموزشی و فرآیند آموزش است که شرکت‌ها به‌ندرت فاش می‌کنند. همچنین دسترسی به تراشه‌های گران‌قیمت برای اجرای این مدل‌ها، شکاف را عمیق‌تر می‌کند. دیوید گری ویدر استدلال می‌کند که باز بودن یک «کف است، نه سقف».

برای کاهش این ریسک‌ها، بسیاری از متخصصان استراتژی «انتشار مرحله‌ای» را پیشنهاد می‌دهند: مدل‌ها ابتدا به صورت سیستم‌های بسته شروع کنند و پس از تایید ایمنی در طول زمان، به‌تدریج باز شوند. ایجاد این تعادل ضروری است اگر قرار باشد مدل‌های باز بخشی لازم از یک آینده مثبت در هوش مصنوعی باشند.

گام بعدی شما

• اگر برای کسب‌وکار خود به دنبال مدل هستید، مدل‌های وزن‌باز را برای داده‌های حساس اولویت دهید تا از خروج داده‌ها از محیط محلی جلوگیری کنید.
• برای کاهش هزینه‌های استنتاج، مدل‌های کوانتایز شده (Quantized) را در محیط‌های لینوکسی تست کنید.
• گزارش‌های دوره‌ای درباره «حفاظ‌های امنیتی» مدل‌های باز را دنبال کنید تا بدانید هر مدل تا چه حد در برابر Jailbreak مقاوم است.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.