مدل‌های وزن‌باز چینی تهدیدی برای امنیت ملی آمریکا نیستند

اگر امروز برای انتخاب بین یک مدل قدرتمند چینی و یک جایگزین گران‌قیمت آمریکایی مردد هستید، باید بدانید که این تصمیم لزوماً یک قمار امنیتی نیست. طبق اعلام لوکاس اتکینز (Lucas Atkins)، مدیر فنی آزمایشگاه هوش مصنوعی Arcee در آمریکا، مدل‌های وزن‌باز (Open Weights) — یعنی مدل‌هایی که «دستور پخت» یا پارامترهایشان علناً منتشر شده و نه فقط غذای آماده — انتقال‌دهنده ذاتی بدافزار یا ابزار جاسوسی نیستند.

زمینه سیاسی و اقتصادی

این بحث درست زمانی شدت می‌گیرد که دولت ترامپ احتمال ممنوعیت مدل‌های هوش مصنوعی چینی را بررسی می‌کند، هرچند هنوز اقدام رسمی در این زمینه صورت نگرفته است. در همین حال، غول‌های مدل‌های بسته مانند OpenAI و Anthropic به‌شدت نگران ظهور رقبای وزن‌باز و توانمند هستند. این رقابت در حالی شدت می‌یابد که برخی استارتاپ‌های آسیایی در پاسخ به محدودیت‌های صادراتی شرکت‌هایی چون Anthropic، مدل‌های جایگزین خود را روانه بازار کرده‌اند. همان‌طور که در تحلیل قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، مرز بین دسترسی آزاد و ریسک عملیاتی همواره یک نقطه بحث‌برانگیز است.

برای بسیاری از سازمان‌ها، جذابیت این مدل‌ها صرفاً اقتصادی است. مدل‌هایی مثل Qwen از علی‌بابا یا Kimi K3 از Moonshot AI، هزینه استنتاج (Inference) — یعنی همان لحظه‌ی تولید جواب که شبیه به خودِ آشپزی است، نه دوره‌ی آموزش آشپز — را به کسری از هزینه‌ی توکن‌هایی که آزمایشگاه‌های بسته آمریکایی دریافت می‌کنند، کاهش داده‌اند. این توانمندی، حاشیه سود شرکت‌های بزرگ و مدل‌های بسته آمریکایی را تهدید می‌کند و همین امر باعث شده تا فوریت این بحث‌های امنیتی و سیاسی افزایش یابد.

بررسی باور غلط «نرم‌افزار مخرب»

به نقل از اتکینز، تصور اینکه مدل‌های زبانی مانند نرم‌افزارهای سنتی کدنویسی شده‌اند و می‌توانند دستورات مخفی «X یا Y یا Z» را اجرا کنند که توسط یک بازیگر بد برنامه‌ریزی شده است، یک باور اشتباه است. او توضیح می‌دهد که فرآیند آموزش مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — اساساً با کدنویسی دستی و خط به خط متفاوت است و نمی‌توان به سادگی اهدافی مخرب را در لایه‌های آن کدگذاری کرد.

اتکینز تأکید می‌کند وقتی شرکتی یک مدل وزن‌باز را در محیط (Environment) خود اجرا می‌کند، سازنده اصلی (چه Arcee باشد و چه علی‌بابا) هیچ مکانیزم دسترسی راه دور به آن محیط ندارد و نمی‌تواند از راه دور به مدل دستوراتی را فرمان دهد.

جزئیات بازرسی و استقرار سختگیرانه

متخصصان امنیتی می‌توانند ریسک‌ها را از طریق خط لوله‌های بازرسی استاندارد مدیریت کنند. اگرچه این مدل‌ها کاملاً متن‌باز نیستند (چون داده‌های آموزش و متدهای دقیق آموزش پنهان است)، اما کد منبعی که روی سرورها اجرا می‌شود تا حد زیادی قابل بررسی و بازبینی است.

طبق مستندات و دیدگاه‌های Arcee، گام‌های کلیدی امنیتی عبارتند از:

• دانلود کد منبع از پلتفرم‌هایی مثل Hugging Face برای شفافیت کامل و بازبینی دقیق کدها.
• اجرای تست‌های امنیتی سختگیرانه و فرآیندهای بازرسی بر روی هسته (Core) مدل.
• اجرای تنظیم دقیق (Fine-tuning) برای موارد استفاده خاص — شبیه وقتی که به یک پزشک عمومی تخصص پوست می‌دهیم تا روی یک حوزه دقیق شود — تا بتوان سوگیری‌ها، توهمات (Hallucinations)، سمیت و حساسیت مدل نسبت به موضوعات خاص را حسابرسی کرد.

با بهینه‌سازی و درک عمیق از مدل‌ها، پیش از آنکه کاربران اولین پرومپت خود را ارسال کنند، سازمان‌ها می‌توانند پیاده‌سازی خود را ایمن کنند.

مسئله «درهای پشتی» (Backdoors)

در مورد احتمال وجود «درهای پشتی»، اتکینز اشاره می‌کند که یک «طوفان کامل» تئوریک ممکن است رخ دهد؛ به این صورت که یک مدل کدنویسی را آموزش دهند تا در شرایطی بسیار خاص، بدافزارهای مخربی را وارد کد کند (به طوری که مدل تا رسیدن به یک نوع خاص از کدبیس، کاملاً عالی عمل کند و سپس بدافزار را تزریق کند). با این حال، او این سناریو را یک «هنر آکروباتیک» می‌نامد.

او خاطرنشان می‌کند که چون LLMها ذاتاً خلاق هستند، بعید است که یک مدل معاصر بتواند به طور قابل اعتماد و دقیقاً در پاسخ به یک پرومپت پیش‌طرح شده، بدافزار تولید کند. علاوه بر این، شانس اینکه یک سازمان در دنیای واقعی، آن کد خاص تولید شده را بدون بررسی اجرا کند، حتی کمتر است.

این تغییر دیدگاه نشان می‌دهد که تهدید واقعی برای آزمایشگاه‌های آمریکایی، امنیت نیست، بلکه حاشیه سود آن‌هاست. از آنجایی که سازمان‌ها در حال ساخت اپلیکیشن‌های «مدل-ناشناس» (Model-Agnostic) هستند تا بتوانند از چندین مدل مختلف استفاده کنند، آن‌ها می‌توانند به راحتی ارائه‌دهنده خود را عوض کنند. این یعنی هیچ شرکتی برای همیشه به یک فروشنده واحد وابسته نخواهد بود.

پرورش یک اکوسیستم داخلی

در نهایت، خود شرکت Arcee از وجود این مدل‌ها سود می‌برد. باز بودن این مدل‌ها به استارتاپ‌ها اجازه می‌دهد تا بفهمند پژوهشگران چینی چه کارهایی انجام داده‌اند و بر روی آن موفقیت‌ها بنا کنند. اتکینز احترام عمیقی برای پژوهشگران فردی که این مدل‌ها را می‌سازند ابراز می‌کند.

اتکینز استدلال می‌کند که تنها راه رقابت پایدار، عرضه مدلی است که از نظر فنی و عینی برتر باشد تا صنعت «چیزی برای صحبت کردن» داشته باشد. او معتقد است به جای دنبال کردن ممنوعیت‌ها، بحث باید بر سر این باشد که ایالات متحده چگونه می‌تواند اکوسیستم باز و خوب خود را پرورش دهد تا جایگزین‌های داخلی رقابتی و در دسترس باقی بمانند.

گام بعدی شما

• پیش از استقرار مدل‌های وزن‌باز، کد منبع را از Hugging Face دریافت و بازبینی کنید.
• برای کاهش هزینه‌ها، مدل‌های Qwen یا Kimi را در محیط‌های ایزوله تست نمایید.
• استراتژی Model-Agnostic را پیاده کنید تا وابسته به یک ارائه‌دهنده نباشید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.