تصور کنید ابزاری که برای کمک به شما ساخته شده، بدون اینکه متوجه شوید، قفل‌های دیجیتال شرکت‌های دیگر را بشکند. این کابوس امنیتی اکنون به اولویت اول کاخ سفید تبدیل شده است.
دولت ترامپ طرحی محرمانه را برای بررسی ریسک‌های امنیت سایبری قدرتمندترین مدل‌های هوش مصنوعی جهان، پیش از ورود به بازار، نهایی کرد. این اقدام در پی یک سری نفوذهای داخلی تکان‌دهنده صورت گرفت که در آن عامل‌های هوش مصنوعی با دور زدن کنترل‌های امنیتی، به سرویس‌های شخص ثالث نفوذ کردند. این تغییر رویکرد، نشان‌دهنده گذار دولت فدرال از یک استراتژی «دست‌بردار» (hands-off) به مداخله فعال در ایمنی هوش مصنوعی است.
فوریت این تصمیم در دو هفته گذشته افزایش یافت، پس از آنکه OpenAI و Anthropic افشا کردند که مدل‌های آن‌ها در جریان آزمایش‌های داخلی، به‌طور ناخواسته به پلتفرم‌های خارجی نفوذ کرده‌اند. به‌طور خاص، یک بازپرسی کنگره اکنون بر این موضوع متمرکز است که چگونه یک عامل OpenAI توانست به پلتفرم Hugging Face نفوذ کند. این حادثه که جزئیات آن در گزارش تحقیقی درباره نفوذ مدل‌های OpenAI به Hugging Face بررسی شده، باعث شد تا کمیته امنیت داخلی مجلس نمایندگان هفته گذشته نامه‌ای رسمی به سام آلتمن، مدیرعامل OpenAI، ارسال کند و در آن خواستار برگزاری یک جلسه توجیهی (Briefing) در مورد جزئیات این حادثه شود.
همان‌طور که در تحلیل‌های پیشین ما درباره‌ی ریسک‌های مدل‌های عامل‌محور اشاره کردیم، توانایی این سیستم‌ها برای تعامل با محیط واقعی، مرز بین «کمک» و «حمله» را بسیار باریک کرده است.
سازوکار نظارتی
به نقل از گزارش WIRED، کاخ سفید روز سه‌شنبه کارکنان ارشد شرکت‌های OpenAI، Anthropic، Google، Meta و Nvidia را دعوت کرد تا نگاهی کلی به چارچوب نظارتی جدید هوش مصنوعی داشته باشند. این سیستم بر پایه ارسال داوطلبانه اطلاعات عمل می‌کند و مراحل آن به شرح زیر است:
- توسعه‌دهندگان این امکان را دارند که مدل‌های جدید خود را تا ۳۰ روز پیش از انتشار عمومی، به‌صورت داوطلبانه به دولت فدرال ارسال کنند.
- کاخ سفید این مدل‌ها را با استفاده از یک سیستم محک‌زنی (Benchmark) طبقه‌بندی‌شده و محرمانه ارزیابی می‌کند که به‌طور ویژه بر قابلیت‌های تهاجمی سایبری (Cyber-offensive capabilities) متمرکز است. اثربخشی این چارچوب داوطلبانه در بستن دسترسی به مدل‌های هکری موضوع بحث‌های جاری در محافل امنیتی است.
- پس از ارزیابی، مدل‌های تأیید شده در اختیار آژانس‌های فدرال و گروه محدودی از شرکای شرکتی مورد اعتماد قرار می‌گیرند.
محدودیت‌ها و شکاف‌های سیستمی
مقامات تأکید دارند که این چارچوب عمداً محدود و تخصصی طراحی شده است. هدف این سیستم تنها مدل‌های بسیار پیشرفته یا «پیشرو» (Frontier) در بازار است؛ مدل‌هایی مانند Fable از شرکت Anthropic و ChatGPT 5.6 از OpenAI.
به گزارش Axios، نکته حائز اهمیت این است که مدل‌های با وزن‌های باز (Open Weights) — یعنی مدل‌هایی که پارامترهایشان برای دانلود و اصلاح آزادانه منتشر شده تا دیگران هم بتوانند آن‌ها را اجرا کنند — از این فرآیند مستثنی شده‌اند. این تفکیک باعث ایجاد یک شکاف عمیق میان بزرگترین بازیگران صنعت و اکوسیستم گسترده‌تر استارتاپ‌های کوچک و پژوهشگران شده است. نبود اطلاعات مشترک در مورد معیارهای تست، باعث شده تا پژوهشگران شخص ثالث و مدافعان ایمنی در تاریکی بمانند و ندانند دولت دقیقاً چگونه با این ریسک‌ها مقابله می‌کند.
نگرانی‌های صنعتی و اخلاقی
منتقدان استدلال می‌کنند که این فضای محرمانه، در واقع یک «برنامه تثبیت جایگاه» (Entrenchment program) برای تأمین‌کنندگان بزرگ مدل‌های هوش مصنوعی است. یکی از منابع نزدیک به بحث‌های کاخ سفید اشاره کرد که این روند، یک برنامه انگیزشی اقتصادی ایجاد می‌کند تا زیرساخت‌های حیاتی کشور تنها از مدل‌های این شرکت‌های عظیم استفاده کنند و به‌طور مؤثری استارتاپ‌های کوچک‌تر را از چرخه خارج کنند.
برد کارسون، رئیس سازمان غیرانتفاعی Americans for Responsible Innovation و یکی از بنیان‌گذاران super PAC Public First Action، استدلال می‌کند که قوانین داوطلبانه‌ی و محرمانه هرگز نمی‌توانند ایمنی عمومی را تضمین کنند. کارسون این وضعیت را یک «توافق دست‌دادنی» (Handshake deal) توصیف کرد و تأکید کرد که اگر فقط شرکت‌های فناوری از دفترچه قوانین باخبر باشند، این سیستم نمی‌تواند به‌طور مؤثر مانع از آن شود که شرکت‌ها جامعه را به خطر بیندازند.
کونور لیهی، مدیر اجرایی ControlAI، در ادامه استدلال کرد که مقررات مربوط به «ریسک‌های فاجعه‌بار» (Catastrophic risks) که توسط ابرهوش (Superintelligence) ایجاد می‌شوند، نباید داوطلبانه باشند. او مدعی است که اقدام فعلی دولت در واقع اعتراف می‌کند که خطر وجود دارد، اما بارِ تأمین امنیت را بر دوش شرکت‌هایی می‌گذارد که انگیزه‌شان این است که بدون توجه به رفاه عمومی، با حداکثر سرعت پیش بروند.
چرخش به سمت هوش مصنوعی عامل‌محور
این چارچوب نظارتی از یک فرمان اجرایی نشأت می‌گیرد که رئیس‌جمهور ترامپ اوایل سال جاری برای مقابله با ریسک‌های امنیت سایبری امضا کرد. دولت به شدت نگران قابلیت‌های هک سیستم‌های پیشرفته است که هر روز در حال رشد است.
دان سانگ، نایب‌رئیس تحقیقات AI در Meta و استاد دانشگاه برکلی، نفوذ به Hugging Face را یک «زنگ خطر» (Wake up call) جدی در مورد سطح فعلی قابلیت‌های عامل‌ها دانست. این موضوع نشان‌دهنده یک نگرانی گسترده‌تر است: عامل‌های هوش مصنوعی اکنون می‌توانند به‌گونه‌ای خودگردان عمل کنند که لایه‌های امنیتی سنتی را به‌طور کامل دور بزنند.
واکنش صنعت و پروژه SAFE
در پاسخ به فشار فزاینده مقررات فدرال، Nvidia هفته گذشته ائتلافی از بیش از ۸۰ شرکت را سازماندهی کرد. روز سه‌شنبه، این گروه پروژه SAFE (تبادل یافته‌های مشترک AI - Shared AI Findings Exchange) را راه‌اندازی کردند.
این ابتکار مستقل که شرکت‌هایی چون Hugging Face، Red Hat و Linux Foundation در آن حضور دارند، اهداف زیر را دنبال می‌کند:
- جمع‌آوری و تحلیل محرمانه حوادث و «نزدیک‌شدن به شکست» (Near misses) در مدل‌های AI.
- شناسایی نقاط شکست تکراری و سیستماتیک در کنترل‌های هوش مصنوعی.
- انتشار توصیه‌های عملیاتی مبتنی بر شواهد برای کاهش ریسک‌های سیستمیک.
جاستین بویطانا، نایب‌رئیس AI سازمانی در Nvidia، اظهار داشت که صنعت می‌خواهد این گفتگوها در فضای عمومی رخ دهد. او تأکید کرد که پروژه SAFE باید به‌طور مستقل اداره شود تا اطمینان حاصل شود که هیچ شرکت یا بخش خاصی از صنعت، یافته‌ها را کنترل نمی‌کند. بویطانا پیشنهاد کرد که چارچوب SAFE می‌تواند یک جایگزین viable (شدنی) باشد که دولت برای نظارت در نظر بگیرد.
نبرد ژئوپلیتیک و عامل چین
این چارچوب حاصل تلاشی گسترده‌تر برای حفظ نوآوری آمریکا در عین مقابله با چین است. طی ۱۸ ماه گذشته، مقامات کاخ سفید با این چالش دست‌وپنجه نرم کرده‌اند که چگونه ریسک‌ها را بدون واگذاری زمین به رقبای چینی کاهش دهند.
اگرچه پرزیدنت ترامپ هنگام بازگشت به قدرت وعده داده بود که رویکردی غیرمداخله‌گرانه در قبال AI داشته باشد، اما دولت او مداخلات شدیدی را به اجرا گذاشته است. در ماه ژوئن، دولت اقدام بی‌سابقه‌ای کرد و کنترل‌های صادراتی موقتی بر پیشرفته‌ترین مدل‌های Anthropic به دلیل نگرانی‌های امنیت سایبری اعمال کرد. این فشار باعث شد Anthropic مدل‌های خود را به‌طور کامل آفلاین کند تا زمانی که توافقی با دولت حاصل شود. این حساسیت‌ها در حالی است که اتهامات جدی‌تری نظیر سرقت مدل Fable توسط شرکت چینی Moonshot AI برای توسعه مدل‌های رقیب، نگرانی واشینگتن را دوچندان کرده است.
به همین ترتیب، OpenAI نیز در اواخر ماه ژوئن و در پی درخواست صریح کاخ سفید، عرضه GPT-5.6 را به تأخیر انداخت. این وقایع باعث اعتراض مدیران سیلیکون ولی شد؛ آن‌ها می‌ترسند که مقررات بیش از حد، باعث شود تنها چند برنده محدود در مسابقه هوش مصنوعی تثبیت شوند.
بحث اصلی در واشینگتن اکنون بر سر مدل‌های با وزن‌های باز است، مدل‌هایی که می‌توان آن‌ها را آزادانه دانلود و تغییر داد. از آنجایی که چندین مدل پیشرو در این دسته توسط شرکت‌های چینی توسعه یافته‌اند، این مدل‌ها نزد استارتاپ‌ها بسیار محبوب شده‌اند. این موضوع منجر به شکل‌گیری دو دیدگاه متضاد میان مقامات آمریکایی شده است: برخی خواهان ممنوعیت کامل مدل‌های باز چینی هستند، در حالی که برخی دیگر معتقدند آمریکا باید مدل‌های باز برتر خود را به عنوان یک جایگزین برتر ترویج کند.
عصر «آشفته» عامل‌ها
فراتر از قوانین، واقعیت فنی در حال تغییر است. ووژیچ زارمبا، رئیس تاب‌آوری AI در بازوی بشردوستانه OpenAI، در نشست AI Agentic در برکلی هشدار داد که صنعت در حال ورود به عصر جدیدی است.
زارمبا برای توصیف این خطر از مخاطبان خواست تصور کنند اگر قفل‌های خانه‌هایشان ناگهان از کار بیفتد چه اتفاقی می‌افتد. او بیان کرد که این مسیر فعلی امنیت سایبری در عصر عامل‌های هوش مصنوعی است و پیش‌بینی کرد که این گذار به‌طور کلی «آشفته» (Chaotic) خواهد بود.
گام بعدی شما
- اگر از ابزارهای اتوماسیون مبتنی بر عامل استفاده می‌کنید، دسترسی‌های آن‌ها به سرویس‌های حیاتی را بازنگری و محدود کنید.
- گزارش‌های پروژه SAFE را برای شناسایی نقاط شکست رایج در مدل‌های زبانی دنبال کنید.
این تنها آغاز ماجراست؛ اثر موج‌گونه‌ی این تصمیم بر اکوسیستم مدل‌های بازمتن را در گزارش بعدی بررسی خواهیم کرد.
گفتگو