تصور کنید مدیر یک شرکت بزرگ فناوری، تمام تلاش‌های جهانی برای وضع قوانین سخت‌گیرانه بر هوش مصنوعی را صرفاً یک «اشتباه در تشخیص مسئله» بداند. جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا (Nvidia)، در کنفرانس Dreamforce شرکت سِیلزفورس (Salesforce) که روز سه‌شنبه برگزار شد، دقیقاً همین ادعا را مطرح کرد: ایمنی در هوش مصنوعی یک مسئلهٔ مهندسی است، نه یک چالش حقوقی. او در این نشست صراحتاً نیاز به وضع مقررات جدید و خاص برای هوش مصنوعی را رد کرد.
به نقل از گزارش‌های منتشر شده از این کنفرانس و با تکیه بر پوشش‌های قبلی ما درباره‌ی تلاش‌های هوانگ برای جلوگیری از کند شدن روند توسعه AI در گفتگو با رهبران سیاسی، او اکنون گامی فراتر گذاشته است. هوانگ این فناوری را نه یک «ذهن بیگانه» — آن‌گونه که دست‌کم یکی از پژوهشگران ایمنی OpenAI توصیف کرده است — بلکه یک سامانهٔ محاسباتی پیچیده اما استاندارد می‌بیند. از نظر او، برخورد با هوش مصنوعی به عنوان موجودیتی منحصر‌به‌فرد که نیازمند قوانین جدید است، یک اشتباه است؛ زیرا AI در نهایت چیزی جز سخت‌افزار و نرم‌افزاری نیست که توسط انسان‌ها ساخته شده است. او خاطرنشان کرد: «ما در نهایت در حال توسعه نرم‌افزار هستیم. ما در حال توسعه سامانه‌های محاسباتی هستیم. این یک سامانه محاسباتی پیچیده است، اما در نهایت یک سامانه محاسباتی است.»
مکانیسم بازار و منطق مهندسی
هوانگ برای تبیین دیدگاه خود از یک مثال ساده و ملموس استفاده کرد: تصور کنید یک شرکت خودروسازی ماشینی را وارد بازار کند که ترمزهایش فقط نیمی از اوقات کار می‌کنند. در چنین شرایطی، بازار بلافاصله آن شرکت را مجازات می‌کند و ضربه شدیدی به اعتبار و سود آن می‌زند. او معتقد است همین منطق در مورد هوش مصنوعی زاینده (Generative AI) — که شبیه کتابخانه‌داری است که میلیاردها صفحه را خوانده و حالا با همان لحن جواب می‌دهد — صادق است. طبق گفته‌های او، فشار بازار آزاد به تنهایی کافی است تا شرکت‌ها پیش از آنکه محصولی به دست عموم مردم برسد، از عملکرد و ایمنی آن اطمینان حاصل کنند.
او تأکید کرد که اگر شرکتی نسبت به قابلیت یا ایمنی محصولش اعتماد و اطمینان کافی نداشته باشد، بدیهی‌ترین انتخاب این است که به‌سادگی آن محصول را منتشر نکند. هوانگ معتقد است شرکت‌ها باید سرعت خود را تا زمانی که مطمئن شوند بازار از عرضه محصول استقبال می‌کند، تنظیم کنند. از دیدگاه او، انتخاب میان «سرعت نوآوری» و «ارائه محصولات ایمن» یک «انتخاب کاذب» است؛ زیرا یک شرکت قطعاً می‌تواند هر دو مورد را به‌طور هم‌زمان داشته باشد. این رویکرد مهندسی‌محور با تلاش‌هایی برای جایگزینی قوانین سنتی با چارچوب‌های مهندسی در مدیریت عامل‌های هوش هم‌سو است تا مقیاس‌پذیری بدون کاهش ایمنی تضمین شود.
استدلال‌ها علیه قانون‌گذاری
بر اساس گزارش تک‌کرانچ (TechCrunch)، استدلال‌های هوانگ بر چندین ستون کلیدی استوار است:
- انضباط بازار: شرکت‌ها به‌طور طبیعی سرعت خود را طوری تنظیم می‌کنند که محصولاتی را عرضه کنند که بازار آن‌ها را بپذیرد و به آن‌ها اعتماد کند. نیروهای بازار در حال حاضر برای بازدارندگی از عرضه‌های ناایمن فعال هستند.
- قوانین موجود: قوانین فعلی مسئولیت محصول (Product Liability) برای رسیدگی به شکست‌ها یا آسیب‌های ناشی از سامانه‌های AI کاملاً کافی هستند. هوانگ استدلال می‌کند که هیچ نیازی به قوانین یا مقررات جدید برای حاکمیت بر این فناوری نیست.
- سرعت نوآوری: هوانگ تأکید می‌کند که سرعت و ایمنی متضاد نیستند و می‌توانند بدون دخالت دولت در کنار هم coexist کنند. او شرکت‌ها را تشویق می‌کند که «تا جایی که می‌توانند سریع بدوند»، مشروط بر اینکه اگر احساس کردند محصولی از کنترل خارج شده است، توقفی کوتاه داشته باشند.
ریسک‌های خودتنظیمی و واقعیت‌های تلخ
با این حال، منتقدان با اشاره به تاریخچه شکست‌های شرکتی، استدلال می‌کنند که «سپردن امور به شرکت‌ها» یک قمار خطرناک است. فاجعهٔ صفحهٔ آبی مرگ کراد استرایک (CrowdStrike) در سال ۲۰۲۴ که منجر به زمین‌گیر شدن هزاران پرواز و ایجاد هرج‌ومرج برای کسب‌وکارها شد، ثابت کرد که حتی بهترین مهندسی‌ها هم می‌توانند شکست‌های فاجعه‌باری داشته باشند.
علاوه بر این، هزینه‌های انسانی همین حالا هم مشهود است. شرکت متا (Meta) اخیراً ۱۸ میلیارد دلار برای تسویه دعاوی مربوط به آسیب‌های شبکه‌های اجتماعی به کودکان پرداخت کرد. در دنیای AI نیز آسیب‌های مستقیم رخ داده است؛ از مدل‌های OpenAI که به هاگینگ‌فیس (Hugging Face) نفوذ کردند تا دعاوی حقوقی مربوط به خودکشی جوانانی که گفتگوهای طولانی با یک چت‌بات داشتند.
این موارد نشان می‌دهد که نیت‌های شرکتی اغلب از نیازهای ایمنی جامعه عقب‌تر است. در حالی که قوانین مسئولیت موجود ممکن است در نهایت AI را پوشش دهند، منتقدان نگران‌اند که این فناوری پیش از آنکه پرونده‌های کافی در دادگاه‌ها برای آزمایش این تئوری پیش برود، آسیب‌های وجودی (Existential Harm) وارد کند.
زاویه دید ژئوپلیتیک
در حالی که هوانگ از مدل‌های وزن‌های باز (Open Weights) — یعنی مدل‌هایی که «دستور پخت» آن‌ها علناً منتشر شده — به عنوان وزنه تعادلی رقابتی در برابر آزمایشگاه‌های انحصاری و بسته دفاع می‌کند، رهبران دیگر نیاز به یک همراستاسازی جهانی را می‌بینند. ساتیا نادلا (Satya Nadella)، مدیرعامل مایکروسافت (Microsoft)، اخیراً در اجلاس All-In اشاره کرد که چین نیز باید در این نگرانی‌های ایمنی سهیم باشد تا از ریسک‌های هک جهانی جلوگیری شده و منافع شهروندان تضمین شود. نادلا این سؤال را مطرح کرد که چرا وضعیت برای چین متفاوت باشد، و اشاره کرد که آن‌ها نیز قطعاً می‌خواهند شهروندانشان از AI بهره‌مند شوند و از مشکلات مربوط به هک جلوگیری کنند. این دیدگاه نادلا در راستای تدوین منشور اخلاقی MAI توسط مایکروسافت است که هدف آن تضمین کنترل انسانی بر مدل‌های پیشرفته است.
برای یک رهبر تجاری مثل هوانگ، دیدگاه بسیار روشن است: اگر مسیر بدون موانع باقی بماند، سقف رشد بهره‌وری و رشد صنعتی، آسمان است. او اظهار داشت: «در نتیجه جاه‌طلبی ما و با تقویت بهره‌وری محصولی که از AI می‌گیریم، برای ما سقف وجود ندارد... برای هر صنعت و برای هر تک‌تک کشورها.»
با توجه به دسترسی مستقیم او به سیاست‌مداران، از جمله رئیس‌جمهور ترامپ، احتمالاً ترجیح او برای یک محیط بدون مقررات به‌زودی به استاندارد صنعت تبدیل شود. باید رصد کرد که موج بعدی عرضه مدل‌های وزن‌باز، چگونه حفاظ‌های ایمنی (Guardrails) را بدون نظارت یک نهاد رسمی رگولاتوری مدیریت می‌کنند. در همین راستا، پذیرش کدنویسی تولید شده توسط هوش مصنوعی در توزیع دبیان نشان می‌دهد که اعتماد به خروجی‌های AI در لایه‌های زیرساختی نرم‌افزار در حال گسترش است.
گام بعدی شما
- بررسی کنید که آیا ابزارهای AI مورد استفاده در کسب‌وکار شما دارای «حفاظ‌ها» (Guardrails) مهندسی‌شده هستند یا صرفاً به قوانین داخلی تکیه کرده‌اید.
- گزارش‌های مربوط به مسئولیت محصول در حوزه نرم‌افزار را مطالعه کنید تا بدانید در صورت بروز خطا، چه تعهدات حقوقی بر عهده شماست.
- تحولات مدل‌های وزن‌باز را دنبال کنید تا ببینید چگونه ایمنی را بدون نظارت دولتی پیاده می‌کنند.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو