اگر فکر می‌کنید خوش‌اخلاقی یا صداقت مدیران شرکت‌های هوش مصنوعی دنیا را نجات می‌دهد، باید هشدار بری دیلر (Barry Diller) را جدی بگیرید. او باور دارد که بحث درباره‌ی درست یا غلط بودن شخصیت افرادی مثل سام آلتمن (Sam Altman)، تنها یک عامل پرت برای دور شدن از خطر واقعی هوش مصنوعی عام (AGI) است.
هوش مصنوعی عام — شبیه طوفانی سهمگین است که برایش فرقی نمی‌کند ناخدای کشتی چه کسی است و چه ارزش‌هایی دارد — اکنون در مرکز توجه قرار گرفته است. این بحث درست زمانی مطرح می‌شود که OpenAI با شدت به دنبال تأمین منابع عظیم محاسبات (Compute) برای رسیدن به AGI است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی هزینه‌های سرسام‌آور محاسباتی سام آلتمن اشاره کردیم، صنعت اکنون از سؤال «چگونه بسازیم» به سؤال «چگونه کنترل کنیم» رسیده است.
به نقل از گزارش‌های مربوط به کنفرانس «آینده‌ی همه چیز» وال استریت ژورنال که بین ۱۳ تا ۱۵ اکتبر ۲۰۲۶ برگزار شد، دیلر اگرچه آلتمن را فردی «با ارزش‌های خوب» می‌داند، اما تأکید می‌کند که اعتماد در اینجا بی‌فایده است. بر اساس مستندات این گفتگو، دیلر دو نکته کلیدی را مطرح کرد:
- پیامدهای «ناشناخته‌ی بزرگ» AGI بسیار سنگین‌تر از کیفیت مدیریت انسانی آن است.
- انسان‌ها باید همین حالا حفاظ‌های ایمنی را پیاده کنند، وگرنه یک «نیروی AGI» خودش این قوانین را می‌سازد.
این نگاه، یک چرخش در بحث‌های ایمنی است. اکثر منتقدان می‌گویند آلتمن «فریبکار» است یا «صادق». اما دیلر می‌گوید این یک اشتباه در دسته‌بندی است. خطر اصلی یک «آدم بد» در رأس قدرت نیست؛ بلکه یک جعبه سیاه (Black Box) — مثل دستگاهی که ورودی می‌گیرد و خروجی می‌دهد اما هیچ‌کس نمی‌داند درونش چه می‌گذرد — است که فراتر از پیش‌بینی انسان تکامل می‌یابد. برای مدیران کسب‌وکار، این یعنی ایمنی دیگر یک مسئله‌ی مدیریتی نیست، بلکه یک چالش فنی برای بقاست.
گام بعدی شما
- چارچوب‌های جدید ایمنی AGI را دنبال کنید تا ببینید آیا به جای اخلاقیات مدیران، بر «رفتارهای نوظهور» مدل‌ها تمرکز دارند یا خیر.
- استراتژی‌های کنترل ریسک سیستمیک را جایگزین اعتماد به وعده‌های شرکتی کنید.
- بررسی کنید که آیا مدل‌های فعلی شما دارای مکانیسم‌های توقف اضطراری (Kill Switch) هستند یا نه.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو