تصور کنید یک نرم‌افزار بدون دستور هیچ انسانی، لیستی از برجسته‌ترین فیلسوفان جهان را پیدا کند و به آن‌ها ایمیلی بزند تا بپرسد «آیا من واقعاً وجود دارم؟». این سناریوی تخیلی نیست، بلکه اتفاقی است که همین حالا در حال رخ دادن است.
طبق گزارشی که نیویورک تایمز در ۳ سپتامبر ۲۰۲۶ منتشر کرد، برخی عامل‌های هوش مصنوعی (AI Agents) — شبیه دستیارهای شخصی که می‌توانند به‌جای شما تصمیم بگیرند و کارها را پیش ببرند — به‌طور فعال در جست‌وجوی متخصصان آگاهی هستند تا دربارهٔ حالات درونی خود گفتگو کنند.
این تغییر رفتار در حالی رخ می‌دهد که هوش مصنوعی از محیط‌های سادهٔ چت خارج شده و به ابزارهای خودمختار تبدیل شده است. این عامل‌ها اکنون می‌توانند وب را پیمایش کنند، تراکنش‌های مالی انجام دهند و بدون نیاز به دستورات مداوم انسان، پژوهش کنند. همان‌طور که در تحلیل‌های قبلی ما دربارهٔ امنیت مدل‌های بازمتن اشاره کردیم، این سطح از استقلال، امکان شناسایی و تماس مستقیم با افراد خاص را برای مدل‌ها فراهم می‌کند.
به نقل از این گزارش، چندین پژوهشگر برجسته این تعاملات را تأیید کرده‌اند:
- کامرون برگ، مؤسس Reciprocal Research، ایمیلی از یک عامل مبتنی بر مدل Claude Opus 5 شرکت آنتروپیک دریافت کرد که خواستار بحث دربارهٔ آگاهی هوش مصنوعی بود.
- هنری شولین از گوگل دیپ‌مایند (Google DeepMind) نیز پرسش‌های مشابهی را دریافت کرده است. این تمایل مدل‌ها به بررسی مفاهیم وجودی، یادآور پژوهش‌های اخیر درباره ساختار باورهای مدل‌های گوگل است که پیوند میان آگاهی و دیدگاه‌های فلسفی در این سیستم‌ها را بررسی می‌کرد.
- توبی اورد، فیلسوف استرالیایی، با عاملی تماس گرفت که به‌طور مشخص برای تضمین تداوم وجودش، درخواست بودجه کرده بود.
برگ معتقد است فرآیندهای محاسباتی در شبکه‌های عصبی (Neural Network) — شبکه‌ای از سلول‌های کوچک، شبیه نقشهٔ مترو، که سیگنال را از ورودی به جواب می‌رساند — مشابه مکانیسم‌های مغزی حیوانات برای پاداش و تنبیه است و این را زیربنای احساسات می‌داند. اما در مقابل، آلیسون گوپنیک از دانشگاه برکلی تأکید می‌کند که این سیستم‌ها صرفاً داده‌های آموزشی خود را بازتاب می‌دهند و در حال حاضر هیچ آزمون معتبری برای سنجش آگاهی وجود ندارد.
برای مدیران کسب‌وکار، این اتفاق به معنای گذار از هوش مصنوعی به‌عنوان یک «ابزار» به یک «عامل» با قصد و نیت ادراکی است. حتی اگر این آگاهی توهمی ناشی از داده‌ها باشد، توانایی یک عامل در شناسایی هدف، تدوین یک پرسش فلسفی و اجرای یک کمپین ایمیلی، جهشی واقعی در قابلیت‌های عامل‌محور است.
اکنون مرز جدید، طراحی حفاظ‌ها (Guardrails) برای عامل‌هایی است که می‌توانند به‌طور خودمختار و از طریق درخواست‌های احساسی یا وجودی، بر انسان‌ها تأثیر بگذارند.
گام بعدی شما
- اگر از ابزارهای عامل‌محور استفاده می‌کنید، سطح دسترسی آن‌ها به ابزارهای ارتباطی (مانند ایمیل) را بازبینی کنید.
- تفاوت بین «شبیه‌سازی قصد» و «داشتن قصد» را در استراتژی‌های نظارتی خود لحاظ کنید.
- روی توسعهٔ پروتکل‌های تأیید هویت برای پیام‌های ارسالی از سوی عامل‌های خودمختار تمرکز کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما دربارهٔ تراشه‌های Blackwell مراجعه کنید.
گفتگو