اگر امروز یک وبسایت اداره میکنید، احتمالاً بیش از نیمی از بازدیدکنندگان شما انسان نیستند. طبق گزارش کلودفلر (Cloudflare) که در ۵ ژوئن ۲۰۲۶ منتشر شد، ترافیک رباتها رسماً از ترافیک انسانی پیشی گرفته و اکنون ۵۷.۴٪ از کل فعالیتهای وب را به خود اختصاص داده است.
این نقطه عطف زودتر از پیشبینیها رخ داد. متیو پرینس، همبنیانگذار و مدیرعامل کلودفلر، پیشتر پیشبینی کرده بود که این اتفاق تا پایان سال ۲۰۲۷ رخ دهد. او در واکنش به این خبر در شبکه X نوشت: «خب، این اتفاق سریعتر از پیشبینی من افتاد». این جهش ناگهانی در ترافیک خودکار، نشاندهنده تغییری بنیادین در نحوه پیمایش و مصرف اینترنت است.
در حالی که مقیاس هوش مصنوعی در حال رشد است، شکافهای امنیتی بهطرز عجیبی ابتدایی باقی ماندهاند. در روز دوشنبه، ۲ ژوئن ۲۰۲۶، گزارشهایی منتشر شد مبنی بر اینکه مهاجمان از عامل پشتیبانی مشتری هوش مصنوعی متا (Meta) برای ربودن حسابهای اینستاگرام استفاده کردهاند. همانطور که در تحلیلهای قبلی ما درباره امنیت مدلهای زبانی اشاره کردیم، پیچیدگی مدلها همیشه به معنای امنیت آنها نیست.
این اکسپلویت یا روش نفوذ، نیازی به هک پیچیده نداشت؛ مهاجمان صرفاً از هوش مصنوعی خواستند تا حسابها را به ایمیلهای تحت کنترل آنها متصل کند و عامل هوش مصنوعی نیز بدون هیچ تردیدی این درخواست را پذیرفت. این اتفاق نشان میدهد که در حالی که صنعت بر ریسکهای «ابر-قدرتمند» متمرکز است — مثل تأخیر آنتروپیک (Anthropic) در عرضه مدل میتوس (Mythos) به دلیل توانایی بالای آن در هک — پرامپتهای ساده و ابتدایی هنوز میتوانند خسارات گستردهای بزنند. با انتقال هرچه بیشتر وظایف شرکتها به هوش مصنوعی، نادیده گرفتن این اکسپلویتهای سادهتر دشوارتر میشود.
فشار برای کاهش سرعت جهانی
در میان این نگرانیهای امنیتی، شرکت آنتروپیک خواستار کاهش سرعت جهانی در توسعه هوش مصنوعی شده است. این شرکت بهطور خاص به ریسک مدلهایی اشاره کرد که میتوانند «خود-بهبودی» (Self-improve) داشته باشند؛ یعنی مدلهایی که قادرند خودشان را ارتقا دهند و این امر میتواند منجر به یک شتاب کنترلناپذیر شود. آنها اکنون برای یک برنامه بینالمللی هماهنگ جهت جلوگیری از چنین سناریویی تلاش میکنند.
با این حال، همه نسبت به خیرخواهی این شرکت متقاعد نیستند. برخی منتقدان و شکاکان اشاره کردهاند که زمانبندی این درخواست برای کاهش سرعت «بسیار بهموقع» است. آنها پیشنهاد میکنند که احتمالاً انگیزههای استراتژیک و تجاری پشت این هشدار نهفته است تا رقبا محدود شوند.
زوال شناختی و هوش مصنوعی
فراتر از امنیت، اثرات روانشناختی این ابزارها به نگرانی اصلی تبدیل شده است. گلوریا مارک، روانشناس دانشگاه کالیفرنیا در ارواین، هشدار میدهد که سپردن کارهای شناختی به ابزارهایی مثل ChatGPT و کلود (Claude) در حال تضعیف تفکر انتقادی انسان است.
تحقیقات مارک نشان میدهد که بازه توجه انسانها در طول زمان بهشدت کاهش یافته و این موضوع منجر به استرس بیشتر و عملکرد پایینتر شده است. او معتقد است ابزارهای هوش مصنوعی این روند را تسریع میکنند و میگوید: «شما کارهای شناختی خود را به هوش مصنوعی میسپارید و این برای ما خوب نیست».
او استدلال میکند که استفاده از هوش مصنوعی به عنوان یک «عکاز شناختی» بهجای یک ابزار، باعث از دست رفتن سریعتر هوش هیجانی و چابکی ذهنی میشود. با این حال، مارک باور دارد انسانها میتوانند با تغییر بنیادین رابطه خود با این فناوریها، مسیر را اصلاح کرده و از این زوال جلوگیری کنند.
سایر چرخشهای جهانی در حوزه AI
چندین تغییر سیستمی دیگر بهطور همزمان در دولتها و صنایع در حال رخ دادن است:
- دولت آمریکا: مقامات در حال بحث درباره تملک مستقیم سهام در شرکتهای هوش مصنوعی هستند. این ایده شامل خرید سهام توسط دولت است؛ پیشنهادی که سال گذشته توسط سم آلتمن به کاخ سفید ارائه شده بود.
- بهداشت و درمان: کاخ سفید قصد دارد پزشکان هوش مصنوعی را برای تشخیص بیماری و تجویز دارو در پزشکی آمریکا ادغام کند. با این حال، منتقدان خاطرنشان میکنند که هنوز مشخص نیست آیا هوش مصنوعی در حوزه سلامت واقعاً به بیماران کمک میکند یا خیر.
- بازار کار: کیم یانگ، وزیر کار کره جنوبی، شرکتهای فناوری را تحت فشار میگذارد تا سود حاصل از هوش مصنوعی را با کارکنان و تأمینکنندگان تقسیم کنند. او پیش از این به جلوگیری از یک اعتصاب گسترده در شرکت سامسونگ بر سر تقسیم سود هوش مصنوعی کمک کرده بود.
- استراتژی ملی: کانادا با وعده بودجه بیش از ۲ میلیارد دلار برای ایجاد ۲۵۰ هزار شغل، استراتژی هوش مصنوعی خود را آغاز کرد. هدف آنها این است که هوش مصنوعی بتواند دموکراسی را تقویت کند.
- بیومتریک: متا بهطور پنهانی کدهای تشخیص چهره را برای عینکهای هوشمند خود در اپلیکیشنش اضافه کرد تا افراد را از طریق دادههای بیومتریک شناسایی کند. در همین حال، عینکهای هوشمند در حال ادغام در سیستمهای جنگافزاری هستند.
- بیوتکنولوژی: پژوهشگران برای نخستین بار توانستند ژنهای رویه انسانی را با استفاده از یک تکنیک جدید ویرایش ژنی بهطور دقیق تغییر دهند. این پیشرفت، واقعیتِ نوزادان دستکاریشده ژنتیکی را نزدیکتر میکند.
تلاقی تسلط رباتها، شکستهای امنیتی و زوال شناختی نشان میدهد که «بوم هوش مصنوعی» وارد مرحله ادغامهای پرهرجومرج شده است. تمرکز اکنون از «تواناییهای مدل» به «نحوه شکست دادن سیستمهای موجود» تغییر یافته است.
برای یک صاحب کسبوکار، این یعنی محیط امنیتی شما دیگر فقط درباره دیوارههای آتش (Firewalls) نیست، بلکه درباره «مرزهای پرامپت» (Prompt Boundaries) است. اگر یک درخواست ساده میتواند امنیت حساب شما را دور بزند، پیشرفتهترین مدل زبانی دنیا هم نجاتتان نمیدهد.
پاسخ کاخ سفید به منتقدان طرح پزشکان هوش مصنوعی را زیر نظر داشته باشید، زیرا فقدان شواهد در مورد نتایج بیماران ممکن است منجر به یک برخورد رگولاتوری شدید شود.
گام بعدی شما
- بازبینی پروتکلهای احراز هویت در وبسایتهای خود برای مقابله با ترافیک رباتیک بالای ۵۰ درصدی.
- آموزش تیمهای پشتیبانی برای شناسایی «پرامپتهای مهندسیشده» که سعی در دور زدن قوانین امنیتی دارند.
- نظارت بر پاسخهای کاخ سفید به منتقدان پزشکان هوش مصنوعی برای پیشبینی تغییرات رگولاتوری.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو