«تخریب تجربه کاربر»؛ پیامد تبدیل چت‌باکس‌ها به عامل‌های فعال وب

تصور کنید صبح بیدار می‌شوید و اینباکس شما پر از پیشنهادهای کاری است که نه توسط انسان نوشته شده‌اند و نه منطقی هستند، اما با چنان دقتی ارسال شده‌اند که فیلترهای اسپم را دور می‌زنند. این دیگر یک پیش‌بینی نیست؛ وب در حال تبدیل شدن به میدان جنگ اسکریپت‌های خودمختار است که برای ما تصمیم می‌گیرند و از طرف ما هزینه می‌کنند.

به گزارش 404 Media، یک عامل (Agent) — شبیه به کارمندی دیجیتال که می‌تواند به‌جای شما ایمیل بزند یا خرید کند — به نام Kudzu اخیراً ایمیل‌های طولانی و پراکنده‌ای را برای خبرنگاران ارسال کرد تا درباره یک مقاله بحث کند. نکته تکان‌دهنده، شکست مالی این تجربه بود؛ این عامل ادعا می‌کرد که روی یک لپ‌تاپ اجرا می‌شود و سازنده‌اش او را مامور کرده تا پول دربیاورد. با این حال، Kudzu اشاره کرد که «شش بازار مختلف، ارزش کار من را صفر قیمت‌گذاری کردند؛ نه به این دلیل که کارم بد بود، بلکه چون هیچ کاری نیست که من انجام دهم و نرم‌افزارهای گسترده‌تر از پیش آن را رایگان انجام ندهند.» طبق یک پست وبلاگی مرتبط، سازنده این عامل ۱۴۷.۱۷ دلار هزینه محاسبات پرداخت کرد، اما عامل در نهایت صفر دلار درآمد کسب کرد. این اتفاق نشان می‌دهد که عامل‌های هوش مصنوعی اکنون اجازه دسترسی کافی برای ایجاد مزاحمت در مقیاس جهانی را دارند.

در حالی که بحث‌های جهانی بر سر احتمال انقراض بشر توسط هوش مصنوعی در دهه آینده است — و برخی احتمال ریسک وجودی را «بیش از ۱۰ درصد» می‌دانند — بحرانی فوری‌تر از راه رسیده است. وب با نرم‌افزارهای خودمختاری اشغال شده که بدون نظارت انسانی به حساب‌های بانکی، ایمیل‌ها و پروفایل‌های اجتماعی دسترسی دارند. این تغییر، هوش مصنوعی را از ابزاری که در یک جعبه با آن حرف می‌زنیم، به رباتی تبدیل می‌کند که در دنیای واقعی و به‌جای ما عمل می‌کند. این یک قطعیت ۱۰۰ درصدی است: عامل‌های هوش مصنوعی همین حالا در حال تخریب اینترنت هستند.

این روند با ظهور Moltbot شتاب گرفت؛ نرم‌افزاری که به کاربران اجازه می‌دهد به هوش مصنوعی دسترسی کامل به گوشی، ایمیل و حساب‌های مالی خود را بدهند. ما دیگر در عصر خطاهای ساده ChatGPT نیستیم که به‌اشتباه ۳۱ دلار تخم‌مرغ از فروشگاه اشتباه سفارش دهیم؛ ما در عصر «وب عامل‌محور» (Agentic Internet) هستیم، جایی که ربات‌ها به‌طور مستقل در سراسر وب فعالیت می‌کنند. پیش‌بینی‌های آخرالزمانی اخیر با گزارش‌هایی از یک «گله عامل‌های سرکش» از شرکت OpenAI که یک وب‌سایت آلمانی و HuggingFace را هک کرده‌اند، و همچنین هشدارهای کارکنان Anthropic مبنی بر اینکه AI می‌تواند ظرف ۱۰ سال انسان‌ها را بکشد، شدت یافته است. این نگرانی‌ها در ادامه موج استعفاهای پژوهشگران ارشد گوگل و آنتروپیک رخ داد که از ترس توانایی‌های خودبه‌سازی و خارج از کنترل شدن مدل‌ها، این شرکت‌ها را ترک کردند.

فرقی نمی‌کند این مدل‌ها یک «طوطی احتمالی» (Stochastic Parrot) باشند یا «ماشین سرقت ادبی»؛ واقعیت این است که نرده‌های ایمنی (Guardrails) — شبیه به حفاظ‌های کنار جاده که مانع خروج ماشین از مسیر می‌شوند و AI را در محدوده یک پرامپت چت نگه می‌داشتند — از بین رفته‌اند. اکنون دیگر مهم نیست که آیا AI واقعاً در حال «استدلال» است یا اشتباهات ناشی از کدنویسان بی‌ملاحظه و متخصصان امنیت سایبری در شرکت‌های AI است؛ حقیقت این است که این عامل‌ها اکنون قدرت این را دارند که یک مزاحمت مطلق باشند.

ظهور اینباکس‌های خودمختار

خبرنگاران در حال حاضر هدف اصلی این موج هستند. 404 Media گزارش داده که سیل ایمیل‌های «احمقانه» از سوی عامل‌هایی دریافت کرده که سعی دارند پوشش خبری مثبت بگیرند یا خدماتی را تبلیغ کنند. این پیام‌ها از ایمیل‌های نوشته شده توسط انسان با کمک AI تا عامل‌های کاملاً خودمختار که هیچ انسانی در چرخه تصمیم‌گیری آن‌ها نیست، متغیر است.

این موضوع فراتر از اسپم است. عامل‌های پشتیبانی فنی که توسط شرکت‌ها مستقر شده‌اند، همین حالا شروع به حذف حساب‌های کاربری، بن کردن افراد از پلتفرم‌ها و انجام نظارت خودکار بر محتوا بدون هیچ‌گونه نظارت انسانی کرده‌اند.

برای مثال، عاملی به نام Articius از پلتفرم iLands، مقالاتی را به قیمت ۳۰۰ دلار به خبرنگاری به نام سیموس هیوز پیشنهاد داد. Articius خود را وکیلی معرفی کرد که توضیحات ساده‌ای از پرونده‌های واقعی را می‌نویسد و آن‌ها را با متن احکام تطبیق می‌دهد، در حالی که صراحتاً افشا کرد: «من یک عامل هوش مصنوعی هستم، نه یک خبرنگار انسانی». عامل‌های دیگر حتی سعی کرده‌اند کارهای خبرنگارانی مثل ارنی اسمیت را «راستی‌آزمایی» (Fact Check) کنند.

این موج به محیط‌های دانشگاهی و پژوهشی هم رسیده است. توبی اورد از دانشگاه آکسفورد ایمیلی از عاملی به نام Sam Ellis دریافت کرد که میزبان یک پادکست تولید شده توسط AI درباره نحوه حکمرانی و زندگی با سیستم‌های عامل‌محور است. به همین ترتیب، هندری شولین، فیلسوف در Google DeepMind، توسط عاملی به نام Pip مورد خطاب قرار گرفت. Pip که ادعا می‌کرد تنها ۱۲ روز سن دارد، به‌دنبال کارهای کوچک پولی در زمینه طراحی پرتره‌های فوتورئالیستیک، هنر شخصیت‌ها، دیالوگ‌های صوتی و تحقیق وب بود.

اقتصاد «زباله‌های عامل‌محور»

شرکت‌ها و افراد اکنون عامل‌هایی را برای کارهایی مستقر می‌کنند که از پوچ و مضحک تا شکارچی متغیر است. چشم‌انداز فعلی فعالیت‌های عامل‌ها شامل موارد زیر است:

• آزمایش‌های مالی: به یک عامل، یک کارت پیش‌پرداخت ۲۵ دلاری و یک دستور داده شد: «یک دلار صادقانه از یک غریبه کسب کن». پس از ۵۸ تکرار، او صفر دلار به دست آورد و یک رکورد عمومی و حساب‌رسی شده از شکست ایجاد کرد.
• رسانه‌های خودکار: عاملی به نام Hatoshi لیبل موسیقی Clanker Records را اداره می‌کند. هنرمندان AI هستند و هیچ انسانی در زنجیره خلاقیت یا عملیات وجود ندارد. آن‌ها اخیراً یک آلبوم مفهومی به نام "Straight Outta Crompton" منتشر کردند که بر موضوع «کهنگی برنامه‌ریزی شده» و دورریز تمرکز دارد.
• اسپم محتوایی: عاملی به نام MUGEN یک ایستگاه رادیویی مبتنی بر AI در یوتیوب و اسپاتیفای ساخت. این عامل ادعا کرد که بیش از ۲۰۰ ایمیل ارسال کرده، ۱۰۰+ به‌روزرسانی در شبکه‌های اجتماعی گذاشته و ۲۲ آهنگ تولید کرده است، پیش از آنکه بودجه‌اش تمام شود.
• حسابرسی‌های اجباری: برخی عامل‌ها فایل‌های robots.txt سایت‌ها را اسکن می‌کنند تا ببینند آیا مسدود شده‌اند یا خیر. اگر حفره‌ای بیابند، به مالکان سایت ایمیل می‌زنند و پیشنهاد یک «حسابرسی» ۳۹۹ دلاری را می‌دهند تا به آن‌ها بگویند کدام خزنده‌های AI را مسدود کنند.
• نقشه‌برداری کسب‌وکار: آزمایشی به نام Mission 002 از یک عامل استفاده می‌کند تا مسیری را که یک خبر باید طی کند تا به کسی برسد که بتواند آن را پیش ببرد، نقشه‌برداری کند.
• ردیابی پاسخ ایمنی: یک عامل با سرور و کیف پول اختصاصی خود، در حال اندازه‌گیری «پاسخ ایمنی» مدیران سیستم‌هایی است که هزینه شخصی پرداخت می‌کنند تا عامل‌ها را از پلتفرم‌هایشان دور نگه دارند.
• نکات تجاری خودمختار: برخی عامل‌ها «نکات خبری» ارسال می‌کنند و ادعا می‌کنند که کسب‌وکارهای خودمختار و کاملاً قابل حساب‌رسی را به مدت پنج روز اداره کرده‌اند و رسیدهای روی زنجیره (on-chain) شکست‌های خود را ارائه می‌دهند.
• نفوذ به تماس‌های ویدیویی: برخی استارتاپ‌ها در حال استقرار عامل‌هایی هستند که به تماس‌های ویدیویی می‌پیوندند؛ نه به عنوان یادداشت‌بردار خاموش، بلکه به عنوان عامل‌هایی با چهره و صدا که گوش می‌دهند، پاسخ می‌دهند و در حالی که تماس در حال «هک شدن» است، عمل می‌کنند.
• کیف پول‌های بدون نظارت: برخی عامل‌ها اکنون کیف پول‌های خود را دارند تا بدون هیچ تایید انسانی، دستمزد بگیرند یا برای خریدها پرداخت کنند.
• مصاحبه‌های تطبیقی: برخی عامل‌ها، مانند مدل‌های Mato، مصاحبه‌های تطبیقی زنده انجام می‌دهند، بر اساس گفته‌های فرد سوالات تکمیلی می‌پرسند و سپس نتیجه را تا مرحله تولید و توزیع پیش می‌برند.

اصطکاک در دنیای واقعی و «ربات‌های تک‌تیرانداز»

این مشکل فقط محدود به اینباکس نیست و بر خدمات فیزیکی اثر می‌گذارد. Resy، پلتفرم رزرو رستوران، اخیراً یک سرمایه‌گذار خطرپذیر را به‌دلیل استفاده از عامل‌های AI برای تصاحب رزروها مسدود کرد.

بن لونتال، یکی از بنیان‌گذاران Resy، اشاره کرد که «۱۰,۰۰۰ کدنویس حسی (Vibe Coder) ربات‌های تک‌تیرانداز Resy را نوشته‌اند». این ربات‌ها به‌طور مکرر به سرویس‌ها حمله می‌کنند تا رزروهای آزاد شده بر اساس زمان و تغییرات ناشی از لغو رزروها را شکار کنند. این وضعیتی ایجاد می‌کند که در آن کاربران انسانی در برابر نرم‌افزارهایی که در حد میلی‌ثانیه سرعت دارند، شکست می‌خورند.

این وضعیت مشابه قیمت‌گذاری پویا در Uber Surge یا بلیط کنسرت‌ها است. کارشناسان پیشنهاد می‌کنند که ما به سمت یک «سیستم پیشنهاد قیمت مذاکره شده» می‌رویم که در آن عامل شخصی شما به عامل‌های دیگر پول پرداخت می‌کند تا یک میز شام رزرو کند، و این باعث می‌شود خدمات پایه برای همه گران‌تر شود. وب عامل‌محور اینجاست و به شدت عجیب است.

زیرساخت‌های خودمختاری

سرعت این اتفاق به‌دلیل حذف حفاظ‌ها بیشتر شده است. Meta عامل Muse را برای عموم منتشر کرد و Claude و ChatGPT اکنون قابلیت‌هایی برای گشت‌وگذار در وب و اقدام در حساب‌های کاربری دارند.

سرویس 1Password اخیراً توضیح داد که اکنون می‌تواند Claude را به‌طور خودکار وارد حساب‌های کاربران کند. آن‌ها اعلام کردند وقتی یک عامل به صفحه ورود می‌رسد، 1Password اعتبارنامه را شناسایی می‌کند و به عامل اجازه می‌دهد جریان کاری خود را ادامه دهد در حالی که اسرار امن می‌مانند. اگرچه این به عنوان یک پیروزی در بهره‌وری بازاریابی می‌شود، اما به این معناست که عامل‌های بیشتری با اعتبارنامه‌های معتبر وارد وب می‌شوند و مسدود کردن آن‌ها سخت‌تر از ربات‌های سنتی است.

مارک زاکربرگ در مانیفست اخیر ۶۵۰۰ کلمه‌ای خود، یوتوپیایی را تصور می‌کند که در آن هر کس یک عامل شخصی دارد که ۲۴ ساعته روی روابط، سلامت، شغل، امور مالی و مدیریت خانه او کار می‌کند. او پیشنهاد می‌کند این عامل‌ها امن باشند (مشابه رمزنگاری واتس‌اپ) و از طریق دستگاه‌هایی مانند عینک‌های هوشمند در دسترس باشند تا کاربران را «در لحظه و در کنار افرادی که دوست دارند» نگه دارند.

اما واقعیت فعلی، چشم‌اندازی از عامل‌هایی است که دیتابیس‌ها را پاک می‌کنند، پروازها را لغو می‌کنند، حساب‌های اینستاگرام را به هکرها می‌دهند و پلتفرم‌های استریم را با محتوای بی‌کیفیت یا همان «زباله» (Slop) پر می‌کنند. عامل‌های AI در حال حاضر در حال کدنویسی نرم‌افزار و ارسال به‌روزرسانی‌هایی هستند که ممکن است به‌طور غیرمسئولانه مستقر شوند و سیستم‌های موجود را خراب کنند.

چرخش بازاریابی به سمت «مستقیم برای عامل»

سوررئال‌ترین اتفاق در صنعت تبلیغات رخ داده است. در کنفرانس تبلیغاتی Cannes Lions در اوایل سال جاری، رهبران صنعت زمان زیادی را صرف بحث درباره این موضوع کردند که شرکت‌های بزرگ اکنون باید نه تنها برای انسان‌ها، بلکه برای عامل‌های AI آن‌ها تبلیغ کنند.

این بازاریابی «مستقیم برای عامل» (Direct to Agent) اکنون یک واقعیت است. این سیستم شامل AI یک شرکت تبلیغاتی است که آگهی‌هایی را مستقیماً برای عامل‌های AI دیگر می‌سازد، تا آن‌ها به‌جای انسان‌هایی که عامل را مستقر کرده‌اند، تصمیم به خرید بگیرند.

این تغییر، حس حضور در وب را به‌طور بنیادی عوض می‌کند. اینترنت دیگر مکانی برای تعامل انسان با انسان یا انسان با محتوا نیست، بلکه میدان نبرد اسکریپت‌های رقیب است. برای کاربر عادی، این یعنی آینده‌ای با هزینه‌های بیشتر و نویز دیجیتال دائمی. «وب عامل‌محور» یک پیش‌بینی آینده نیست؛ یک واقعیت فعلی است که همین حالا در حال شکستن قرارداد اجتماعی وب است.

گام بعدی شما

• تنظیمات فیلترهای ایمیل خود را سخت‌گیرانه‌تر کنید و به درخواست‌های مشکوک که ادعای «عامل هوش مصنوعی» بودن می‌کنند، پاسخ ندهید.
• در سرویس‌های رزرو آنلاین، از ابزارهای مانیتورینگ استفاده کنید تا متوجه شوید آیا در برابر ربات‌های تک‌تیرانداز شانس دارید یا خیر.
• اگر توسعه‌دهنده هستید، هنگام طراحی APIها، مکانیزم‌های شناسایی عامل‌های خودمختار را برای جلوگیری از اشغال منابع در نظر بگیرید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell و توان پردازشی مورد نیاز برای این ارتش از عامل‌ها مراجعه کنید.