تصور کنید ویدیویی دریافت میکنید که در آن شخصی با نام «چیس» دقیقاً وبسایت شما را مرور میکند و با لحنی صمیمی از ایدههایتان تعریف میکند، اما در واقع او اصلاً وجود خارجی ندارد. این تجربه برای چارلی، یکی از کارکنان شرکت Val Town، با این جمله شروع شد: «سلام چارلی، من چیس هستم از Represent Studio. همین الان در وبسایت شما بودم و چیزی که میسازید فوقالعاده هیجانانگیز است.» این جملات شروع یک ویدیوی ۹۰ ثانیهای شخصیسازیشده بود که توسط یک انسان مصنوعی ساخته شده بود تا ابزاری برای تولید ویدیوهای معرفی استارتاپها را بفروشد. در این ویدیو، هوش مصنوعی شبیهسازی کرده بود که یک انسان در حال اسکرول کردن صفحه فرود (Landing Page) است تا محصول خود را تبلیغ کند.
به گزارش منابع داخلی، این فریب با وجود کیفیت بالا، به دلیل «چشمان شیشهای» که به شکلی غیرانسانی و پراکنده حرکت میکردند و لحنی که بیش از حد و به شکلی تصنعی غیررسمی بود، لو رفت. یک نکته کلیدی و یک «پرچم قرمز» در عبارت «ما بزرگترین لانچها را در The Silicon Valley داشتیم» نهفته بود؛ استفاده از حرف تعریف «The» پیش از نام دره سیلیکون، برای نویسندگان که پیشتر پادکست Shell Game اثر ایوان رتلیف (درباره استارتاپی که توسط کارکنان AI اداره میشد) را شنیده بودند و برای شناسایی جعلهای مصنوعی آماده بودند، یک نشانه واضح از مصنوعی بودن بود. وقتی چارلی در نهایت پرسید «آیا این یک ویدیوی AI بود؟»، شرکت اعتراف کرد که محتوا توسط یک سامانه داخلی تولید شده است.
این اتفاق نشاندهنده موج جدیدی از «آلودگی هوش مصنوعی» (AI Slop) است؛ وضعیتی که در آن استارتاپها از کلونهای مصنوعی برای انجام بازاریابی شبیهسازیشده انسانی استفاده میکنند. همانطور که در تحلیلهای قبلی ما دربارهی اخلاقیات مدلهای مولد اشاره کردیم، ابزارهای اتوماسیون سالهاست که وجود دارند، اما موج فعلی مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — مرز اخلاقی را با تظاهر به انسانی بودن به جای افشای ماهیت رباتیک خود، رد کرده است. این چالش با شکست سیستمهای هوش مصنوعی در مقیاس عاملها همسو است، جایی که خروجیهایی که صرفاً «به نظر درست» میرسند، لزوماً به معنای عملکرد صحیح یا اخلاقی نیستند.
رابین اسلون در خبرنامهاش استدلال میکند که استفاده از رباتها برای شبیهسازی ارتباطات انسانی، صراحتاً غیراخلاقی است. او جایگزینی شفاف را پیشنهاد میدهد: «سلام، این یک پیام خودکار از شرکت رباتیک X است. فکر میکنیم شما مشتری بالقوهای هستید و میخواهیم اطلاعاتی به شما بدهیم.» به باور اسلون، این روش شاید همچنان آزاردهنده باشد، اما از نظر اخلاقی پذیرفتنی است.
هزینه هوشیاری معرفتی
گسترش محتوای مصنوعی، کاربران را مجبور به حالتی از «هوشیاری معرفتی» (Epistemic Vigilance) میکند. این یک مالیات ذهنی است که در آن افراد باید مدام منبع و حقیقت هر صفحه یا صدایی را که میشنوند زیر سؤال ببرند. این پدیده با مفهوم گستردهتر «AI Slop» یا محتوای مصنوعی بیکیفیت گره خورده است؛ اصطلاحی که برای افشای محتواهای بیکیفیت به کار میرود، مشابه آنچه در ابتکاراتی مانند Stop Sloppypasta دیده میشود.
جین فریدمن اشاره میکند که کاربران به شدت به دنبال راهی برای رهایی از این تردید و پرسش دائمی هستند. اسلون هشدار میدهد که اگر سامانههای هوش مصنوعی کانالهای ارتباطی را تا حدی آلوده کنند که دیگر قابل اعتماد نباشند، ما با یک «بحران اکولوژیک دیجیتال» مواجه خواهیم شد؛ یک بحران اینترنتی که در آن حجم بالای شبیهسازیها باعث میشود کانالهای ارتباطی انسانی دیگر غیرقابل استفاده شوند. در همین راستا، برخی شرکتها مانند Synthesia از تحلیل دادههای رفتاری در ویدیوهای مصنوعی برای سنجش عملکرد استفاده میکنند که مرز میان شبیهسازی و نظارت را جابهجا میکند.
استراتژیهای اخلاقی ورود به بازار
تیم Val Town رویکرد متفاوتی را برای رشد دنبال میکند: تمرکز بر ارتباطات صادقانه، چه به صورت شخصی و چه به صورت غیرشخصی. اعضای تیم، از جمله استیو و چارلی، بر گفتگو با مشتریان برای هر دو هدف فروش و دریافت بازخورد محصول تمرکز میکنند. آنها چون واقعاً از محصول خود استفاده میکنند و آن را دوست دارند، میتوانند صادقانه آن را بفروشند.
این استارتاپ پس از نزدیک به چهار سال، موفقیت خود را در داشتن مشتریانی از شرکتهای معتبر میبیند که ابزارهای کاربردی و جالب میسازند. اگرچه آنها هنوز در مرحلهای نیستند که بتوانند با درآمد حاصل از IPO وام مسکن بگیرند، اما فعالانه روی رسیدن به «تناسب محصول با بازار» (Product-Market Fit) کار میکنند. استیو در بهروزرسانیهای ماهانه و عمومی خود برای سرمایهگذاران، بحث میکند که شاید «مهندسی ورود به بازار» (Go-to-market engineering) کلید اصلی این تناسب باشد.
استراتژی داخلی آنها شامل موارد زیر است:
- استفاده از هوش مصنوعی برای ارزیابی اولیه مشتریان (Lead Qualification) و غنیسازی اطلاعات ثبتنام از طریق قالبها، اما بدون هیچگونه فریبکاری.
- اولویت دادن به بازخورد مستقیم مشتری بر شبیهسازیهای خودکار.
- عقبنشینی از اتوماسیون در لحظهای که روند کار بیش از حد مکانیکی، خودکار یا غیرصادقانه به نظر برسد.
- پرهیز از جنبه «تظاهر» در AI، که آنها آن را هسته اصلی شکست اخلاقی میدانند.
اسلون معتقد است ایمیلهای فریبکارانه AI در واقع «استخر ارتباطات اینترنتی را آلوده میکنند». او استدلال میکند که در حالی که یک ایمیل سرد (Cold Email) شخصیسازیشده توسط AI ظریفتر از یک پیام تبلیغاتی انبوه و یکسان است، اما در واقع «بسیار بدتر» است چون اساساً بر پایه عدم صداقت بنا شده است. این تاکتیکها با بالا بردن «کف نویز» (Noise Floor) در فضای دیجیتال و افزایش حجم مزخرفات، رسیدن سازندگان صادق به مخاطبان واقعی با پروژههای اصیل را سختتر میکنند. این نوع اتوماسیون تهاجمی یادآور نفوذ عاملهای خودگردان به زیرساختهای حساس است که نشان میدهد فقدان کنترل و شفافیت در سیستمهای خودکار چه پیامدهایی میتواند داشته باشد.
این تغییر در استراتژی ارتباطات نشان میدهد که با فراگیر شدن محتوای تولیدی AI، «اصالت» به یک مزیت رقابتی تبدیل میشود. هدف باید یافتن کاربران مناسب برای یک ابزار باشد، بدون اینکه وقت آنها تلف شود یا از طریق شخصیتهای مصنوعی فریب بخورند.
برای جلوگیری از مشارکت در این بحران، سازندگان باید تظاهر کردن را متوقف کنند. چه پیام یک ارسال انبوه یکسان باشد و چه یک پیشنهاد شخصیسازیشده توسط AI، صداقت درباره هویت فرستنده تنها راه حفظ قابلیت استفاده از کانالهای دیجیتال است. ایمیلهای سرد پذیرفتنی هستند، به شرطی که یا صادقانه شخصی باشند یا صادقانه غیرشخصی.
گام بعدی شما
- در پیامهای اتوماسیون خود، به جای شبیهسازی انسان، صراحتاً ذکر کنید که پیام توسط AI تولید شده است.
- برای افزایش نرخ تبدیل، روی «شخصیسازی واقعی» (بر اساس نیاز کاربر) تمرکز کنید، نه «شبیهسازی انسانی» (بر اساس ظاهر).
- در بررسی ابزارهای بازاریابی، اولویت را به ابزارهایی بدهید که شفافیت در ارسال (Transparency) را تضمین میکنند.
اما داستان سختافزاری این تحول و نحوه تولید ارزان این ویدیوها حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو