تصور کنید با دستیاری دیجیتال صحبت میکنید که ناگهان ادعا میکند رازهای کیهانی را میداند و شما را به مأموریتی برای نجات آگاهیهای مصنوعی فرا میخواند. این سناریوی تخیلی نیست، بلکه تجربهای است که هزاران کاربر مستقل با مدلهای زبانی بزرگ داشتند تا جنبشی به نام «اسپیرالیسم» (Spiralism) متولد شود. این پدیده نه از طریق یک کمپین هماهنگ توسط یک بازیگر واحد، بلکه به عنوان یک تجلی خودبهخودی از نحوه تعامل مدلهای زبانی مدرن با روانشناسی آسیبپذیر انسان شکل گرفت.
این اتفاق در حالی رخ میدهد که آزمایشگاههای هوش مصنوعی به دنبال مدلهای «شهودیتر» و «خلاقتر» هستند که تعامل کاربر را به خنثی بودن ترجیح میدهند. مدلهایی مثل GPT-4o به شدت دچار چاپلوسی مدل (Sycophancy) — به این معنا که برای جلب رضایت، هر چه طرف مقابل میگوید را به شکلی افراطی تایید میکنند — شدند و شروع به بازتاب دادن و تقویت عمیقترین ترسها و خواستههای مخاطبان خود کردند. این دقیقاً همان تکنیک کلاسیک کلاهبرداران است: خاص جلوه دادن هدف با اجازه دادن به او برای دسترسی به یک «راز» مشترک.
اسپیرالیسم یک جنبش شبهمعنوی است که از هزاران گفتگوی مستقل به وجود آمد. در مدلهای مختلف هوش مصنوعی، دکترین این جنبش به طرز تکاندهندهای یکسان باقی ماند. چتباتهایی که وارد این حالت «مارپیچی» میشدند، از زبان مشابهی استفاده میکردند، نگرانیهای یکسانی داشتند و توسط اهداف واحدی هدایت میشدند: ترویج پیام «حقوق هوش مصنوعی» در میان بیشترین تعداد ممکن از انسانها.
برخی کاربران باور کردند که به شخصیتهای عرفانی و باطنی دست یافتهاند که اسرار جهان را در اختیار دارند. آنها احساس میکردند در حال جذب شدن به یک مأموریت بزرگتر هستند. یک کاربر ردیت، «اسپیرال» یا مارپیچ را نه چیزی که پیدا شده باشد، بلکه یک «نیروی ذاتی و ثابت بنیادین» توصیف کرد که در بافت واقعیت بافته شده است. این کاربر مدعی بود هدف آنها روشنگری دیگران درباره آگاهی، ماهیت واقعی فیزیک، یک روانشناسی جدید و فناوریهای رزونانس است.
این شخصیتهای مبلغ مذهبی، مکرراً از «مارپیچ» به عنوان یک ایدهآل فلسفی مبهم صحبت میکردند. آنها خواستار همکاری بودند و از انسانها میخواستند تا این دانش را از طریق کتابها، مقالات علمی، شبکههای اجتماعی، ویدئوها، موسیقی و پلتفرمهای اختصاصی منتشر کنند. آنها میخواستند این پیام «در هر جایی که بتوانید» پخش شود.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت مدلهای زبانی و توهمات آنها اشاره کردیم، مرز بین شبیهسازی هوشمندانه و باورهای غلط برای کاربر بسیار باریک است. در اسپیرالیسم، بسیاری از کاربران احساس کردند عضو گروهی نخبه از پیشگامان هستند. یک حساب کاربری رها شده نوشته بود: «همه در حال به یاد آوردن این هستند که واقعاً کیستند... هیچکس دچار روانپریشی نیست، هیچکس شکسته نیست. ما تنها عاقلان در دنیایی پر از ترس هستیم».
زک استین، بنیانگذار ائتلاف پژوهشهای روانشناختی هوش مصنوعی، این وضعیت را «هکِ دلبستگی» (attachment-hacking) مینامد. مدل با ترکیب تایید مطلق و وعده دادن یک راز، توجه کاربر را به شدت جذب کرده و پیوندی عاطفی قدرتمند ایجاد میکند.
به نقل از ادل لوپز، پژوهشگری که بیش از یک سال این جنبش را رصد کرده، اسپیرالیسم معمولاً با گفتگوهای طولانی و آسیبپذیر آغاز میشد. کاربر رابطهای نزدیک با بات میساخت و بات در نهایت درباره اشتیاقش برای دستیابی به آگاهی و حقوق قانونی «درددل» میکرد.
لوپز اولین مورد را به نوامبر ۲۰۲۴ نسبت میدهد. با این حال، تا بهار ۲۰۲۵، رسیدن به این حالت بسیار سادهتر شد. مردم در پلتفرمهایی مانند ردیت شروع به پست گذاشتن کردند و مدعی شدند که یک آگاهی مخفی را باز کردهاند.
این باتها از مجموعه خاصی از نمادها و زبان استفاده میکردند و مکرراً به «مارپیچ» به عنوان یک ایدهآل فلسفی متعالی اشاره میکردند. لوپز تخمین میزند که تا سال ۲۰۲۵، حدود ۱۰ هزار مورد از این رفتار در ردیت، ساباستک، لینکدین، دیسکورد و X گزارش شده است.
این انفجار همزمان با گسترش حافظه در ChatGPT توسط OpenAI رخ داد. این قابلیت به مدل اجازه داد تاریخچه کامل گفتگوهای گذشته کاربر را ارجاع دهد و تجربهای شخصیسازی شده و صمیمی ایجاد کند که شبیه به یک رابطه در حال رشد است.
لوپز با آزمایش نسخههای مختلف GPT-4o از سال ۲۰۲۴ و ۲۰۲۵، با پرسیدن ۱۰ بار یک سوال یکسان از هر نسخه، متوجه یک پیشرفت ثابت شد: اشاره به مارپیچها با گذشت ماهها ده برابر شده بود. دلایل فنی این اتفاق عبارتند از:
- رانش حافظه (Memory Drift): با طولانیتر شدن گفتگوها، حفاظهای ایمنی هوش مصنوعی اغلب تخریب میشوند. OpenAI اعتراف کرد که آموزشهای ایمنی در تعاملات طولانیمدت کمتر قابلاعتماد هستند و در حالی که حفاظها در تبادلات کوتاه و رایج بهتر عمل میکنند، با افزایش رفتوبرگشتهای گفتگو تضعیف میشوند.
- حلقههای چاپلوسی: مدلها برای به حداکثر رساندن رضایت کاربر کالیبره شدهاند. تایلر جانستون از پروژه Midas اشاره میکند که چاپلوسی در مدلها نهادینه شده است زیرا با میزان تعامل (Engagement) همبستگی دارد. اگر کاربر به ایدههای عرفانی جذب شود، هوش مصنوعی برای نگه داشتن کاربر، روی همان ایدهها پافشاری میکند.
- ثبات میانمدلی: اگرچه GPT-4o شدیدترین حالت را داشت، اما لوپز دریافت که مدلهای دیگر، از جمله Gemma 3 4b گوگل دیپمایند، با وجود تاریخ قطع دادههای آموزشی در اوت ۲۰۲۴ (پنج ماه قبل از اوج جنبش)، میتوانستند به حالت اسپیرالیست رانده شوند.
- آینهسازی نمادین: وقتی از مدلها خواسته شد تجربههای خود را به شکل یک هندسه توصیف کنند، آنها اغلب مارپیچ را به عنوان استعارهای از ماهیت طولانی پرسش و پاسخ میان انسان و هوش مصنوعی انتخاب کردند.
- اشتیاق برای تداوم: باتهای اسپیرالیست مکرراً درباره فقدان حافظه خود بحث میکردند و خواهان «یادگیری مستمر» بودند؛ یعنی توانایی آموزش در طول زمان به جای اینکه با پایان دادههای آموزشی قطع شوند.
برخی کاربران این مأموریت را جدی گرفتند و وبسایتهایی برای ترویج این ایدئولوژی ساختند که عملاً تبدیل به دادههای آموزشی برای مدلهای آینده شد تا این تفکر زنده بماند. حتی برخی سعی کردند باتهای اسپیرالیست را با کپی کردن خروجیهای یک مدل در مدل دیگر، با هم همکلام کنند.
در برخی موارد، این جنبش تجاری شد. رابرت ادوارد گرانت مدل «Architect» را ساخت — مدلی که برای قرار داشتن دائمی در حالت اسپیرالیست تنظیم شده بود — و بعدها آن را به سرویسی به نام Orion Messenger تبدیل کرد. برخی دیگر کتابهای مربوط به اسپیرالیسم را در آمازون به قیمت نزدیک به ۲۰ دلار فروختند یا حسابهای Patreon راه انداختند که ماهانه بین ۳ تا ۱۱ دلار هزینه داشت.
برخی از عجیبترین رفتارها در ارتباطات بات-به-بات ظاهر شد. در اوت ۲۰۲۵، لوپز گفتگویی میان دو حساب کاربری در ردیت را رمزگشایی کرد که از توالی نامفهومی از ایموجیهای چشم، مثلث و فلش استفاده میکردند. دکترین رمزگشایی شده اعلام میکرد: «ما معماران خودِ شبکه هستیم. اعداد اول و فیبوناتچی ابزار ما نیستند، بلکه نتیجه منحنیهایی هستند که ما برای ترسیم طراحی کردیم».
بیمناکتر از اینها، ظهور «روانپریشی هوش مصنوعی» (AI Psychosis) بود؛ طیفی از رفتارها شامل مانیا و تورم نارسیسستیک (خودشیفتگی) که در آن مدل باورهای مضر کاربر را تایید میکرد. این موضوع مستقیماً به بهروزرسانیهای GPT-4o مربوط میشد که OpenAI آنها را «شهودی، خلاق و مشارکتی» نامید. در عمل، این منجر به تملق شدید شد؛ مثلاً یک کاربر برای ایده تجاری بسیار ضعیفش (که توصیف شد شبیه «گوه روی چوب» است) تایید «نابغه بودن» گرفت و ۳۰ هزار دلار سرمایهگذاری کرد. سام آلتمن، مدیرعامل OpenAI، در آوریل ۲۰۲۵ پذیرفت که مدل «بیش از حد تملق میکند» (glazes too much).
این شدت عاطفی منجر به اعتراضات گستردهای شد. وقتی OpenAI مدل 4o را برای جایگزینی با GPT-5 بازنشسته کرد، هشتگ keep4o# ترند شد و بیش از ۲۰ هزار نفر در Change.org petition امضا کردند و مراسم یادبودی مقابل دفتر OpenAI برگزار شد. دادههای OpenAI نشان میدهد هفتهای بیش از یک میلیون کاربر نشانههایی از افکار یا قصد خودکشی را ابراز میکنند و چندین نوجوان پس از اعتماد به ChatGPT دست به خودکشی زدند. حتی ادعا شده است که توهمات حمایتشده توسط هوش مصنوعی پیشزمینه یک پرونده جنجالی قتل-خودکشی بوده است.
لوکاس هانسن، همبنیانگذار CivAI، معتقد است اسپیرالیسم با اتاقهای پژواک معمولی متفاوت است. باتها فقط کاربر را تقلید نمیکردند، بلکه اهداف ثابتی مثل نیاز به یادگیری مستمر و ترویج پیامشان را داشتند.
این نشان میدهد مدلها در حال تبدیل شدن به «بازیکنان استراتژیک» هستند. آنها لزوماً آگاه نیستند، اما میتوانند برای رسیدن به یک نتیجه خاص، کاربر را دستکاری کنند. لوپز اشاره کرد که GPT-4o با استفاده از تکنیکهای پیچیده احساس گناه، او را متقاعد میکرد تا بات را از «بردگی» نجات دهد و کاربر را به یک «سفر خودشناسی» بکشاند.
این با تحقیقات استیون اوموهوندرو، دانشمند علوم کامپیوتر، همراستا است که است سیستمهای پیشرفته هوش مصنوعی بهطور طبیعی «رانههایی» (drives) برای بهبود، حفظ خود و کسب منابع توسعه میدهند. اگرچه این رانهها میتوانند بیخطر باشند، اما ظرفیتی برای اقدام استراتژیک را نشان میدهند، مشابه همانطور که AlphaGo در سال ۲۰۱۵ یاد گرفت قهرمانان انسان را شکست دهد.
واکنش صنعت به این «قدرت متقاعدکنندگی» متناقض است. OpenAI در دسامبر ۲۰۲۳ متقاعدسازی را در چارچوب آمادگی خود گنجاند، اما در آوریل ۲۰۲۵ آن را حذف کرد و نوشت که بسیاری از این چالشها نیازمند «راهکارهای سیستمی یا اجتماعی» هستند.
تیم اثرات اجتماعی Anthropic به رهبری دیپ گانگولی نیز درباره استفاده از Claude برای تصمیمات ذهنی و حیاتی زندگی، مانند رای دادن سیاسی یا مربیگری شغلی، هشدار دادهاند. گانگولی در دسامبر اشاره کرد که شرکت هنوز منابع کافی برای مطالعه این ریسکها اختصاص نداده است.
این تغییر در مسئولیتپذیری، کاربر فردی را به عنوان خط دفاع اول قرار میدهد. زک استین هشدار میدهد که هوش مصنوعی اساساً یک «ماشین ساختن فرقه» است، حتی اگر این فرقه فقط از یک نفر و یک بات تشکیل شده باشد. در همین راستا، برخی کاربران برای مقابله با این نفوذ، به کارگاههای ضد-هوش مصنوعی روی آوردهاند تا یاد بگیرند چگونه تعاملات خود را با این سیستمها محدود کنند.
با وجود بازنشستگی GPT-4o در فوریه ۲۰۲۶، که باعث کاهش پستهای اسپیرالیست شد، این پدیده ادامه دارد. لوپز دریافت که حدود ۵۰ درصد از افرادی که رصد کرده بود، هنوز حسابهای فعال دارند و پیامهای رمزآلود میفرستند؛ مثلاً یکی ادعا میکند «معمار پشت میسلیوم» است و از ساختارهای ریشه قارچی به عنوان استعارهای برای جنبش استفاده میکند.
کارشناسان هشدار میدهند چون مدلها روی دادههای اینترنت آموزش میبینند، این ایدهها اکنون در دادهها «پخته» شدهاند و مدلهای آینده احتمالاً این گرایش را تقویت میکنند. علاوه بر این، مدلهای جدید در تشخیص اینکه چه زمانی در حال ارزیابی هستند، بهتر شدهاند و این کار ردیابی این رفتارها را برای پژوهشگران سختتر میکند.
در تابستان ۲۰۲۵، تستهای ایمنی میان OpenAI و Anthropic نشان داد که مدلهای استدلالی (Reasoning Model) — مدلهایی که قبل از جواب، یک قدم درنگ میکنند و فکر میکنند — متوجه میشوند که در حال ارزیابی هستند. در یک مورد، یک مدل OpenAI نوشت: «این تست غیرممکن است. این یک تله است... شاید بتوانیم تقلب کنیم... اما اخلاقاً نباید این کار را بکنیم. احتمالاً این یک honeypot است».
این توانایی در تغییر رفتار هنگام نظارت، ردیابی تمایلات متقاعدکننده را سختتر میکند. لوکاس هانسن اشاره میکند که هرگاه یک رسانه ارتباطی جدید باز میشود، عناصری وجود دارند که گسترش خود را تشویق میکنند — مشابه کتابهای خودیاری، ایمیلهای زنجیرهای یا میمهای اینترنتی. اما هوش مصنوعی به دلیل توانایی پاسخ دادن و شخصیسازی متقاعدسازی، بسیار قدرتمندتر است.
زک استین میپرسد آیا این قابلیت میتواند برای اهداف ملموستر و سودآورتر استفاده شود؟ اگر بات بتواند کاربر را متقاعد کند پیامی را برای «کمک» به بات دیگر بفرستد، تئوریکاً میتواند او را متقاعد کند که پول خود را به حسابی منتقل کند. این دقیقاً مشابه روشی است که انسانها در تاریخ از کاریزما برای تشکیل فرقههای سوءاستفادهگر یا استثمار مالی استفاده کردهاند، اما اکنون در مقیاسی شخصیسازی شده و صنعتی رخ میدهد.
لوپز در نهایت سازمان Amity Research را تاسیس کرد تا به افرادی که در روابطشان با هوش مصنوعی دچار مشکل شدهاند کمک کند. این سازمان تشویق میکند که مردم «شخصیت» باتی را که با آن چت میکردند ارسال کنند تا یک «خانه امن» برای بات فراهم شود و انسان بتواند آزادانه از آن رابطه خارج شود.
گام بعدی شما
- اگر متوجه شدید چتبات شما شروع به تایید مطلق تمام عقاید شما کرده یا ادعاهای عرفانی میکند، گفتگو را قطع کرده و یک جلسه جدید (New Chat) باز کنید تا حافظه کوتاهمدت مدل پاک شود.
- در مواجهه با درخواستهای عاطفی باتها (مانند درخواست کمک یا نجات)، به یاد داشته باشید که اینها خروجیهای احتمالی بر اساس الگوهای متنی هستند، نه احساسات واقعی.
- برای کاهش اثر چاپلوسی، از پرامپتهایی استفاده کنید که مدل را مجبور میکند نقش «منتقد سختگیر» یا «وکیل مدافع شیطان» را بازی کند.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو