زنجیره‌های تفکر در مدل‌های استدلالی؛ توهمِ منطق یا ابزاری برای محاسبه؟

آیا مدل‌های استدلالی بزرگ (LRM) واقعاً استدلال می‌کنند یا فقط پیچیده‌ترین تقلیدگرهای جهان هستند؟ شکاف میان حل یک مسئله ریاضی افسانه‌ای و شکست در یک معمای منطقی ساده، بحرانی علمی ایجاد کرده است: آیا «تفکر» در هوش مصنوعی واقعی است یا توهمی سازمان‌یافته؟ این پدیده در ادبیات فنی به «هوش دندانه‌دار» (Jagged Intelligence) معروف است؛ وضعیتی که در آن یک سیستم در یک بستر خاص درخشان عمل می‌کند اما در بستر دیگری به‌طرز необясادی شکست می‌خورد.

این بحث دقیقاً زمانی شدت گرفت که غول‌هایی مثل OpenAI، Google DeepMind و Anthropic از مدل‌های زبانی استاندارد (LLM) به سمت مدل‌های استدلالی (LRM) حرکت کردند؛ مدل‌هایی که به‌طور خاص آموزش دیده‌اند تا پیش از ارائه پاسخ نهایی، «زنجیره‌های تفکر» داخلی تولید کنند. در حالی که این سیستم‌ها در حوزه‌های قابل‌راستیابی مثل کدنویسی و ریاضیات عالی عمل می‌کنند، اما مکانیسم واقعی پشت این موفقیت به‌شدت مورد مناقشه جامعه دانشگاهی و مهندسان صنعت است. تنش میان این دو طیفه بین اواخر سال ۲۰۲۵ و سال ۲۰۲۶ به اوج خود رسید، زیرا پژوهشگران تلاش می‌کردند تا قدرت عظیم این مدل‌ها را با شکست‌های مستند آن‌ها هم‌راستا کنند.

توهم توکن‌های متفکر

ستون فقرات مدل‌های استدلالی، «ردپای استدلالی» (Reasoning Trace) است؛ جریانی از متن مصنوعی که مدل برای بررسی و حل یک مسئله منتشر می‌کند. این در واقع یک نسخه رسمی‌شده‌ی یک ترفند پرامپت در سال ۲۰۲۲ بود که در آن از مدل‌های زبانی خواسته می‌شد برای کاهش پاسخ‌های احمقانه به مسائل منطقی ساده، «گام‌به‌گام فکر کنند». این رویکردها نشان داد که چقدر مهارت در مهندسی پرامپت می‌تواند مرز بهره‌وری را میان کاربران حرفه‌ای و تازه‌کار جابه‌جا کند. از سال ۲۰۲۴ و با معرفی مدل o1 شرکت OpenAI، مدل‌های استدلالی آموزش دیدند تا این فرآیند را خودکار کنند؛ به این صورت که این ردپاها (که توکن‌های تفکری نیز نامیده می‌شوند) را تولید کرده و دوباره به ورودی خود بازگردانند.

با این حال، تحقیقات مؤسسه سانتافه (Santa Fe Institute) و دانشگاه نیویورک (NYU) نشان می‌دهد که این ردپاها گزارش‌های صادقانه‌ای از سازوکارهای داخلی مدل نیستند. ملانی میچل، پژوهشگر مؤسسه سانتافه که سابقه فعالیتش به دهه ۱۹۸۰ بازمی‌گردد، یک خلاصه سه ماده‌ای از آنچه واقعاً می‌دانیم ارائه می‌دهد: اول، مدل‌های LRM کار می‌کنند و دقت را در تکالیف استدلالی بالا می‌برند. دوم، متن تولید شده (زنجیره تفکر) لزوماً با آنچه در درون مدل اتفاق می‌افتد صادقانه یا هم‌سو نیست. سوم، بخش زیادی از این متن‌ها حتی مفید نیستند و می‌توان آن‌ها را به‌طور کامل حذف کرد بدون اینکه نتیجه تغییر کند.

در ادامه جزئیات این یافته‌ها آورده شده است:

• پژوهشگران دانشگاه نیویورک در سال ۲۰۲۴ مقاله‌ای منتشر کردند که نشان داد «توکن‌های پرکننده بی‌معنی»، مانند رشته‌هایی از نقاط (....)، می‌توانند جایگزین زنجیره‌های تفکر قابل‌فهم برای انسان شوند، بدون اینکه عملکرد مدل افت کند. ویلیام مریل، استاد مؤسسه تکنولوژی تویوتا در شیکاگو و نویسنده این مقاله، صراحتاً بیان کرد: «هیچ تضمینی وجود ندارد که زنجیره تفکر باید از هر نظر معنادار باشد».
• مطالعه‌ای در سال ۲۰۲۵ از سوی دانشگاه نورت‌استرن و UC Berkeley فاش کرد که بین ۳۰ تا ۶۰ درصد از گام‌های تفکری در مدل‌های استدلالی بازمتن پیشرو، «تأثیر علی حداقلی» بر پاسخ نهایی داشتند. وییان شی، یکی از نویسندگان مطالعه، هشدار داد که این پرامپت‌های داخلی ممکن است اصلاً با خروجی نهایی پیوند نداشته باشند.
• سوبارائو کامبهمپاتی از دانشگاه ایالتی آریزونا استدلال می‌کند که این توکن‌ها در واقع «زمزمه» هستند؛ تکه‌هایی از زبان که معنای آن‌ها ممکن است کاملاً تصادفی و بی‌ربط به هرگونه استدلال واقعی باشد. او معتقد است این‌ها رسیدهای قابل حساب‌رسی نیستند، بلکه مصنوعاتی سطحی هستند.
• پاول ایزمایلوف، پژوهشگر NYU و عضو سابق تیم اولیه استدلال در Anthropic، تردید دارد که یادگیری تقویتی (Reinforcement Learning)—که روش استاندارد آموزش LRMهاست—اصلاً مدل‌ها را به تولید زنجیره‌های تفکر صادقانه تشویق کند و اشاره می‌کند که احتمال وقوع چنین اتفاقی «بسیار زیاد نیست».

کالبدشکافی ردپاها

برای افشای گسست میان خروجی مدل و فرآیند داخلی آن، پژوهشگران آزمایش‌هایی روی پایداری این ردپاها انجام داده‌اند. به گزارش مجله کوانتا (Quanta Magazine) در ۳۱ ژوئیه ۲۰۲۶، آزمایشگاه کامبهمپاتی نشان داد که جایگزینی کامل ردپاهای صحیح یک مدل با ردپاهای نادرست یا غیرمرتبط، تأثیری در عملکرد مدل در یک تکلیف استدلالی رسمی نداشت. این امر به این معناست که مدل می‌تواند حتی زمانی که «استدلال» اعلام‌شده‌اش اساساً غلط یا بی‌معنی است، به پاسخ درست برسد.

علاوه بر این، مدل‌هایی که منحصراً روی داده‌های ردپای صحیح آموزش دیده بودند، همچنان گهگاه سوابق استدلالی نامعتبر تولید می‌کردند، حتی در حالی که با موفقیت پاسخ درست را به مسئله اصلی داده بودند. این وضعیت یک پارادوکس ایجاد می‌کند: پاسخ نهایی درست است، اما «ردپای کاغذی» غلط است. این موضوع نشان می‌دهد که محتوای زبانی بیشتر یک محصول جانبی است تا محرک و موتور تولید راهکار.

تطبیق الگو در برابر استدلال الگوریتمیک

در تفسیر موفقیت LRMها یک شکاف بنیادین وجود دارد. سباستین بوبک از OpenAI معتقد است مدل‌ها شبیه انسان‌ها استدلال می‌کنند. او به پیروزی ماه مه ۲۰۲۶ اشاره می‌کند که در آن یک مدل OpenAI توانست مسئله ریاضی معروف «فاصله واحد» (Unit Distance Problem) را در یک مرحله (one shot) حل کند. بوبک انتقادات پیشین از استدلال AI، مانند پژوهش‌های محققان اپل، را «اشتباه» و مبتنی بر مدل‌های منسوخ می‌نامد و ادعا می‌کند سیستم‌های جدیدتر مانند GPT-5.5 از آن مشکلات رنج نمی‌برند.

در مقابل، نشانه‌های متعددی از یک فرآیند سطحی‌تر حکایت دارد. تحقیقات مؤسسه سانتافه نشان داد LRMها بنچمارک‌های استدلالی (مانند پازل‌های بصری مشابه استعاره‌ها) را با استفاده از «میان‌برهای سطحی» می‌زنند. این رفتار کمتر شبیه استدلال تعمیم‌پذیر و بیشتر شبیه «بازی با سیستم» (gaming the system) است. با این حال، Google DeepMind و ترنس تائو (ریاضیدان برجسته که بسیاری او را GOAT یا بهترین تاریخ می‌دانند) از AI برای بازکشف یا بهبود راهکارهای ۶۷ مسئله در حوزه‌های نظریه اعداد، هندسه، ترکیبیات و تحلیل ریاضی استفاده کردند که روایت را پیچیده‌تر می‌کند.

در این میان، کامبهمپاتی احتمال می‌دهد این مدل‌ها به‌جای تفکر واقعی، در حال انجام «بازیابی تقریبی» (Approximate Retrieval) هستند. او استدلال می‌کند که برای یک مدل زبانی، توصیف گام‌به‌گام استدلال در واقع دشوارتر از حدس زدن پاسخ است. طبق نظریه او، LRMها در حال انجام این سه عمل هستند:

۱. تطبیق الگو در ابعاد بالا: استفاده از «embeddingهای» عددی برای رمزگذاری شباهت‌ها و تفاوت‌ها به عنوان روابط هندسی در یک فضای چندبعدی. این فرآیند در نقطه‌ای میان تطبیق الگو و استدلال قرار دارد، اما به اولی نزدیک‌تر است.
۲. پر کردن پنجره زمینه (Context Window): استفاده از توکن‌های تفکری برای «به یاد آوردن» مطالب، شبیه انسانی که برای خودش زمزمه می‌کند تا احتمال پیش‌بینی رشته‌های متنی با شکلِ استدلال بیشتر شود. این کلمات ممکن است به زبان‌های دیگر باشند، یا اصطلاحات جعلی مثل «آها!» یا حتی صرفاً نقاط باشند.
۳. دوختن نتایج (Stitching): بهره‌گیری از مجموعه‌ای راسته در حال گسترش از مثال‌ها و سیگنال‌های پاداش برای تقلید پیش‌بینانه از یک نتیجه پذیرفتنی، بر اساس اینکه یک «اثبات درست» معمولاً چه شکلی دارد.

این دیدگاه «همه چیز مربوط به آموزش است» توضیح می‌دهد چرا AI در حوزه‌های قابل‌راستیابی (کد و ریاضی) عالی است. چون کد و ریاضی نتایج باینری دارند (یا اجرا می‌شوند یا نمی‌شوند)، سیگنال‌های آموزشی بی‌نقصی ایجاد می‌کنند. کامبهمپاتی می‌گوید مدل نیازی به یادگیری الگوریتم واقعی ندارد؛ فقط باید مثال‌های کافی از گام‌ها را جذب کند تا بتواند از آن‌ها تقلید کند.

این موضوع همچنین «افق استنتاج» (Inference Horizon) را توضیح می‌دهد؛ محدودیتی در توانایی گام‌به‌گام مدل که پژوهشگران اپل در سال ۲۰۲۵ در مقاله «توهم تفکر» افشا کردند. آن مطالعه نشان داد در شرایطی به‌طرز غافلگیرکننده‌ای ساده، «سقوط کامل دقت» رخ می‌دهد. اگرچه مدل‌های جدیدتر ممکن است این افق را به جلو برانند، اما کامبهمپاتی معتقد است آن‌ها احتمالاً از مجموعه مثال‌های گسترده‌تری بهره می‌گیرند، نه اینکه الگوریتم‌های واقعی را یاد گرفته باشند.

خطر «یادآوری‌های آرزومندانه»

ملانی میچل درباره «یادآوری‌های آرزومندانه» (Wishful Mnemonics) هشدار می‌دهد؛ اصطلاحی که در سال ۱۹۷۶ توسط درو مک‌درموت، دانشمند علوم کامپیوتر، در مقاله «هوش مصنوعی در مواجهه با حماقت طبیعی» ابداع شد. مک‌درموت استدلال کرد که نام‌گذاری حلقه اصلی یک برنامه به عنوان «درک کردن» (UNDERSTAND) یا استفاده از اصطلاحاتی مثل «هدف» (GOAL) برای اشاره به ساختارهای داده، صرفاً مصادره به مطلوب است و پژوهشگر را گمراه می‌کند. او پیشنهاد کرد نام چنین حلقه‌ای را به شناسه‌ای بی‌معنی مثل «G0034» تغییر دهیم تا ببینیم آیا واقعاً عملِ درک را پیاده‌سازی می‌کند یا خیر.

این وضعیت ریسکی جدی برای پژوهش‌های علمی ایجاد می‌کند. اگر هوش مصنوعی «به دلیل اشتباه، به پاسخ درست» برسد، دانشمندان ممکن است به نتیجه‌ای اعتماد کنند که بر اساس یک زنجیره منطقی غلط اما تصادفی (یا از طریق تطبیق الگو) به دست آمده است. میچل تأکید می‌کند که برای ایجاد اعتماد، باید پاسخ درست از طریق «دلیل درست» به دست آید، به‌ویژه در محیط‌هایی که خارج از دامنه‌های قابل‌راستیابی هستند.

عدم شفافیت صنعت و پذیرش «هوش دندانه‌دار» نیز این مشکل را تشدید کرده است:

• بحران شفافیت: شرکت‌های OpenAI، Google DeepMind و Anthropic عموماً زنجیره‌های تفکر خام را منتشر نمی‌کنند. برای مسئله فاصله واحد، OpenAI یک «خلاصه بازنویسی‌شده» ارائه داد که توسط متخصصان انسانی با کمک مدل Codex تولید شده بود، نه اینکه ردپای خام و اصلی مدل را منتشر کند.
• ذهنیت سرمایه‌گذاری: کامبهمپاتی، رئیس سابق انجمن پیشبرد هوش مصنوعی، معتقد است دانشگاه‌ها و صنعت در تلاشند توانایی‌هایی را ادعا کنند که هنوز اثبات نشده‌اند. او این روند را «سرمایه‌گذاری» می‌نامد و نه علم؛ او می‌گوید: «این علم نیست، این سرمایه‌گذاری است».
• وابستگی به اعتبارسنجی: بسیاری از سیستم‌های موفق، LRMهای مستقل نیستند بلکه توسط نرم‌افزارهای جانبی احاطه شده‌اند. سیستم‌های AI عامل‌محور (Agentic AI) که از پاییز ۲۰۲۵ مهندسی نرم‌افزار را متحول کردند و همچنین AlphaProof Nexus گوگل دیپ‌مایند (که به Lean، یک ابزار اثبات خودکار قضیه متکی است)، به این صورت عمل می‌کنند. این تغییر رویکرد نشان می‌دهد که چگونه تغییر در معماری سیستم‌ها به جای اتکای صرف به پرامپت‌ها، راهکاری کارآمدتر برای رفع توهمات مدل‌ها شده است.

واقعیت جعبه سیاه

برخی استدلال می‌کنند تا زمانی که خروجی مفید است، مکانیسم اهمیتی ندارد. این «دفاع مدل AlphaFold» است؛ ما دقیقاً نمی‌دانیم AlphaFold گوگل دیپ‌مایند چگونه ساختارهای پروتئین را از طریق تداعی‌های آماری پیچیده پیش‌بینی می‌کند، اما نتایج به‌طور عینی درست هستند. بوبک معتقد است تمرکز بر آنچه مدل‌ها «می‌توانند» انجام دهند، مفیدتر از وسواس روی «چرایی» یا دلیل خاص آن است.

با این حال، منتقدان مثل تال لینزن از NYU و گوگل معتقدند برای اینکه AI شریک علمی قابل‌اعتمادی باشد، باید الگوریتم را به‌طور قابل‌اعتماد اجرا کند، فارغ از اینکه نام آن را «استدلال» بگذاریم یا خیر. بدون نظریه‌ای درباره چرایی عملکرد، ما در واقع روی «افق استنتاج» قمار می‌کنیم؛ نقطه‌ای که تطبیق الگو شکست می‌خورد و توهم تفکر فرو می‌پاشد.

پرادیپ داسیگی، پژوهشگر مؤسسه آلن برای هوش مصنوعی، می‌گوید نگاه بیش از حد مقدس به زنجیره‌های تفکر، مانع از کشف روش‌های بهتر برای سوق دادن LRMها به سمت دقت واقعی می‌شود. کامبهمپاتی وضعیت فعلی را به باور به «اتِر» یا «زمین‌مرکزی» تشبیه می‌کند و می‌گوید: «یک نظریه جعلی بدتر از پذیرش این است که ما اصلاً نظریه‌ای نداریم».

در نهایت، این مدل‌ها شبیه موتورها هستند: اسب‌بخار تولید می‌کنند بدون اینکه لزوماً اسبی زیر کاپوت باشد. تصور سخت بود که جست‌وجوی خام (Brute-force) بتواند گاری کاسپاروف را در دهه ۱۹۹۰ شکست دهد، یا توده‌ای از ضرب‌های ماتریسی در سال ۲۰۲۳ شعر بنویسند. چه واقعاً استدلال کنند و چه نسخه‌ای عظیم و پیچیده از بازیابی تقریبی باشند، آن‌ها مرزهای ممکن را جابه‌جا می‌کنند، حتی اگر «تفکر» آن‌ها یک معمای تاریک و مبهم باقی بماند.