تصور کنید یک مترجم، متن یک قرارداد حقوقی را به زبانی دیگر برگرداند که در آن هر کلمه از نظر دستوری درست است، اما معنای اصلی قرارداد کاملاً تغییر کرده است؛ در این حالت، تایید قانونی متن جدید، هیچ تضمینی برای اجرای خواسته‌ی نویسنده اصلی نیست. این دقیقاً همان نقطه‌ضعفی است که اکنون در قلب سیستم‌های تایید رسمی ریاضیات توسط هوش مصنوعی شناسایی شده است.
طبق گزارشی که در ۷ اکتبر ۲۰۲۶ در arxiv.org منتشر شد، فرآیند خود-فرمالیزاسیون (Autoformalisation) — یعنی تبدیل استدلال‌های ریاضی به زبان طبیعی به کدهای رسمی — اغلب از نظر معنایی وفادار نیست. این موضوع باعث ایجاد یک توهم خطرناک از قطعیت می‌شود؛ زیرا در حالی که کد نهایی در محیط Lean (یک اثبات‌کننده تعاملی) از نظر منطقی سازگار و تایید شده است، اما ممکن است چیزی کاملاً متفاوت از استدلال اصلی ریاضی‌دان را اثبات کرده باشد.
همان‌طور که در بحث‌های گذشته‌ی ما درباره‌ی توهمات مدل‌های استدلالی اشاره کردیم، مشکل اصلی در لایه‌ی ترجمه نه در لایه‌ی استنتاج است. این چالش با دشواری‌های مشابهی در سیستم‌های ترجمه عصبی روبروست که در تلاش برای پر کردن شکاف‌های مفهومی در متون تخصصی با چالش‌های مشابهی در انتقال دقیق معنا مواجه‌اند. اگر هوش مصنوعی قصد اصلی نویسنده را اشتباه ترجمه کند، کد تایید شده در Lean در واقع یک گزاره‌ی متفاوت را اثبات می‌کند.
سد پیچیدگی محاسباتی
این مقاله با استفاده از شاخص پیچیدگی حل‌پذیری (SCI)، یک محدودیت بنیادی را برجسته می‌کند:
- SCI = ∞: رفع ابهامات در متون ریاضی به زبان طبیعی برای تضمین ترجمه‌ی وفادار، در سلسله‌مراتب حسابی به شدت پیچیده است.
- مقایسه: این یعنی خود-فرمالیزاسیون وفادار، حتی از «مسئله توقف» (Halting Problem) که SCI آن ۱ است، دشوارتر است.
مورد معادلات ناویر-استوکس
برای اثبات این ادعا، الکساندر باستونیس (Alexander Bastounis) اثبات اعلام‌شده توسط OpenAI درباره «انفجار راهکارهای معادلات ناویر-استوکس» را بررسی کرد. تحلیل او نشان می‌دهد که اثبات فرمالیزه شده در Lean، در واقع با استدلال زبان طبیعی ارائه شده توسط OpenAI مطابقت ندارد و یک عدم تطابق بحرانی بین کد «تایید شده» و استدلال ریاضی واقعی وجود دارد.
این یافته فرضیات فعلی این حوزه را تغییر می‌دهد و ثابت می‌کند که تایید مکانیکی، یک راهکار قطعی برای ریاضیات تولید شده توسط هوش مصنوعی نیست. تا زمانی که لایه‌ی ترجمه یک «جعبه سیاه» باشد، اثبات‌های رسمی ممکن است از نظر منطقی درست، اما از نظر ریاضی نسبت به ادعای اصلی بی‌ارتباط باشند.
گام بعدی شما
- پژوهشگران باید اثبات‌های خود-فرمالیزه شده را به عنوان موجوداتی مجزا از متن زبان طبیعی آن‌ها در نظر بگیرند.
- تمرکز توسعه‌دهندگان باید از تایید «خروجی کد» به سمت ابداع روش‌هایی برای تایید «فرآیند ترجمه» تغییر کند.
- در بررسی مدل‌های استدلالی جدید، به جای تکیه بر تایید Lean، بر تطابق معنایی (Semantic Fidelity) تمرکز کنید.
اما این چالش‌های منطقی تنها بخشی از ماجراست؛ برای درک اینکه چرا مدل‌های استدلالی در مواجهه با مسائل پیچیده دچار شکست می‌شوند، تحلیل ما درباره‌ی محدودیت‌های زنجیره تفکر را بخوانید.
گفتگو