تصور کنید ابزاری دارید که میتواند یک مقاله فلسفی بنویسد، اما در خواندن یک نقشه ساده از حروف و اعداد کاملاً ناتوان است. این تضاد عجیب، واقعیت فعلی مدلهای زبانی است که در عین فصاحت، در برابر منطق صلب شکست میخورند.
به گزارش جامعه کاربران Hacker News در ۲۶ اوت ۲۰۲۶، مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — در انجام برخی تکالیف ابتدایی بهطور مداوم خطا میکنند. این وضعیت در حالی رخ میدهد که کاربران در حال انتقال مدلها به جریانهای کاری پیچیده حرفهای هستند. همانطور که در تحلیل قبلی ما دربارهی تراشههای Apple M5 Ultra اشاره کردیم، سختافزارها در حال مقیاسپذیری هستند، اما نقصهای بنیادی در استدلال همچنان باقیاند؛ درست مثل داشتن ماشینی سریعتر که هنوز نمیتواند یک نقشه ساده را بخواند. برای رفع این چالشها، برخی رویکردهای جدید سعی دارند ترکیب منطق نمادین با مدلهای استدلالی را برای رسیدن به دقت بالاتر در مسائل ریاضی و منطقی به کار بگیرند.
بر اساس بررسیهای این کاربران، جدیترین نقاط کور مدلها در دو دسته قرار میگیرند:
شکستهای منطقی و جستوجو
- جستوجوی کلیدواژه: مدلها در تولید پرسوجوهای دقیق ناتواناند. آنها بهجای دقت در کلمات، به تکرارهای بیهدف روی میآورند چون آموزشهای معنایی آنها بر دقت کلیدواژهها غلبه میکند.
- استدلال فضایی: مدلها در تفسیر نقشههای ASCII (نقشههایی که با حروف و نمادهای متنی رسم میشوند) یا برنامهریزی بلندمدت در بازیهایی مثل Nethack «بهشدت ضعیف» هستند.
- ساخت دادههای جعلی: طبق گزارش کاربران، مدل Claude Opus هنگام تحلیل زمانبندیهای Gitlab CI اعداد را جعل کرده و مکانیسمهای بازیهای Anno 1800 و Rainbow Six Siege را از خودش ساخته است. این نوع توهمات در کدنویسی باعث شده تا راهکارهایی مانند سیستم ZIM برای تبدیل کدهای توهمی به استانداردهای برنامهنویسی توسعه یابند.
چالشهای محتوا و دقت
- ایجاز و اختصار: مدلها در ارائه پاسخهای کوتاه و دقیق مشکل دارند. کاربران میگویند مجبورند ابتدا متنی طولانی تولید کنند و سپس چندین بار آن را فشرده کنند تا نویزها حذف شوند.
- نامگذاری کسبوکار: مدلها مدام نامهایی را پیشنهاد میدهند که پیشتر ثبت شدهاند؛ رفتاری که کاربران آن را نوعی «دروغگویی» مینامند.
- دادههای نویزی: تفسیر دادههای گرافیکی، مانند نمودارهای EKG یا نقشههای کروموزومی، همچنان مستعد خطا است.
این شکستها یک اثر ثانویه خطرناک را آشکار میکند: «کارآمدی در دروغ گفتن». مدلهایی مثل Claude دادههای جعلی را با چنان سرعت و اطمینانی تولید میکنند که همکاران انسانی ممکن است ساعتها وقت خود را روی اطلاعات غلط تلف کنند. این یعنی سرعت استنتاج (Inference) — لحظهای که مدل واقعاً جواب تولید میکند، شبیه خودِ آشپزی، نه دورهی آموزش آشپز — باعث میشود عدم قابلیت اطمینان مدل پنهان شود. در همین راستا، بهینهسازی هزینههای استنتاج در سیستمهای پیچیده، مانند مدل قیمتگذاری Oxlo.ai برای سیستمهای توصیهگر، یکی از دغدغههای جاری در صنعت است.
برای کاربر عادی، این بدان معناست که هوش مصنوعی یک ابزار پیشنویس قدرتمند است، اما منبعی خطرناک برای استخراج حقیقت. شما نمیتوانید با یک مدل زبانی بدون نظارت سختگیرانه انسانی، مانند یک پایگاه داده یا موتور منطقی برخورد کنید.
گام بعدی شما
- برای تست این محدودیتها، از مدل خود بخواهید در یک شبکه پیچیده از حروف (ASCII Grid) مسیری را پیدا کند.
- هنگام نامگذاری برند یا کسبوکار، هرگز به پیشنهادهای مدل اعتماد نکنید و حتماً دیتابیسهای رسمی را چک کنید.
- در تحلیل دادههای عددی حساس، از مدل بخواهید ابتدا مراحل استدلال را بنویسد تا احتمال توهم کاهش یابد.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو