تصور کنید میخواهید یک راننده حرفهای تربیت کنید، اما او را هرگز به خیابان نمیبرید و فقط هزاران ساعت در یک بازی ویدئویی قرار میدهید؛ آیا او هرگز پیچیدگیهای واقعی ترافیک را خواهد فهمید؟ این همان هشدار اصلی ریچارد ساتون، برنده جایزه تورینگ است که تکیه بر دادههای مصنوعی برای مقیاسبندی هوش مصنوعی را یک «اشتباه بزرگ» میداند.
به نقل از گفتگوهای منتشر شده در ۲۰ اوت ۲۰۲۶، ساتون معتقد است دنیای واقعی بهشدت پیچیدهتر از هر شبیهسازی است که انسان بتواند بسازد. او که پیشتر در مقاله مشهور «درس تلخ» (۲۰۱۹) استدلال کرده بود روشهایی که با افزایش محاسبات (Compute) رشد میکنند همیشه بر دانش کدنویسیشده توسط انسان پیروز میشوند، اکنون مدلهای زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — را پیروزیهای ناقصی میبیند. به باور او، این مدلها با «بلعیدن اینترنت» رشد کردند، اما چون حجم اینترنت محدود است، اکنون به یک دیوار برخورد کردهاند. این بنبست دادهای باعث شده برخی کارشناسان سرمایهگذاریهای کلان در دادههای هدفمند را تنها راه نجات مدلهای زبانی بدانند.
طبق گزارش وبسایت the-decoder.com، ساتون و همبنیانگذارش خورام جاوید (بنیانگذار Oak Lab)، شکگرایی خود را بر «فرضیه دنیای بزرگ» بنا کردهاند. این تئوری میگوید جهان چنان پیچیده است که هر شبیهسازی مصنوعی در مقایسه با آن «میکروسکوپی» و ناچیز است.
همانطور که در تحلیلهای پیشین ما دربارهی محدودیتهای دادههای آموزشی اشاره کردیم، تفاوت میان محیط شبیهسازی شده و واقعیت همواره یک چالش بنیادین بوده است. ساتون در این زمینه به چند شکست کلیدی در دادههای مصنوعی اشاره میکند:
- ناپایداری فیزیکی: برنامههای کوچک دنیایی میسازند که در آن اصطکاک یا رفتارهای حرکتی رباتها با واقعیت همخوانی ندارد.
- شکاف ذهنی: هیچ راهی برای تولید دادههای مصنوعی وجود ندارد که بتواند سازوکار درونی ذهن انسانهای دیگر را بهدقت بازتاب دهد. این ناتوانی در بازسازی شهود، مشابه دیدگاه ریاضیدانان برتر است که مدلهای زبانی را فاقد شهود خلاق برای اکتشافات بنیادین میدانند.
- گلوگاه انسانی: برای مقیاسبندی دادههای مصنوعی، باز هم به متخصصان انسانی نیاز است تا تشخیص دهند چه چیزی «خوب» یا «بد» است؛ بنابراین فرآیند همچنان محدود به تخصص انسان است.
او خودروهای خودران را مثال میزند؛ حتی وقتی در شبیهساز آموزش میبینند، انسانها باید مدام دخالت کنند تا شکاف میان محیط مجازی و واقعیت را پر کنند. ساتون به جای شبیهسازیهای منجمد، از عاملهایی (Agent) حمایت میکند که از تجربه خود یاد بگیرند. او معتقد است یک عامل باید مدل دنیای خود را در لحظه بسازد و بهطور مستمر اصلاح کند. با این حال، پژوهشهای اخیر دانشگاه پرینستون نشان میدهد که بسیاری از عاملهای فعلی هنوز فاقد خلاقیت لازم برای خودبهبودی هستند.
این رویکرد مستلزم عبور از مدلهایی است که یادگیریشان پس از مرحله آموزش متوقف میشود. او استدلال میکند که «تمام یادگیریها مستمر هستند» و مشکل فراموشی فاجعهبار (Catastrophic Forgetting) — وضعیتی که در آن دادههای جدید، دانش قدیمی را پاک میکنند — قابل حل است. تیم او اخیراً روشی به نام «پسانتشار مستمر» (Continual Backprop) را در مجله Nature منتشر کرده تا این مشکل را برطرف کند.
برای مدیران کسبوکار و توسعهدهندگان، این یک چرخش راهبردی در استراتژی AI است. رقابت فعلی برای تولید مجموعهدادههای مصنوعی عظیم ممکن است به بنبست برسد و مزیت رقابتی واقعی به سمت سامانههای «یادگیری مستمر» منتقل شود که از طریق تعامل تکامل مییابند.
ساتون در نهایت میگوید مدلهای زبانی هرچند یک پیشرفت علمی هستند، اما تنها ۲۰ تا ۲۵ درصد از هوش واقعی را نمایندگی میکنند. باقی این شکاف تنها توسط عاملهایی پر میشود که بتوانند دنیا را تجربه کنند، نه اینکه فقط آن را شبیهسازی کنند.
گام بعدی شما
- پیگیری پیادهسازیهای Continual Backprop در جریانهای کاری عاملمحور برای شناسایی پایان عصر آموزشهای ایستا.
- بازنگری در بودجههای تخصیصیافته به تولید دادههای مصنوعی و بررسی جایگزینهای مبتنی بر یادگیری تعاملی.
- مطالعه مقاله اخیر تیم ساتون در Nature برای درک مکانیسمهای جلوگیری از فراموشی در مدلهای پویا.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو