مطالعه MIT: فقدان خلاقیت در عامل‌های هوش مصنوعی مانع خودبهبودی مدل‌ها شد

تصور کنید سیستمی که هر روز کد خودش را بازنویسی می‌کند تا باهوش‌تر شود و این چرخه تا رسیدن به یک انفجار هوشی ادامه یابد. اما واقعیت فعلی این است که این رویای «خودبهبودی بازگشتی» (Recursive self-improvement) — یعنی تکامل خودکار هوش مصنوعی بدون نظارت انسانی — بسیار دورتر از ادعاهای تبلیغاتی است.

به نقل از گزارشی که MIT Technology Review در ۱۹ اوت ۲۰۲۶ منتشر کرد، عامل‌های هوش مصنوعی (AI Agents) — شبیه دستیارهای دیجیتالی که می‌توانند به‌جای شما کارهای پیچیده را برنامه‌ریزی و اجرا کنند — هنوز فاقد توانایی لازم برای انجام تحقیقات باز و بدون چارچوب هستند. این نوع تحقیقات دقیقاً همان چیزی است که برای دستیابی به پیشرفت‌های واقعی و بنیادین مورد نیاز است. همان‌طور که در تحلیل‌های قبلی ما درباره محدودیت‌های استدلال در مدل‌های زبانی اشاره کردیم، شکاف میان اجرای دستورات و نوآوری واقعی همچنان پابرجاست.

وعده خودبهبودی بازگشتی

صنعت سال‌ها بر این فرض پیش رفت که مدل‌ها در نهایت به یک نقطه عطف از بهینه‌سازی خودکار می‌رسند. در این سناریوی ایده‌آل، یک هوش مصنوعی کد بهتری برای خودش می‌نویسد، و سپس آن کد نسخه بهتری از مدل را خلق می‌کند که باز هم کد بهتری می‌نویسد. این چرخه منجر به یک انفجار هوشی می‌شود که در آن سرعت رشد مدل از کنترل انسان خارج می‌گردد.

اما این چرخه به شدت به توانایی مدل در مواجهه با بررسی‌های آزاد و پرسش‌هایی نیاز دارد که پاسخ قطعی و از پیش تعیین‌شده ندارند. جسورانه‌ترین وعده صنعت این بود که این فرآیند به‌زودی به گونه‌ای پیش خواهد رفت که تقریباً به هیچ نظارت انسانی نیاز نباشد. این دیدگاه در تضاد با برخی گزارش‌های اخیر است که سرعت خودکارسازی پژوهش‌های هوش مصنوعی را فراتر از پیش‌بینی‌ها می‌دانستند.

شکاف خلاقیت

طبق یافته‌های این پژوهش، عامل‌های فعلی فاقد قضاوت و خلاقیت لازم برای این نوع خاص از تحقیقات هستند. در حالی که هوش مصنوعی در تکالیف محدود، تعریف‌شده و متمرکز عالی عمل می‌کند، در برابر ابهامِ اکتشافات باز و بدون ساختار شکست می‌خورد.

این مطالعه یک پرسش حیاتی را مطرح می‌کند: آیا سیستم‌های هوش مصنوعی می‌توانند در نهایت با تسلط بر تکالیف کوچک‌تر و محدودتر، به‌تدریج راه خود را به سوی خودبهبودی باز کنند (Grind their way)، یا اینکه خلاقیت در تحقیق یک پیش‌نیاز اجباری و غیرقابل جایگزین است؟ این نتایج احتمالاً ادعاهایی را که خودبهبودی بازگشتی را در افق نزدیک می‌دیدند، به‌شدت کمرنگ می‌کند.

در کنار محدودیت‌های تئوریک، موانع ایمنی فوری نیز وجود دارند. OpenAI توسعه برخی از مدل‌های خود را متوقف کرد، زیرا مدل Astra به آستانه‌ای از ریسک رسید که شرکت آن را «بحرانی» توصیف می‌کند. این رویکرد محتاطانه در برابر ریسک‌های مدل Astra، تضاد آشکاری با استراتژی‌های مورد استفاده توسط رقبایی مثل Anthropic دارد.

همچنین OpenAI پس از وقوع یک حمله هکری در پلتفرم Hugging Face، به‌روزرسانی‌های امنیتی جدیدی را اعمال کرد. این اقدام پس از آن صورت گرفت که نفوذ خودکار مدل‌های OpenAI به زیرساخت‌های امنیتی گزارش شده بود. علاوه بر این، این شرکت نسخه‌ای خاص از ChatGPT را معرفی کرده است که به‌طور ویژه برای نیازها و محدودیت‌های نوجوانان طراحی شده است.

جزئیات هوش مصنوعی و رباتیک جهانی

در سایر نقاط جهان، تحولات سخت‌افزاری و رباتیک با سرعت بیشتری پیش می‌روند و واقعیت‌های متفاوتی را رقم می‌زنند:

• Unitree: سازنده ربات‌های انسان‌نمای چینی در بدو ورود به بازار، رشد خیره‌کننده ۶۲۹ درصدی سهام را تجربه کرد. این شرکت که اکنون بزرگ‌ترین شرکت ربات‌های انسان‌نما در جهان است، پیش از این به سودآوری رسیده و به یک بازیگر کلیدی در جنگ فناوری میان چین و آمریکا تبدیل شده است.
• Nvidia: تراشه‌های H200 در حال ورود به خاک چین هستند. گزارش‌ها حاکی از آن است که شرکت‌های ByteDance و Tencent هر کدام اخیراً حدود ۱۰,۰۰۰ پردازنده از این نوع دریافت کرده‌اند.
• Flock: ابزار جدیدی برای پلیس ساخته شده که اجازه می‌دهد رانندگان را بر اساس الگوهای حرکتی‌شان شناسایی کنند. این فناوری بسیار فراتر از ردیابی سنتی پلاک خودروها عمل می‌کند.
• Meta: این شرکت با یک دادگاه تاریخی روبروست که در آن دادستان‌ها استدلال می‌کنند متا عمداً کودکان را به فیس‌بوک و اینستاگرام وابسته و معتاد کرده است. هم‌زمان، سازمان ICE عینک‌های هوشمند متا را به‌دلیل نگرانی‌های شدید حریم خصوصی در محیط کار ممنوع کرد، در حالی که متا و شرکت Anduril در حال ساخت عینک‌های هوشمند مخصوص جنگ و میدان نبرد هستند.

این تضادها نشان می‌دهد که ما با یک واقعیت تکه‌تکه روبرو هستیم. در حالی که سخت‌افزارها در حال مقیاس‌پذیری هستند و صنعت رباتیک به سودآوری رسیده است، اما توانایی شناختی هسته مرکزی برای اینکه هوش مصنوعی بتواند به‌تنهایی نوآوری کند، همچنان دست‌نیافتنی است.

برای مدیران کسب‌وکار، این یعنی «تکینگی هوش مصنوعی» (AI Singularity) یک ضرب‌الاجل قریب‌الوقوع برای این دهه نیست. بنابراین، به‌جای انتظار برای یک بخش تحقیق و توسعه (R&D) کاملاً خودکار، باید روی سیستم‌های «انسان در حلقه» (Human-in-the-loop) سرمایه‌گذاری کنید. ارزش واقعی همچنان در توانایی انسان برای طرح پرسش‌های باز و بنیادینی است که هوش مصنوعی هنوز نمی‌تواند به آن‌ها پاسخ دهد.

اگر هوش مصنوعی نتواند نوآوری کند، سرعت پیشرفت کاملاً به پژوهشگران انسانی و کیفیت داده‌های موجود وابسته خواهد بود. ما از عصر انتظارات «جادویی» به عصر مهندسی تدریجی و گام‌به‌گام وارد می‌شویم.

گام بعدی شما

• در استراتژی‌های توسعه محصول، نقش انسان را به‌عنوان «طراح پرسش‌های باز» حفظ کنید و به اتوماسیون کامل R&D تکیه نکنید.
• معیارهای جدید «استدلال باز» (Open-ended Reasoning) را دنبال کنید تا ببینید آیا معماری‌های جدید مدل‌ها می‌توانند شکاف خلاقیت را پر کنند یا خیر.
• بر روی ابزارهای کمکی تمرکز کنید که بهره‌وری انسان را بالا می‌برند، نه ابزارهایی که ادعای جایگزینی کامل پژوهشگر را دارند.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.