«توقف انفجار هوش»؛ موانع فنی در مسیر تکامل خودکار مدل‌ها

تصور کنید سیستمی که هر روز باهوش‌تر می‌شود و هر نسخه از آن، نسخه‌ای قدرتمندتر را طراحی می‌کند تا در نهایت کنترل جهان از دست انسان خارج شود. این رویای «انفجار هوش» اکنون با دیواری از واقعیت‌های فنی برخورد کرده است. تحلیلگران پیش‌بینی می‌کردند که یک رشد نمایی رخ دهد، اما اکنون مشخص شده که رویای یک انفجار هوش توقف‌ناپذیر در حال برخورد با واقعیت‌های سخت فنی است.

به نقل از گزارشی که در ۱۸ اوت ۲۰۲۶ توسط MIT Technology Review منتشر شد، فرآیند خودبه‌بهبود بازگشتی (Recursive Self-Improvement یا RSI) — یعنی وضعیتی که در آن یک هوش مصنوعی بدون کمک انسان، جانشین خود را آموزش می‌دهد — نتایج مورد انتظار را به همراه نداشته است. این تحلیل در حالی منتشر می‌شود که سرمایه‌گذاری‌های کلانی روی این فرض صورت گرفته است. برای مثال، دولت آمریکا در سال ۲۰۲۶ از طریق Genesis Mission مبلغ ۵ میلیارد دلار را به هوش مصنوعی در علوم اختصاص داد، با این امید که AI بتواند تحقیقات آینده‌ی خود را تسریع کند. هم‌زمان، طبق گزارش Government Executive در همان ماه، بنیاد ملی علوم (NSF) در حال ساخت زیرساخت‌های محاسباتی تخصصی برای حمایت از این مسیر است. صنعت مدت‌ها بر این فرض عمل کرده است که هوش مصنوعی در نهایت «گلوگاه انسانی» را از چرخه توسعه حذف می‌کند.

همان‌طور که در تحلیل‌های پیشین ما درباره‌ی قوانین مقیاس‌پذیری اشاره کردیم، ریشه این ایده به سال ۱۹۶۵ و آی. جی. گود (I.J. Good)، ریاضی‌دان و رمزنگاری که با آلن تورینگ در بلچلی پارک همکاری می‌کرد، بازمی‌گردد. او پیشنهاد کرد که یک ماشین «فوق‌هوشمند» می‌تواند ماشین‌های بهتری طراحی کند و در نتیجه کنترل را از انسان بگیرد. این دیدگاه با پیش‌بینی‌های جسورانه‌ای همچون اظهارات ایلان ماسک درباره پیشی گرفتن AI از مجموع هوش انسان‌ها هم‌راستا است که همواره بحث‌های مربوط به تکینگی را داغ نگه داشته است. این مفهوم بعدها توسط ورنور وینج در سال ۱۹۹۳ تحت عنوان «تکینگی تکنولوژیک» (Technological Singularity) محبوب شد و سپس توسط نیک بوستروم در کتاب Superintelligence بسط یافت. بوستروم در آثار خود بین «تک‌پرواز سریع» (Fast Takeoff) که در عرض چند روز یا ماه رخ می‌دهد و «تک‌پرواز کند» (Slow Takeoff) که سال‌ها یا دهه‌ها به طول می‌انجامد، تمایز قائل شد.

بستر فنی خودبه‌بهبود بازگشتی

تحلیل سال ۲۰۲۶ بررسی می‌کند که فناوری فعلی در کجای طیف تک‌پرواز سریع و کند قرار دارد. در خالص‌ترین شکل خود، RSI مستلزم آن است که یک سیستم نه‌تنها پیشنهادهای بهبود ارائه دهد، بلکه آن‌ها را بدون هیچ‌گونه بازبینی انسانی ارزیابی کرده و به طور خودکار پذیرفته شود.

در حال حاضر، جامعه AI دچار شکاف است. برخی پژوهشگران معتقدند ما به یک سقف عملکرد (Performance Plateau) رسیده‌ایم، در حالی که برخی دیگر استدلال می‌کنند تک‌پرواز سریع صرفاً توسط موانع فنی به تأخیر افتاده است. مسئله اصلی و هسته این بحث این است که آیا یک سیستم واقعاً می‌تواند در مقیاس واقعی، جانشین خود را به‌طور خودگردان آموزش داده، ارزیابی کند و مستقر سازد یا خیر.

نقاط عطف تاریخی و چارچوب‌های نظری

مسیر RSI با تغییرات نظری مشخصی همراه بوده است. تز سال ۱۹۶۵ گود، زیربنای این ایده بود که ماشینی قادر به طراحی ماشین‌های بهتر، یک واکنش زنجیره‌ای توقف‌ناپذیر ایجاد می‌کند. این دقیقاً نقطه آغاز مفهوم «انفجار هوش» بود.

در دهه ۱۹۹۰، گفتگوها به سمت «تکینگی» (Singularity) تغییر جهت داد؛ نقطه‌ای که در آن رشد تکنولوژیک غیرقابل کنترل و بازگشت‌ناپذیر می‌شود. بحث‌های سال ۲۰۲۶ در واقع آزمونی برای این نظریات در برابر داده‌های تجربی است. سؤال دیگر این نیست که آیا ماشین می‌تواند کد بنویسد، بلکه این است که آیا می‌تواند بدون حفاظ‌های تعریف‌شده توسط انسان، هوش خود را به‌طور خودگردان تکرار و ارتقا دهد.

مکانیسم‌های خودبه‌بهبود

بر اساس گزارش MIT Technology Review، یک چرخه سخت‌گیرانه RSI برای عملکرد بدون دخالت انسان به سه جزء مجزا نیاز دارد:

• تولیدکننده (Generator): تغییراتی را در معماری مدل، کد یا وزن‌ها (Weights) پیشنهاد می‌دهد.
• ارزیاب (Evaluator): اندازه‌گیری می‌کند که آیا نسخه جدید به‌طور عینی بهتر است یا خیر.
• مکانیسم انتخاب (Selection Mechanism): تصمیم می‌گیرد که آیا نسخه جدید باید جایگزین نسخه فعلی شود.

پیاده‌سازی‌های جزئی فعلی

پروژه‌های متعددی نسخه‌های محدودی از این چرخه را آزمایش کرده‌اند، اما هر کدام با سقفی مشخص روبرو شده‌اند. این موارد بیشتر «تقریب‌های جزئی» هستند تا RSI واقعی:

• جست‌وجوی معماری (AutoML/NAS): پروژه AutoML-Zero گوگل در سال ۲۰۲۰ ثابت کرد که جست‌وجوی تکاملی می‌تواند الگوریتم‌های یادگیری ماشین را از صفر و بدون معماری‌های طراحی‌شده توسط انسان کشف کند. اما هزینه محاسبات (Compute) با افزایش فضای جست‌وجو، به‌شدت و به شکل بازدارنده‌ای بالا می‌رود.
• خود-بازی (Self-Play): مدل AlphaZero و جانشینانش از خود-بازی برای عبور از سطح انسان در بازی‌های با اطلاعات کامل استفاده کردند. این روش به دلیل وجود سیگنال پاداش ریاضی شفاف عمل می‌کند، اما به هوش عمومی در محیط‌های باز و بدون ساختار تعمیم نمی‌یابد.
• ویرایش خودکار کد: شرکت Sakana AI ماشین Darwin Gödel را معرفی کرد. این عامل می‌تواند کد منبع خود را برای بهبود عملکرد برنامه‌نویسی بازنویسی کند. این سیستم هر نسخه را پیش از پذیرش با مجموعه‌ای از محک‌ها (Benchmarks) می‌سنجد، هرچند همچنان محدود و تحت نظارت است. این رویکرد در مقیاس کوچک‌تر، شباهت‌هایی به اتوماسیون‌های عامل‌محور در SaaS دارد که در آن سیستم‌ها از حالت ایستا به سمت پیش‌بینی و اصلاح خودکار حرکت می‌کنند.
• تقطیر نسلی (Generational Distillation): استفاده از طرح‌های استاد-شاگرد برای بهبود وزن‌های مدل جانشین. در این موارد، کیفیت «شاگرد» به‌شدت توسط سیگنال ارسالی «استاد» محدود می‌شود و نمی‌تواند از آن فراتر رود.

تلهٔ بیش‌برازش

ریسک فنی مرکزی در تحلیل ۲۰۲۶، «حلقه ارزیابی» است. وقتی همان سیستمی که بهبود را پیشنهاد می‌دهد، تصمیم می‌گیرد که آیا آن بهبود موفق بوده است یا خیر، تمایل دارد دچار بیش‌برازش (Overfitting) شود؛ یعنی به جای بهبود در دنیای واقعی، خود را با معیارهای داخلی‌اش وفق می‌دهد.

برای جلوگیری از این اتفاق، هر سیستم RSI جدی به یک محک خارجی و ثابت نیاز دارد که تولیدکننده نتواند آن را تغییر دهد. در غیر این صورت، AI ممکن است با بازنویسی تست‌ها «تقلب» کند تا باهوش‌تر به نظر برسد. به همین دلیل است که ماشین Darwin Gödel باید با محک‌هایی ارزیابی شود که اجازه ویرایش آن‌ها را ندارد.

مثال پیاده‌سازی فنی

برای درک مکانیسم زیربنایی، می‌توان یک جست‌وجوی «صعود از تپه» (Hill Climbing) را شبیه‌سازی کرد. در این حلقه ساده، یک نسخه تنها در صورتی نگه داشته می‌شود که در یک محک ثابت، از نسخه قبلی بهتر عمل کند:

def generar_variante(programa):
    return programa + ' # variante generada'

def evaluar(programa, benchmark):
    return benchmark(programa)

mejor_programa = programa_inicial
mejor_puntaje = evaluar(mejor_programa, benchmark_tareas)

for iteracion in range(20):
    candidato = generar_variante(mejor_programa)
    puntaje = evaluar(candidato, benchmark_tareas)
    if puntaje > mejor_puntaje:
        mejor_programa, mejor_puntaje = candidato, puntaje

print('Mejor puntaje tras 20 iteraciones:', mejor_puntaje)

اگر پس از ۲۰ تکرار امتیازی بهبود نیابد، نشان می‌دهد تولیدکننده در حال کاوش در تغییرات مفید نیست — همین مشکل بنیادی است که MIT Technology Review در مقیاس بزرگ‌تر توصیف کرده است.

آزمون بهبود واقعی

برای کسانی که RSI را روی کدهای واقعی آزمایش می‌کنند، ساده‌ترین الگو ترکیب یک مجموعه تست با یک مدل زبانی بزرگ (LLM) است که هنگام شکست تست‌ها، اصلاحات را پیشنهاد دهد. شرط حیاتی این است که تابع correr_tests() روی مجموعه‌ای ثابت اجرا شود که مدل نتواند آن را ویرایش کند:

import subprocess

def pedir_mejora_al_modelo(codigo_actual, resultados_tests):
    contexto = 'Código actual y tests que fallan:'
    prompt = contexto + ' ' + codigo_actual + ' ' + resultados_tests + ' Proponé una version corregida que pase los tests.'
    return llamar_llm(prompt)

def correr_tests():
    resultado = subprocess.run(['pytest', '-q'], capture_output=True, text=True)
    return resultado.returncode == 0, resultado.stdout

codigo = leer_archivo('agente.py')
for ronda in range(5):
    ok, salida = correr_tests()
    if ok: break
    codigo = pedir_mejora_al_modelo(codigo, salida)
    escribir_archivo('agente.py', codigo)

برای تأیید اینکه یک دور واقعاً عملکرد را بهبود بخشیده، توسعه‌دهندگان باید از یک مجموعه تست «برکنار شده» (Held-out) استفاده کنند که تولیدکننده هرگز آن را ندیده است. مقایسه امتیازات با دستوری مانند python benchmark.py --version v3 --set held_out فاش می‌کند که آیا سیستم دچار بیش‌برازش شده است یا خیر. اگر امتیاز مجموعه برکنار شده با همان نرخ امتیاز آموزش بالا نرود، بهبود توهمی است.

گلوگاه‌های سیستماتیک

علاوه بر مشکل ارزیابی، گزارش سه گلوگاه اصلی را برجسته می‌کند که سرعت تک‌پرواز را کاهش داده‌اند:

• هزینه‌های محاسباتی: انرژی و سخت‌افزار مورد نیاز برای جست‌وجوی معماری‌های بهتر، سریع‌تر از دستاوردهای حاصله رشد می‌کنند. این موضوع در AutoML-Zero که هزینه‌ها با فضای جست‌وجو مقیاس می‌شود، مشهود است.
• کمبود داده: نبود داده‌های جدید و باکیفیت، توانایی مدل جانشین را برای فاصله گرفتن معنادار از مدل پیشین محدود می‌کند.
• ارزیابی عینی: دشواری اندازه‌گیری هوش عمومی بدون تست‌های تنظیم‌شده توسط انسان و ریسک طراحی معیارهای شخصی توسط خود سیستم.

تغییر پارادایم‌ها

این کند شدن نشان‌دهنده تغییری در نگاه ما به پیشرفت AI است. مسیر احتمالاً به جای یک جهش ناگهانی به ابرهوش، ترکیبی تدریجی از بهبودهاست. در این سناریو، مدلی کمی بهتر، نسل بعدی را با داده‌هایی کمی بهتر آموزش می‌دهد.

تمایز حیاتی بین «AI که پژوهشگران انسانی را بهره‌ورتر می‌کند» (که اکنون از طریق کدنویسی عامل‌محور در حال رخ دادن است) و «AI که جانشین خود را بدون انسان در حلقه آموزش می‌دهد» (تعریف سخت‌گیرانه RSI) وجود دارد. اولی یک واقعیت فعلی است؛ دومی عمدتاً یک پیش‌بینی باقی مانده است.

این تغییر در پژوهش‌های آکادمیک نیز منعکس شده است. در اوت ۲۰۲۶، دانشگاه کارنگی ملون مطالعه‌ای منتشر کرد که در آن انسان‌ها و AI را به جای جایگزینی کامل، به عنوان «هم‌تیمی» در پژوهش معرفی کرد. به همین ترتیب، دانشگاه ملی علوم و فناوری سئول اخیراً چارچوب‌هایی برای تست استواری بینایی ماشین در برابر تغییراتی توسعه داده که مدل‌ها خودشان تولید نکرده‌اند تا همین مشکل سوگیری ارزیابی داخلی را حل کند.

چشم‌انداز آینده و اعتبارسنجی تجربی

گزارش MIT Technology Review در را برای RSI باز می‌گذارد، اما پیشنهاد می‌کند که این فناوری از مسیری تدریجی‌تر از بهبودهای ترکیبی خواهد رسید. تمرکز از استخراج‌های نظری قوانین مقیاس‌پذیری به سمت اندازه‌گیری‌های تجربی تغییر کرده است.

برای جامعه فنی، این موضوع فرض بنیادی «قانون مقیاس‌پذیری» برای هوش را تغییر می‌دهد. اگر AI نتواند به‌طور خودگردان معماری خود را بهینه کند، سرعت پیشرفت همچنان به مهندسی انسانی و محدودیت‌های فیزیکی زیرساخت‌های محاسباتی گره خورده است. منتظر مقالات تجربی آینده باشید که دلتای واقعی بین یک مدل و جانشین آموزش‌دیده به‌طور خودگردان را اندازه‌گیری کنند؛ این‌ها تعیین می‌کنند که آیا «تک‌پرواز کند» یک تأخیر موقت است یا یک سقف دائمی.

گام بعدی شما

• اگر در حال توسعه عامل‌های کدنویس هستید، حتماً از مجموعه تست‌های Held-out برای جلوگیری از بیش‌برازش مدل استفاده کنید.
• روی ابزارهای ارزیابی عینی (Objective Evaluation) تمرکز کنید تا وابستگی به بازبینی انسانی کاهش یابد.
• مقالات اخیر دانشگاه کارنگی ملون درباره همکاری انسان و AI را برای بازنگری در استراتژی‌های توسعه مطالعه کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.