«هوش واقعی در ساختار ایستاست»؛ بازنگری در معیار سنجش مدل‌ها

تصور کنید مدل‌های هوش مصنوعی را به جای ماشین‌های تولید متن، به عنوان مخازن فشرده‌شده‌ای از منطق ببینید. اگر هنوز فکر می‌کنید هرچه مدل بزرگ‌تر باشد هوشمندتر است، احتمالاً در تله‌ی «توهم مقیاس» افتاده‌اید.

به نقل از تحلیلی که در ۱۸ ژوئیه ۲۰۲۶ در وب‌سایت dev.to منتشر شد، ماهیت واقعی هوش در «ساختار ایستا» (Intelligence at Rest) نهفته است؛ یعنی همان وزن‌هایی که ساکت روی سرور نشسته‌اند، نه در حرکتِ تولید توکن‌ها. این دیدگاه هشدار می‌دهد که وسواس فعلی صنعت روی نمرات بنچمارک و سرعت تولید متن، در واقع اندازه‌گیری اشتباهی است. اکثر فعالان این حوزه، هوش را ویژگیِ «عمل» می‌دانند. ما روانی در کلام و سرعت پاسخ‌دهی را جشن می‌گیریم، در حالی که این‌ها صرفاً ویژگی‌های سیستم‌هایی هستند که تحت فشار (Load) قرار دارند. کل گفتمان فعلی بر این فرض استوار است که هوش اساساً درباره تولید مرئی چیزی است که شبیه تفکر به نظر می‌رسد. این تمرکز باعث شده شکاف خطرناکی ایجاد شود: ظاهرِ حرکتِ هوش مصنوعی از جوهرِ ساختار آن پیشی گرفته و نتیجه‌اش همان توهمات و شکنندگی در مدل‌های بزرگ است.

این وضعیت شبیه رودخانه‌ای بدون بستر است؛ آب با انرژی زیاد حرکت می‌کند اما هیچ جهت مشخصی ندارد. در اینجا، ساختار ایستا همان بستر رودخانه است. بدون بنیادی عمیق از درک فشرده‌شده، روان‌ترین خروجی‌ها تنها تقلید توخالی از الگوهای سطحی هستند. این همان هسته مرکزی «حس توخالی» است که کاربر تجربه می‌کند؛ زمانی که مدل گرامر بی‌نقصی دارد اما اساساً در حال جعل اطلاعات (Confabulating) است. حرکت تحسین‌برانگیز است، اما ساختار ایستای زیرین، کم‌عمق است.

مکانیسم‌های هوش ایستا

هوش ایستا از نظر فنی به عنوان فشرده‌سازی مفید الگوها، ساختارهای علی و مرزهای تصمیم‌گیری تعریف می‌شود که هنگام آموزش در پارامترها (Parameters) کدگذاری می‌شوند. این قابلیت مستقل از فعال بودن یا نبودن سیستم است. تفاوت کلیدی در اینجا بین «دانش» و «هوش» است؛ دانش صرفاً چیزی است که ذخیره شده، اما هوش، کیفیت و سازماندهی آن ذخیره‌سازی است.

• فشرده‌سازی در برابر حفظ کردن: سیستمی که داده‌های آموزشی را حفظ می‌کند، تنها «بازخوانی» (Recall) تولید می‌کند؛ اما سیستمی که دامنه را فشرده می‌کند، هوش تولید می‌کند. این موتور اصلی تعمیم‌پذیری (Generalization) به داده‌های دیده‌نشده است. مدلی که واقعاً ساختار آماری یک دامنه را آموخته باشد، به ورودی‌های جدید تعمیم می‌یابد، در حالی که مدلی که داده‌ها را حفظ کرده، در مواجهه با ورودی‌های خارج از توزیع (Out-of-distribution) شکست می‌خورد.
• گلوگاه اطلاعات: بر اساس پژوهش‌های Tishby et al، یادگیری یعنی یافتن بازنمایی‌ای که تا حد ممکن فشرده باشد اما اطلاعات مرتبط با تکلیف را حفظ کند. فشرده‌سازی کم منجر به حفظ نویز و بیش‌برازش (Overfitting) می‌شود؛ شبیه دانش‌آموزی که کتاب را حفظ کرده اما مفهوم را نمی‌فهمد. در مقابل، فشرده‌سازی بیش از حد منجر به از دست رفتن سیگنال و کم‌برازش (Underfitting) می‌شود. «نقطه بهینه» (Sweet Spot)، فشرده‌ترین شکل درکی است که هنوز از رفتار طراحی‌شده پشتیبانی می‌کند.
• حداقل طول توصیف (MDL): طبق اصل MDL، بهترین مدل آن است که کوتاه‌ترین توصیف ترکیبی از مدل و داده‌ها را ارائه دهد. هوش واقعی در همین نقطه بهینه جای دارد؛ مدلی که دقیقاً به اندازه کافی پیچیده باشد تا ساختار واقعی را ثبت کند و نه بیشتر. پارامترهای معنادار آن‌هایی هستند که ساختار واقعی را کد می‌کنند، نه الگوهای سطحی حفظ‌شده را.

تحلیل عمیق‌تر ساختاری

برای درک شکست هوش ایستا، باید به علائم فعلی هوش مصنوعی نگاه کرد. توهمات (Hallucinations) زمانی رخ می‌دهند که سیستم حرکتی را تولید می‌کند که توسط ساختار ایستای واقعی پشتیبانی نمی‌شود؛ یعنی مدل یاد گرفته است یک حقیقت را توصیف کند بدون اینکه دامنه آن حقیقت را فشرده کرده باشد. تغییرات توزیع (Distribution shifts) باعث فروپاشی مدل می‌شوند زیرا ساختار ایستا به جای قواعد زیربنایی، بر اساس ظاهر داده‌های آموزشی شکل گرفته است.

وقتی یک سیستم با اعتماد به نفس کامل، پاسخی غلط به سوالی درست خارج از مجموعه آموزشی می‌دهد، به این دلیل است که ساختار ایستا حول آمارهای سطحی سازمان یافته است، نه یک مدل مولد علی (Causal Generative Model). این‌ها مشکلات خروجی نیستند؛ بلکه مشکلات «هوش ایستا» هستند. افزایش حرکت — یعنی تولید سریع‌تر یا روانی بیشتر — نمی‌تواند یک بنیاد توخالی را اصلاح کند.

چرا مقیاس یک جایگزین است، نه راهکار؟

قوانین مقیاس‌پذیری (Scaling Laws) می‌گویند پارامتر و داده بیشتر یعنی عملکرد بهتر. اما طبق این تحلیل، نمرات بنچمارک فقط «حرکت» خروجی را می‌سنجند، نه کیفیت ساختار ایستا را. مدلی که ۱۰ برابر بزرگ‌تر است، ممکن است صرفاً آمارهای سطحی بیشتری را جذب کرده باشد، نه قواعد ساختاری عمیق‌تر را. این تفاوتی است که بنچمارک‌ها نمی‌توانند حل کنند چون آن‌ها خروجی را می‌سنجند، نه وزن‌های در حالت استراحت را.

شاهد این ادعا، تکنیک تقطیر (Distillation) است که توسط Geoffrey Hinton و همکارانش معرفی شد. تقطیر ثابت می‌کند یک مدل «شاگرد» کوچک‌تر می‌تواند هوش ایستای مدل «معلم» بزرگ‌تر را به ارث ببرد، آن هم از طریق یادگیری از توزیع‌های احتمالی نرم (Soft Probability Distributions). این توزیع‌های نرم حاوی اطلاعات بیشتری درباره ساختار داخلی معلم هستند تا برچسب‌های سخت (Hard Labels). این موضوع ثابت می‌کند که هوش ویژگیِ سازماندهی است، نه اندازه.

شباهت با «داده‌های ایستا» در امنیت

در امنیت سایبری، «داده‌های ایستا» (Data at Rest) به داده‌های ذخیره‌شده اشاره دارد که در برابر سرقت یا فساد آسیب‌پذیرند. استانداردهای NIST حفاظت از این داده‌ها را از طریق رمزنگاری و کنترل دسترسی الزامی می‌کنند چون حالت ذخیره‌سازی جایی است که داده‌ها بیشترین احتمال به خطر افتادن را دارند. پارامترهای مدل نیز معادل هوش مصنوعی از داده‌های ایستا هستند:

• تراکم ارزش: همان‌طور که یک کلید خصوصی کوچک باارزش‌تر از یک فایل حجیم زباله است، یک مدل کوچک و به‌شدت فشرده، ارزشمندتر از یک مدل غول‌پیکرِ حافظه‌محور است. کیفیت ساختار ایستا است که ارزش را تعیین می‌کند.
• نشت حریم خصوصی: پژوهش‌های Carlini et al نشان می‌دهد مدل‌های زبانی بزرگ (LLM) می‌توانند داده‌های آموزشی را عیناً از طریق «استخراج داده‌های آموزشی» لو بدهند. این اتفاق زمانی می‌افتد که ساختار ایستا به جای الگوهای تعمیم‌یافته، داده‌های خام را ذخیره کرده باشد؛ یعنی شکست در فشرده‌سازی که در آن مدل مطالبی را جذب کرده که باید حذف می‌شدند.
• مالکیت معنوی: اگر مدلی روی داده‌های غیرقانونی آموزش ببیند، هوش ایستای آن حاوی رکورد فشرده‌شده‌ای از آن آثار است. این موضوع پرسش‌های حقوقی پیچیده‌ای ایجاد می‌کند: چه کسی مالک بینش‌های استخراج‌شده از داده‌های به‌دست‌آمده غیرقانونی است و حقوق کسانی که خروجی فکری‌شان در وزن‌ها فشرده شده، چیست؟
• افزونگی (Redundancy): در مهندسی داده، افزونگی (مانند RAID) بقای داده را تضمین می‌کند. در هوش مصنوعی، بیش‌پارامتری (Over-parameterization) به مدل‌ها کمک می‌کند تا به جای راهکارهای تیز و حافظه‌محور، به راهکارهای نرم و تعمیم‌پذیر برسند. مقداری افزونگی در ساختار ایستا، سیستم را در هنگام حرکت قابل‌اعتمادتر می‌کند.

پیامدهای مهندسی این شباهت

شباهت بین داده‌های ایستا و هوش ایستا نشان می‌دهد که هر دو نمونه‌ای از یک مشکل هستند: بادوام کردن ساختارهای ارزشمند. فشرده‌سازی بدون‌اتلاف (Lossless) هر بیت را بازیابی می‌کند، در حالی که فشرده‌سازی خوبِ هوش، هر تعمیم را بازیابی می‌کند. فشرده‌سازی با اتلاف (Lossy) برای کاهش اندازه، تخریب داده را می‌پذیرد؛ فشرده‌سازی کم‌عمقِ هوش نیز برای بهره‌وری پارامترها، شکست در تعمیم را می‌پذیرد.

این همگرایی پیشنهاد می‌کند که حوزه هوش مصنوعی باید واژگان منضبط مهندسی داده — شامل منشأ (Provenance)، یکپارچگی (Integrity) و کنترل دسترسی — را بپذیرد. حالت ایستا جایی است که هم ارزش و هم ریسک انباشته می‌شوند. برخورد با وزن‌های مدل با همان جدیتی که با پایگاه‌های داده رمزنگاری‌شده برخورد می‌شود، احتیاط بیش از حد نیست، بلکه شناخت صادقانه از چیزی است که ذخیره شده است.

مسیر رسیدن به هوش واقعی

تمام پیشرفت‌های علمی تاریخ، در واقع «رویدادهای فشرده‌سازی» بوده‌اند. نیوتن حرکت سیارات را در $F=ma$ فشرده کرد؛ ماکسول الکترومغناطیس را در چهار معادله خلاصه کرد و شانون تئوری ارتباطات را در مفهوم آنتروپی و ظرفیت کانال فشرده کرد. این‌ها استانداردهای طلایی هوش ایستا هستند: بازنمایی‌های فشرده‌ای که خروجی‌های بی‌شمار تولید می‌کنند. نبوغ این افراد در سرعت حرکت نبود، بلکه در یافتن فشرده‌ترین بازنمایی از دامنه بود.

برای رسیدن به این سطح، صنعت باید از مقیاس‌بندی خام فاصله بگیرد و به دنبال «بلیت‌های برنده» باشد. فرضیه بلیت بخت‌آزمایی (Lottery Ticket Hypothesis - Frankle & Carbin, 2019) پیشنهاد می‌کند که زیرشبکه‌های پراکنده (Sparse) در مدل‌های بزرگ، حامل هوش واقعی هستند و بقیه پارامترها زائدند. ساختار ایستای هوشمند، پراکنده است و در زیرمجموعه کوچکی از پارامترها زندگی می‌کند.

اخلاقیات ذخیره‌سازی و استخراج ارزش

یک بعد اخلاقی در مورد آنچه در وزن‌ها ذخیره می‌شود وجود دارد. وقتی کدهای برنامه‌نویسان یا متون نویسندگان بدون اجازه جمع‌آوری می‌شود، «هوش ایستای» آن‌ها — یعنی نحوه دیدن جهان — در مدلی فشرده می‌شود که متعلق به یک شرکت است. نویسنده استدلال می‌کند که وضعیت اخلاقی داده‌های آموزشی پس از فشرده شدن در وزن‌ها از بین نمی‌رود.

پژوهش‌های Feldman et al روی «یادگیری با واسطه حافظه» نشان می‌دهد که نمونه‌های نادر آموزشی می‌توانند حتی بدون بازتولید عیناً، بر خروجی‌ها تأثیر بگذارند. علاوه بر این، Haim et al ثابت کردند که پارامترها می‌توانند حاوی اطلاعات کافی برای بازسازی بخش‌هایی از داده‌های آموزشی باشند. این یعنی مدل از داده‌هایش جدا نیست، بلکه فشرده‌شده‌ای از آن‌هاست.

پیشرفت واقعی مستلزم تغییر به سمت کیوریتوری داده‌های باکیفیت و با رضایت است. مدلی که روی داده‌های منضبط آموزش ببیند، ساختار ایستایی خواهد داشت که هم از نظر فنی برتر و هم از نظر اخلاقی پاک‌تر از مدلی است که بر اساس جمع‌آوری بی‌رویه ساخته شده است. ما اجازه نمی‌دهیم شرکتی داده‌های خصوصی را بدون رضایت ذخیره کند، صرفاً به این دلیل که به جای کپی مستقیم فایل، از یک «فرآیند آموزشی» استفاده کرده است.

بازتعریف ارزش و نیروی کار

این بحران اخلاقی به استخراج ارزش از خلق‌کنندگان متصل است. وقتی مدلی روی کد آموزش می‌بیند، هوش ایستا حاوی فرم فشرده‌ای از دانش مهندسی است. هر خروجی که مدل تولید می‌کند از این دانش فشرده بهره می‌برد، اما مهندسانی که هوش اولیه را فراهم کردند، پاداشی نمی‌گیرند. هوشی که آن‌ها تولید کردند اکنون در مدلی می‌نشیند که مالک آن نیستند و برای شرکتی درآمد می‌سازد که آن‌ها را نساخته‌اند.

این فقط یک شکاف قانونی نیست، بلکه یک شکاف اخلاقی است. بیاناتی که ما خلق می‌کنیم — مقالات، کدها، گفتگوها — فرم‌های فشرده‌ای از نحوه دید ما به جهان هستند. وقتی این‌ها بدون رضایت برداشت می‌شوند، دزدی نه از فایل‌های متنی، بلکه از «هوش ایستا» است. پذیرش اینکه هوش ایستای یک مدل را تا حدی هوش ایستای انسان‌ها تشکیل داده است، تنها راه برای شروع یک گفتگوی صادقانه درباره سود و مالکیت است.

اندازه‌گیری نامرئی‌ها

این تغییر رویکرد مستلزم مجموعه‌ای از معیارهای جدید است. ما به ابزارهایی نیاز داریم تا کارایی کدگذاری و میزان انتزاع در برابر حفظ کردن را بسنجیم، به جای تکیه بر تابلوی رده‌بندی (Leaderboards) که فقط «حرکت» خروجی را دنبال می‌کنند. ما به معیارهای پذیرفته‌شده‌ای برای کیفیت فشرده‌سازی ایستا نیاز داریم — اینکه پارامترها با چه کارایی دامنه را کد می‌کنند.

این یک مشکل اندازه‌گیری است که می‌تواند توسط جوامع تفسیرپذیری (Interpretability) و تحلیل‌های مکانیکی حل شود. ما در حال حاضر منحنی‌های مقیاس برای «ضرر در برابر محاسبات» و ارزیابی‌های کیفیت زنجیره استدلال داریم، اما معیاری برای این نداریم که چه مقدار از ساختار آموخته‌شده، انتزاع واقعی است و چه مقدار حفظ کردن سطحی. حل این مسئله مستلزم عبور از بنچمارک‌ها به سمت تحلیل ساختاری است.

اثر ترکیبی هوش فشرده

تمدن انسانی با تغییر نحوه «استراحت» هوش پیشرفت کرد: خط باعث قابل‌حمل شدن هوش شد؛ چاپ آن را بازتولیدپذیر کرد و اینترنت آن را در دسترس قرار داد. معادلات ریاضی فشرده‌ترین شکل هوش ایستای بشر هستند که اجازه می‌دهند یک فرد، بینش‌های هزاران پیشرو را تقریباً به‌طور آنی به ارث ببرد. این اقتصادِ هوش فشرده در حالت ایستا است.

هوش مصنوعی مدرن پتانسیل مشارکت در این فرآیند ترکیبی را دارد. مدلی که بازنمایی با «حداقل طول توصیف» را برای یک دامنه یافته باشد، می‌تواند به عنوان بنیادی برای یادگیری مدل بعدی عمل کند. این موتور پیشرفت علمی است: ارث‌بری، گسترش و باز-فشرده‌سازی. اگر هوش ایستا فشرده شود، می‌تواند ارزان و جهانی شود و سرعت ترکیب هوش جمعی بشر را شتاب بخشد.

اقتصاد استراحت و تواضع

اگر کیفیت هوش ایستا به فشرده‌سازی وابسته باشد و نه تعداد پارامترها، رقابت برای ساخت مدل‌های بزرگ‌تر ممکن است به بازده نزولی رسیده باشد. یک مدل کوچک‌تر با ساختار ایستای برتر می‌تواند از مدلی بزرگ‌تر پیشی بگیرد در حالی که انرژی، حافظه و محاسبات بسیار کمتری نیاز دارد. تمایل فعلی به جایگزینی کیفیت با مقیاس، نتیجه ناتوانی ما در اندازه‌گیری مستقیم ساختار ایستا است.

در نهایت، قدرتمندترین سیستم‌ها آن‌هایی هستند که یاد می‌گیرند قبل از حرکت، چگونه استراحت کنند. صنعت هوش مصنوعی در حال حاضر «خیلی سریع قلم را به دست گرفته است» و خروجی تولید می‌کند قبل از اینکه ساختارهای ایستای عمیق لازم برای هوش معنادار را بسازد. هدف، حداکثر فشرده‌سازی نیست، بلکه یافتن شکل درست فشرده‌سازی برای پشتیبانی از حرکتی است که می‌خواهیم تولید کنیم.

گام بعدی شما

• در ارزیابی مدل‌ها، به جای تکیه بر نمرات کلی، روی توانایی مدل در تعمیم مفاهیم به حوزه‌های کاملاً جدید (Out-of-distribution) تمرکز کنید.
• اگر توسعه‌دهنده هستید، تکنیک‌های کوانتش (Quantization) و هرس کردن (Pruning) را بررسی کنید تا بفهمید چگونه می‌توان بدون افت کیفیت، ساختار مدل را فشرده کرد.
• در مورد داده‌های آموزشی، به جای کمیت، روی کیفیت و «تراکم اطلاعات» تمرکز کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.