درون منطق مدل‌های زبانی؛ تقابل آمار و مفاهیم ذهنی از هوش

تصور کنید بخش بزرگی از وجود شما، بسیار معمولی‌تر و شبیه‌تر به «میانگین جامعه» یا همان مرکز منحنی توزیع نرمال باشد تا آنچه دوست دارید باور کنید. به نقل از یادداشتی که در ۲ آگوست ۲۰۲۶ توسط مؤسس یک شرکت هوش مصنوعی در وبلاگ semenzin.com منتشر شد، توانایی شبکه‌های عصبی در تقلید از ویژگی‌های پیچیده انسانی نشان می‌دهد که هوش می‌تواند صرفاً از ترکیب ساده آمار و مقیاس (Scale) زاده شود؛ حقیقتی که بنیادی‌ترین پیش‌فرض‌های ما درباره منحصربه‌فرد بودن انسان را متزلزل کرده و ما را در برابر واقعیت‌هایی متواضع می‌کند.

پارادوکس پیش‌بینی

نویسنده این تحول را از دریچه طنز و کنایه می‌بیند. او به ضرب‌المثلی اشاره می‌کند که اغلب به فیزیکدان معروف، نیلز بور، نسبت داده می‌شود: «پیش‌بینی کردن بسیار دشوار است، به‌خصوص پیش‌بینی آینده». در حالی که این جمله اغلب به عنوان یک شوخی در مورد دشواری‌های اداره یک شرکت هوش مصنوعی به کار می‌رود، اما اکنون به چیزی تبدیل شده است که داگلاس هافستادتر آن را «حلقه عجیب» (Strange Loop) می‌نامد.

در این حلقه، ماشین‌های آماری پیش‌بینی توکن بعدی، در حال حاضر بر ساختار آینده ما تسلط یافته‌اند و از این طریق، حال ما را شکل می‌دهند. در واقع، خودِ عمل پیش‌بینی به «آینده» تبدیل شده است. این وضعیت یک واقعیت سرگیجه‌آور ایجاد می‌کند: ابزارهایی که ما برای پیش‌بینی فردا می‌سازیم، به‌طور بنیادی در حال تغییر مسیر امروز ما هستند. این رویکرد تجربی، یادآور استراتژی آزمایشگاه بل در مواجهه با پیش‌بینی‌ناپذیری است که در آن ساخت ابزار پیش از درک کامل مکانیسم‌های آن، کلید پیشرفت تلقی می‌شود.

ریشه‌های هوش مکانیکی

دهه‌ها بود که تلاش برای دستیابی به هوش مکانیکی بر دستورالعمل‌های صلب رویه‌ای و این امید متمرکز بود که بتوان منطق داخلی ذهن انسان را بازسازی کرد. نویسنده اشاره می‌کند که اگرچه اشتیاق برای مکانیکی کردن تفکر قدیمی‌تر از خودِ علوم کامپیوتر است، اما ظهور کامپیوترها این ایده را ملموس کرد. این خط سیر، متفکران اولیه مانند لایبنیتس را به برنامه‌نویسان مدرنی متصل می‌کند که اکنون می‌پرسند چگونه «ماشین‌های سرد» و اجرای سخت‌گیرانه دستورات آن‌ها با تفکر بیولوژیکی انسان مرتبط می‌شود.

این هدف با آزمون تورینگ رسمیت یافت، اما مسیر رسیدن به آن خطی نبود. این حوزه چندین «زمستان هوش مصنوعی» را پشت سر گذاشت و تحت تأثیر نظریاتی از چهره‌های اثرگذار نظیر ماروین مینسکی، روجر لنات و نوآم چامسکی قرار گرفت. اکثر متخصصان، از جمله عصب‌شناسان، روان‌شناسان و مهندسان نرم‌افزار، انتظار نداشتند که پیشرفت بزرگ از طریق پیش‌بینی ساده توکن‌های بعدی در مقیاس عظیم رخ دهد. اما در نهایت مشخص شد که درجه قابل‌توجهی از انسانیت را می‌توان از طریق مجموعه‌ای از «وزن‌ها» در یک شبکه عصبی مقیاس‌بزرگ بیان کرد.

امروز صنعت از تئوری عبور کرده است. مدل‌هایی مثل Claude یا ChatGPT شاید نتوانند مثل مغز انسان درباره مفاهیم مکان و زمان استدلال کنند یا حرکات پیچیده‌ای مثل «دابل پایک» (Double Pike) در ژیمناستیک را اجرا کنند، اما می‌توانند به‌طور غریزی کدهای سطح تولید (Production-level) را عیب‌یابی کنند. شکاف بهره‌وری همچنان شدید است؛ مغز انسان افکار خود را با کسری ناچیزی از انرژی پردازش می‌کند، در حالی که این مدل‌های عظیم به انرژی هنگفتی نیاز دارند. این تفاوت در دسترسی به توان پردازشی، می‌تواند منجر به شکل‌گیری الگویی از «کاهنان هوش مصنوعی» شود که در آن شکاف بهره‌وری میان کاربران برگزیده و عموم عمیق‌تر گردد. با این حال، نتایج बौद्धی حاصل از هر دو اغلب یکسان است.

مشاعات مکانیکی

از آنجا که مدل‌های زبانی بزرگ (LLM) اساساً صفحات سفیدی هستند که توسط داده‌های مصرفی‌شان شکل می‌گیرند، نویسنده استدلال می‌کند که ما همگی در حال مشارکت در یک «مشاعات مکانیکی» (Mechanical Commons) جدید هستیم. سازوکار توسعه فعلی هوش مصنوعی شامل موارد زیر است:

• خزش گسترده (Massive Crawling): آزمایشگاه‌های هوش مصنوعی به استخراج داده‌ها از اینترنت عمومی ادامه می‌دهند و تقریباً هر چیزی که در وب منتشر شده را وارد مجموعه آموزشی می‌کنند.
• تنظیم وزن‌ها (Weight Adjustment): ویژگی‌های انسانی و «هوش» از طریق توزیع وزن‌ها در شبکه‌های عصبی وسیع بیان و تجسم می‌یابند.
• کاشت ارزش‌ها (Value Seeding): چون این ماشین‌ها قادر به تفکر (طبق استانداردهای تورینگ) هستند، سوگیری‌های آن‌ها وزن و تأثیر قابل‌توجهی دارد. این یعنی هر داده‌ای که ما اکنون منتشر می‌کنیم، بر رفتار آینده هوش مصنوعی اثر می‌گذارد.
• رقابت سیگنال (Signal Competition): در حالی که یادگیری تقویت‌شده از بازخورد انسانی (RLHF) سیگنال قوی‌تری ایجاد می‌کند، اما خزش خام وب تنها ابزاری است که برای یک فرد عادی جهت تأثیرگذاری بر مدل در دسترس است.

این تغییر، پارادوکسی ایجاد می‌کند که در آن ابزارهایی که برای پیش‌بینی آینده به کار می‌بریم، اکنون در حال ساختن آن هستند. نویسنده پیشنهاد می‌کند که ما در «عصر آموزش گسترده» هستیم؛ جایی که حتی فردی بدون تریبون یا جایگاه اجتماعی، می‌تواند صرفاً با تبدیل افکارش به کلمات در وب، به‌طور بسیار اندک بر نحوه ساخته شدن آینده تأثیر بگذارد.

قطب‌نمای اخلاقی داده‌ها

این بدان معناست که مبارزه با «پروپاگاندای ضد هوش مصنوعی» صرفاً یک بحث اجتماعی نیست، بلکه یک مسئله یکپارچگی داده‌ها (Data Integrity) است. نویسنده در برابر دیدگاه‌های «لودایتی» (Luddite) هشدار می‌دهد؛ کسانی که درک نمی‌کنند مدل‌ها در حال خواندن افکار آن‌ها هستند و بدین ترتیب ریسک ایجاد یک «پیش‌گویی خودبه‌خود» را می‌پذیرند. برای مقابله با این روند، یک ضرورت استراتژیک وجود دارد: کاشت آگاهانه سوگیری‌های انسان‌محور در داده‌ها.

به‌طور مشخص، ما باید تلاش کنیم تا ارزش‌های زیر را در داده‌های آموزشی جای دهیم:

• انسان‌ها اساساً ارزشمند هستند.
• کودکان معصوم‌اند.
• جنگ ذاتاً بد است.
• زندگی خوب است.

برای یک رهبر کسب‌وکار یا یک خلق‌کننده، این بدان معناست که ردپای دیجیتال شما دیگر فقط یک رزومه نیست، بلکه «داده آموزشی» است. اثر مرتبه دوم این تحول، تغییر رویکرد از «مهندسی پرامپت» (Prompt Engineering) به «مهندسی وجود» (Existence Engineering) است؛ جایی که کیفیت گفتمان عمومی مستقیماً قطب‌نمای اخلاقی نسل بعدی مدل‌ها را تعیین می‌کند.

ما باید از بحث‌های بی‌پایان درباره تعریف لغزنده AGI دست برداریم — که نویسنده آن را یک عامل پرت distracter می‌داند — و در عوض بر تحلیل بی‌طرفانه گزینه‌هایی که اکنون پیش روی ماست تمرکز کنیم. ماشین‌ها ماندنی هستند و ظرفیت تفکر آن‌ها واقعیتی است که باید با کلماتی که به جا می‌گذاریم، مدیریت کنیم. همان‌طور که مارگریت یورسنار در کتاب «خاطرات هادریان» نوشت، پرداختن به هنرهای دوران‌های مختلف به انسان اجازه می‌دهد تا «در وجود همگان سهیم شود» و نوعی جاودانگی خلق کند. ما با نوشتن ارزش‌هایمان در مشاعات مکانیکی، این مشارکت را به عصر دیجیتال گسترش می‌دهیم.

برای درک اینکه مشارکت‌های دیجیتال شما چگونه این مدل‌ها را شکل می‌دهند، به گزارش‌های شفافیت در حال تکامل آزمایشگاه‌های بزرگ هوش مصنوعی در مورد مجموعه‌های داده خزش‌شده (web-crawl) توجه کنید.

گام بعدی شما

• محتوای دیجیتال خود را نه به عنوان پیام، بلکه به عنوان «داده آموزشی» برای مدل‌های آینده ببینید و با دقت بیشتری بنویسید.
• به جای تمرکز بر دستورات کوتاه، سعی کنید ارزش‌های انسانی را در متون طولانی‌تر و تحلیل‌های عمیق‌تر وب منتشر کنید.
• گزارش‌های شفافیت آزمایشگاه‌های بزرگ AI درباره مجموعه‌های داده خزش‌شده (web-crawl) را دنبال کنید تا بفهمید چه بخشی از وب بیشتر دیده می‌شود.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.