تصور کنید ابزاری دارید که تمام کتاب‌های جهان را خوانده اما هرگز طعم یک سیب را نچشیده یا ترس از شکست را حس نکرده است. اگر فکر می‌کنید با یک «ذهن» شبیه به خودتان طرف هستید، در تله‌ای شناختی افتاده‌اید که هم توسعه‌دهندگان و هم کاربران را به گمراهی می‌کشاند. بحث دوتایی بین «طوطی تصادفی» یا «هوش واقعی»، اغلب حیاتی‌ترین نکته را نادیده می‌گیرد: این مدل‌ها در تلاش برای انسان بودن شکست نمی‌خورند، بلکه در تبدیل شدن به چیزی کاملاً متفاوت، موفق بوده‌اند. برخورد با هوش مصنوعی به عنوان آینه‌ای از شناخت انسانی، تله‌ای خطرناک برای هر دو گروه ایجاد می‌کند.
این تقابل دقیقاً در زمانی رخ می‌دهد که صنعت با شتاب به سمت هوش مصنوعی عمومی (AGI) حرکت می‌کند. همان‌طور که در تحلیل‌های پیشین ما درباره‌ی خطرات اعتماد به کدهای تولیدشده توسط هوش مصنوعی به عنوان یک مصنوع ساختاری غیرقابل اعتماد اشاره کردیم، مسئله‌ی عمیق‌تر، تمایل ما به اعتماد به «ذهنی» است که پشت آن کدهاست. ما اغلب توانایی تولید یک نتیجه را با توانایی تفکر در یک فرآیند اشتباه می‌گیریم. این موضوع مستقیماً با شکاف درک معماری در نسل جدید توسعه‌دهندگان مرتبط است که می‌تواند منجر به ایجاد نرم‌افزارهای ناپایدار شود.
زمینه: طوطی‌های تصادفی در برابر هوش جدید
برای درک این بحث، باید به استعاره‌ی «طوطی‌های تصادفی» بازگردیم. این اصطلاح در مقاله‌ای که در سال ۲۰۲۱ توسط پژوهشگرانی چون تیمنیت گبرو، امیلی بندر، آنجلینا مک‌میلان-میجر و مارگارت میچل منتشر شد، مطرح شد. این نظریه می‌گوید هوش مصنوعی تنها با استفاده از احتمالات آماری، متونی روان و شبیه به انسان تولید می‌کند، بدون آنکه معنای کلمات را بفهمد. در واقع، این سیستم‌ها اساساً یک «سوپر T9» هستند؛ چیزی شبیه به متن‌های پیش‌بینی‌کننده در گوشی‌های بیست سال پیش، اما با پیچیدگی و ابعادی بسیار گسترده‌تر.
از نظر الگوریتمی، رد کردن این ادعا دشوار است؛ زیرا یک مدل زبانی بزرگ (LLM) پاسخ‌ها را با پیش‌بینی محتمل‌ترین توکن (Token) — تکه‌های کوچکی از متن، شبیه برش‌های یک کیک طولانی که مدل تکه‌تکه می‌خورد — با توجه به زمینه (Context) تولید می‌کند. در این راستا، باید توجه داشت که صرفاً استفاده از APIهای مدل‌های زبانی به معنای درک واقعی مکانیسم‌های ترنسفورمر و نحوه عملکرد این پیش‌بینی‌ها نیست. با این حال، چهره‌هایی مانند سالواتوره سانفیلیپو (@antirez)، خالق Redis، معتقدند مدل‌های امروز از این حصار تئوریک فراتر رفته‌اند. با این حال، من با وجود احترام به این تفکر خارج از چارچوب، همچنان نسبت به وجود یک هوش مصنوعی واقعاً «هوشمند» که قادر باشد مسیری منطقی دقیقاً مشابه ذهن انسان را طی کند، بدبین هستم.
مرز بیولوژیکی
توسعه‌دهندگان اغلب هدف خود را بازسازی استدلال و تعامل انسانی قرار می‌دهند. اما یک مرز بیولوژیکی بنیادین وجود دارد که هیچ کدی نمی‌تواند از آن عبور کند: مؤلفه‌های حسی و عاطفی.
- تعریف در برابر احساس: یک هوش مصنوعی می‌تواند مفاهیمی چون «ترس»، «عشق» یا «هیجان» را با استفاده از محاسبات احتمالی به طور بی‌نقص تعریف کند. مدل می‌تواند با روانی کامل درباره این حالات صحبت کند، اما این‌ها برای مدل تنها رشته‌هایی از متن هستند.
- واقعیت بیوشیمیایی: برای یک انسان، احساس یک رشته متن نیست. احساس یعنی گرهی در معده، تپش سریع قلب یا تغییر ناگهانی در خلق‌وخو. این‌ها واقعیت‌های فیزیکی هستند.
- تصمیم‌گیری: این پیش‌بینی‌ناپذیری‌های بیوشیمیایی به شدت بر آنچه در یک لحظه فکر می‌کنیم و تصمیم می‌گیریم تأثیر می‌گذارند.
این چیزی است که هیچ کدی هرگز نخواهد توانست شبیه‌سازی کند. هدف ساخت ماشین‌هایی که تا حد ممکن شبیه به ذهن انسان باشند، جاه‌طلبی‌ای است که هرگز به طور کامل محقق نمی‌شود، زیرا واقعیت فیزیکیِ «انسان بودن» را نادیده می‌گیرد.
تله‌ی انسان‌انگاری
کاربران معمولاً به دو دسته تقسیم می‌شوند: متخصصان فنی (توسعه‌دهندگان یا مهندسان) و کاربران عادی که با یک LLM همان‌طور تعامل می‌کنند که با یک شخص واقعی رفتار می‌کنند. عجیب آنکه هر دو گروه اغلب در یک تله می‌افتند: باور به اینکه LLM به معنای انسانی «هوشمند» است.
این یک تله‌ی شناختی واقعی است. این باور، مرز بین ابزاری که توکن بعدی را پیش‌بینی می‌کند و ذهنی که معنا را می‌فهمد، پاک می‌کند. وقتی فراموش می‌کنیم در واقع با چه چیزی حرف می‌زنیم، دیگر از آن به عنوان یک ابزار استفاده نمی‌کنیم و شروع به پرستش یک «غیب‌گو» یا اوراکل می‌کنیم. این توهم، همان جاه‌طلبی برای بازسازی بیولوژیکی را تغذیه می‌کند و چرخه‌ای می‌سازد که در آن ادراک کاربر، اهداف غیرواقع‌بینانه توسعه‌دهنده را توجیه می‌کند.
شکاف در محک‌های AGI
این سردرگمی حتی به بالاترین سطوح مدیریتی صنعت رسیده است. در ۶ سپتامبر سال جاری، جن‌سن هوانگ، مدیرعامل انویدیا (Nvidia)، در شبکه X ادعا کرد که «AGI فرا رسیده است» و این موفقیت را به مدل GPT-6 Astra از OpenAI نسبت داد و وعده داد که ۴۰۰ هزار GPU دیگر در راه است.
این یک اظهارنظر اتفاقی نبود. هوانگ در ماه مارس در یک پادکست اعلام کرد: «فکر می‌کنم ما به AGI رسیده‌ایم»، اما او از تعریفی استفاده کرد که کاملاً متعلق به خودش بود: هوشی که بتواند به تنهایی یک کسب‌وکار میلیارد دلاری را راه‌اندازی کرده و رشد دهد.
به این تغییر در معیارها دقت کنید:
- معیار تاریخی: AGI چیزی تعریف می‌شد که «مثل انسان فکر کند» (یک استاندارد معرفت‌شناختی).
- معیار هوانگ: AGI چیزی تعریف می‌شود که «ارزش اقتصادی را به گونه‌ای تولید کند که یک سازمان تولید می‌کند» (یک استاندارد عملکردی).
این تغییر، توانایی «انجام دادن» را بر توانایی «فکر کردن» اولویت می‌دهد، زیرا فروش خروجی اقتصادی بسیار راحت‌تر از فروش شناخت واقعی است. اعداد، تفاوت فاحشی را در نحوه اندازه‌گیری این «هوش» نشان می‌دهند:
- امتیاز داخلی: مدل GPT-6 Astra در محیط تست اختصاصی و داخلی OpenAI امتیاز ۹۹.۹٪ گرفت.
- امتیاز مستقل: همین مدل در همان روز، در استاندارد مستقل ARC Prize تنها ۶۲.۷٪ امتیاز کسب کرد.
این شکاف از وزن‌های مدل (Weights) ناشی نمی‌شود، بلکه از کل داربست ابزارها، عامل‌ها (Agents) و بررسی‌های خارجی است که اطراف مدل ساخته شده است. این گواه آن است که وقتی فریاد می‌زنیم «AGI رسید»، در واقع داریم اکوسیستم اطراف مدل را اندازه می‌گیریم و هر چه بیشتر، خودِ مدل را نادیده می‌گیریم.
همکاری با یک موجود بیگانه
به جای جست‌وجوی کپی انسان، باید با LLMها به عنوان یک «هوش بیگانه» تعامل کنیم. این رویکرد نیازمند تواضع فکری و تغییر در نحوه تعامل با فناوری است:
- پذیرش ابهام: باید بپذیریم که نقاط کوری در فرآیندهای داخلی وجود دارد. حتی کسانی که این مدل‌ها را ساخته‌اند، همیشه نمی‌توانند توضیح دهند چرا مدل پاسخی خاص را به جای پاسخی دیگر انتخاب کرده است.
- همکاری فعال: باید از تکیه غیرفعال به سمت همکاری فعال حرکت کنیم. نباید با این ماشین‌ها به عنوان غیب‌گوهایی که باید کورکورانه به آن‌ها اعتماد کرد، رفتار کنیم.
از آنجا که یک LLM فاقد بیولوژی انسانی، گوشت و پوست، و فیلترهای فرهنگی هزارساله ماست، می‌تواند دیدگاه‌هایی کاملاً ساختارنشکسته ارائه دهد. این مدل‌ها به عنوان آینه‌ای برای شهودهای ما عمل می‌کنند و جایگزین‌هایی را پیشنهاد می‌دهند که سوگیری‌های تاریخی و فرهنگی ما در حالت عادی آن‌ها را پنهان می‌کردند.
برای تسهیل این امر، من روی یک پروژه متن‌باز برای ساخت یک «تالاموس دیجیتال» کار می‌کنم؛ یک ارکستراتور زمینه و اسکلت بیرونی شناختی که به جای غرق کردن مدل در یک «سوپ توکن» آشفته، داده‌ها و زمینه را فیلتر و ساختار می‌بخشد.
مسئله‌ی تداوم
یک پرسش باز در مورد ماهیت «یادگیری» در این سیستم‌ها باقی می‌ماند. یک کودک انسان از طریق تجربه یکپارچه یاد می‌گیرد؛ برای مثال، یک بار زمین خوردن، درسی دائمی است که برای همیشه با او می‌ماند.
اما یک LLM تداومِ «خود» ندارد. هر گفتگو بسته می‌شود و با بسته شدن آن، هر آنچه به نظر می‌رسید در طول مسیر «یاد گرفته»، ناپدید می‌شود. این یک سوال بنیادین را ایجاد می‌کند: اگر یک هوش بیگانه هیچ هویت پایداری یا تداوم تجربه ندارد، «آموزش دادن» چیزی به آن واقعاً به چه معناست؟
اگر بپذیریم که این یک ذهن بیگانه است، پس تمام واژگان ما — «آموزش دادن به آن»، «یادگیری از اشتباهات»، «توسعه شهود» — احتمالاً استعاره‌های اشتباهی هستند. همین فقدان تداوم است که باید ما را نسبت به هر ادعایی مبنی بر رسیدن AI به آگاهی یا شهود در سطح انسانی، بدبین و محتاط نگه دارد.
گام بعدی شما
- در تعامل با مدل‌ها، از آن‌ها نخواهید که «فکر کنند»، بلکه بخواهید «جایگزین‌های غیرمتعارف» برای ایده‌های شما پیدا کنند.
- نتایج مدل‌های زبانی را نه به عنوان حقیقت، بلکه به عنوان یک «پیش‌بینی آماری از احتمال حضور حقیقت» تحلیل کنید.
- تفاوت بین بنچمارک‌های داخلی شرکت‌ها و آزمون‌های مستقل (مانند ARC Prize) را دنبال کنید تا واقع‌بینی خود را حفظ کنید.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.
گفتگو