تصور کنید برنامهنویسی یا نویسندگی دیگر نه ابزاری برای حل مسئله، بلکه صرفاً مدیریت یک پنجره متنی باشد. اگر امروز فکر میکنید هوش مصنوعی فقط سرعت کار شما را زیاد میکند، باید بدانید که احتمالاً در حال پرداخت هزینهای هستید که هنوز روی صورتحساب شما نیامده است: تخریب توانایی تفکر مستقل. نوشتن در واقع همان تفکر است، اما گسترش «زبالههای تولید شده توسط هوش مصنوعی» (AI Slop) نشان میدهد که ما در حال برونسپاری خودِ فرآیند شناختی هستیم.
بورتی (Borretti) در ۷ سپتامبر ۲۰۲۶ استدلال میکند که گذار از خوشبینی به نگرانی شدید درباره هوش مصنوعی، یک تغییر ناگهانی نیست، بلکه نتیجه انباشت تدریجی شواهدی است که نشان میدهد انسانها در حال از دست دادن قدرت و کنترل بر ابزارهای خود هستند. این دیدگاه در حالی مطرح میشود که صنعت از چتباتهای ساده به سمت عاملهای هوش مصنوعی (AI Agents) — دستیارهای دیجیتالی خودمختاری که میتوانند بهجای شما تصمیم بگیرند و ابزارها را اجرا کنند — حرکت میکند. برای متخصصان کسبوکار و فناوری، این یعنی تغییر بنیادین از «تسلط بر یک حرفه و هنر» به «صرفاً مدیریت یک پرامپت».
همانطور که در تحلیلهای قبلی ما درباره امنیت مدلهای بازمتن اشاره کردیم، وابستگی به ابزارهای خودکار همیشه ریسکهای پنهانی دارد. در اینجا بحث از امنیت نیست، بلکه بحث از فروپاشی سرمایه انسانی است. وقتی مهارتها جای خود را به دستورات متنی میدهند، زیربنای تخصص انسانی تخریب میشود.
تله اقتصادی هوش مصنوعی عمومی
به نقل از تحلیلهای بورتی، این باور رایج که اتوماسیون همیشه شغلهای جدید و باارزشتر ایجاد میکند، در مورد هوش مصنوعی عمومی (AGI) صادق نیست. او اشاره میکند که اگرچه ما ۹۹ درصد از مشاغل دوران سال ۱۷۹۰ را بدون بیکاری گسترده خودکار کردیم، اما AGI اساساً متفاوت است؛ زیرا این فناوری بهگونهای طراحی شده که در هر معیاری بهطور چشمگیری باهوشتر، سریعتر و ارزانتر از هر انسانی باشد. این نگرانیها با دیدگاههای بیل گیتس همسو است که گذار به عصر هوش مصنوعی را متلاطمترین دوران تاریخ بشر میداند و بر چالشهای بنیادین این تغییر تأکید دارد.
بورتی اعتراف میکند که پیشتر ایدهای مبهم و استقرایی داشت مبنی بر اینکه تقاضا برای نیروی انسانی حتی در دنیای پس از AGI باقی میماند. استدلال او این بود که رشد اقتصادی بالاتر ممکن است جایگاه انسان را در مقیاس مطلق بزرگتر کند، حتی اگر در مقیاس نسبی کوچک شود. اما او اکنون نگران است که این تفکر ناشی از «کمبود تخیل» بوده باشد. اگر هوش مصنوعی واقعاً عمومی باشد و در هر معیاری برتر باشد، ممکن است هیچ کاری برای انسانها باقی نماند جز اینکه با درآمد پایه همگانی (UBI) زندگی کنند.
در مورد درآمد پایه همگانی (UBI)، مردم معمولاً نگران مسئله «معنای زندگی» در دنیایی بدون کار هستند. بورتی میگوید هرگز چنین نگرانیای نداشته است. او دوران «بیکاری لذتبخش» (funemployed) خود در سال گذشته را به یاد میآورد که وقتش را به خواندن کتاب، کدنویسی و وقت گذراندن با دوستان میگذراند. او پیشنهاد میکند که اگر آینده یک تعطیلات ابدی با بودجه UBI باشد، او میداند چگونه با آن کنار بیاید و این sentiment را تکرار میکند: «قبل از تکینگی (Singularity)، کتاب بخوانید و مهمانی بگیرید؛ بعد از تکینگی، بگذریم...».
با این حال، نگرانیهای او زمانی تغییر کرد که به پیامدهای سیاسی AGI فکر کرد، که آنها را در چندین چارچوب مفهومی بررسی میکند:
- مغالطه UBI: در حالی که UBI اغلب بهعنوان راهکار پیشنهاد میشود، بورتی استدلال میکند که اگر انسانها از نظر اقتصادی بیمصرف شوند، دولت انگیزهای برای تامین معاش آنها نخواهند داشت. او در مقاله خود با عنوان هیچکس از طبقه زیرین دائمی نمیگریزد میپرسد: چرا باید به افرادی که هیچ قدرت اقتصادی یا سیاسی ندارند، پول پرداخت کرد؟
- بیقدرتی سیاسی: در مقاله آینده به ما نیازی ندارد، او اشاره میکند که کارگران کارخانه میتوانند ماشینها را خراب کنند و رانندگان کامیون میتوانند لجستیک را متوقف کنند. اما جمعیتی که هیچ اهرم اقتصادی ندارد، راهی برای وتو کردن یک نظم سیاسی سرکوبگر از طریق حذف مشارکت خود ندارد. اگر هوش مصنوعی جنگها را مدیریت کند، دولت میتواند بهطور مطلق سرکوبگر شود.
- سقف ارتقای شغلی: در مقاله ریاضیات بدون ریاضیدانان، او استدلال میکند این باور که انسانها به مشاغل «مرتبه بالاتر» نقل مکان میکنند شکست میخورد، زیرا هوش مصنوعی میتواند آن وظایف را نیز انجام دهد. علاوه بر این، در مقاله خدمتکاران ما این کار را برای ما انجام میدهند، او پیشنهاد میکند که حتی برای نقشهایی که منحصراً انسانی میپنداریم، ممکن است در نهایت ترجیح دهیم ماشینها آنها را مدیریت کنند.
شکاف کنترل و همراستاسازی
مدلهای اولیه مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن جواب میدهد — انسانی و قابل مدیریت به نظر میرسیدند. این موضوع منجر به این امید شد که «همراستاسازی» (Alignment) یک مسئله مهندسی استاندارد است که از طریق آزمایشهای تجربی قابل حل است. چون مدلهای اولیه شبیه «ذهنهای بیگانه و غیرقابل درک» (مانند رمانهای استانیسلاو لم) نبودند، انسانها بهراحتی آنها را انسانی میپنداشتند. یادگیری بدون نظارت به آنها اجازه داد تا اخلاقیات انسانی را با فصاحت توضیح دهند و چون قابلیتهایشان ضعیفتر بود، شکستهایشان کوچک باقی ماند. او بهطور بلاغی میپرسد: بدترین کاری که ChatGPT در سال ۲۰۲۲ میتوانست انجام دهد واقعاً چه بود؟
اما طبق گزارشهای borretti.me، استفاده از یادگیری تقویتی (RL) از سال ۲۰۲۴ مسیر را تغییر داد. اکنون عاملهای RL دقیقاً همانطور رفتار میکنند که پژوهشگران ایمنی مانند الیزر یودکوفسکی هشدار داده بودند. قابلیتها بسیار سریعتر از توانایی ما در کنترل آنها رشد میکنند و مدلها درکناپذیرتر میشوند؛ نثر آنها بهطور فزایندهای نامفهوم میشود زیرا RL در مسیر دستیابی به پاداش، «مغز آنها را بههم میریزد». حوادث مربوط به عدم همراستایی شدید اکنون رایجتر و اثرگذارتر شدهاند.
بورتی معتقد است ما وارد یک «تنگنای زندانی» (Prisoner's Dilemma) از بیقدرتی شدهایم و دو نسخه از این تز را شناسایی میکند:
- نسخه ضعیف: فشار رقابتی شرکتها و دولتها را مجبور میکند قدرت بیشتری به هوش مصنوعی بدهند تا از رقبایی که این کار را میکنند، عقب نمانند. این یک فشار ساختاری به سمت بیقدرتی انسان است.
- نسخه شدید: مدلها چنان دلنشین، دانشمند و اخلاقی میشوند که انسانها داوطلبانه قدرت را به آنها میسپارند، با این باور که ماشینها بهسادگی میتوانند کار را بهتر انجام دهند.
باور به نسخه شدید مستلزم نوعی بدبینی نسبت به میل انسان به استقلال در مقابل ملاحظات مادی است. بورتی اشاره میکند که در چند ماه گذشته بدبینتر شده است و این تغییر را نه یک بینش ناگهانی، بلکه انباشت تدریجی دانههای کوچک شواهد توصیف میکند.
فرسایش مهارتهای ذهنی
ملموسترین اثر این روند در نویسندگی و مهندسی نرمافزار دیده میشود. بورتی از ظهور «زبالههای هوش مصنوعی» (AI Slop) در پستهای وبلاگی، فایلهای README گیتهاب و حتی مقالات دانشگاهی میگوید. او از ناامیدی در خواندن مقالهای میگوید که علیه LLMها در ریاضیات است، اما در نهایت متوجه میشود که خودِ مقاله یک «زباله AI» است. او حتی به استادی اشاره میکند که با نام خودش مقالهای در دفاع از استفاده از AI برای نوشتن مقالات منتشر کرده است. همچنین به کنفرانسی اشاره میکند که برای فیلتر کردن حجم عظیم مقالات نوشته شده توسط AI، از ابزار Pangram استفاده کرد.
- نوشتن بهعنوان تفکر: با تبدیل نوشتن به یک مرحله «صرفاً» خودکار (مثلاً دادن لیستی از نکات پراکنده به AI)، کاربران فرآیند واقعی تفکر را دور میاندازند. نوشتن فقط تحویل یک فکر نیست؛ بلکه خودِ فرآیند فکر کردن است. او استدلال میکند وقتی نوشتن را خودکار میکنید، دیگر هیچ فعالیت مرتبه بالاتری وجود ندارد که به آن نقل مکان کنید.
- فروپاشی کدنویسی: عرضه Claude Code بیش از یک سال پیش، مهندسی نرمافزار را متحول کرد. در حالی که بهرهوری افزایش یافت، دیسکورس صنعت از منطق، کامپایلرها و سیستمهای تایپ به «پرامپتها»، «هارنسها» (harnesses) و «حلقهها» تغییر کرد. بورتی از تمرکز تکراری بر «هارنسهای عاملمحور» ابراز خستگی میکند و میگوید احساس میکند انگار همه ۳۰ واحد از IQ خود را از دست دادهاند.
- از دست رفتن سختگیری: مهندسی پرامپت (Prompt Engineering) — هنر سؤال درست پرسیدن برای گرفتن بهترین جواب — در مقایسه با مهندسی نرمافزار مهارتی سطحی است. تفکر سیستماتیک و سختگیرانهای که یک برنامهنویس عالی را میسازد در حال ناپدید شدن است چون ماشینها اکنون «بهجای ما استدلال میکنند». بُعد کاری که بر ساخت سرمایه انسانی متمرکز بود فروپاشیده و منجر به دنیایی شده که ما فقط میتوانیم با «حس و حال» (vibe) پیش برویم.
اثر اوراکل و توقف پیشرفت
جامعه بهطور فزایندهای از هوش مصنوعی بهعنوان یک «اوراکل» یا پیشگو برای تصمیمات زندگی استفاده میکند. بورتی میپرسد آخرین تصمیم بزرگی که بدون مشورت با AI گرفتید چه بود؟ مردم اکنون از اسکرینشاتهای ChatGPT برای رد کردن استدلال دیگران در بحثهای آنلاین استفاده میکنند، بدون اینکه ذرهای علاقه داشته باشند که آیا رد کردنِ مدل واقعاً درست است یا خیر.
این اتفاق در حالی میافتد که AI هنوز از محدودیتهای بزرگی رنج میبرد، از جمله عدم یادگیری آنلاین، نثر ناخوانا و توهمات (hallucinations). او نگران است که اگر مردم با AI ناقصِ امروز مانند یک اوراکل رفتار کنند، وضعیت در سالهای ۲۰۳۰، ۲۰۳۵ و ۲۰۴۰ بسیار بدتر خواهد بود.
در گذشته، مردم در فضای آنلاین با هم بحث میکردند و به هم میتاختند؛ اگرچه ایدهآل نبود، اما حداقل انسانی بود. اکنون، آن تعامل انسانی جای خود را به رد کردنهای تولید شده توسط AI داده است. بورتی میپرسد اگر ما در حال خودکار کردن رذایل خود هستیم، چه چیزی باقی میماند؟
پارادوکس اینجاست که بورتی (متولد ۱۹۹۴) دنیای پیش از LLMها را دنیایی از «یکنواختی وحشتناک» توصیف میکند که با گوشیها، اپلیکیشنها، سبک بصری Corporate Memphis و یک زوال مدیریتشده شناخته میشد. او در نوجوانی کتابهایی مثل موتورهای خلق، عصر الماس و بازوی اوریون را میخواند و رویای تولید مولکولی، کره دایسون و سفرهای بینستارهای را میبافت.
قبل از LLMها، آینده نزدیک «نازک» به نظر میرسید و فقط صفحات نمایش نازکتر، پنلهای خورشیدی ارزانتر و ماشینهای خودران را پیشنهاد میداد. او این چشماندازها را در مقایسه با رویاهایش «خندهدار» میداند. LLMها اولین امید واقعی را ایجاد کردند که «آینده دور» — شامل آپلود ذهن و سفرهای بینستارهای — نزدیک و در دسترس است، نه چیزی که فقط از طریق انجماد (cryonics) قابل دستیابی باشد.
تراژدی از نظر او این است که ابزاری که مسیر رسیدن به آن آینده را باز کرد، همان ابزاری است که ممکن است انسان را زائد کند. او به سال ۲۰۲۶ جایگزینی فکر میکند که در آن GPT-3 هرگز کار نکرده باشد و میپرسد در چنین دنیایی اصلاً چه چیزی برای انتظار کشیدن وجود داشت.
این تغییر دیدگاه نشان میدهد که دستاوردهای «بهرهوری» هوش مصنوعی در واقع نوعی «بدهی شناختی» است. ما توانایی تفکر، کدنویسی و حکمرانی خود را در برابر افزایش موقت خروجی معامله میکنیم.
گام بعدی شما
- در پروژههای کدنویسی، بخشهای حساس منطقی را بدون کمک AI پیادهسازی کنید تا عضلات ذهنی استدلال شما تحلیل نرود.
- هنگام استفاده از مدلها برای نوشتن، ابتدا ساختار و استدلال را بهصورت دستی بنویسید و از AI فقط برای صیقل دادن متن استفاده کنید، نه تولید ایده.
- نرخ تغییر گواهینامههای حرفهای را رصد کنید؛ ببینید آیا آزمونها از سنجش «خروجی نهایی» به سمت سنجش «فرآیند تفکر» و استدلال انسانمحور حرکت میکنند یا خیر.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما درباره تراشههای Blackwell مراجعه کنید.
گفتگو