تصور کنید تمام تصمیمات شما، از انتخاب صبحانه گرفته تا انتخاب شریک زندگی، توسط الگوریتمی گرفته شود که ادعا می‌کند شما را بهتر از خودتان می‌شناسد. این دیگر یک سناریوی علمی-تخیلی نیست، بلکه واقعیتِ زندگی برخی کاربران پیشرو است که «تفکر انتقادی» خود را کاملاً به ماشین سپرده‌اند.
در یک رویداد استارتاپی در سان‌فرانسیسکو، مردی دیده شد که کپسولی فلزی و صیقلی به عرض دو انگشت روی پیراهنش بسته بود. او از این دستگاه استفاده می‌کند تا تک‌تک مکالماتش را ضبط کند و اجازه می‌دهد کلود فِیبل (Claude Fable) تمام تفکرات حیاتی او را مدیریت کند. او با شور و اشتیاقِ یک «تک‌بروی» (tech bro) اعتراف می‌کند: «فکر می‌کنم کلود فِیبل از من باهوش‌تر است. او در تفکر انتقادی بهتر از من عمل می‌کند، بنابراین این روزها اجازه می‌دهم فِیبل تمام کارهای فکری‌ام را انجام دهد». مدل کسب‌وکار استارت‌آپ این فرد نیز دقیقاً بازتابی از عادت‌های شخصی اوست؛ شرکتی که با ثبت تمام ورودی‌ها و عملیات مهندسان انسانی، تلاش می‌کند جایگزینی برای آن‌ها باشد و این کار را اغلب بدون رضایت صریح آن‌ها انجام می‌دهد.
با ظهور مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — دوران موتورهای جست‌وجو به پایان رسید. در جست‌وجوی سنتی، کاربر باید سؤال را تجزیه می‌کرد، منابع مختلف را ارزیابی می‌نمود و سپس پاسخ‌ها را ترکیب می‌کرد. اما هوش مصنوعی مدرن اکنون این مراحل میانی را می‌بلعد و پاسخ‌های نهایی را به پرسش‌های پیچیده یا تخصصی در عرض چند دقیقه می‌سازد. به نقل از گزارش METR درباره «افق‌های زمانی تکمیل تکالیف توسط مدل‌های پیشرو»، ابزارهایی مانند گوگل دیپ ریسِرچ (Google Deep Research) و اوپن ای‌آی دیپ ریسِرچ (OpenAI Deep Research) اکنون می‌توانند کارهایی را به سرانجام برسانند که پیش‌تر برای یک انسان، دقایق، ساعت‌ها یا حتی روزها تلاش متمرکز می‌طلبید. این ابزارها زمان کاربر را ذخیره می‌کنند، اما هم‌زمان او را از «عمل تفکر کردن» می‌رهانند. این روند به طور گسترده‌ای با تلاش برای ساده‌سازی روتین‌های روزانه با کمک ابزارهای هوشمند همسو است، هرچند مرز بین تسهیل زندگی و حذف تفکر بسیار باریک است.
همان‌طور که در تحلیل‌های قبلی ما درباره امنیت مدل‌های بازمتن و اثر آن‌ها بر حریم خصوصی اشاره کردیم، مرز بین کمک دیجیتال و از دست دادن کامل استقلال فردی بسیار باریک و متزلزل است. این وضعیت را می‌توان با دقت در داستان کوتاه «جفت ایده‌آل» اثر کن لیو (۲۰۱۲) مشاهده کرد. در این داستان، دستیاری همه‌کاره به نام «تی‌لی» برای هر چیزی، از صبحانه گرفته تا ایده‌آل‌ترین قرار عاشقانه، توصیه ارائه می‌دهد. شخصیت اصلی داستان تماماً به این هوش مصنوعی تکیه می‌کند و دیگر قادر نیست تصمیم بگیرد چه بخورد یا در یک قرار عاشقانه چه بگوید. وقتی تی‌لی می‌پرسد: «چه کسی سلیقه‌ها و خلق‌و‌خوی تو را بهتر از من می‌شناسد؟»، شخصیت داستان دقت علمیِ پروفایل سلیقه‌ای ماشین را می‌پذیرد.
خودِ الگوریتمیک
در روایت لیو، قهرمان داستان باور دارد که الگوریتم برتر از شهود و حس درونی اوست. او استدلال می‌کند: «هر چیزی که تی‌لی به من پیشنهاد می‌دهد، از نظر علمی ثابت شده که با پروفایل سلیقه‌ای من سازگار است و چیزی است که من دوست خواهم داشت... چه اشکالی دارد که به تی‌لی گوش دهم تا محصول ایده‌آل، مصرف‌کننده ایده‌آل را پیدا کند و دختر ایده‌آل، پسر ایده‌آل را؟»
وقتی انسان تصمیمات خود را — از مسائل پیش‌پاافتاده مانند اینکه چه بپوشد تا انتخاب‌های سرنوشت‌ساز زندگی مانند یافتن عشق — به ماشین می‌سپارد، در واقع «عاملیت» (Agency) خود را تسلیم می‌کند. خطر اصلی این است که وقتی کاربران تصمیم‌گیری درباره هر چیزی را برون‌سپاری می‌کنند، دیگر در فرآیند شکل‌دادن به میل و خواسته‌های خود مشارکت نمی‌کنند و از تعریف نیازهای واقعی خود باز می‌مانند.
طیف برون‌سپاری شناختی
تفاوت بنیادینی بین اتوماسیون کارهای تکراری (Drudgery) و اتوماسیون تفکر وجود دارد و اثر این تغییر بسته به مورد استفاده متفاوت است:
- اتوماسیون مثبت: استفاده از جمینای (Gemini) برای ترجمه گزارش‌های رسمی و طولانی انگلیسی به کره‌ای برای یک شرکت حرفه‌ای، که به‌طور قابل‌توجهی سرعت گردش کار را بالا می‌برد.
- شتاب‌دهنده آموزشی: استفاده از ChatGPT به عنوان یک مدرس شخصی برای آمادگی در آزمون دشوار MCAT در عرض تنها چند ماه، شامل یادگیری مفاهیم پیچیده‌ای نظیر بیوشیمی از نقطه صفر.
- تفویض بهره‌ور: پژوهشگرانی که ایده‌های سطح بالای تحقیق را طراحی کرده و سپس از عامل‌های کدنویس (coding agents) برای پیاده‌سازی جزئیات فنی استفاده می‌کنند تا زمان بیشتری را به تحلیل نتایج اختصاص دهند. در این سطح، تفاوت میان اتوماسیون ابزاری و بن‌بست‌های تحلیلی در ساختار ترنسفورمرها مشخص می‌شود، جایی که ماشین هنوز نمی‌تواند جایگزین تحلیل علت ریشه‌ای انسانی شود.
- مصرف غیرفعال: دانشجویانی در دوره‌های آنلاین فیزیک که از هوش مصنوعی برای تکمیل تکالیف استفاده می‌کنند. نتیجه این است که پاسخ‌های تمام کلاس تقریباً یکسان است و هیچ تفکر اصیلی یا نظری شخصی در آن‌ها دیده نمی‌شود. این وضعیت به دانشجویان اجازه می‌دهد بدون اینکه یاد بگیرند چگونه به پاسخ برسند، نمره «الف» بگیرند.
هزینه پاسخ‌های فوری
عادت به پرس‌وجوهای فوری و لحظه‌ای، ارزش «تفکر کند» (slow thinking) را سرکوب می‌کند. بسیاری از سؤالات نیاز به پاسخ سریع دارند — مانند وضعیت فعلی آب‌وهوا، نام رئیس‌جمهوری که ده سال پیش روی کار بود، یا بررسی نظرات کاربران درباره تجهیزات ورزشی و مراقبت از پوست. با این حال، برخی دیگر از پرسش‌ها شایسته تأمل طولانی‌تر هستند.
نویسنده اشاره می‌کند که پیاده‌روی در محله بدون همراه داشتن گوشی، اجازه می‌دهد سؤالات پیش‌پاافتاده در ذهن ظاهر شوند و به‌تدریج محو گردند. برای مثال، این سؤال که «آیا گیلاس روی درخت می‌روید یا بوته؟» یا به یاد آوردن اینکه اولین بازی جام جهانی در چه زمان و مکانی برگزار شد.
وقتی این پرسش‌ها فوراً توسط یک دستگاه پاسخ داده نشوند، نویسنده متوجه می‌شود که بیشتر آن‌ها تا زمان بازگشت به خانه فراموش می‌شوند. تنها تعداد کمی از پرسش‌های مهم باقی می‌مانند. این امر نشان می‌دهد که در فراموش کردن مسائل پیش‌پاافتاده (trivial) و مقاومت در برابر وسوسه پاسخ فوری برای هر پرسش گذارایی که در ذهن می‌گذرد، ارزشی پنهان نهفته است.
مورد پژوهی: بنای اکتشافات
برای مثال، در سفری به پرتغال و بازدید از «بنای اکتشافات» (که عصر اکتشافات را جشن می‌گیرد)، بحثی شکل گرفت. نویسنده متوجه شد پرتغالی‌ها این «کاشفان» و «جست‌وجوگران» را ستایش می‌کنند. در مقابل، در ایالات متحده، چنین شخصیت‌هایی اغلب «فاتح» یا «استعمارگر» نامیده می‌شوند.
وقتی از راهنما پرسیده شد آیا شخصیت‌هایی مثل «هنری دریانورد» مشابه کریستف کلمب در آمریکا «کنسل» (حذف از تاریخ رسمی) شده‌اند، او پاسخ داد خیر. در واقع، افرادی مانند هنری دریانورد در پرتغال به‌طور کلی به عنوان شخصیت‌های تاریخی مورد احترام شناخته می‌شوند. در این لحظه، خواهر نویسنده پیشنهاد داد: «بیا از ChatGPT بپرسیم»، اما نویسنده پیشنهاد کرد که ابتدا توقف کنند و خودشان فرضیاتی بسازند.
فرآیند استدلال جمعی
آن‌ها زمانی را صرف تولید نظریه و گمانه‌زنی کردند. فرضیات مختلفی را بررسی کردند: شاید تفاوت از یکسانیِ مذهبی و جمعیتی پرتغال در برابر تنوع مهاجران در آمریکا باشد، یا اینکه دوران اکتشافات یکی از ستون‌های اصلی هویت ملی پرتغال است.
این یک تمرین ذهنی سخت و دقیق بود: حدس‌های جسورانه زدند، با هم مخالفت کردند، ایده‌ها را به عقب برگرداندند، مفاهیم را به هم متصل کردند و جزئیاتی از تاریخ دبیرستان را که مربوط به سال‌ها پیش بود به یاد آوردند. آن‌ها از حافظه جمعی و مهارت‌های تفکر انتقادی استفاده کردند و پذیرفتند که برخی از نظریاتشان احتمالاً غلط است. هسته اصلی تجربه و یادگیری، همین فرآیند بود.
تنها پس از این استدلال جمعی انسانی بود که از هوش مصنوعی استفاده کردند. مدل بسیاری از نظریات را تأیید کرد و توضیحات گمشده را ارائه داد، اما برخی احتمالات را نادیده گرفت که برای انسان‌ها همچنان پذیرفتنی بود. این توالی — نخست فرضیه، سپس هوش مصنوعی — ماهیچه روشنفکری را حفظ می‌کند؛ چیزی که پرس‌وجوی مستقیم و فوری از AI نابود می‌کند.
پارادوکس عاملیت
بسیاری استدلال می‌کنند که برون‌سپاری تفکرات پیش‌پاافتاده، رضایت از زندگی و بهره‌وری را افزایش می‌دهد. گزارش OECD درباره تأثیر هوش مصنوعی بر محیط کار و گزارش سازمان بین‌المللی کار (ILO) با عنوان «پلتفرم‌های کار دیجیتال و آینده اشتغال»، هر دو برجسته می‌کنند که چگونه AI می‌تواند کارهای تکراری، خسته‌کننده و کسالت‌بار را خودکار کند.
اتوماسیون کارهای پست در برابر اتوماسیون ذهن
از نظر تاریخی، کارگران انسانی برای انجام این کارهای پست و تکراری دستمزدهای اندکی دریافت می‌کردند. اتوماسیون این وظایف حقیراً می‌تواند یک امتیاز مثبت خالص باشد و انسان‌ها را برای انواع رضایت‌بخش‌تری از تفکر آزاد کند. اگر AI بتواند ساعت‌ها کار کسالت‌بار را با خوشحالی انجام دهد، زندگی‌ها ممکن است لذت‌بخش‌تر شوند.
با این حال، «مرد میکروفونی» (آن فرد در سان‌فرانسیسکو) نمادی از یک نتیجه تاریک است. او با ضبط تمام ورودی‌ها و عملیات مهندسان دیگر و سپردن تفکر انتقادی خود به یک مدل، با شناخت انسانی نه به عنوان سرمایه‌ای برای پرورش، بلکه به عنوان یک «بدهی» (Liability) نگاه می‌کند که باید خودکار شده و حذف شود.
تعریف مرز
این وضعیت، چالشی برای تعریف مرز بین استقلال (Autonomy) و اتوماسیون ایجاد می‌کند. نویسنده عادت‌های خود را با «مرد میکروفونی» مقایسه می‌کند و اشاره می‌کند که او نیز برای تحلیل داده‌های شخصی از AI استفاده می‌کند. تفاوت‌های کلیدی در اینجا عبارت دارند از:
- چه کسی داده‌ها را دست‌چین و کیوریت می‌کند؟
- چه کسی سؤالات را برای پاسخ گرفتن فرموله می‌کند؟
- چه کسی نتایج نهایی را ارزیابی و نقد می‌کند؟
- داده‌های چه کسی استفاده می‌شود (داده‌های شخصی در برابر ضبط مکالمات دیگران)؟
تعادل حیاتی بین اتوماسیون یک کار پست برای خرید زمان و انجام آن کار توسط خود فرد به عنوان یک «تجربه یادگیری» وجود دارد. این مسئله به‌ویژه در آموزش صدق می‌کند؛ در حالی که حل یک مسئله فیزیک یا نوشتن یک مقاله ممکن است خسته‌کننده به نظر برسد، اما خودِ این فرآیند، هدف اصلی مدرسه و آموزش است.
در داستان کن لیو، شخصیتی به نام «جنی» یک نقطه مقابل بحرانی برای این اتکای بیش از حد ایجاد می‌کند. او هشدار می‌دهد: «تی‌لی فقط آنچه را می‌خواهی نمی‌گوید، بلکه به تو می‌گوید چه فکر کنی. آیا اصلاً می‌دانی دیگر واقعاً چه می‌خواهی؟». استقلال ما به مشارکت فعال ما در شکل‌دادن به خواسته‌هایمان وابسته است. وقتی تفکر پشت انتخاب موسیقی، فیلم یا غذای مورد علاقه‌مان را برون‌سپاری می‌کنیم، ریسک از دست دادن هویت خود را می‌پذیریم. سؤال نهایی این است: آیا در حال اتوماسیون «کار انسان» هستیم یا در حال اتوماسیون «اراده و عاملیت انسان»؟
گام بعدی شما
- در کارهای پژوهشی، استراتژی «اول فرضیه، بعد AI» را پیاده کنید تا توان تحلیل و استدلال خود را از دست ندهید.
- برای هر تصمیم مهم، یک بار بدون کمک مدل‌های زبانی فکر کنید و سپس نتایج را با AI تطبیق دهید.
- در ابزارهای آموزشی، به جای درخواست پاسخ نهایی، از مدل بخواهید «راهنمایی برای رسیدن به پاسخ» ارائه دهد.
اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.
گفتگو