تصور کنید ابزاری دارید که میتواند سختترین مسائل ریاضی دنیا را حل کند، اما هر ۱۰ بار، یک بار جواب را کاملاً اشتباه و با اطمینان کامل میدهد؛ آیا جرئت میکنید مدیریت مالی شرکت خود را به آن بسپارید؟ این همان نقطهکوری است که باعث شده علیرغم پیشرفتهای خیرهکننده، هنوز هیچ عامل هوش مصنوعی نتوانسته باشد یک متخصص انسانی را در دنیای واقعی کنار بزند.
طبق اعلام یک پژوهشگر از دانشگاه پرینستون (Princeton University) و نویسنده کتاب هوش مصنوعی به عنوان فناوری عادی (AI as Normal Technology) در سخنرانی کلیدی کنفرانس بینالمللی یادگیری ماشین در سئول، صنعت هوش مصنوعی دچار یک توهم خطرناک است: خلط کردن «قابلیت» (Capability) با «پایداری» (Reliability). استدلال اصلی این ارائه این بود که کارگران انسانی به این دلیل توسط عاملهای AI جایگزین نمیشوند که صنعت همچنان قدرت خام مدلها را با قابلیت اطمینان در دنیای واقعی اشتباه میگیرد.
اکنون زمان هیجان بسیار زیاد، اما در عین حال اضطراب شدیدی در جامعه هوش مصنوعی است. این اضطراب بهویژه برای مهندسان نرمافزار و خود پژوهشگران AI که قابلیتهایشان با سرعت خیرهکنندهای در حال پیشرفت است، حادتر است. این پژوهشگر استدلال میکند که نحوه پاسخ این جامعه به این تغییرات برای کل جهان اهمیت دارد؛ تسلیم شدن و پذیرفتن اینکه AI تمام کارها را انجام خواهد داد بدون تعیین مرزهای روشن، میتواند منجر به یک واکنش سیاسی شدید در خارج از بخش فناوری شود.
در حالی که بنچمارکها نشان میدهند مدلها هوشمندتر میشوند، این امتیازات بازتابدهنده ثبات عملیاتی مورد نیاز برای اتوماسیون نیستند. بیشتر عاملهای AI امروز به عنوان «همکار» عمل میکنند—ابزارهایی که پتانسیل انسان را تقویت میکنند—نه جایگزینهایی مستقل. این تمایز برای متخصصانی که باید تصمیم بگیرند آیا ثروت خود را سریعاً پیش از بیارزش شدن مهارتها بسازند (مسیر «طبقه زیرین دائمی») یا مهارتهای مکمل در زمینهی عاملیت، سلیقه و قضاوت را توسعه دهند، حیاتی است. این شکاف مهارتی میتواند منجر به شکلگیری ساختارهای جدیدی از نابرابری میان کاربران برگزیده و عموم شود که در آن تنها گروه کوچکی از متخصصان قادر به بهرهبرداری واقعی از این ابزارها هستند.
چهار مرحله اثرگذاری هوش مصنوعی
تیم پرینستون برای درک اینکه چرا AI فوراً مشاغل را حذف نمیکند، چارچوبی بر اساس پذیرش برق در زمان انقلاب صنعتی به کار گرفته است. آنها اذعان دارند که AI یک فناوری تحولآفرین در مقیاس انقلاب صنعتی است، نه یک ابزار معمولی. چارچوب هوش مصنوعی به عنوان فناوری عادی که در یک مقاله ۱۵ هزار کلمهای (که در حال تبدیل شدن به کتاب است) به تفصیل آمده، بیان میکند که تأثیر اقتصادی در چهار فاز متمایز رخ میدهد:
۱. روشها/قابلیتها (Methods/Capabilities): قدرت خام مدل، مانند بهبودهای استدلالی در مدلهای زبانی بزرگ (LLM).
۲. محصولات/برنامهها (Products/Applications): ابزارهایی مانند عاملهای کدنویسی که قابلیتهای نهفته را میگیرند و آنها را به چیزی کاربردی برای کارگران تبدیل میکنند. پژوهشگر اشاره میکند که ما مستقیماً از LLMها استفاده نمیکنیم، بلکه از طریق این محصولات با آنها در تعامل هستیم.
۳. پذیرش اولیه (Early Adoption): فاز آزمایشی اولیه (مانند Vibe Coding یا کدنویسی بر اساس حس کلی) پیش از آنکه مهندسی عاملمحور پیچیدهتری توسعه یابد.
۴. تطبیق یا تحول ساختاری (Adaptation): این کندترین فاز است و میتواند دههها طول بکشد. این مرحله شامل سازماندهی مجدد کل ماهیت کار و ساختارهای سازمانی است.
از نظر تاریخی، برق یک جایگزین «سریع و مستقیم» برای موتورهای بخار نبود. در کارخانههای اولیه، یک موتور بخار عظیم قدرت را از طریق چرخدندههای مکانیکی و تسمه منتقل میکرد. جایگزینی سادهی دیگ بخار با یک ژنراتور الکتریکی جواب نداد، زیرا این رویکرد ماهیت قابلحمل برق را نادیده میگرفت. آنچه در عمل موفقیتآمیز بود و توسعهی آن ۴۰ سال زمان برد، سازماندهی مجدد کل چیدمان کارخانه بر اساس منطق «خط مونتاژ» بود. این امر مستلزم تغییرات بنیادین در نحوه استخدام، آموزش و اخراج کارکنان و همچنین ایجاد قوانین جدید کار بود.
به همین ترتیب، هوش مصنوعی نیازمند یک تحول ساختاری است که مسئولیت آن بر عهده شرکتهای AI نیست؛ درست همانطور که سازماندهی مجدد کارخانهها وظیفه شرکتهای برق نبود. به عنوان مثال، اگر عاملهای کدنویسی در نهایت بتوانند کدهایی بدون خطا با ۱۰ میلیون خط تولید کنند، صنعت ممکن است به سمت «شخصیسازی افراطی» حرکت کند، جایی که نرمافزار برای افراد یا تیمهای خاص طراحی میشود. این موضوع اساساً صنعت را تغییر داده و احتمالاً توسعه نرمافزار را بهطور کامل به داخل سازمانها (In-house) منتقل کرده و نیاز به شرکتهای نرمافزاری مستقل را کاهش میدهد.
شکاف پایداری: صحت در برابر ثبات
طبق بررسیهای تیم ارزیابی پرینستون، که هدف آن عبور از ادعاهای سادهای است که میگوید «قابلیت در بنچمارکها در حال افزایش است»، وسواس فعلی روی «صحت» (Accuracy) گمراهکننده است. آنها مدلهای سه شرکت پیشرو AI را که در ۲۴ ماه گذشته عرضه شدهاند، اندازهگیری کردند و به یک واگرایی شدید رسیدند: در حالی که صحت (قابلیت) بهطور چشمگیری بالا رفته بود، پایداری (Reliability) تنها ۵ تا ۱۰ درصد رشد کرده بود.
پایداری به چهار بُعد تقسیم میشود که اتوماسیون به آنها نیاز دارد اما بنچمارکها نادیده میگیرند:
- ثبات (Consistency): آیا دقت ۷۰ درصدی به این معناست که عامل همیشه در ۷۰ درصد تسکها موفق است، یا اینکه در هر تسک تصادفی ۳۰ درصد احتمال شکست دارد؟ بنچمارکهای فعلی اغلب تفاوتی بین این دو قائل نمیشوند و از دیدگاه استقرار در دنیای واقعی بیفایده هستند.
- استواری (Robustness): وقتی محیط کمی تغییر میکند، چه اتفاقی برای عملکرد عامل میافتد؟
- کالیبراسیون (Calibration): آیا عامل میتواند به تاریخچه اقدامات خود نگاه کند و تشخیص دهد که آیا تسک را درست انجام داده است یا خیر؟
- ایمنی عملیاتی (Operational Safety): وقتی شکست رخ میدهد، آیا قابل بازگشت است یا فاجعهبار است (مانند حذف یک پایگاه داده عملیاتی)؟
به دلیل این شکاف، پژوهشگر استدلال میکند که در حال حاضر، شما در عاملها فقط میتوانید دو مورد از این سه ویژگی را داشته باشید: «همهمنظوره بودن»، «استقرار در سناریوهای حساس» یا «اتوماسیون کامل». به همین دلیل، عاملهای همکاریکننده (که میتوانند غیرقابلپیشبینی و خلاق باشند) در حال حاضر بسیار موفقتر از عاملهای اتوماسیون هستند. شرکتهایی که با عجله به سمت اتوماسیون فرآیندهای تجاری رفتند، اکنون مسئولیتهای قانونی و هزینههای مرتبط با این شکستهای پایداری را درک میکنند. این ضعف در پایداری عملیاتی بهویژه در فرآیندهای پیچیده مشهود است، جایی که فقدان زیرساختهای عیبیابی سنتی باعث میشود تحلیل علت ریشهای خطاها در مدلهای ترنسفورمر بسیار دشوار باشد.
ساندویچ «تصمیم-اجرا-تحویل»
مهندسی نرمافزار به عنوان مطالعه موردی اصلی برای این موضوع عمل میکند که چرا اشتغال با وجود افزایش ۱۰ برابری بهرهوری، سقوط نکرده است. پژوهشگر اشاره میکند این ایده که بهرهوری ۱۰ برابر منجر به ۱۰ برابر کمتر شدن مهندسان میشود، با دادهها در تضاد است؛ تعدیلهای نیرو اغلب نتیجه فشارهای مالی هستند نه جایگزینی توسط AI. با استناد به مقالهای در سال ۲۰۱۹، وی استدلال میکند که نوشتن کد در واقع گلوگاه کار نیست.
کدنویسی گلوگاه نیست؛ بلکه کار به سه لایه تقسیم میشود:
- لایه تصمیم (Decide Layer): درک نیازمندیهای مشتری، توسعه مشخصات فنی و برنامهریزی. این لایه توسط AI فشرده نمیشود.
- لایه اجرا (Execute Layer): کدنویسی واقعی و رفع باگ. این لایه در حال فشرده شدن است، اما در تمام دوران تنها حدود یکسوم کار را تشکیل میداد.
- لایه تحویل (Deliver Layer): درک عمیق کد برای مسئولیتپذیری، ادغام در سیستمهای مشتری، نگهداری و تست. این لایه نیز توسط AI فشرده نمیشود.
همانطور که لایه میانی «اجرا» کوچک میشود، لایههای اول و سوم—تصمیم و تحویل—در واقع گسترش مییابند. این یک نسخه شناختی از اپراتور جرثقیل یا لیفتراک است: ماشین جابجاییهای سنگین را انجام میدهد، اما انسان کنترل را در دست دارد. این بازتابی از «مغالطه توده کار» (Lump-of-labor fallacy) است. برای مثال، دستگاههای ATM باعث حذف دلاکاران بانک نشدند، بلکه باعث شدند شعب منطقهای از نظر اقتصادی توجیهپذیر شوند و در نتیجه اشتغال افزایش یافت.
الگوهای مشابهی در جاهای دیگر دیده میشود. اشتغال در رادیولوژی علیرغم پیشبینی ده سال پیش جف هینتون درباره نابودی این شغل رشد کرد، زیرا AI خدمات را سریعتر و ارزانتر کرد و تقاضای کلی را افزایش داد. در حقوق، AI ثبت شکایتها را آسانتر کرده که پتانسیل افزایش حجم کار وکلا را دارد. ترجمه نمونهای افراطیتر است؛ علیرغم رسیدن به برابری تقریباً انسانی در یک دهه پیش، اشتغال ثابت مانده است زیرا سقفی برای حجم یا تنوع زبانهایی که انسانها میخواهند ترجمه کنند وجود ندارد.
افسانه تکینگی بازگشتی
بسیاری در سیلیکونولی معتقدند بهبود خودکار بازگشتی (RSI) منجر به تکینگی فوری میشود. چارچوب پرینستون با جداسازی پیشرفت به چهار بُعد متمایز، این باور را به چالش میکشد: RSI، هوش مصنوعی عمومی (AGI)، ابرهوش (ASI) و تأثیر اقتصادی. پژوهشگر ادعا میکند که تلقی کردن AGI و ASI به عنوان پیامدهای تقریباً خودکار RSI «کمی مضحک» است، زیرا هیچیک از این ابعاد مستلزم ابعاد دیگر نیست.
حتی اگر شرکتی به RSI برسد (سیستم AI که جانشین خود را میسازد)، ممکن است این تنها یک «جستوجوی ابرپارامتر تجملاتی» باشد، مشابه AutoMLهای اولیه یا کارهای منتشر شده توسط اشمیدهوبر. برای اینکه RSI واقعاً جایگزین انسان شود، باید خلاقیت و هوش جمعی صدها هزار پژوهشگر در سراسر جهان را جایگزین کند، نه فقط چند فرد در یک آزمایشگاه.
گلوگاههای رسیدن به ابرهوش اغلب خارجی هستند و نمیتوان آنها را در آزمایشگاه از طریق فرآیندهای صرفاً محاسباتی حل کرد. برای مثال:
- پیشرفتهای پزشکی: درمان سرطان نیازمند آزمایشهای کلینیکی با هزاران نفر در بازه ۱۰ تا ۱۵ ساله است.
- محدودیتهای فیزیکی: پیشبینی دقیق وضعیت هوا برای یک سال آینده به دلیل تئوری آشوب در سیستمهای دینامیکی غیرخطی، یک محال ریاضی است.
هوش مصنوعی همچنین در خلاقیت واقعی—یعنی «لحظات اورکا» در یافتن پیوندهای غافلگیرکننده بین حوزههای غیرمرتبط—عقب است. پژوهشگر پیشنهاد میکند که خلاقیت انسانی بر «ترکیبپذیری شدید» (ساختن از اتمهای معنا) و توانایی بهبود نمایشها در زمان استنباط (مانند «خوابیدن روی یک مسئله») متکی است. مدلهای امروزی و حتی بیشتر پژوهشهای «یادگیری مستمر»، بر جلوگیری از فراموشی فاجعهبار تمرکز دارند تا بهبود کیفیت نمایشهای زیربنایی.
برای آزمایش این موضوع، تیم پژوهشگر از «ارزیابی دنیای باز» استفاده میکند. آنها به عاملهای AI بودجهای چند هزار دلاری و یک مسئله یادگیری ماشین میدهند که توسط انسان حل شده اما هنوز در arXiv منتشر نشده تا از آلودگی دادهها (Contamination) جلوگیری شود. آنها همچنین عاملها را در ساخت و آپلود اپلیکیشن در اپاستور اپل آزمایش کردند.
از پارو زدن به فرماندهی
با اتوماسیون تسکهای فنی قابلتأیید، ارزش حرفهای از «ساختن» به «ارزیابی» تغییر میکند. با استعارهای دریانوردی، انسانها از پارو زدن (تلاش فیزیکی) به فرماندهی (ناوبری و قضاوت) منتقل میشوند. در گذشته، پارو زن جهت را هم تعیین میکرد؛ امروز موتور کشتی را حرکت میدهد و خدمه در کنترل و ناوبری تخصص میگیرند.
در پژوهش AI، این به معنای فاصله گرفتن از موفقیتهای مبتنی بر بنچمارک است، که پژوهشگر آن را «جستوجو زیر نور چراغهای خیابان» مینامد—یعنی فقط نگاه کردن به چیزهایی که اندازهگیریشان آسان است. این تغییر شامل موارد زیر است:
- تمرکز بر ارزیابی: بخش بزرگتری از جامعه باید بر ارزیابی تمرکز کند. پژوهشگر پیشنهاد میکند شاید نیمی از مقالات کنفرانسها باید به ارزیابی اختصاص یابد، مشابه مسیر در حال رشدی که در NeurIPS دیده میشود.
- داوری انسانمحور: اتوماسیون داوری مقالات (Peer Review) یک «تله» است که کنترل جهت علم را به سیستمهای AI میسپارد. در عوض، AI باید بخشهای mundane یا معمولی را اتومات کند تا انسانها برای قضاوت آزاد شوند.
- حفظ درک: در پژوهشهای علمی، درک انسانی «اصطکاکی» برای حذف شدن نیست، بلکه مرکز هدف علم است. نقشهای جدیدی ظهور خواهند کرد تا بهطور خاص درک انسانی را از دل راهکارهای تولید شده توسط AI استخراج کنند.
استراتژی رشد انسانی
برای جلوگیری از «مارپیچ وابستگی»—جایی که انسانها از AI برای کارهایی که در آنها متخصص نیستند استفاده میکنند و در نتیجه مهارتهای اندک خود را نیز از دست میدهند—پژوهشگر دو روش اکتشافی پیشنهاد میکند:
۱. مقاومت در برابر وسوسه جعبهسیاه: از عاملها به عنوان ابزارهای مبهم که صرفاً پرامپت میدهید و جواب میگیرید استفاده نکنید. این کار از دست دادن تدریجی کنترل و عاملیت را میکند.
۲. تسلط پیش از تقویت: زمان لازم را صرف کنید تا در یک تسک بهصورت دستی استاد شوید و سپس از AI برای افزایش بهرهوری استفاده کنید. این تضمین میکند که انسان مهارتهای لازم برای قضاوت درباره خروجی AI را حفظ کند.
در نهایت، AI باید به عنوان یک «جرثقیل برای ذهن» دیده شود. با سرمایهگذاری مجدد زمانی که توسط AI ذخیره شده در یادگیری مهارتهای مکمل—مثلاً صرف ۱۰ ساعت در هفته برای آزمایش جریانهای کاری جدید—انسانها میتوانند به حالت «ابرهوش مشترک» (Co-superintelligence) برسند.
اگر در حال حاضر تمام تلاش شناختی خود را به عاملها میسپارید و در پایان روز هیچ خستگی ذهنی حس نمیکنید، ممکن است در حال قربانی کردن رشد بلندمدت به بهای بهرهوری کوتاهمدت باشید. هدف، ایجاد تعادل بین بهرهوری، رشد و حفظ کنترل است—سه پایه یک چهارپایه—تا تضمین شود انسانها ابرهوشهای آینده باقی میمانند.
گفتگو