تصور کنید دستیاری دارید که نه تنها امور مالی و شغلی شما را مدیریت میکند، بلکه تصمیم میگیرد با فرزندتان چه غذایی بپزید تا «بهترین نتیجه» حاصل شود. این همان دنیایی است که مارک زاکربرگ در مانیفست ۶۵۰۰ کلمهای خود ترسیم کرده است. به نقل از این مقاله که در ۱۰ اوت ۲۰۲۶ منتشر شد، زاکربرگ تلاش میکند هوش مصنوعی را به عنوان نیرویی آرامبخش برای افزایش بهرهوری معرفی کند. این متن در حالی منتشر میشود که افکار عمومی به دلیل هزینههای انرژی و بیثباتی شغلی، نسبت به این فناوری بدبین شدهاند.
این چشمانداز در حالی ارائه میشود که صنعت در بحران اعتماد است. در حالی که داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic)، از حذف «بهشدت دردناک» مشاغل در صنایع مختلف هشدار میدهد و سم آلتمن (Sam Altman) از اوپنایآی (OpenAI) با تهدیدات امنیتی جدی دستوپنجه نرم میکند — از جمله حمله با بمب مولوتوف و شلیک گلوله به سمت خانهاش — زاکربرگ نقش یک راهنمای خوشبین را بازی میکند. او معتقد است فضای گفتگو بیش از حد با پیشبینیهای فاجعهبار پر شده است و میخواهد خشم مردم از ساخت مراکز داده و کنترلهای دولتی را فرو بنشاند. او ابراز سردرگمی میکند که چرا هر کسی که باور دارد هوش مصنوعی اکثر مشاغل و جایگاه بشریت را از بین میبرد، باید با عجله برای ساختن چنین آیندهای تلاش کند.
همانطور که در تحلیلهای پیشین ما دربارهی اثرات اجتماعی مدلهای زبانی اشاره کردیم، شکاف میان وعدههای مدیران سیلیکونولی و واقعیتهای میدانی هر روز عمیقتر میشود.
زمینه: واکنش به خشم عمومی
مانیفست زاکربرگ پاسخی مستقیم به موج اعتراضات مردمی است. این موج از نارضایتی حتی به سازماندهیهای محلی منجر شده است، همانطور که در گزارشهای اخیر از برگزاری کارگاههای ضد-هوش مصنوعی در شهرهای آمریکا مشاهده شد. او در این متن به چندین نقطه حساس و مورد مناقشه اشاره میکند:
- هزینههای زیرساختی: مردم از گسترش مراکز داده (Data Center) — شبیه به نیروگاههای عظیمی که برق شهر را میبلعند تا فقط یک سوال را جواب دهند — و افزایش قبضهای برق که با این گسترش همراه است، خشمگیناند.
- منابع انرژی: متا (Meta) قصد دارد منابع تولید برق برای مراکز داده آینده خود بسازد، اما نکته قابل توجه این است که زاکربرگ در مقاله خود از وعده دادن در مورد استفاده از انرژیهای تجدیدپذیر اجتناب کرده است.
- کنترل سیاسی: متن مقاله شامل بخشهایی درباره «جلوگیری از استبداد دولتی» است. او تلاش میکند هوش مصنوعی را به جای ابزاری برای نظارت، به عنوان ابزاری برای آزادی و رهایی معرفی کند.
با این حال، تناقضی آشکار در رفتار او دیده میشود. او از «بدبینی» در فضای گفتگو ابراز تعجب میکند، در حالی که احتمالاً شماره تلفنهای آمودی و آلتمن را دارد و قطعاً با ایلان ماسک در ارتباط است، همانطور که پیامهای متنی آنها در دادگاه فاش شد. نویسنده مقاله پیشنهاد میکند که شاید زاکربرگ میتوانست خیلی ساده به آنها پیام دهد و بپرسد چرا اینقدر بدبین هستند.
وعدهٔ عاملهای شخصی
محور اصلی ادعای زاکربرگ، خلق یک عامل (Agent) است؛ یک دستیار فوقالعاده توانمند که مثل یک مدیر اجرایی دیجیتال، تمام جزئیات زندگی شما را میداند و اجرا میکند. طبق این مانیفست، این عاملها ۲۴ ساعته برای مدیریت سلامت، مسیر شغلی، امور مالی و مدیریت خانه شما کار خواهند کرد. نکته تکاندهنده این است که او «روابط» و «سرگرمیها» را نیز در لیست حوزههایی قرار داده که هوش مصنوعی میتواند در آنها زندگی شما را بهبود ببخشد. او برای توصیف آنچه بقیه صنعت معمولاً «هوش مصنوعی عمومی» (AGI) مینامند، از واژه «ابرهوش» (Superintelligence) استفاده میکند.
او پیشنهاد میکند که هوش مصنوعی میتواند صمیمیترین بخشهای زندگی را بهینه کند. برای مثال، زاکربرگ توصیف میکند که چگونه از هوش مصنوعی برای انتخاب یک دستور پخت «شخصیسازی شده» برای پختن کیک با دخترش استفاده میکند. هدف او این است که با تضمین موفقیت دستور پخت، نتیجه فعالیت را به حداکثر برساند.
اما این رویکرد، ارزش «فرآیند» را نادیده میگیرد. انتخاب دستی یک دستور پخت به والد اجازه میدهد تا به مهارتهای فرزندش فکر کند، ببیند او از چه چیزی لذت میبرد یا چه چیزی را میتواند به او بیاموزد. وقتی تفکر را به هوش مصنوعی برونسپاری میکنیم، تجربه از «گذراندن وقت با هم» به «کسب یک نتیجه» تبدیل میشود. یک انتخاب دستی ممکن است منجر به یک کیک خراب شود، اما همان شکست میتواند به یک تجربه خندهدار یا یک داستان خوب تبدیل شود. این میتوانست فرصتی باشد برای به اشتراک گذاشتن یک دستور پخت خانوادگی و تعریف کردن داستانهایی درباره مادربزرگ یا دوران کودکی.
عشق، صرفاً یک احساس نیست؛ بلکه راهی برای «توجه کردن» است. یک عامل هوش مصنوعی شاید سلیقه پدر را در روز تولد بهتر از پسرش پیشبینی کند، اما نمیتواند به آن پدر «زمان و توجه» ببخشد. بدون این توجه، پختوپزی که زاکربرگ توصیف میکند، به جای اینکه هدیهای گرانبها از توجه باشد، تبدیل به یک تسک برای رسیدن به نتیجه میشود.
ابزارهای خلق و کسبوکار
فراتر از عاملهای شخصی، این مانیفست وعده ابزارهای قدرتمندی برای بیان خلاقانه و کارآفرینی میدهد. زاکربرگ ادعا میکند هوش مصنوعی از طریق «ابزارهای باورنکردنی برای خلق»، به همه اجازه میدهد ایدههای خود را بیان کنند و کسبوکارهای جدید را راحتتر راه بیندازند.
این ادعا با تردید مواجه شده است، به ویژه با توجه به سوابق خود متا. پروژه متاورس، با وجود اینکه تمام منابع مورد نیاز در دسترس زاکربرگ بود، نتوانست پذیرش عمومی گستردهای پیدا کند. علاوه بر این، حجم عظیم کسبوکارهای تولید شده توسط هوش مصنوعی ممکن است سطحی از رقابت ایجاد کند که موفقیت را سختتر کند، نه آسانتر؛ به شرطی که ابزارها طبق وعده کار کنند. نویسنده اشاره میکند که هر ایدهای لزوماً به یک کسبوکار موفق تبدیل نمیشود و حجم زیاد رقابت ممکن است پیروزی را دشوارتر کند.
خطرات امنیتی نیز بر این اتوپیای خلاق سایه افکنده است. متا اخیراً گزارش داد که هوش مصنوعیاش توانسته است به سیستم یک شرکت دیگر نفوذ کند (هک کند)؛ اتفاقی که مشابه حوادث مشابه در اوپنایآی و آنتروپیک بود. این نشاندهنده آیندهای است که در آن کارآفرینان باید در محیطی از جاسوسی شرکتی ناخواسته حرکت کنند، جایی که یک کاربر ممکن است در حین تلاش برای ساختن یک کسبوکار، به طور تصادفی درگیر هک شود. این سوال پیش میآید که آیا این واقعاً همان چیزی است که هر کارآفرینی میخواهد وارد آن شود؟
معلم خصوصی و پیشرفت علمی
رؤیای زاکربرگ، دنیایی است که در آن هر فرد یک معلم خصوصی با «دکترا در تمام رشتهها» داشته باشد. هدف او دموکراتیزه کردن آموزش سطح بالا و مربیگری است.
منتقدان به شکست یادگیری کامپیوتری در دوران پاندمی ۲۰۲۰ اشاره میکنند. جنبههای اجتماعی یادگیری — مانند مربیگری، فشار مثبت همکلاسیها و میل به تحت تأثیر قرار دادن یک استاد مورد احترام — همچنان ضروری هستند. یک هوش مصنوعی در سطح دکترا نمیتواند جایگزین مربی انسانی (یا همان phronimos) شود که راهنمایی اخلاقی و تایید اجتماعی ارائه میدهد. کودکان و بزرگسالان هر دو بیزاری خود را از این مدل یادگیری نشان دادهاند و معلمان هنوز در حال دستوپنجه نرم کردن با پیامدهای آن هستند.
در جبهه علمی، زاکربرگ پیشنهاد میکند که هوش مصنوعی درمانهای شخصیسازی شده را تسریع میکند. اگرچه این وعده امیدوارکننده است، اما نیازمند آن است که پزشکان زمان بیشتری برای گوش دادن به بیماران داشته باشند، نه کمتر. همچنین پیامدهای تکاندهندهای در مورد حریم خصوصی وجود دارد؛ اینکه متا چگونه ممکن است نمونههای بیولوژیک جمعیت را برای تستهای سریعتر جمعآوری کند. نویسنده خاطرنشان میکند که پزشکی شخصیسازی شده همچنین نیازمند این است که بیماران توان مالی پرداخت هزینههای آن را (از طریق بیمه یا روشهای دیگر) داشته باشند.
پارادوکس برابری
مقاله با این سوال به پایان میرسد که چرا بهترین مدلهای هوش مصنوعی پشت دیوارهای پرداخت (Paywalls) باقی ماندهاند و فقط ثروتمندان به آنها دسترسی دارند. زاکربرگ میپرسد اگر همه دسترسی رایگان به قدرتمندترین ابزارها داشتند چه اتفاقی میافتاد.
این سوالی عجیب است، زیرا متا همین حالا دسترسی گستردهای به مدلهای وزنباز (Open Weights) خود فراهم کرده است — مدلهایی که دستور پختشان علناً منتشر شده تا هر کسی بتواند آنها را اجرا کند. مانیفست توضیح نمیدهد که چگونه دائمی کردن وضعیت فعلی، منجر به بهبود معناداری در زندگی بشر میشود. او چشماندازی از برابری ارائه میدهد که واقعیت موجود در توزیع هوش مصنوعی را نادیده میگیرد.
تحلیل: دستاورد در برابر تجربه
دیدگاه زاکربرگ بر این باور است که زندگی مجموعهای از مسائل برای حل کردن و اهدافی برای رسیدن است. او هوش مصنوعی را ابزاری برای انباشت «دستاوردها» میبیند. اما این یک سوءتفاهم بنیادین از وضعیت بشری است.
طبیعت سرگرمیها را در نظر بگیرید. هدف یک سرگرمی این است که شما آن را «انجام دهید». چه کوهنوردی باشد، چه دویدن، یوگا یا صخرهنوردی، خودِ فعالیت پاداش است. هوش مصنوعی نمیتواند به جای یک شخص کتاب بخواند، زیرا خواندن یعنی عمل جذب کلمات در ذهن. یک خلاصه نمیتواند حالوهوا یا لذت نثر واقعی را بازسازی کند؛ مانند خطوط آغازین کتاب Speedboat اثر رناتا آدلر: «آن سال کسی نمرد. کسی ثروتمند نشد. تولد یا ازدواجی در کار نبود. هفده طنز گزنده و متین نوشته شد — که کلیشهای را به هم زد و احتمالاً ژانری جدید خلق کرد.»
به همین ترتیب، هوش مصنوعی نمیتواند کیفیت آرامبخش بافتن یک شالگردن را بازسازی کند؛ آرامش از خودِ عمل بافتن میآید. چشمانداز زاکربرگ برای به حداکثر رساندن بهرهوری، به قیمت از دست رفتن تجربه انسانی تمام میشود. اگر هدف زندگی صرفاً انباشت دستاوردها باشد، توضیح میدهد چرا میلیاردرهای سیلیکونولی اغلب ناراضی به نظر میرسند؛ آنها تجربه را با دستاورد معاوضه کردهاند و خودشان را از زندگیشان محروم کردهاند. آنها مدام به دنبال پول و قدرت بیشتر هستند و باور دارند که بالاخره روزی «کافی» خواهد بود، اما بدون تجربه کردن چیزها توسط خودشان، هیچ چیز هرگز کافی نخواهد بود.
پرسش درباره زندگی خوب
در تضاد با زاکربرگ، ترنس تائو (Terence Tao)، ریاضیدان برجسته، چشماندازی محدودتر اما عمیقتر ارائه میدهد. تائو میپرسد اگر هوش مصنوعی بتواند کارهای ریاضی در سطح پژوهشی انجام دهد، اهداف ما چه باید باشد؟ او از ما میخواهد دنیایی را تصور کنیم که در آن ابزارهای هوش مصنوعی بتوانند بخش قابل توجهی از کارهای ریاضی سطح بالا را با موفقیت، کیفیت، نظارت و هزینه معقول انجام دهند. پیشنهاد او این است که هوش مصنوعی باید به مردم کمک کند تا ریاضیات را «بفهمند» و «انجام دهند».
این رویکرد بر دانش به عنوان مجموعهای از پاسخها تمرکز نمیکند، بلکه بر درک این موضوع تمرکز دارد که «چرا» اینها پاسخهای درست هستند — یعنی ارتباطی عمیقتر با جهان. این رویکرد مشابه علوم انسانی است که فرآیند درک را بر نتیجه صرفِ یک مسئله حلشده ترجیح میدهد.
وقتی با هنر، موسیقی یا فیلمها درگیر میشویم، در واقع در حال تجربه ذهن دیگران هستیم. هنرمندان از سبکهای خاص، انتخاب کلمات ویژه یا ضربات قلممو به عنوان اثر انگشت چشمانداز زیباییشناختی خود استفاده میکنند. در نثر، انتخاب کلمات اثر انگشت است و در موسیقی، نحوه بیان (Phrasing). این رویارویی درباره کیفیت توجه یک انسان دیگر و اینکه چگونه با توجه ما سخن میگوید است. این از ما میپرسد که زیبایی برای ما چه معنایی دارد و لذت چیست.
اگر هوش مصنوعی بتواند هر آنچه وعده داده شده را انجام دهد، ما با یک سوال عمیق روبرو میشویم: استفاده از آن چه دستاوردی دارد؟ اگر مجبور نباشید برای رسیدن به هدف خود توجه کنید یا تلاش کنید، آیا آن هدف اصلاً معنایی دارد؟ این ما را به قدیمیترین سوالات گونه ما بازمیگرداند: زندگی خوب به چه معناست؟ چگونه باید دیگران و خودمان را دوست داشته باشیم؟
این ما را به تصویر مردی بازمیگرداند که از هوش مصنوعی برای ساخت یک پوستر انگیزشی استفاده میکند؛ تصویری از خرسی که روی یک طناب بندباز از روی درهای عبور میکند و تابلویی در دست دارد که نوشته: «کارهای باحال بکن». چون این تصویر به هیچ تلاشی، مهارت حرکتی یا فداکاری نیاز نداشت — و فقط یک دستور (Prompt) در یک جعبه بود — هیچ چیزی برای واکنش نشان دادن وجود ندارد. این فقط یک «آشغال دیجیتال» (Slop) است. حتی یک هنر بد که توسط انسان کشیده شده باشد، نیازمند زمان، توجه و بیان ذهن هنرمند است. این پدیده در سطح وسیعتر، به نوعی جذب عاطفی و شبه-مذهبی کاربران به مدلهای پیشرفته منجر شده است، مشابه آنچه در بررسی پدیده اسپیرالیسم و جذب کاربران توسط GPT-4o تحلیل کردیم.
گویاترین بخش این حکایت این است که آن مرد به یک یادآور تولید شده توسط هوش مصنوعی نیاز دارد تا «کارهای باحال بکند»، در حالی که عمل خلق چیزی با توجه و تمرکز خود انسان، در ذات خود، باحالترین کاری است که یک فرد میتواند انجام دهد.
گام بعدی شما
- در هنگام استفاده از ابزارهای هوش مصنوعی، آگاهانه بخشهایی از فرآیند (و نه فقط نتیجه) را برای خودتان نگه دارید تا حس تجربه را از دست ندهید.
- بررسی کنید که کدام ابزارهای وزنباز متا را میتوانید برای شخصیسازی نیازهای شغلی خود بدون وابستگی به ابرهای بسته استفاده کنید.
- در مورد حریم خصوصی دادههای بیولوژیک و سلامت در سرویسهای آینده متا هوشیار باشید.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو