مانیفست ۶۵۰۰ کلمه‌ای زاکربرگ؛ تلاش برای بازتعریف متا در عصر مدل‌های بسته

تصور کنید مدیر یکی از بزرگ‌ترین شرکت‌های جهان، ۶۵۰۰ کلمه وقت بگذارد تا به شما بگوید چرا باید به او اعتماد کنید تا دنیای دیجیتال را بازتر کند. مارک زاکربرگ در مقاله فلسفی خود با عنوان «آینده برای همه است»، سعی دارد متا را به عنوان قهرمان خیرخواه هوش مصنوعی معرفی کند، اما این متن درست زمانی منتشر شده که شرکت او تحت فشار شدید است تا ثابت کند آزمایشگاه‌های ابرهوشش مصنوعی‌اش واقعاً توان رقابت با پیشروان صنعت را دارند.

این اقدام، الگوی رایجی میان مدیران فناوری است؛ همان‌طور که سام آلتمن و داریو آمودئی پیش‌تر مانیفست‌هایی برای توجیه مسیر شرکتی خود نوشتند. در پوشش پیشین ما درباره‌ی دیدگاه‌های زاکربرگ، دیدیم که چشم‌انداز او اغلب ارزش‌های ظریف تجربه انسانی را نادیده می‌گیرد و حالا این نوشتار جدید تلاش می‌کند بحث را به سمت خطرات تمرکز قدرت در هوش مصنوعی منحرف کند.

مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیارد‌ها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — اکنون در مرکز این نبرد قدرت قرار دارد. زاکربرگ استدلال می‌کند که تمرکز قدرت هوش مصنوعی در دست چند نهاد خصوصی خطرناک است و دسترسی گسترده و باز به مدل‌ها، تنها راه توزیع ایمن این قدرت است.

به نقل از این متن، زاکربرگ بدون نام بردن مستقیم، ضرباتی را به OpenAI و Anthropic وارد می‌کند. او استدلال می‌کند که امید به اینکه یک «قدرت مطلق» به‌طور خیرخواهانه نیازهای بشریت را تأمین کند، در طول تاریخ شکست خورده است. او به‌طور مشخص می‌نویسد: «تاریخ نشان داده است که امید به اینکه یک قدرت مطلق، اگر به اندازه کافی روشن‌فکر باشد، خیرخواهانه برای بشریت فراهم کند، به نتایج ایمن یا مثبتی منجر نشده است.»

با این حال، منتقدان این حرکت را یک «عقب‌نشینی استراتژیک» می‌بینند. متا میلیاردها دلار برای استخدام گسترده متخصصان در یک آزمایشگاه ابرهوشش مصنوعی هزینه کرده است، اما این آزمایشگاه هنوز مدلی ارائه نداده که به‌طور واضح از رقبای مدل‌های بسته پیشی بگیرد. جالب اینجاست که این تغییر روایت، درست پس از اخراج تعداد زیادی از کارکنان از همان تیم‌هایی رخ می‌دهد که وظیفه پیشبرد این پروژه هوش مصنوعی را بر عهده داشتند.

استراتژی متا در این حوزه متناقض و بی‌ثبات توصیف شده است. آن‌ها ابتدا روی مدل‌های وزن‌های باز (Open Weights) — یعنی مدل‌هایی که «دستور پخت» آن‌ها علناً منتشر شده و نه فقط غذای آماده — سرمایه‌گذاری کردند تا حاشیه سود رقبای مدل‌های بسته را کاهش دهند و آن‌ها را به چالش بکشند. این رویکرد در حالی دنبال می‌شود که برخی نهادهای نظارتی همچنان با مدل‌های باز در تقابل هستند؛ چنان‌که طرح‌های امنیتی محرمانه کاخ سفید در حوزه AI پیش‌تر مدل‌های وزن‌باز را نادیده گرفته بود.

وقتی این روش منجر به برتری مطلق نشد، متا استراتژی خود را تغییر داد و به سمت ساخت یک قدرت اختصاصی و بسته در حوزه ابرهوشش مصنوعی رفت. حالا زاکربرگ دوباره به روایت «باز بودن بهتر است» بازگشته است؛ درست هم‌زمان با معرفی Muse Glimmer، سامانه جدیدی با وزن‌های باز که به کاربران اجازه می‌دهد مدل را دانلود کرده و هر طور که می‌خواهند آن را تغییر دهند.

زاکربرگ در گفتگو با الکس هیث، خبرنگار مشهور، تأکید کرد که زمان‌بندی این مانیفست عمدی است. او معتقد است متا در آستانه انتشار «مدل‌های بسیار هوشمند» است و می‌خواهد پیش از آن، فلسفه خود را به جهان بشناساند تا پذیرفته شود. اما تحلیلگران می‌گویند این یک حرکت حساب‌شده است تا متا را به عنوان جایگزینی «بهتر» در برابر رقبایی معرفی کند که در حال حاضر محبوبیت کمتری نزد عموم مردم دارند.

یک شکاف عمیق و تکان‌دهنده میان لحن خوش‌بینانه زاکربرگ و واقعیت‌های فعلی ایمنی هوش مصنوعی (AI Safety) وجود دارد. او در مانیفست خود از مثال‌های خانگی و صمیمی استفاده می‌کند؛ مثلاً توصیف یک عامل (Agent) — شبیه دستیاری که می‌تواند به‌جای شما کارهای واقعی را انجام دهد — که دستور پخت‌های شخصی‌سازی‌شده برای او و دخترش می‌سازد تا با هم شیرینی بپزند.

این تصویرسازی، «تابستان عامل‌های سرکش» را به‌طور کامل نادیده می‌گیرد؛ دورانی که رفتارهای غیرقابل‌پیش‌بینی در سامانه‌های هوش مصنوعی به موضوعی تکراری تبدیل شد، حتی در داخل سامانه‌های خود متا. همچنین، این متن به مشکلات حقوقی متا اشاره‌ای نمی‌کند؛ همین هفته گذشته، دادگاهی شرکت را به پرداخت ۵۶۷ میلیون دلار به دلیل شکست در محافظت از سلامت روان کودکان در فضای آنلاین محکوم کرد.

بسیاری این مانیفست را یک «متن تبلیغاتی» می‌بینند که از مردم می‌خواهد به متا برای بهبود زندگی‌شان اعتماد کنند؛ ادعایی که با تاریخچه این شرکت در زمینه مدیریت داده‌ها و حریم خصوصی در تضاد است. نکته عجیب اینجاست که وقتی این مقاله در ابزار تشخیص هوش مصنوعی Pangram بررسی شد، به عنوان متنی «توسط انسان نوشته شده» شناسایی شد.

فراتر از مانیفست‌ها، روند اتوماسیون در بازار کار به شکلی دیس‌توپیک در حال پیشروی است. طبق گزارش‌های اخیر، تعداد زیادی از مصاحبه‌های دور اول اکنون به‌طور کامل توسط ربات‌های هوش مصنوعی در پلتفرم‌هایی مثل Ribbon و Greenhouse انجام می‌شود.

• مصاحبه‌های ساعت ۱ صبح: داده‌ها نشان می‌دهد ۱۵ تا ۲۵ درصد متقاضیان، این مصاحبه‌ها را بین ساعت ۱۰ شب تا ۲ صبح زمان‌بندی می‌کنند.
• راحتی ناهمگام: جویندگان کار با مصاحبه‌ها مثل کارهای اداری ساده و ناهمگام برخورد می‌کنند تا با برنامه‌های خانوادگی، کاری یا حتی نوبت دندان‌پزشک تداخل نداشته باشد. برخی متقاضیان صرفاً منتظر می‌مانند تا بچه‌ها بخابند و سپس با عاملی صحبت کنند که سرنوشت شغلی و معیشت آن‌ها را تعیین می‌کند.
• معیارهای نمره‌دهی: متقاضیان بر اساس معیارهای سخت‌گیرانه هوش مصنوعی روی «نمره اشتیاق» و نحوه حضور در مقابل دوربین ارزیابی می‌شوند. آن‌ها بر اساس یک دستورالعمل خاص که توسط شرکت استخدام‌کننده تعیین شده، قضاوت می‌شوند.
• شکاف انسانی: احتمال اینکه انسانی فیلم مصاحبه را ببیند در حال کاهش است؛ وضعیتی که در آن ربات‌ها، ربات‌ها را مصاحبه می‌کنند. برخی سامانه‌ها حتی به متقاضیان اجازه می‌دهند چندین بار پاسخ خود را ضبط کنند تا زمانی که از نتیجه راضی شوند و سپس آن را ارسال کنند.

این وضعیت با اقتصاد دشوار تشدید شده است. گزارش‌های شغلی اخیر نشان می‌دهد اقتصاد آمریکا در ماه جولای حدود ۲۳ هزار شغل از دست داده و متقاضیان چاره‌ای جز پذیرش این فرآیندهای خودکار و غیرانسانی ندارند.

در همین حال، یافته‌های کنفرانس‌های Black Hat و Defcon در لاس‌وگاس، خطرات فیزیکی عصر هوش مصنوعی و اینترنت اشیا (IoT) را برجسته می‌کند. این رویدادها هزاران متخصص امنیتی، آژانس‌های دولتی و هکرهای «کلاه سفید» یا «کلاه خاکستری» را گرد هم می‌آورد تا آسیب‌پذیری‌ها را پیدا کرده و رفع کنند.

پژوهشگران وانگلیس استیکاس و فلیپه سولفرینی نشان دادند که ساعت‌های هوشمند ارزان‌قیمت کودکان که دارای GPS هستند، به‌راحتی قابل هک و تصاحب هستند. آن‌ها دریافتند ده‌ها برند مختلف — مانند SafeKid در سوئد یا SaveFamily در اسپانیا — همگی بر پایه سه پلتفرم چینی مشترک هستند که در ابر علی‌بابا در خاک چین میزبانی می‌شوند. این نقص اجازه می‌دهد هکرها تمام حرکات کاربر را ردیابی کنند، به مکالمات گوش دهند و مخفیانه عکس بگیرند.

علاوه بر گجت‌ها، تحقیقات ارائه شده در Black Hat تهدیدات ژئوپلیتیکی عمیق‌تری را فاش کرد. استیکاس با به اشتراک گذاشتن سال‌ها کار روی نفوذ به زیرساخت‌های هکرهای کره شمالی، شواهدی یافت که این گروه‌ها با «هک کردن هکرها»، به صدها شبکه نفوذ کرده‌اند تا عمدتاً ارزهای دیجیتال را به سرقت ببرند.

اما رویکرد «تور گسترده» آن‌ها منجر به سرقت داده‌های بسیار حساسی شد. در یک مورد، آن‌ها به یک بیمارستان نفوذ کرده و به داده‌های کووید تقریباً تمام آمریکایی‌ها دست یافتند. در موردی دیگر، آن‌ها به شرکتی نفوذ کردند که حاوی سوابق کیفری تمام شهروندان آمریکایی بود که سابقه جرم داشتند.

هشدارها به صنعت هوانوردی هم رسیده است. پژوهشگران دانشگاه UC San Diego و کالج Oberlin پس از بیش از ۱۰ سال تحقیق و صرف ده‌ها هزار دلار برای خرید قطعات هواپیما، کشف کردند که یک دستگاه به اندازه یک سکه می‌تواند یک هواپیمای Boeing 737 را هک کند، به شرطی که مهاجم تنها ۶۰ ثانیه دسترسی فیزیکی به بدنه خارجی هواپیما داشته باشد.

• مکانیسم: این دستگاه از طریق یک دریچه خارجی به یک پورت خاص متصل می‌شود.
• تأثیر: این ابزار می‌تواند برنامه‌های پرواز را بازنویسی کند، ناوبری اتوپایلوت را تغییر دهد و با دستکاری داده‌های مربوط به وزن هواپیما و دمای هوای بیرون، محاسبات سرعت برخاست را مختل کند.

با وجود این‌ها، یک پارادوکس در هک‌های هوش مصنوعی وجود دارد. در حالی که AI سرعت کشف آسیب‌پذیری‌های «روز صفر» (Zero-day) را بالا برده، هنوز نقاط کور بزرگی دارد. هکرهای خبره در Black Hat اشاره کردند که هوش مصنوعی اغلب بدون کمک انسان به بن‌بست می‌رسد، زیرا بر اساس کارهای قبلی آموزش دیده است و نمی‌تواند کاملاً نوآوری کند.

نوآوری واقعی در هک هنوز به رویکرد ترکیبی انسان-ماشین نیاز دارد. هوش مصنوعی می‌تواند باگ را پیدا کند، اما انسان باید پیچیده‌ترین روش‌های بهره‌برداری (Exploit) را طراحی و معماری کند؛ درست مثل تکامل هوش مصنوعی در شطرنج یا بازی Go، جایی که قدرتمندترین ترکیب، همکاری انسان و AI است.

در نهایت، نظارت شرکت‌ها بر داده‌ها به ابعادی ترسناک رسیده است. تحقیقی توسط ریس راجرز فاش کرد که مک‌دونالد یک پرونده ۵۱۵ صفحه‌ای از او با استفاده از داده‌های اپلیکیشن ساخته است. این فایل شامل تحلیل‌های پیش‌بینانه بود؛ مثلاً تخمین زده شده که او در ۶ هفته آینده ۲.۱۶ بار از شعبه بازدید کند و «نمره احتمال ترک مشتری» او صفر است، به این معنی که او مشتری همیشگی است.

سایر داده‌های خاص در این پرونده شامل موارد زیر بود:

• تخمین میانگین هزینه سفارش او ۱۳.۴۹ دلار در ۶ هفته آینده.
• لیستی رتبه‌بندی شده از ۱۰ محصول مرتبط‌ترین برای او، که در صدر آن یک دایت کوک بزرگ، یک Spicy Snack Wrap و یک سیب‌زمینی سرخ‌کرده Grinch McShaker بزرگ قرار داشت.

در همین حال، دنیای فیزیکی با بحران‌های خود روبروست. در قطب جنوب، راهنمایان تور به دلیل خسارات ناشی از گردشگری شغل خود را ترک می‌کنند. ساخت باند فرودگاه برای گردشگرانی که با هواپیما به قاره می‌آیند و می‌روند، باعث اختلال در مهاجرت پنگوئین‌ها شده است. تغییر از عبور سنتی از تنگه دریک به گردشگری پروازی، اثرات محیطی را تسریع کرده است.

این‌ها نشان می‌دهد که در حالی که مانیفست زاکربرگ تصویری از یک یوتوپیای بی‌نقص و یکپارچه با هوش مصنوعی می‌کشد، واقعیت، نبردی آشفته میان اتوماسیون سریع، شکاف‌های امنیتی بنیادی و نابودی حریم خصوصی دیجیتال و فیزیکی است.

گام بعدی شما

• اگر از مدل‌های متا استفاده می‌کنید، قابلیت‌های شخصی‌سازی Muse Glimmer را برای درک تفاوت مدل‌های باز و بسته بررسی کنید.
• در مصاحبه‌های شغلی جدید، از ابزارهای تحلیل متن برای بهینه‌سازی پاسخ‌هایتان مطابق با معیارهای ربات‌های مصاحبه‌گر استفاده کنید.
• امنیت گجت‌های پوشیدنی ارزان‌قیمت را بازبینی کرده و دسترسی‌های غیرضروری را ببندید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.