مورخ هاروارد: تفسیر غلط علمی-تخیلی، قدرت را به الگوریتم‌های غیرشفاف سپرد

تصور کنید قانونی که زندگی شما را تغییر می‌دهد، نه در مجلس توسط نمایندگان بحث شود، بلکه در یک دفتر خصوصی توسط مهندسی نوشته شود که هرگز برای هیچ مقامی نامزد نشده است. این همان واقعیت تلخی است که جیل لپور (Jill Lepore)، مورخ دانشگاه هاروارد، آن را به عنوان پیامد وسواس سیلیکون‌ولی به داستان‌های علمی-تخیلی توصیف می‌کند.

به نقل از مصاحبه‌ای که در ۲۱ اوت ۲۰۲۶ منتشر شد، این استاد دانشگاه استدلال می‌کند که بنیان‌گذاران فناوری از داستان‌های تخیلی به جای هشدار درباره قدرت لجام‌گسیخته، به عنوان یک «برگه تقلب» برای سیاست‌گذاری استفاده می‌کنند. این روند در حالی رخ می‌دهد که هوش مصنوعی از ابزارهای آزمایشی به زیرساخت‌های اصلی شهروندی تبدیل شده است. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت مدل‌های بازمتن اشاره کردیم، وقتی مهندسان دیستوپیاها را به جای هشدار، به عنوان هدف می‌بینند، قراردادهای اجتماعی که ثبات جامعه را تضمین می‌کند نادیده می‌گیرند.

طبق گزارش پادکست Equity، لپور الگویی از «خوانش گزینشی» را در میان رهبران صنعت شناسایی کرده است. او به‌طور مشخص به ایلان ماسک اشاره می‌کند و می‌گوید ارجاعات او به فیلم‌هایی مثل The Terminator یا I, Robot بیشتر شبیه برگه های بازاریابی است تا پرسش‌های اخلاقی. در حالی که سرمایه‌گذاران خطرپذیر مفهوم «تکینگی» (Singularity) — که توسط ری کورزویل و رمان Neuromancer ترویج شد — را جشن می‌گیرند، هشدارهای نویسندگانی چون اورسولا ک. ل گوئین و فیلیپ کی. دیک درباره حریم خصوصی و سوگیری را نادیده می‌گیرند.

لپور سه حوزه مشخص را نام می‌برد که در آن‌ها این خوش‌بینی علمی-تخیلی به هنجارهای دموکراتیک آسیب زده است:

• پلیس پیش‌بین: الگوریتم‌هایی که با داده‌های جنایی قدیمی کار می‌کنند، سوگیری‌های سیستماتیک را بازتولید کرده و استراتژی‌های جامعه‌محور را با پیش‌بینی‌های غلط جایگزین می‌کنند.
• نظارت بر محتوا (Content Moderation) — شبیه نگهبانی که تصمیم می‌گیرد چه کسی اجازه ورود به میدان شهر را دارد — در شرکت‌هایی مثل X و Meta با معیارهای غیرشفاف اجرا می‌شود. این رویکرد در تضاد با تلاش‌های ظاهری مدیران برای شفافیت است، مشابه آنچه در مانیفست زاکربرگ برای بازتعریف متا در عصر مدل‌های بسته مشاهده شد که تلاش می‌کرد تصویری متفاوت از فلسفه این شرکت ارائه دهد.
• تشخیص چهره: ابزارهای نظارت جمعی بدون حفاظ‌های قانونی لازم برای حفاظت از حقوق قانون اساسی مستقر شده‌اند.

این گذار به سمت «حکومت ماشین‌ها»، ویژگی‌های ضروری دموکراسی یعنی پاسخگویی و رایزنی را حذف می‌کند. چون کدهای جعبه‌سیاه را نمی‌توان در دادگاه بازجویی کرد یا با رای مردم تغییر داد، اهرم‌های قدرت به دست مهندسانی می‌افتد که هرگز در انتخابات شرکت نکرده‌اند.

لپور برای حل این بحران پیشنهاد می‌کند که هوش مصنوعی باید به عنوان یک «خدمات عمومی» (Public Utility) تعریف شود. او خواستار ارزیابی‌های اجباری اثرات و ایجاد شوراهای نظارتی مستقل است تا شهروندان بتوانند تصمیمات خودکار را به چالش بکشند. او معتقد است تغییر «رژیم غذایی ادبی» مدیران به سمت عدالت اجتماعی و نظارت جمعی، به ساخت فناوری‌ای کمک می‌کند که واقعاً در خدمت مردم باشد.

گام بعدی شما

• دنبال کردن بحث‌های قانون‌گذاری درباره «شوراهای نظارت بر AI» باشید.

• چارچوب‌های قانونی مربوط به تعریف AI به عنوان خدمات عمومی را بررسی کنید.

• آثار فیلیپ کی. دیک را بخوانید تا تفاوت میان «پیش‌بینی» و «هشدار» در فناوری را درک کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی تراشه‌های Blackwell مراجعه کنید.