بحران رضایت در هوش مصنوعی: تحمیل ابزارها به جای کسب اجازه

اگر یک متخصص خلاق یا کاربری حساس به حریم خصوصی هستید، مسیر فعلی هوش مصنوعی را نه یک پیشرفت، بلکه یک تهاجم می‌بینید. هسته این تضاد، خودِ تکنولوژی نیست، بلکه حذف سیستماتیک «رضایت کاربر» توسط شرکت‌های سازنده است.

این تنش تا ۱۸ ژوئن ۲۰۲۶ به نقطه شکست رسید. صنعت از دوران آزمایش‌های سرگرم‌کننده عبور کرده است؛ دوران‌هایی که مثلاً فیلم‌نامه «فیلم زنبور» (Bee Movie) را به یک بات می‌دادند تا دنباله‌ای برای آن بنویسد. اکنون صنعت به نوعی «سایکوز شرکتی» رسیده است؛ جایی که هوش مصنوعی زاینده باید به هر تعامل دیجیتالی تحمیل شود، فارغ از اینکه کاربر واقعاً به آن نیاز دارد یا خیر و فارغ از اینکه این ابزار چه کاربردی برای او دارد.

مدل زبانی بزرگ (LLM) — مثل کتابخانه‌داری که میلیاردها صفحه را خوانده و حالا با همان لحن کتاب‌ها جواب می‌دهد — اکنون به ابزاری برای بقای شرکت‌ها تبدیل شده است. همان‌طور که در تحلیل‌های پیشین ما درباره امنیت مدل‌های بازمتن دیدیم، رقابت برای تسلط بر بازار، اخلاقیات را به حاشیه راند.

به نقل از گزارش xodium.net، این روند باعث شد هر داده‌ای که در فضای عمومی بود، برای آموزش مدل‌ها «مجاز» تلقی شود. نویسنده اشاره می‌کند که در ابتدا کاربران داوطلبانه داده می‌دادند، اما صنعت برای تحقق پیش‌گویی «بزرگ‌ترین موج تکنولوژی»، تمام مرزها را شکست تا مطمئن شود که LLMها به هر قیمتی به «اتفاق بزرگ بعدی» تبدیل می‌شوند.

این تخریب رضایت در سه محور پیش می‌رود:

• سرقت کپی‌رایت: شرکت‌ها عکس‌ها و آثار هنری را بدون اجازه برای استفاده تجاری جمع‌آوری کردند. این اقدام بعدها به عنوان راهی برای جایگزین کردن همان متخصصان خلاقی تبلیغ شد که آثارشان دزدی شده بود.
• یکپارچگی اجباری: بات‌های هوش مصنوعی به برنامه‌ها و خدماتی وصل شدند که هیچ ارزش افزوده‌ای ایجاد نمی‌کردند. در بسیاری از موارد، هیچ گزینه «خروج» (Opt-out) برای کاربر وجود نداشت، حتی اگر آن سرویس خاص اصلاً با AI بهبود نمی‌یافت.
• پنهان‌کاری در سیاست‌ها: به‌روزرسانی‌های حریم خصوصی برای ثبت داده‌های آموزشی استفاده شدند و حذف حساب کاربری تنها راه باقی‌مانده بود. حتی در این حالت، برخی شرکت‌ها داده‌ها را نگه می‌دارند، به این معنی که حذف حساب لزوماً راهی قطعی برای توقف آموزش مدل‌ها نیست.

پشت این استقرار تهاجمی، فشار «سرمایه‌گذاران» یا همان «اهل پول» قرار دارد. طبق گزارش‌ها، سرمایه‌گذارانی که درک فنی عمیقی از تکنولوژی نداشتند و فقط آن را به عنوان یک «ترند» می‌دیدند، اعلام کردند که «تماماً» روی AI شرط‌بندی کرده‌اند. آن‌ها باور کردند که AI قول‌های دروغین «پول‌های کلان» را محقق می‌کند.

این وضعیت یک «ترس از دست دادن» (FOMO) شرکتی ایجاد کرد. هر شرکتی که با تمام توان روی هوش مصنوعی سرمایه‌گذاری نمی‌کرد، با تهدید کاهش بودجه و دریافت «پول‌های شیرین سرمایه‌گذاران» مواجه می‌شد. این شرکت‌ها «عقب‌مانده» نامیده می‌شدند و محکوم به شکست بودند. این محیط دقیقاً شبیه تکبر دوران کریپتو بود؛ جایی که «احمق‌های کریپتو» به هر کسی که در مورد این هایپ سؤال می‌کرد، برچسب «ngmi» (یعنی: تو موفق نخواهی شد) می‌زدند.

این فشار باعث شد شرکت‌ها شکایت‌های کاربران را نادیده بگیرند. وقتی کاربران به تحمیل AI اعتراض کردند، مفهوم رضایت کاملاً کنار گذاشته شد. پاسخ‌ها شبیه به الگوهای «سوءرفتارهای خانگی» وe coercion (اجبار) بود:

• «فقط امتحان کن، خوشت می‌آید.»
• «این آینده است، باید عادت کنی.»
• «دیگر غول از چراغ خارج شده و نمی‌توانیم آن را برگردانیم، یا با آن پیش برو یا عقب بمانی.»

نویسنده ادعا می‌کند این زبان خاص و بی‌توجهی به رضایت در ۹۰٪ موارد ورود AI به محیط‌های کاری دیده می‌شود.

حمله به بخش خلاقیت نیز مستقیم است. مبلغان AI شروع به حمله به بخش خلاق کردند و با افتخار می‌گفتند که هوش مصنوعی زاینده می‌تواند گرافیک‌ها را بدون نیاز به یک «انسان مزاحم» تولید کند.

این «ماشین‌های سرقت ادبی» آثار هنرمندان را بدون رضایت می‌بلعند تا خود آن‌ها را بیکار کنند. برای توجیه این کار، شرکت‌ها ادعا می‌کنند که این روند هنر را «در دسترس‌تر» می‌کند. این دقیقاً همان «رقص و آواز» (تکرار ادعاهای توخالی) است که طرفداران NFTها به کار می‌بردند؛ آن‌ها هم ادعا می‌کردند که به هنرمندان کمک می‌کنند تا بهای واقعی آثارشان را دریافت کنند.

حتی در موارد شدید، کسانی که از دست دادن معیشت هنری شکایت کردند، با «کارت معلولیت» (Ableist card) مورد حمله قرار گرفتند. مبلغان AI ادعا کردند که احساسات ضد-هوش مصنوعی در واقع نوعی «تبیض علیه معلولان» است.

تأثیر این جریان حتی به سخت‌افزار رسیده است. تقاضای عظیم برای آموزش مدل‌ها، ظرفیت تولید قطعات حیاتی را بلعیده است:

• حافظه‌های فلش (Flash storage)
• رم (RAM)
• هارد دیسک‌ها

با خرید انبوه این قطعات توسط منافع AI، ساخت کامپیوتر شخصی و دستگاه‌های مستقل برای افراد گران و دشوار شده است. این یعنی کاربر به طور مؤثر مجبور است تمام داده‌هایش را به «ابر» (Cloud) بسپارد، چون تنها گزینه ارزان و در دسترس باقی‌مانده است.

این وضعیت یک شکست استراتژیک در تجربه کاربری و اخلاق است. شرکت‌های AI با treating (برخورد با) رضایت کاربر به عنوان یک مفهوم بیگانه، اولین برخورد خود با بخش بزرگی از جمعیت جهان را خراب کرده‌اند.

برای کاربر عادی، این ابزارها دیگر «دستیار مفید» نیستند، بلکه ابزارهایی برای «طمع شرکتی» به نظر می‌رسند. اثر ثانویه این اتفاق، ظهور جنبشی از «متنفران AI» است. این افراد با ریاضیاتِ پشت تکنولوژی مخالف نیستند، بلکه با سرقت و اجباری که برای مقیاس‌پذیری آن استفاده شده مخالف‌اند. نویسنده استدلال می‌کند که وقتی «تک‌بروها» (Techbros) به سراغ طعمه بعدی خود بروند، دیگر مهم نیست که این تکنولوژی چه مزایای کاربردی داشته باشد، زیرا بنیاد آن بر پایه فقدان کامل احترام به کاربر بنا شده است.

برای بازیابی این وضعیت، صنعت نیاز به یک بازنشانی (Reset) کامل دارد. نویسنده پیشنهاد می‌کند که AI باید از صفر شروع شود. این امر مستلزم آن است که «رضایت» به عنوان یک نیاز معماری هسته‌ای در نظر گرفته شود، نه یک نکته جانبی که بعداً به آن پرداخته شود.

احترام به «نه» گفتن کاربر، تنها راه عبور از دوران فعلی خصومت است. شرکت‌ها باید دست از این برداشت که هر «نه» در واقع یک «بله» پنهان است بردارند و ادبیات «یا با ما بیایید یا عقب بمانید» را متوقف کنند.

باید به دنبال چارچوب‌های نوظهور AI با مدل «فقط با رضایت» (Opt-in only) یا دستورات قانونی بود که شرکت‌ها را مجبور کند به خلق‌کنندگان برای داده‌های آموزشی غرامت پرداخت کنند و مرزهای کسانی را که نمی‌خواهند به اکوسیستم AI متصل شوند، محترم بشمارند.

گام بعدی شما

• به دنبال ابزارهای AI بگردید که مدل «فقط با رضایت» (Opt-in only) دارند.
• در تنظیمات حریم خصوصی سرویس‌های فعلی، گزینه «عدم استفاده از داده‌ها برای آموزش» را فعال کنید.
• چارچوب‌های قانونی جدید برای جبران خسارت هنرمندان را دنبال کنید.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره تراشه‌های Blackwell مراجعه کنید.