پرش به محتوای اصلی
پرش به محتوای مقاله

مرکز تحقیقات پیو: ممنوعیت داده‌های مصنوعی برای حفظ اصالت نظرسنجی‌ها

·۶ مهر ۱۴۰۵۳ دقیقه مطالعه
چگونه مرکز پژوهش پِیو از هوش مصنوعی در کارهایش استفاده می‌کند – و چگونه نمی‌کند
چگونه مرکز پژوهش پِیو از هوش مصنوعی در کارهایش استفاده می‌کند – و چگونه نمی‌کند
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

تدوین اولین منشور اخلاقی صریح توسط یک نهاد پژوهشی تراز اول برای ممنوعیت کامل داده‌های مصنوعی در تحلیل افکار عمومی و تصاویر خبری.

تصور کنید در دنیایی زندگی می‌کنیم که نظرسنجی‌های ملی به‌جای پرسش از مردم، از مدل‌های شبیه‌ساز می‌پرسند که مردم چه فکر می‌کنند. مرکز تحقیقات پیو (Pew Research Center) برای جلوگیری از این سناریو، خط قرمزی را رسم کرده است تا هستهٔ علوم اجتماعی را از تداخل ماشین‌ها حفظ کند.

طبق اعلام این سازمان در به‌روزرسانی سیاست‌های ۲۸ سپتامبر ۲۰۲۶، این مرکز تأیید کرد که همواره انسان‌های واقعی — و نه ماشین‌ها — موضوعات پژوهشی را تعیین کرده و به نظرسنجی‌ها پاسخ می‌دهند. این تصمیم در حالی اتخاذ شده که صنعت پژوهش برای کاهش هزینه‌ها، وسوسهٔ استفاده از داده‌های مصنوعی (Synthetic Data) — شبیه به استفاده از بازیگران بدل به‌جای افراد واقعی برای شبیه‌سازی یک جمعیت — را تجربه می‌کند.

پژوهشگر پو در حال آزمایش هوش مصنوعی برای تحلیل داده، نه برای تولید محتوای نهایی.

در حالی که بسیاری از شرکت‌ها در حال آزمایش شخصیت‌های ساخته‌شده توسط هوش مصنوعی برای تخمین احساسات عمومی هستند، پیو خود را به‌عنوان دژی برای حقیقتِ تأییدشده توسط انسان معرفی می‌کند. همان‌طور که در تحلیل‌های قبلی ما درباره‌ی امنیت داده‌های متنی اشاره کردیم، تفکیک میان منشأ انسانی و ماشینی در حال تبدیل شدن به یک چالش حیاتی است. در واقع، پیو از هوش مصنوعی تنها به‌عنوان ابزاری برای زیرساخت‌ها استفاده می‌کند، نه به‌عنوان منبعی برای تحلیل و بینش.

بر اساس مستندات منتشرشده توسط پیو، ممنوعیت‌های سخت‌گیرانهٔ این مرکز شامل موارد زیر است:

  • عدم استفاده از نظرات مصنوعی: هوش مصنوعی هرگز برای مدل‌سازی افکار عمومی استفاده نمی‌شود و نتایج صرفاً بر اساس دیدگاه‌های واقعی مردم است.
  • طراحی انسان‌محور: پژوهشگران، نه الگوریتم‌ها، تصمیم می‌گیرند چه موضوعی مطالعه شود و چه سؤالاتی از مردم پرسیده شود. این تأکید بر نقش نظارت انسانی، یادآور چالش‌های مربوط به شفافیت در تصمیمات ماشینی است که در تحلیل ما پیرامون ضرورت ثبت ردپای تصمیمات در هوش مصنوعی به آن پرداختیم.
  • یکپارچگی بصری: استفاده از عکس‌ها یا تصویرسازی‌های تولیدشده یا تغییریافته توسط هوش مصنوعی ممنوع است و تنها از تصاویر واقعی منتخب ویراستاران استفاده می‌شود.
  • حریم خصوصی داده‌ها: اطلاعات شناسایی شخصی پاسخ‌دهندگان هرگز در معرض ابزارهای عمومی هوش مصنوعی قرار نمی‌گیرد.

به گزارش این مرکز، برای نظرسنجی‌های ایالات متحده، آن‌ها همچنان بر یک پنل نظرسنجی مبتنی بر احتمال، شامل حدود ۱۰ هزار بزرگسال که به‌صورت تصادفی انتخاب شده‌اند، تکیه می‌کنند. این سازوکار تضمین می‌کند که داده‌ها بازتابی از یک برش واقعی از جامعه باشند، نه تخمینی از یک مدل.

در بخش‌هایی که استفاده از هوش مصنوعی مجاز است، این ابزارها به وظایف فنی و مشتق‌شده محدود شده‌اند. مهندسان از دستیارهای کدنویسی برای وب‌سایت pewresearch.org استفاده می‌کنند و پژوهشگران برای سازماندهی مجموعه‌داده‌ها یا استخراج داده از وب‌سایت‌ها به این ابزارها متکی هستند. همچنین در مرحلهٔ ویرایشی، هوش مصنوعی تنها برای اصلاح گرامری و تبدیل پژوهش‌های انسانی به پست‌های شبکه‌های اجتماعی به کار می‌رود.

این استراتژی نشان می‌دهد که در عصر نویزهای تولیدشده توسط ماشین، «منشأ انسانی» به یک دارایی گران‌بها تبدیل خواهد شد. پیو با ممنوعیت صریح نظرات مصنوعی، روی این فرض شرط‌بندی کرده است که بازار، داده‌های انسانی تأییدشده را بیش از سرعتِ نتایج شبیه‌سازی‌شده ارزشمند می‌داند.

برای شما به‌عنوان خواننده، این یعنی گزارش‌های پیو همچنان سندی از تفکر واقعی مردم است، نه پیش‌بینی یک مدل از آنچه مردم فکر می‌کنند. این رویکرد از اصالت مفهوم «اجتماعی» در علوم اجتماعی محافظت می‌کند.

گام بعدی شما

  • هنگام مطالعهٔ گزارش‌های افکار عمومی، از ناشر بپرسید آیا از داده‌های مصنوعی برای تکمیل نمونه‌ها استفاده کرده است یا خیر.
  • تفاوت میان «پیش‌بینی مدل» و «گزارش میدانی» را در تحلیل‌های آماری به‌دقت بررسی کنید.
  • بررسی کنید که آیا ابزارهای تحلیل داده‌ای که در سازمان خود به کار می‌برید، حریم خصوصی پاسخ‌دهندگان را در مدل‌های عمومی فاش می‌کنند یا خیر.

اما این جدال میان داده‌های واقعی و مصنوعی تنها در نظرسنجی‌ها نیست؛ اثر این رویکرد بر اعتبار خبرگزاری‌های جهانی را در گزارش بعدی بررسی خواهیم کرد.

چرا این موضوع مهم است؟

این رویکرد با تکیه بر اعتبار (Authority) متدولوژیک، استانداردی را تعریف می‌کند که در آن صحت داده بر سرعت تولید اولویت دارد. این تصمیم می‌تواند باعث شکاف صنعت پژوهش به دو سطح «شبیه‌سازی‌شده» و «تأییدشده» شود.

تأثیر برای ایران

این رویکرد برای پژوهشگران علوم اجتماعی در ایران که با محدودیت دسترسی به نمونه‌های تصادفی مواجه‌اند، یادآور اهمیت تفکیک داده‌های واقعی از شبیه‌سازی‌های مدل‌های زبانی است.

·نگاه ما
تحریریه دات‌هوش

تمرکز پیو بر «منشأ انسانی» نشان می‌دهد که در آینده‌ای نزدیک، داده‌های تأییدشده توسط انسان (Human-provenance) به یک کالای لوکس و گران‌قیمت تبدیل می‌شوند. این یک چرخش راهبردی است؛ در حالی که همه به دنبال مقیاس‌پذیری با داده‌های مصنوعی هستند، پیو روی «کمیاب بودنِ حقیقت» سرمایه‌گذاری می‌کند تا اعتبار برند خود را در برابر توهمات مدل‌ها بیمه کند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.