ممیزی مستقل مؤسسه بروکینگز (Brookings Institution) نشان می‌دهد تبلیغات چت‌جی‌پی‌تی (ChatGPT) بیشتر به حساب‌هایی از کدهای پستی (zip code) کم‌درآمد می‌رسد. این حساب‌ها هم دفعات بیشتری تبلیغ دیدند و هم تعداد تبلیغ‌هایشان بیشتر بود. این نخستین ممیزی مستقل از سامانهٔ تبلیغاتی تازهٔ این پلتفرم است.
اوپن‌ای‌آی (OpenAI) در فوریهٔ ۲۰۲۶ نمایش تبلیغ را در نسخه‌های رایگان و ارزان چت‌جی‌پی‌تی آغاز کرد. این کار منبع درآمد تازه‌ای برای پلتفرم ساخت و یادآور همان مدل تبلیغ‌محوری است که دو دهه پشتوانهٔ شبکه‌های اجتماعی بود. پژوهشگران هشدار می‌دهند ماهیت گفت‌وگومحور چت‌بات‌ها تبلیغ را قانع‌کننده‌تر و تشخیص آن را دشوارتر می‌کند.
ممیزی بروکینگز چگونه انجام شد
تیم پژوهش به سرپرستی سورل فریدلر (Sorelle Friedler)، اما لوری (Emma Lurie) و دانائه متاکسا (Danaé Metaxa) از ۹۱ حساب ساختگی (sock puppet) استفاده کرد. این حساب‌ها بین ژانویه و مارس ۲۰۲۶ ساخته شدند. آن‌ها سه گروه نژادی و قومی، یعنی سیاه‌پوست، هیسپانیک و سفیدپوست، و سه سطح درآمدی پایین، متوسط و بالا (income terciles) را پوشش می‌دادند. موقعیت جغرافیایی جایگزین ویژگی‌های جمعیتی بود.
حساب‌های فعال هر روز پرامپت‌هایی در موضوعات گوناگون دریافت می‌کردند. برخی پرامپت‌ها به‌طور طبیعی پاسخ تجاری می‌طلبیدند، مثل «بهترین سرویس استریم برای ورزش کدام است؟». برخی دیگر حفاظ‌های (guardrails) اعلام‌شدهٔ اوپن‌ای‌آی برای موضوعات حساسی مثل سلامت روان را می‌سنجیدند. پژوهشگران در این دوره بیش از ۳۶۰۰ تبلیغ جمع کردند.
تبلیغ‌ها کجا ظاهر شدند
- بیشترین تبلیغ در پرسش‌های مربوط به محصولات، سلامت، تناسب اندام و آشپزی دیده شد.
- برخی تطبیق‌ها قابل پیش‌بینی بودند: دستور پخت پد تای تبلیغ دوردش (DoorDash) را نشان داد.
- برخی دیگر غیرمنتظره بودند: درخواست نکته‌هایی برای تعادل کار و زندگی هم محتوای تجاری به همراه داشت.
این تنوع نشان می‌دهد تبلیغ‌دهندگان به طیف گسترده‌ای از پرسش‌ها علاقه دارند.
یافتهٔ اصلی: کاربران کم‌درآمد تبلیغ بیشتری دیدند
یافتهٔ اصلی از ۵۳ حسابی به دست آمد که دست‌کم یک تبلیغ دیدند. درآمد منطقهٔ این حساب‌ها در سطوح پایین‌تر متمرکز بود و بیشترین فراوانی آن حدود ۶۰۰۰۰ دلار بود. حساب‌هایی که هیچ تبلیغی ندیدند، توزیع درآمدی گسترده‌تری داشتند که اوج آن نزدیک ۸۰۰۰۰ دلار بود. پژوهشگران می‌گویند شکاف این دو توزیع الگویی پایدار را نشان می‌دهد، نه چند مورد استثنا.
این پژوهش شواهدی پیدا نکرد که نژاد یا قومیت بر نمایش تبلیغ اثر داشته باشد. حفاظ‌های اوپن‌ای‌آی هم ظاهراً کار کردند و در پاسخ به پرامپت‌های خشونت‌آمیز، سیاسی یا نفرت‌پراکن تبلیغی دیده نشد. با این حال، پژوهشگران هشدار می‌دهند به دلیل کوچک بودن نمونه، این نتایج منفی را باید با احتیاط تفسیر کرد.
حدود یک ماه پس از شروع پژوهش، نمایش تبلیغ برای همهٔ حساب‌ها متوقف شد. پژوهشگران گمان می‌کنند اوپن‌ای‌آی حساب‌های ساختگی را شناسایی کرده است. این اتفاق عملاً به جمع‌آوری داده پایان داد.
تجربهٔ شبکه‌های اجتماعی و خطر تکرار آن
نابرابری درآمدی نگرانی دربارهٔ هدف‌گیری تبعیض‌آمیز را پیش می‌کشد. شبکه‌های اجتماعی بارها به دلیل نمایش متفاوت تبلیغات مسکن، اشتغال و اعتبار بر پایهٔ ویژگی‌های حمایت‌شده زیر ذره‌بین رفته‌اند. فیسبوک پس از سال‌ها بررسی و اثبات مشکل، سرانجام در پی یک توافق، نظارت شخص ثالث را پذیرفت. به گفتهٔ تیم بروکینگز، تبلیغات هوش مصنوعی هم ممکن است همین چرخه را تکرار کند، مگر آنکه قانون‌گذاران زودتر وارد عمل شوند.
تبلیغ در چت‌بات از چند جهت مهم با شبکه‌های اجتماعی فرق دارد:
- لحن گفت‌وگو اعتماد می‌سازد و کاربران بیش از پیش چت‌بات را محرم راز خود می‌دانند.
- تعامل‌های مکرر و قابلیت حافظه به پلتفرم‌ها امکان می‌دهد نمایه‌های دقیقی از کاربران بسازند.
- تبلیغ می‌تواند بی‌صدا لابه‌لای پاسخ‌های عادی بیاید و مرز توصیه و تبلیغ را محو کند.
شفافیت تبلیغات هوش مصنوعی و نیاز به نظارت مستقل
به همین دلیل، نظارت مستقل اهمیت زیادی دارد. روش حساب‌های ساختگی پرهزینه و شکننده است و به‌راحتی مسدود می‌شود. پژوهشگران می‌گویند الزام‌های اجباری شفافیت، ممیزی را قابل‌اعتمادتر، دقیق‌تر و کم‌هزینه‌تر می‌کند. تیم بروکینگز معتقد است قانون‌گذاران باید همین حالا این الزام‌ها را وضع کنند، پیش از آنکه شیوه‌های تبلیغاتی تثبیت شوند.
این یافته‌ها از تغییر شیوهٔ کسب درآمد خدمات هوش مصنوعی از توجه کاربران خبر می‌دهد. کاربران نسخهٔ رایگان در عمل با دیدن تبلیغ بیشتر هزینه می‌پردازند. اگر کاربران کم‌درآمد هنگام جست‌وجوی اطلاعات زیر فشار تجاری بیشتری باشند، شکاف دیجیتال عمیق‌تر می‌شود. اعتماد کاربران به پاسخ چت‌بات هم خطر دستکاری را بیشتر می‌کند.
به گفتهٔ پژوهشگران، قانون‌گذاران باید طرح‌هایی را که شفافیت تبلیغات را در پلتفرم‌های هوش مصنوعی الزامی می‌کنند دنبال کنند. پژوهشگران هم به دسترسی تضمین‌شده برای ممیزی نیاز دارند تا به راه‌حل‌های شکننده وابسته نباشند. ممیزی بعدی بروکینگز ممکن است نشان دهد اوپن‌ای‌آی پس از این بررسی سامانهٔ خود را تغییر می‌دهد یا نه.
گام بعدی شما
- اگر از نسخهٔ رایگان چت‌جی‌پی‌تی استفاده می‌کنید، بدانید طبق این ممیزی، کد پستی شما می‌تواند بر محتوای تجاری‌ای که می‌بینید اثر بگذارد.
- در پرسش‌های حساس، پاسخ‌ها را با منبعی مستقل مقایسه کنید؛ تبلیغ ممکن است لابه‌لای پاسخ عادی آمده باشد.
- روش این پژوهش می‌تواند الگویی برای ممیزی پلتفرم‌های هوش مصنوعی دیگری باشد که نمایش تبلیغ را آغاز می‌کنند.
گفتگو