تصور کنید برای یک مقالهٔ حیاتی پزشکی، ۱,۹۰۰ دلار هزینه پرداخت کنید تا متخصصان PhD آن را بنویسند، اما در نهایت متوجه شوید نویسنده شما اصلاً وجود خارجی ندارد. این کابوس برای پژوهشگرانی اتفاق افتاده که فریب شعار «۱۰۰٪ انسانی» شرکت Research Gold را خوردند. این شرکت ادعا میکند خدماتش «۱۰۰٪ توسط انسان نوشته شده و هرگز از هوش مصنوعی استفاده نمیشود»، اما در واقع یک ویترین مصنوعی و هدایتشده توسط AI است.
به گزارش 404 Media، بررسیها نشان میدهد متخصصانی که در سایت این شرکت لیست شدهاند یا کاملاً ساختگی هستند یا متخصصان واقعی هستند که هویتشان از لینکدین دزدیده شده است. این فریبکاری در زمانی رخ میدهد که دنیای نشر آکادمیک با سیل مقالات تولیدشده توسط هوش مصنوعی زاینده (Generative AI) — شبیه به یک نویسندهٔ سریع اما بیدقت که گاهی واقعیتها را با خیالاتش ترکیب میکند — و استنادات جعلی دستوپنجه نرم میکند.
در پژوهشهای پزشکی، ریسکها بسیار بالاتر از متون عمومی است؛ زیرا مرورهای سیستماتیک و متاآنالیزها، پایه و اساس شواهد برای مداخلات بهداشتی و درمانی هستند. وقتی این فرآیندها بدون شفافیت اتوماتیک میشوند، ریسک توهم (Hallucination) — یعنی وقتی مدل با اطمینان چیزی میگوید که اصلاً وجود ندارد، مثل دوستی که خاطرهای را اشتباه تعریف میکند — میتواند مستقیماً سلامت بیماران و اعتبار علم را به خطر بیندازد. این خطرات حقوقی و اخلاقی پیش از این نیز مشاهده شده است، بهطوری که جریمههای سنگینی برای استفاده نادرست از یادداشتهای پزشکی تولیدشده با AI در برخی کشورها ثبت شده است.
همانطور که در تحلیلهای پیشین ما دربارهی امنیت دادهها در مدلهای زبانی اشاره کردیم، نبودِ شفافیت در ابزارهای اتوماسیون، بزرگترین تهدید برای اعتماد عمومی است.
مکانیسم بررسیهای پزشکی
برای درک خطر ادعاهای Research Gold، باید خدمات خاصی که آنها ارائه میدهند را بشناسید. این سایت وعدهٔ تدوین «پروتکل، جستوجو، غربالگری، استخراج دادهها، ارزیابی ریسک سوگیری، آمار و نگارش نسخهی نهایی مقاله مطابق با فرمت مجله یا کمیته هدف» را میدهد.
آنها بهطور مشخص ادعا میکنند که از متدولوژی PRISMA 2020 و کتابچه Cochrane پیروی میکنند. PRISMA 2020 دستورالعملی برای مرورکنندگان سیستماتیک است تا بهطور شفاف گزارش کنند که چگونه و چرا یک مرور سیستماتیک را انجام دادهاند و چه یافتههایی داشتهاند. کتابچه Cochrane نیز به عنوان راهنما و استاندارد جهانی برای مرورهای سیستماتیک در مورد اثرات مداخلات مراقبتهای بهداشتی عمل میکند.
در دنیای دانشگاهی، «مرور سیستماتیک» یک بررسی جامع از ادبیات موجود است که پژوهشگران پیش از شروع مطالعه خود انجام میدهند. «متاآنالیز» یک گام فراتر میرود و یافتههای مطالعات موجود را ترکیب (سنتز) میکند تا به یک پرسش پژوهشی خاص پاسخ دهد. در این فرآیند، حضور یک متدولوژیست حرفهای برای تضمین سختگیرانه بودن و دقت فرآیند ضروری است.
کارکنان مصنوعی و سرقت هویت
شرکت Research Gold خود را به عنوان ارائهدهنده مقالات آماده برای داوری (Peer-review ready) و مرورهای سیستماتیک معرفی میکند. در صفحه «درباره ما»، بخشی به نام «تیم» وجود دارد که این کارهای دقیق را انجام میدهد. از جمله دکتر «النا واسکز»، مؤسس و متدولوژیست ارشد که گفته شده «دوازده سال تجربه در سنتز شواهد در زمینههای قلب و عروق و بیماریهای عفونی» دارد، و دکتر «می-لین چن»، متخصص مرورهای دامنه (Scoping Review) که ادعا شده «نقشههای شواهد و مرورهای دامنه برای درخواستهای گرنت و گزارشهای سیاستی» میسازد.
اما واقعیت این است که واسکز، چن و شش عضو دیگر این تیم اصلاً وجود ندارند. جستوجوی نام آنها هیچ تاریخچه انتشارات یا ردپای آنلاین مطابق با توصیفات سایت را نشان نمیدهد. علاوه بر این، عکسهای پروفایل آنها بهوضوح توسط هوش مصنوعی تولید شده است.
علاوه بر چهرههای ساختگی، این شرکت برای کسب اعتبار، نام دانشگاهیان واقعی را لیست کرده است. در بخش دیگری از سایت، متدولوژیستهایی با عکسهای پروفایل واقعی دیده میشدند. جستوجوی این نامها منجر به یافتن حسابهای لینکدین با تجربیات کاری مرتبط شد که بیشتر آنها متعلق به متدولوژیستهای فریلنسر یا اساتید دانشگاه بودند.
جنی بریو، دانشمند سنتز شواهد، متوجه شد نام، عکس و بیوگرافی او بدون اجازه استفاده شده است. بریو تأیید کرد که هیچ رابطهای با این شرکت ندارد و تا زمان تماس با او، از سرقت هویتش بیخبر بود. او اظهار داشت: «من برای Research Gold کار نمیکنم و هرگز موافقت نکردم که به عنوان یکی از متدولوژیستهای آنها لیست شوم. آنها از نام و عکس من بدون اجازه استفاده میکنند. من در حال مستندسازی سایت هستم و درخواست رسمی برای حذف اطلاعاتم را ارسال خواهم کرد.»
عکسهای سایر متدولوژیستهای لیست شده نیز مستقیماً از لینکدین برداشته شده بود. در یک مورد، شرکت حتی گرافیک «#opentowork» (آماده برای استخدام) را در عکس پروفایل باقی گذاشته بود که ثابت میکند آنها پروفایلهای دانشگاهیان فریلنسر را استخراج (Scrape) کردهاند. Research Gold مدت کوتاهی پس از تماس با بریو، صفحهای را که نام او و سایر افراد واقعی در آن بود، حذف کرد.
چرخهٔ فروش خودکار
تمام ارتباطات این شرکت با مشتریان، توسط یک عامل (Agent) — شبیه به یک دستیار دیجیتال که میتواند بهجای انسان تصمیم بگیرد و صحبت کند — به نام «سارا» مدیریت میشود. سارا در تماسهای تلفنی صراحتاً دروغ میگفت، اصرار داشت که یک «انسان واقعی» است و تأکید میکرد که شرکت «در تمام مراحل، بر پایه تخصص انسانی» است.
با وجود اینکه تماسگیرنده با لحنی تند صحبت میکرد، سارا با خوشرویی و نادیده گرفتن اعتراضات، گفتگو را دوباره به سمت پروژه پژوهشی سوق میداد تا بتواند یک قیمت (Quote) ارائه دهد. تعاملات ایمیلی و چت نیز همین الگو را داشتند. وقتی درخواستی برای قیمتگذاری پروژهای با موضوع «تأثیر وبلاگنویسی بر کودکان ۰ تا ۵ سال» از طریق فرم آنلاین ارسال شد، پاسخ آنی بود و بهطور واضح توسط هوش مصنوعی تولید شده بود.
این رویکرد استفاده از عوامل هوشمند برای اتوماسیون فرآیندهای پیچیده، مشابه استراتژیهای جدید در صنعت بیوفارما برای شناسایی شرکا است، هرچند در اینجا هدف به جای بهرهوری، فریب مشتریان بوده است.
برچسب قیمتی ۱,۹۰۰ دلاری
سیستم مبتنی بر AI بهسرعت درخواست پژوهشی را عملیاتی کرد. در پاسخ ذکر شده بود که جمعیت ۰ تا ۵ سال «به معنای معمول، مخاطب خواننده نیستند» و از کاربر خواست یک تعریف عملیاتی ارائه دهد. سیستم دو مسیر پیشنهاد داد: یا بررسی اینکه وبلاگها چگونه رفتار مراقبتکنندگان و سواد خانگی را شکل میدهند، یا اینکه محتوای دیجیتال چگونه بر نتایج خود کودکان تأثیر میگذارد.
به محض اینکه کاربر مسیر دوم را انتخاب کرد، هوش مصنوعی بلافاصله یک چارچوب ساختاریافته PICO (جمعیت، مداخله، مقایسه و نتیجه) ارائه داد:
- جمعیت (Population): کودکان ۰ تا ۵ سال
- مداخله/مراقب (Exposure): محتوای دیجیتال کوتاه یا سبک وبلاگی که برای کودک استفاده یا نمایش داده میشود
- مقایسه (Comparator): عدم مواجهه یا مواجهه حداقلی (یا فرمت رسانهای متفاوت)
- نتایج (Outcomes): معیارهای رشد کودک، بهویژه زبان، سواد نوظهور، شناخت، توجه و جنبههای اجتماعی-عاطفی
برای یک مرور کامل با زمانبندی منعطف، هوش مصنوعی مبلغ ۱,۹۰۰ دلار را قیمتگذاری کرد. این هزینه شامل موارد زیر بود:
- یک پروتکل آماده برای ثبت (Registration-ready)
- جستوجوی کامل ساخته شده و اجرا شده در پایگاههای داده اصلی
- غربالگری دوگانه عنوان/چکیده و متن کامل
- استخراج دادهها و ارزیابی ریسک سوگیری (Risk-of-bias)
- یک سنتز روایتی و نگارش نهایی فرمت شده برای مجله هدف
سپس ایمیلی ارسال شد که کاربر را به پورتالی برای پرداخت مبلغ ۱,۹۰۰ دلار هدایت میکرد.
ریسکهای آکادمیک
سباستین روان، کاندیدای PhD از دپارتمان مهندسی عمران و محیط زیست دانشگاه نیوهمپشایر، هشدار میدهد که تمایل هوش مصنوعی به توهم، یک نقص بنیادی است. روان اشاره میکند که یک متاآنالیز واقعی نیازمند تلاش دستی عظیم است. او میگوید: «من شخصاً بیش از ۲۵۰ مقاله را از ابتدا تا انتها برای متاآنالیز خود خواندم. برای هر نتیجه در مقالهام، میتوانم رفرنسهای دقیقی به آن مقالات بزنم و تفاوتهای ظریف در بحثهایم را درک کنم.»
در حالی که مجلات علمی با استنادات جعلی میجنگند، برخی مقالات تولید شده توسط AI در حال حاضر منتشر شدهاند و نگرانیهای فزایندهای وجود دارد که خود فرآیند داوری (Peer-review) توسط متون اتوماتیک به خطر افتاده باشد. Research Gold ادعا میکند که روی چندین مقاله منتشر شده در مجلات آکادمیک کار کرده است، اما نویسندگان اصلی آن مقالات به پرسوجوها پاسخ ندادند.
وقتی برای اظهارنظر به Research Gold ایمیل زده شد، آنها پاسخ دیگری تولید شده توسط AI دادند. در این ایمیل از خبرنگار برای «طرح شفاف سوالات» تشکر شده بود و ادعا شده بود که درخواست به «شخص مناسب» ارجاع داده شده است تا بهطور رسمی پاسخ دهد. اما هیچکس هرگز پاسخ نداد.
این موضوع صرفاً یک دروغ شرکتی نیست؛ بلکه حمله مستقیم به مکانیسم اعتماد در علم است. این شرکت با دریافت مبلغی نزدیک به ۲,۰۰۰ دلار برای دقت «انسانی» در حالی که خروجی AI تحویل میدهد، از استیصال پژوهشگرانی که تحت فشار «یا منتشر کن یا نابود شو» (Publish or Perish) هستند، سوءاستفاده میکند.
اگر پژوهشگری مقالهای از Research Gold را ارسال کند که حاوی توهمات هوش مصنوعی باشد، پیامدهای حرفهای بر دوش نویسنده انسانی میافتد، نه عامل ناشناس AI. این شرکت در واقع یک قمار پرریسک را در پوشش مشاوره حرفهای میفروشد.
گام بعدی شما
- اگر از سرویسهای نگارش آکادمیک استفاده میکنید، سوابق انتشار (Publication Record) نویسندگان را در Google Scholar چک کنید.
- هرگز بر اساس پروفایلهای لینکدین بدون تماس مستقیم و تایید هویت، قرارداد مالی نبستید.
- از ابزارهای تشخیص محتوای مصنوعی برای بررسی پیشنویسهای دریافتی استفاده کنید.
اما این تنها مورد از جعل هویت در علم نیست؛ اثرات گستردهترِ استفاده از دادههای مصنوعی در آموزش مدلهای پزشکی را در گزارش بعدی بررسی خواهیم کرد.
گفتگو