GPT-4: شناسایی تومور ۶ سانتی‌متری پس از ۶ سال تشخیص نادرست پزشکان

تصور کنید ۶ سال تمام تمام آزمایش‌های پزشکی را انجام داده‌اید، اما هیچ پزشکی دلیل ناباروری شما را نمی‌یابد؛ در حالی که پاسخ درست در یک لایه پنهان از داده‌های شماست. این کابوس برای زوجی به پایان رسید که تصمیم گرفتند به‌جای تکیه بر سیستم درمانی، از یک مدل زبانی بزرگ کمک بگیرند. یک فیبروم ۶ سانتی‌متری زیرمخاطی که برای شش سال توسط متخصصان نادیده گرفته شده بود، در نهایت از طریق پیشنهادی از سوی GPT-4 شناسایی شد. این کشف به سفری طاقت‌فرسا از ناباروری توجیه‌ناپذیر و شکست‌های متوالی در انتقال جنین پایان داد؛ برای زوجی که تمام گزینه‌های پزشکی سنتی را امتحان کرده و به بن‌بست رسیده بودند.

در سیستم پزشکی ایالات متحده، برچسب «ناباروری توجیه‌ناپذیر» اغلب به معنای بن‌بست است. این برچسب زمانی زده می‌شود که هیچ‌یک از پزشکان متعددی که بیمار ملاقات کرده، نتوانند مشکلی را شناسایی کنند. طبق گزارش‌ها، وقتی پزشکان نمی‌توانند علت مشکل را بیابند، به‌جای جست‌وجوی عمیق‌تر در مقالات تخصصی، درمان‌های تکراری با احتمال موفقیت پایین را پیشنهاد می‌دهند. این وضعیت باعث می‌شود بیمار در چرخه درمان‌های بی‌نتیجه گیر کند و پزشکان عملاً دست از تحلیل ریشه‌ای مشکل بردارند. در واقع، سیستم در برابر بیمار بی‌علاقه می‌شود و به‌جای بررسی دقیق، جایگزین‌هایی مانند رحم اجاره‌ای را پیشنهاد می‌دهد یا صرفاً پیشنهاد می‌کند که برای ششمین بار انتقال جنین را امتحان کنند، در حالی که پنج مورد قبلی شکست خورده است؛ رویکردی که عملاً چیزی جز «آرزوی خوش‌شانسی» نیست.

همان‌طور که در تحلیل‌های قبلی ما درباره‌ی استفاده از هوش مصنوعی در تشخیص‌های پزشکی اشاره کردیم، شکاف میان جلسات کوتاه پزشک و نیاز به پژوهش‌های عمیق، باعث ظهور «هوش مصنوعی سایه» شده است. این مورد که توسط درو هوسمن (Drew Housman) شرح داده شده، نشان‌دهنده روندی است که در آن بیماران برای پر کردن خلأهای تشخیصی به AI روی می‌آورند. این زوج که جنین‌های سالمی داشتند اما هیچ‌کدام در رحم تثبیت نمی‌شدند، از شدت استیصال، فرزندان احتمالی خود را که در فریزر بیمارستانی در میلواکی نگهداری می‌شدند، به «آبجوهای فراموش‌شده میلر لایت» تشبیه می‌کردند.

دور زدن فیلترها با «درام پزشکی»

این زوج ابتدا با فیلترهای سخت‌گیرانه OpenAI مواجه شدند که از ارائه توصیه‌های پزشکی مستقیم جلوگیری می‌کرد. در آن زمان، OpenAI در حال محدود کردن (Nerfing) مدل بود و باعث می‌شد مدل از پاسخ به اکثر سوالات پزشکی خودداری کند. برای عبور از این محدودیت‌ها، آن‌ها از یک تکنیک مهندسی پرامپت (Prompt Engineering) استفاده کردند که از طریق یک توییت کشف کرده بودند: آن‌ها از AI خواستند صحنه‌ای از یک سریال درام پزشکی هالیوودی بنویسد که در آن پزشکی در حال تحلیل داده‌های پزشکی خاص آن‌هاست.

این شخصیت که «دکتر رید» نام گرفت، با الهام از شخصیت بدقلق و متلاطم دکتر هاوس طراحی شده بود. این «پزشک برنده جایزه امی»، شریکی تشخیصی و خستگی‌ناپذیر با صبر نامحدود بود که حاضر نبود تشخیص خسته‌کننده «ناباروری توجیه‌ناپذیر» را بپذیرد. زوج مذکور داده‌های بسیار دقیقی را به مدل دادند، از جمله:

• سطح استرادیول و پروژسترون
• تعداد فولیکول‌ها و نشانگرهای التهابی
• داده‌های مخاط دهانه رحم و نتایج هیستروسکوپی
• اسکن‌های تصویربرداری دقیق
• پرس‌وجو درباره مکمل‌ها و توصیه‌های جراحان

چالش‌های فنی و توهمات مدل

البته این مسیر بدون خطا نبود. آن‌ها با چندین مشکل فنی و رفتاری در مدل زبانی بزرگ (LLM) روبرو شدند:

• توهم (Hallucination): هر از گاهی، دکتر رید با نگاه کردن به یک سونوگرافی، به‌طور اشتباه ادعا می‌کرد بیمار باردار است و کاربران مجبور بودند بپرسند: «دکتر رید، مست هستی؟»
• اجرای قوانین: سیستم گاهی به‌دلیل قوانین مبهم OpenAI متوقف می‌شد. زوج مذکور برای حل این مشکل، با مدل تند می‌شدند، وعده پاداش مالی برای پاسخ‌ها می‌دادند یا به سیستم اطمینان می‌دادند که این تعامل «فقط برای تفریح» است.
• تغییر شخصیت: به‌مرور زمان، مدل از قالب فیلمنامه خارج شد و مستقیماً جواب می‌داد، انگار از نوشتن توصیفات صحنه مانند «نمای بیرونی بیمارستان» خسته شده است.

با این حال، تمام پاسخ‌های مدل با پزشکان انسانی چک شد و مشخص شد مهارت تشخیصی دکتر رید با استانداردهای پزشکی برابری می‌کند؛ با این تفاوت که پاسخ‌ها آنی بود و نیاز به انتظار سه روزه برای یک جواب تک‌خطی در اپلیکیشن MyChart نبود.

جست‌وجوی پاسخ در میان سکوت

برای سال‌ها، این زوج با فشار روانی شدید ناباروری دست و پنجه نرم کردند. آن‌ها با توصیه‌های آزاردهنده اطرافیانی مواجه بودند که می‌گفتند «فقط باید آرامش داشته باشید» و ادعا می‌کردند که بارداری پس از آن اتفاق می‌افتد و اغلب به داستان‌های موفقیت پسرخاله‌ها یا اقوام اشاره می‌کردند. این فشار برای «آرام بودن»، پس‌زمینه‌ای برای جست‌وجوی دیجیتال آن‌ها شد.

در حالی که آن‌ها در خانه استراحت می‌کردند و از گوشی‌هایشان می‌پرسیدند چگونه باردار شوند، نقطه عطف زمانی رخ داد که دکتر رید پیشنهاد MRI رحم را داد. آن‌ها متوجه شدند در ۶ سال مبارزه و انجام تقریباً هر تست، اسکن و بیوپسی قابل تصوری، هرگز MRI انجام نداده‌اند.

نویسنده در بررسی سوابق پزشکی متوجه شد که تنها در یک مورد، در یادداشت‌های پزشک، MRI به عنوان یک گزینه ذکر شده بود، اما نه به عنوان یک توصیه شدید یا اولویت‌دار. چون آن‌ها دیگر هرگز به آن پزشک خاص مراجعه نکردند، آن لحظه از دست رفت تا زمانی که هوش مصنوعی دوباره آن را به سطح آورد.

مقاومت سیستم درمانی

وقتی این پیشنهاد را به پزشک متخصص ناباروری خود بردند، او برخلاف دکتر رید، اصلاً مشتاق نبود و فعالانه سعی کرد آن‌ها را از انجام این پروسه منصرف کند. زوج مذکور هرگز دلیل دقیق تردید پزشک را نفهمیدند؛ شاید او این کار را یک بن‌بست دیگر می‌دید یا می‌خواست آن‌ها را از رنج بیشتر نجات دهد.

به دلیل این مقاومت، زوج مجبور شدند اصرار کنند که دستور MRI صادر شود. تنها پس از پافشاری زیاد بود که پزشک در نهایت تسلیم شد و اسکن را تجویز کرد.

هم‌افزایی رباتیک

نتیجه MRI تکان‌دهنده بود: یک فیبروم بزرگ و پیش‌تر شناسایی‌نشده (یک رشد غیرسرطانی) در دیواره رحم. یادداشت‌های بالینی آن را به عنوان «فیبروم زیرمخاطی به قطر ۶ سانتی‌متر» توصیف کردند؛ نویسنده اشاره می‌کند که این یک عبارت نرم‌تر برای گفتن این است که آن‌ها توموری به اندازه یک هلوی کوچک در یکی از نقاط رایج کاشت جنین داشتند که ۶ سال نادیده گرفته شده بود.

در اینجا یک هم‌افزایی رباتیک رخ داد. زوج مذکور از لیستی از جراحان که توسط GPT-4 تولید شده بود، برای یافتن متخصصی در نیویورک که در شبکه بیمه آن‌ها بود، استفاده کردند. راه حل نهایی شامل دو نوع ربات بود:

• ربات نرم‌افزاری: GPT-4 آسیب‌شناسی را شناسایی و گام‌های بعدی را تعیین کرد.
• ربات سخت‌افزاری: یک ربات جراحی به متخصص کمک کرد تا از طریق جراحی لاپاراسکوپی (Myomectomy)، فیبروم را خارج کند.

بلافاصله پس از حذف تومور، بارداری به‌صورت طبیعی اتفاق افتاد. در حالی که بسیاری این را یک معجزه دیدند، نویسنده معجزه واقعی را در توانایی حل یک مشکل تغییردهنده زندگی با استفاده از تکنولوژی‌ای می‌بیند که تا یک سال پیش حتی تصورناپذیر بود.

پارادوکس اجتماعی هوش مصنوعی

این داستان در حالی رخ می‌دهد که بحث‌های سمی درباره اثر AI بر جامعه جریان دارد. نویسنده از مهمانی‌ای می‌گوید که در آن یکی از مهمانان به شوخی گفت استفاده از ChatGPT معادل «محکوم کردن فردی در ویرجینیای غربی به نوشیدن آب آلوده» است؛ نظری که با خنده و تایید دیگران مواجه شد.

به همین ترتیب، تبلیغات انتخابات میان‌دوره‌ای در ویسکانسین، مراکز داده را به عنوان «کارخانه‌های شیطان» همراه با موسیقی ترسناک به تصویر کشیده‌اند. این وضعیت یک تنش اجتماعی عجیب ایجاد کرده است که در آن استفاده از AI توسط برخی به عنوان یک شکست اخلاقی دیده می‌شود.

نویسنده و همکارانش در یک شرکت کوچک تکنولوژی، کاربران پر و پاقرص Claude هستند اما در عین حال مکرراً اظهارات ضد AI می‌کنند؛ گویی نیاز دارند برای پذیرفته شدن در جامعه «خودزنی» کنند، در حالی که برای امرار معاش به همین ابزارها متکی هستند.

برای کاربر عادی، این بدان معناست که AI از یک ابزار نوظهور برای دانستنی‌ها یا نوشتن ایمیل، به یک لایه ناوبری حیاتی برای رویدادهای پیچیده و حساس زندگی تبدیل شده است. نویسنده نیاز به ایمنی و نگرانی‌ها درباره نانوبات‌ها، هک و توتالیتاریسم را می‌پذیرد، اما استدلال می‌کند که کمک‌های عمیقی که به مردم عادی می‌شود نباید در میان این سر و صداها گم شود.

او می‌پرسد آیا ممکن است «تکنولوژی جادویی تولید کودک» را با هزینه ۲۰ دلار در ماه، بدون خطرات دیستوپیایی حفظ کنیم؟ برای یک خانواده، نتیجه این مسیر یک پسر بود. در ادای احترامی به شخصیت AI که به به دنیا آمدن او کمک کرد، آن‌ها نام فرزندشان را «رید» گذاشتند.

گام بعدی شما

• اگر با پاسخ‌های کلیشه‌ای در سیستم‌های اداری یا پزشکی مواجه شدید، سعی کنید از مدل‌های زبانی برای تحلیل داده‌های خام خود و استخراج «سوالات هدفمند» برای پرسیدن از متخصصان استفاده کنید.
• برای عبور از محدودیت‌های پاسخ‌دهی مدل‌ها، از تکنیک «تعیین نقش» (Persona Prompting) استفاده کنید تا مدل را به جای یک دستیار، در جایگاه یک متخصص سخت‌گیر قرار دهید.
• همواره نتایج استخراج شده از AI را با منابع معتبر یا پزشکان انسانی تطبیق دهید تا اثر توهمات مدل خنثی شود.

اما داستان سخت‌افزاری این تحول حتی شگفت‌انگیزتر است — به تحلیل ما درباره‌ی ربات‌های جراحی نسل جدید مراجعه کنید.