تصور کنید در یک سیستم درمانی، حضور پزشک بهجای اینکه توری برای نجات بیمار باشد، تبدیل به منبعی برای ایجاد خطا شود. این ادعای جسورانه محوریت تحلیل جدیدی است که در ۱۸ آگوست ۲۰۲۶ در مجله پزشکی JAMA منتشر شد و نشان میدهد هوش مصنوعی مستقل اکنون در بررسی صحت تشخیصها، دقیقتر از پزشکانی است که خروجی مدل را بازبینی میکنند.
این بحث در حالی بالا گرفته که گروههایی مانند انجمن پزشکی آمریکا اصرار دارند هوش مصنوعی باید صرفاً نقش پشتیبان داشته باشد. در حالی که برخی منتقدان، مراقبتهای تمامخودکار را «پرواز با کلاس اکونومی» در پزشکی مینامند، نویسندگان این مقاله — از جمله ازکیل امانوئل (bioethicist) و نیل خوسلا، مدیرعامل Curai Health — معتقدند این دیدگاه هیچ پایه علمی ندارد. همانطور که در تحلیل قبلی ما دربارهی چرخش شرکتهای نرمافزاری به سمت عاملهای مستقل اشاره کردیم، این روند در پزشکی نیز تکرار میشود؛ درست مانند تحول ابزارهای تولید ویدیو در Higgsfield که از دستیار بودن به سمت استقلال کامل حرکت کردند.
مدل زبانی بزرگ (LLM) — مثل کتابخانهداری که میلیاردها صفحه را خوانده و حالا با همان لحن کتابها جواب میدهد — در این تحلیل به عنوان موتور اصلی استدلال معرفی شده است. این مدلها اکنون در حال ادغام با لایههای تخصصیتر هستند، مشابه آنچه در استراتژی Doceree برای اتصال دادههای بالینی به مدلهای زبانی مشاهده شد تا دقت پاسخها در محیطهای پزشکی افزایش یابد. طبق گزارش این مقاله، دادهها برتری استقلال مدلها را تایید میکنند:
- مدل ChatGPT o3 در ۶۰٪ موارد تشخیصهای پیچیده را درست داد، در حالی که این رقم برای ۲۰ پزشک متخصص داخلی تنها ۱۵.۹٪ بود.
- مدل AMIE گوگل در تقریباً تمام دستههای گفتگوهای شبیهسازیشده با بیمار، از پزشکان مراقبتهای اولیه پیشی گرفت.
- مدل GPT-4 بهتنهایی در استدلال تشخیصی موارد واقعی ۹۲٪ امتیاز گرفت، اما پزشکانی که از همین مدل کمک گرفتند، تنها به ۷۶٪ رسیدند.
به نقل از این تحلیل، سیستم سازماندهنده تشخیص مایکروسافت نیز تشخیصهای درست را تقریباً چهار برابر بیشتر از پزشکان یافت، در حالی که محدودیتهای بودجه را رعایت میکرد. نویسندگان هرگونه مطالعهای که خلاف این نتایج است را قدیمی یا از نظر متدولوژی ضعیف میدانند، زیرا از مدلهای پایینتر استفاده کردهاند.
هسته اصلی این استدلال، تلهای به نام «فرسایش مهارت» است. وقتی پزشکان بیش از حد به استنتاج (Inference) — لحظهای که مدل واقعاً جواب تولید میکند، شبیه خودِ آشپزی و نه دورهی آموزش آشپز — تکیه میکنند، مهارتهای تشخیصی خودشان کاهش مییابد. این روند پیشتر در مطالعهای توسط Lancet درباره کولونوسکوپیها مشاهده شده بود. وقتی مدل به استدلالگری برتر تبدیل شود، انسان در جاهای اشتباه تصمیم به رد کردن نظر سیستم میگیرد و در نتیجه کیفیت نهایی افت میکند.
این وضعیت یک گلوگاه نظارتی خطرناک ایجاد میکند. نویسندگان استدلال میکنند اگر قوانین فعلی، تایید نهایی انسان را اجباری کند، در واقع استانداردهای پایینتری از مراقبت را قانونی میکنیم. پیشبینی آنها این است که تا سال ۲۰۳۰، هوش مصنوعی مستقل برای اکثر گردشهای کاری شناختی در پزشکی آماده خواهد بود.
البته این انتقال بدون چالش نیست. شواهد فعلی بیشتر بر شبیهسازی تکوظیفهای متکی است تا مراقبت جامع از بیمار. همچنین رویههای فیزیکی مانند جراحی و زایمان همچنان در دست انسان باقی میمانند، زیرا رباتیک هنوز به مهارت دستی انسان نرسیده است. علاوه بر این، سیستمهای مستقل ریسکهایی مثل توهم (Hallucination) — وقتی مدل با اطمینان چیزی میگوید که وجود ندارد، شبیه دوستی که خاطرهای را اشتباه تعریف میکند — و حملات سایبری را به همراه دارند. این چالشهای عملیاتی در بخشهای دیگر سلامت نیز دیده میشود، جایی که هوش مصنوعی برای کاهش فاصله میان تحقیق و تجاریسازی داروها به کار گرفته شده تا سرعت دسترسی به درمانها افزایش یابد.
برای بیزنس سلامت، این یعنی بازنگری کامل در مدلهای پرداخت، مسئولیت قانونی و آموزش پزشکی. هدف دیگر «پزشکی با کمک AI» نیست، بلکه سیستمی است که در آن ماشین، بار سنگین شناختی را بر دوش میکشد.
گام بعدی شما
- بررسی استانداردهای جدید FDA در مورد مسئولیت قانونی نرمافزارهای تشخیصی مستقل.
- مطالعه اثرات «فرسایش مهارت» در تخصصهای دیگر که با LLMها در تماس هستند.
- تحلیل تفاوت بین دقت در محیط شبیهسازیشده و محیط واقعی کلینیک.
اما داستان سختافزاری این تحول حتی شگفتانگیزتر است — به تحلیل ما دربارهی تراشههای Blackwell مراجعه کنید.
گفتگو