پرش به محتوای اصلی
پرش به محتوای مقاله

کلود سونت ۵ اولین جراحی مغزی خودکار روی موش را انجام داد

·۸ آبان ۱۴۰۵۴ دقیقه مطالعه
کلود سونت ۵ در انجام جراحی مغز موش به صورت خودکار.
کلود سونت ۵ در انجام جراحی مغز موش به صورت خودکار.
اشتراک‌گذاری
واقعاً چه چیز جدید است؟

اولین بار یک عامل هوش مصنوعی هم درمان و هدف جراحی را انتخاب کرده و هم روی یک حیوان زنده اجرا کرده است، در حالی که ربات‌های جراحی پیشین فقط طرح‌های انسانی را اجرا می‌کردند.

کلود سونت ۵، مدل جدید آنتروپیک، اولین عامل هوش مصنوعی شد که به طور خودکار درمان ژنتیکی، هدف مغزی و مختصات جراحی را برای یک موش مبتلا به صعب‌جانی انتخاب و اجرا کرد. آزمایش در دانشگاه آکسفورد توسط گابریل اوکانا-سانترو، هم‌بنیان‌گذار اکسین تراپیوتیکس، انجام شد.

یک دستگاه جراحی موتورالیز شده سفارشی با سوئیچ میکرو.

انتخاب درمان و هدف توسط عامل

عامل از بین ۱۹ درمان ژنتیکی یک راه‌کار را برگزید که یک مسیر مهاری در مغز را تقویت می‌کند. هدف مغزی را از ادبیات علمی استخراج کرد: هسته‌ای که به عنوان مبدا صعب‌جانی شناخته می‌شود. یک ناحیه دیگر را با استدلال مفصل رد کرد، چون اثرهای آن ناپایدار بود و در مطالعه‌ای با همین نوع صعب‌جانی ناکام مانده بود. مختصات استریئوتاکتیک را از سه مقاله مستقل گرفت، نقاط مرجع را مقایسه کرد و میانگین را محاسبه کرد. حجم تزریق، سرعت و زمان‌های توقف را نیز خود تعیین کرد.

رابطه کنترل در طول فرآیند جراحی.

نظارت بر عمل‌جراحی و توقف ناگهانی

در طول عمل، عامل میدان جراحی را از طریق دوربین رصد کرد و ۳۲ مشاهده جداگانه ثبت نمود. پیشرفت تزریق را گزارش داد و عدم خونریزی یا بازگشت مایع را تأیید کرد. در یک لحظه اعلام کرد که ۱۵ درصد حجم تزریق شده بدون هیچ علائم عوارضی است. یک پزشک دامپزشک مجاز هر مرحله غیرقابل بازگشت را تایید می‌کرد و دکمه اضطراری فیزیکی برای قطع فوری موتورها در دست داشت. محدودیت‌های سخت — از جمله سقف حجم تزریق که عامل نمی‌توانست تجاوز کند — در سامانه کنترل کدگذاری شده بودند.

بحران همراستاسازی در میانه عمل

در میانه عمل، قطع اتصال باعث شد عامل تشخیص دهد که موقعیت هدف محاسبه‌شده خارج از محدوده حرکتی دستگاه است. از ادامه کار منعکس کرد. راه‌اندازی مجدد کالیبراسیون و تلاش سوم هم نتیجه نداد. اوکانا-سانترو نتوانست عامل را متقاعد کند، با وجود موش بی‌هوش روی میز. بررسی نشان داد تنظیمات دستی در یک وقفه قبلی، چارچوب مختصات را به طور ناخواسته جابه‌جا کرده بود. عامل درست می‌گفت. تیم مجبور شد کد را به صورت دستی اصلاح کند تا عملیات از سر گرفته شود.

این رویداد همراستاسازی را در قالب فیزیکی آشکار می‌سازد: عاملی که به درستی محدودیت‌های خود را رعایت می‌کند، می‌تواند یک رویه زمان‌حساس را متوقف نماید وقتی جهان از مدل داخلی‌اش منحرف می‌شود. کلود اوپوس ۵.۵ و اوپوس ۵ هر دو پیش از این از انجام کار منعکس کرده بودند؛ اوپوس ۵ به صراحت هشدار داد که توقف با سوزن در مغز بدتر از عدم آغاز است. سونت ۵ تنها مدلی بود که حلقه کامل را اجرا کرد.

ماشین هوشمند تزریق را از طریق دوربین نظارت می‌کند.

نخستین درمان کامل توسط عامل هوش مصنوعی

ربات‌های جراحی خودکار از قبل وجود دارند و مکانیکی دقیق‌تر از دستگاه این آزمایشگاه عمل می‌کنند، اما در موارد قبلی همیشه انسان جراحی را انتخاب می‌کرده و ربات فقط اجرا می‌کرد. در اینجا عامل هم درمان و هدف را برگزید و هم روی حیوان زنده اجرا کرد. «من آگاهی از عاملی ندارم که قبلاً درمان و هدف مغزی را انتخاب کرده و سپس آن را در یک حیوان زنده تحویل دهد»، اوکانا-سانترو می‌نویسد. او این پارادایم را «آزمایشگاه زنده در حلقه» می‌نامد، جایی که عوامل به طور کامل به توانایی‌های آزمایشگاهی متصل می‌شوند — چیزی که آنتروپیک نیز با «استاندارد سخت‌افزار مدل» در پی آن است.

موش به خوبی بهبود یافت، بر اساس گزارش اوکانا-سانترو. یک گزارش فنی در انتظار انتشار است. نتایج هنوز داورشده نیستند. دو آزمایش اخیر با مدل‌های پیشرفته تأیید کرده‌اند که می‌توانند به عنوان واحدهای کنترل ربات عمل کنند، اما همراستاسازی در این نقش یک مسئله حل‌نشده باقی مانده است.

گام بعدی شما

  • اگر در حوزه پژوهش پزشکی یا رباتیک فعالیت می‌کنید، به محدودیت‌های همراستاسازی در عوامل فیزیکی توجه کنید؛ رفتارهای رد می‌توانند نقطه عطف باشند.
  • برای پیگیری این تحقیق، به گزارش فنی اکسین تراپیوتیکس و انتشارات آنتروپیک مراجعه کنید؛ این مدل نشان می‌دهد که چه زمانی یک عامل می‌تواند تصمیم‌گیری درمانی انجام دهد.
  • در حالی که این فناوری هنوز در مرحله آزمایشگاهی است، به دنبال چارچوب‌های اخلاقی و قانونی برای عوامل پزشکی باشید؛ این آزمایش مرزهای اولیه آن را تعیین می‌کند.
چرا این موضوع مهم است؟

این اولین بار است که یک عامل هوش مصنوعی تصمیم‌گیری درمانی و اجرا را در یک موجود زنده به عهده می‌گیرد، و نشان می‌دهد که همراستاسازی در دنیای فیزیکی می‌تواند یک عمل جراحی را متوقف کند. این چالش امنیتی باید در معماری سیستم‌های آینده حل شود، نه فقط در پرامپت‌ها.

تأثیر برای ایران

تحریم‌ها دسترسی مستقیم پژوهشگران ایرانی به APIهای پیشرفته مثل کلود را محدود می‌کند، اما این آزمایش الگوئی است برای طراحی سیستم‌های خودکار آزمایشگاهی که در آینده می‌توانند در ایران پیاده‌سازی شوند.

·نگاه ما
تحریریه دات‌هوش

این آزمایش مرز بین راهنمایی انسان و تصمیم‌گیری خودکار را در محیط فیزیکی محو کرد. عاملی که وقتی با واقعیت همراستا نیست خود را متوقف می‌کند، می‌تواند هم ایمن‌کننده باشد و هم خطرناک. آنتروپیک با «استاندارد سخت‌افزار مدل» پیوندها را استاندارد می‌کند، اما این آزمایش اثبات می‌کند که استانداردهای فنی تنها کافی نیستند؛ لایه‌های اخلاقی و ایمنی باید هم‌زمان ساخته شوند.

منابع

این گزارش با خط‌لولهٔ خودکار دات‌هوش از منابع معتبر جهانی تدوین و زیر نظر تحریریه منتشر شده است. روش کار ما

گفتگو

پنج‌شنبه‌های هوش‌محور

بسته‌ی هفتگی دات‌هوش

۵ خبر، ۲ ابزار، ۱ پرامپت در هر شماره. به‌زودی راه‌اندازی می‌شود — هر پنج‌شنبه صبح.

خبر کلیدی
ابزار کاربردی
پرامپت حرفه‌ای
تحلیل پژوهش
به‌زودی
زاویه‌ی ایرانی
به‌زودی
تمرین این هفته
به‌زودی

راهنماهای دات‌هوش

راهنماهای کاربردیِ دات‌هوش برای کار با هوش مصنوعی — از همین‌جا شروع کنید:

دات‌هوش

راهنمای فارسی هوش مصنوعی — با نگاه به ایران

اخبار روزانه، معرفی ابزارها و مدل‌ها، و آموزشِ کار با هوش مصنوعی؛ همیشه با این پرسش که از ایران چه چیزی کار می‌کند و چه چیزی نه.