به تشخیص پزشکی هوش مصنوعی اعتماد کنیم؟ - مجله نازلارا

پریسا عباسی| دانشمندان علوم کامپیوتر شاغل در گوگل و DeepMind (یک شرکت هوش مصنوعی) نسخه ای از یک برنامه پزشک بالینی هوش مصنوعی ارائه دادند که می تواند با توجه به شرایط و علائم داده شده، و بکارگیری یک مدل زبانی بزرگ به نام PaLM، بیماری را تشخیص دهد.

بر اساس پیش مقاله اصلی منتشر شده از طریق این گروه، مدل آن ها توانست در یک آزمون آزمایشی که حاوی سوالاتی از آزمون مجاز پزشکی ایالات متحده بود، و با توجه به ادعای آن ها مبنی بر پیشرفت 17 درصدی نرم افزار های پیشرفته قبلی، 67.6٪ امتیاز کسب کند. نتیجه کار یک نسخه از این مدل، با کار پزشکان انسانی در یک سطح قرار داشت. اما هشدار های زیادی در مورد این الگوریتم و موارد مشابه آن وجود دارد.

این مدل بر اساس مجموعه ای از اطلاعات که مبنی بر بیش از 3000 سوال پزشکی رایج جستجو شده (در اینترنت) و همچنین اطلاعات 6 پایگاه داده باز مختص به پرسش و پاسخ های پزشکی، که شامل معاینات پزشکی و تحقیقات در مورد موارد پزشکی است، ترتیب داده شده است. محققان در مرحله آزمایشی، پاسخ های دریافتی از دو نسخه از هوش مصنوعی را با پزشکان انسان مقایسه کردند و این پاسخ ها را از نظر دقت، واقعی بودن، مرتبط بودن، مفید بودن، سازگاری با نظریات جامع علمی کنونی، ایمنی و جهت گیری بررسی کردند.

آدریانا پورتر فلت، که یک مهندس نرم افزار است و در گوگل کروم کار می کند و در این مطالعه شرکت نداشته است، در توییتر گفت که نسخه ای از این مدل که همانند پزشکان به سوالات پزشکی مشابهی پاسخ دهد، باید دارای یک ویژگی باشد که به آن اضافه شود و آن تنظیم دستورالعمل است. این کار یک فرآیند انسانی است و از آنجایی که کاری پر زحمت است، ارزش این همه زحمت را ندارد. این شامل اصلاح دقیق عبارات پرسش هاست که به روش خاصی هستند و به هوش مصنوعی اجازه می دهد تا اطلاعات صحیح را بازیابی کند.

محققان در این مقاله نوشتند که: این مدل به طرز دلگرم کننده ای عمل می کند، اما هنوز در سطح پایین تری نسبت به پزشکان قرار گرفته است. و اینکه: درک این مدل در زمینه پزشکی، بازیابی و یادآوری دانش و استدلال پزشکی، با مدل تحقیقاتی و تنظیم سریع دستورالعمل ها بهبود خواهد یافت. مثلا هر نسخه از هوش مصنوعی در مقایسه با پاسخ های انسانی، اطلاعات مهمی را از دست داده بود و شامل محتوای نادرست و نامناسبی بود.

مدل های گفتاری در حال بهتر شدن در توانایی تجزیه اطلاعات پیچیده هستند؛ و به نظر می رسد که آن ها با وظایفی که نیاز به دانش و استدلال علمی دارند، خوب عمل می کنند. چندین مدل کوچک از جمله SciBERT و PubMedBERT برای درک متونی که مملو از اصطلاحات تخصصی هستند، مرز های مدل های زبانی را جابجا کرده اند.

اما در زمینه های زیست پزشکی و علمی، عوامل پیچیده و ناشناخته بسیار زیادی وجود دارند؛ و اگر هوش مصنوعی اشتباه کند چه کسی مسئولیت آن را به عهده خواهد گرفت؟ از آنجایی که اطلاعات بسیاری از الگوریتم ها مانند یک جعبه سیاه کار می کند، آیا می توان منبع خطا را شناسایی و آن را ردیابی کرد؟ علاوه بر این، الگوریتم ها (که شامل دستورالعمل های ریاضی هستند که از طریق برنامه نویسان به کامپیوتر داده می شوند)، ناقص هستند و نیاز به داده های آموزشی کامل و صحیح دارند که این موضوع در هر شرایط و در همه جا در دسترس نخواهد بود. به علاوه خرید و سازماندهی داده های مرتبط با سلامت می تواند گران باشد.

پاسخ صحیح به پرسش های یک آزمون استاندارد چندگزینه ای، نشانه هوش نیست؛ و ممکن است توانایی تحلیلی کامپیوتر، در روبرو با یک مورد پزشکی بالینی در دنیای واقعی، بسیار پایین باشد؛ بنابراین با اینکه این آزمایش ها از نظر تئوری جالب به نظر می رسند، اما هنوز بیشتر این هوش های مصنوعی آمادگی لازم را ندارند تا به طور کامل بکار گرفته شوند. پروژه سلامت هوش مصنوعی IBM واتسون را در نظر بگیرید. این پروژه با وجود میلیون ها دلار سرمایه گذاری، همچنان مسائل متعددی داشت و به میزان کافی کاربردی و انعطاف پذیر نبود و نهایتا تجزیه و اجزاء آن فروخته شدند.

گوگل و DeepMind به خوبی محدودیت های این فناوری را می شناسند. آن ها در مقاله خود نوشتند برای اینکه این مدل واقعا مفید باشد باید در برخی از زمینه ها توسعه و بهبود پیدا کنند. زمینه هایی نظیر یافتن پاسخ ها در منابع معتبر و به روز پزشکی، و توانایی تشخیص و برقراری ارتباط موثر و مفید با بیمار یا پزشک معالج.