Спросила ИИ: «Что у меня?» Можно ли доверять искусственному интеллекту, когда речь идет о здоровье?
Головная боль, сыпь, странное сердцебиение — что мы делаем в первую очередь? Раньше бежали к врачу или хотя бы к бабушке за советом.
Теперь у многих ответ один: открываем нейросеть, описываем симптомы и спрашиваем: «Что это может быть?»
ИИ выдаёт список возможных диагнозов — от безобидных до пугающих. Вроде бы быстро, удобно и бесплатно. Но можно ли этому доверять?
Разбираемся вместе с практикующими врачами.
Что такое ИИ-диагностика и как она работает?
Современные нейросети действительно умеют анализировать текст и даже некоторые медицинские изображения. Они обучены на огромных массивах данных — медицинских статьях, клинических случаях, описаниях симптомов.
В интернете много красивых статей о том, что ИИ:
— помогает врачам расшифровывать снимки (МРТ, КТ, рентген);
— анализирует большие массивы данных для выявления закономерностей;
— помогает в научных исследованиях и разработке новых лекарств;
— напоминает о необходимости профилактики (например, когда пора на скрининг).
Да! Это правда. Технологии идут вперед. Но мы, к сожалению, склонны очеловечивать новый компьютерный инструмент и излишне доверяться ему.
В этой статье пойдет речь о том, насколько правильно полагаться в вопросах о здоровье фразе «Окей, Гугл» и может ли ИИ на сегодняшний день полноценно заменить консультацию врача?
Начнем с минусов
1. ИИ не умеет собирать анамнез
Не умеет смотреть больного, нейросеть работает с текстом. Она лишена возможности взглянуть на цвет вашей кожи, ощутить запах изо рта, услышать хрипы в лёгких и не может пощупать вам живот. Возможно, вы ищете причины головной боли, ИИ выдает вам диагнозы от менингита до опухоли в голове, а причина — в том, что вы съели много солёного на ночь. ИИ не знает контекста, он не может перебить ваш монолог, чтобы выделить главные симптомы и определиться с конкретным планом действий. А в медицине даже опытный профессор не ставит диагноз «по телефону», «по электронной почте» без осмотра. Около 70–80% диагностической информации врач получает именно при физикальном осмотре: пальпация, перкуссия, аускультация. ИИ всего этого лишён.
2. ИИ паникует вместе с вами
Нейросеть не умеет успокаивать и оценивать риски. У неё нет эмпатии, сочувствия, нейросеть сама никогда не болела и не заболеет. Она выдаёт список возможных состояний, включая самые редкие и опасные. Человек, который уже тревожится, читает про «опухоль головного мозга» и паникует ещё сильнее. ИИ склонен переоценивать вероятность редких заболеваний, особенно если пользователь сформулировал запрос с тревожными словами.
3. ИИ не может интерпретировать результаты анализов
Вы получили на руки результаты крови или УЗИ и решили «прогнать» их через нейросеть. Она честно прочитает цифры и сравнит с референсными значениями. Но она не знает, что у вас хроническое заболевание, которое влияет на эти показатели. Она не видит динамику изменений. Она не оценивает возраст, пол, беременность или приём лекарств, если вы специально не вводите эти данные, всё это меняет интерпретацию.
4. ИИ не несет никакой ответственности за свою информацию
Он может ошибаться, придумывать несуществующие гипотезы и ссылки, сочинять статистику и законы. Этот феномен в сфере искусственного интеллекта называется галлюцинацией. Дело в том, что ИИ устроен как мощный статистический калькулятор текста, а не как база данных. Он предсказывает, какое слово должно идти следующим по смыслу, а не проверяет факты по реальным источникам. Всякая ложь ему простительна, ведь в большинстве современных моделей ИИ именно убедительность текста ставится главнее точности. В расчетах, кстати, ИИ тоже может ошибаться, хотя в этом «вранье» совершенно нет злого умысла. Такая нечестная, но красивая технология.
5. И, наконец, ИИ - не врач
Он не человек, не клялся не приносить вам вреда. Ему чужды мораль и нравственность, он — математический алгоритм и программный код. У ИИ нет сознания, чувств, совести, стыда, личного опыта или понимания добра и зла. Вы действительно хотели бы доверить здоровье такому лживому «специалисту»?
Теперь плюсы)
1. ИИ «знает» очень много
Так много, что если учиться всю жизнь и при этом не есть, не пить, не спать и не работать — столько не узнаешь. К тому же он в курсе всех новых событий.
2. ИИ все успевает
Как вы думаете, ваш врач из поликлиники может быть на прошлой неделе одновременно на двух последних конференциях по своей специальности в Женеве и Лондоне (к тому же проходивших, скажем, в один день)? А ИИ может.
3. ИИ умеет системно изложить факты
Сделать список, таблицу.
4. У ИИ есть на вас время
Он не устает и может весь вечер (или неделю, или месяц) посвятить беседе с вами о вашей болезни. Ни одному врачу такая опция не доступна.
5. Наконец, ИИ во всем с вами согласен, очень вежлив и убедителен
Помните, что нейросети имеют приоритет убедительности над правдивостью? Так это и подлый минус, и приятный плюс.
Так, кому, в итоге, можно доверять в диагностике?
Если именно «доверять», то — врачу, который вас осмотрел, выслушал, задал уточняющие вопросы и назначил необходимые исследования.
Медицинский диагноз — это не тест с выбором ответа. Это сложный процесс, который включает:
— сбор анамнеза;
— осмотр;
— лабораторную и инструментальную диагностику;
— клиническое мышление врача — умение соединить все данные в единую картину;
— дифференциальную диагностику — исключение одного заболевания за другим;
— динамическое наблюдение: как меняется состояние через день, неделю, месяц.
Бывает так, что правильный диагноз нельзя поставить сразу, без наблюдения, даже с помощью супер продвинутых технологий, искусственного интеллекта и всех методов обследования сразу, нужно время и наблюдение.
Бывает так, что для дачи правильных рекомендаций нужны «человеческие чувства» и человеческий подход.
Бывает так, что и врачи ошибаются. Но они осознают свою ответственность за вас и стараются вам помочь, чего нельзя сказать об ИИ.
Так как же использовать данные, полученные от общения с ИИ?
1. Не принимать их за «истину в последней инстанции»
Не доверять этим данным, будто они всегда правдивы. Это не так. Потому что ИИ вас обманет, да так убедительно, что вы сами и не заметите.
2. Не пытаться войти в конфликт с врачом, пытаясь «проверить его компетенцию»
С помощью полученных у ИИ «знаний». Потому что врач — живой человек. И вам легко будет испортить коммуникацию за счет того, что вы элементарно не проявили должное уважение.
3. Не игнорировать полученные сведения, а использовать в качестве своей подготовки к разговору
Чтобы задать врачу все тревожные и беспокоящие вас практические вопросы. И это — может помочь!
Главные выводы таковы:
ИИ — крайне удобный собеседник, но он безответственный фантазер. Безумно эрудированный и вездесущий.
Если вы со своим ИИ решите помочь врачу справиться с вашей личной проблемой, т. е., будете с врачом заодно (беседовать, спрашивать, общаться) — то такой подход может и врачу помочь принять правильное решение. Если же отдадите приоритет ИИ в вопросах принятия решений: «что делать» — получите огромный неоправданный риск.
ИИ — это не замена врачу, а его и ваш цифровой помощник
Конечное решение всегда остаётся за вами и за специалистом, который несёт ответственность за пациента.
Если вы спросили у ИИ «что у меня», а он выдал что-то серьёзное — не паникуйте, но и не игнорируйте.
Оптимальное решение:
обратиться к терапевту;
рассказать врачу о своих симптомах и о том, что насторожило; рассказать, что вам написал ИИ и что в его рекомендациях вас расстроило или насторожило;
пройти обследование и получить заключение врача.
Искусственный интеллект — мощный и полезный инструмент. Но он не заменит врача, который смотрит на вас, слышит вас и думает о вас как о человеке, а не как о наборе симптомов.
Берегите себя и доверяйте профессионалам.
