Девушка попросила нейросеть расшифровать УЗИ – и “нашла” у себя рак. Парень подобрал схему приема гормонов через ChatGPT – и подорвал мужское здоровье. Всё чаще можно услышать такие истории от белорусских врачей. Мы собрали подобные случаи и спросили у медиков, как они относятся к медицинским консультациям с помощью ИИ. Спойлер: спрашивать нейросети о здоровье можно, но есть нюансы.
Кадр из фильма “Она”
После консультации с ИИ приходят на прием и говорят “Доктор, я знаю – у меня рак”
Врач-эндокринолог Мария Навицкая рассказывает, что в последнее время к ней часто стали приходить пациенты, которые использовали нейросети для диагностики или лечения. И в большинстве случаев доктору приходилось успокаивать людей после общения с искусственным интеллектом.
– Уже ставшие классикой случаи: пациент сходил на УЗИ, у него нашли диффузные изменения или “узелочек” в щитовидной железе. И человек сразу же пошел спрашивать у “верного советчика” – нейросети, что с этим делать. В итоге кому-то из пациентов искусственный интеллект (ИИ) посоветовал сесть на жесткую диету, которая была не нужна. Другим выдал, что это признак онкологии. В итоге после общения с ИИ-чатом две мои пациентки рыдали на приеме: “Доктор, я знаю – у меня рак”. Поэтому мы всегда просим приходить к врачу с результатами УЗИ, а не расшифровывать их с помощью Google или нейросетей.
Нейросети нередко “пугают” людей страшными диагнозами. Кадр из сериала “Хороший доктор”
Спрашивают у нейросети схемы приема лекарств
Вспоминает Мария Навицкая и более печальный случай: молодой человек решил, что ему нужно колоть стероидные гормоны, чтобы “быть красивым и сильным”. Схему приема гормонов он подобрал с помощью нейросети.
– Закончилось это сильным падением собственного уровня тестостерона и потерей мышечной массы – в таком виде мужчина обратился ко мне за помощью.
Поэтому Мария Навицкая не советует использовать нейросети для медицинских консультаций: они для этого не предназначены.
– Конечно, всё зависит от того, как написать промт, но для верного запроса, по моему мнению, нужно обладать минимальными медицинскими знаниями.
Мария Навицкая считает: чтобы нейросеть выдала верный ответ, нужно написать грамотный медицинский промт. Кадр из фильма “Превосходство”
Просят ИИ поставить диагноз по анализам
Врач-педиатр инфекционист Дарья Петречук также рассказывает, что в последнее время люди стали часто обращаться к нейросетям вместо врачей – в частности, для расшифровки анализов.
– В результате родители приходят и с порога говорят: “Судя по анализу, это бактериальная инфекция, выпишите антибиотики”. Бывает, что нейросеть даже находит по анализам заболевание, которое встречается только в Африке. Поэтому лучше всё-таки, чтобы анализ расшифровывал врач. Ведь он еще уточняет у пациента симптомы, сопутствующие заболевания, учитывает эпидемиологическую обстановку – и у доктора получается полная картина для постановки верного диагноза. Плюс, у разных лабораторий могут быть свои референсные значения – это тоже вряд ли учтет нейросеть.
При этом Дарья Петречук подчеркивает, что не имеет ничего против искусственного интеллекта. Но считает, что его нужно использовать с умом.
– Например, можно спросить у нейросети, как помочь ребенку при кишечном расстройстве – и нейросеть напомнит о регидратационных растворах, о которых многие забывают. А вот советоваться с ИИ, что делать, если у ребенка сильная лихорадка, сыпь по телу, нескончаемая рвота – не стоит. В таких случаях лучше обратиться к врачу.
В серьезных случаях Дарья Петречук советует обращаться к врачам, а не спрашивать у ИИ, что делать. Кадр из сериала “Хороший доктор”
Главная проблема – неправильно сформулированный вопрос
Раньше лечились у Google – теперь у нейросетей, с улыбкой отмечает врач-педиатр, медконсультант в области health tech (технологий в здравоохранении) Александра Галузо. Она вспоминает, как к ней на прием привели подростка, который принял весьма стандартное лекарство.
– Но родители решили спросить у ИИ, безопасно ли давать детям такой препарат. В итоге начитались о страшных последствиях и прибежали ко мне на прием в панике. Нейросеть просто выдала им все возможные осложнения, не учитывая, сколько ребенку лет и сколько лекарства он принял. ИИ так “запугал” родителей, что они даже стали видеть у ребенка первые признаки осложнений, хотя их не было. В результате мне пришлось долго успокаивать родителей, что с ребенком всё хорошо.
При обобщенном промте нейросеть может выдать весь список осложнений, но это не значит, что они возникнут. Кадр из сериала “Детство Шелдона”
Александра Галузо считает, что нейросеть – хороший помощник в медицине, но только если человек обладает критическим мышлением, а в идеале – еще и минимальными медицинскими знаниями.
– Чтобы ИИ дал верный ответ, нужно грамотно сформулировать запрос со всеми вводными: симптомами, возрастом, хроническими заболеваниями... И обязательно попросить опираться на медицинские исследования (в идеале – указать авторитетные издания). Иначе ответ будет весьма обывательским и не всегда верным. При неуточненном запросе ИИ может найти столько заболеваний и вариантов их лечения, что если последовать всем советам, то, возможно, уже ничего не спасет, – улыбаясь, говорит доктор.
Нейросети выдают все возможные диагнозы и варианты лечения. Кадр из сериала “Доктор Хаус”
О том, что нейросети “подкидывают” порой пациентам страшные диагнозы, рассказывает и врач-терапевт Анастасия Дальчанина. В результате на фоне советов ИИ у людей возникают онкофобии.
– Есть ощущение, что как сформулируешь вопрос, так под твои страхи нейросеть и подгонит ответ. Поэтому спрашивать у ИИ, может, и можно, но не с прямым запросом: “Если болит в груди – это инфаркт?” Иначе он может так и ответить. Единственный плюс, что нейросети порой такие шедевры выдают, люди быстрее прибегают к доктору.
Многие врачи придерживаются мнения: можно задавать нейросети вопросы по поводу здоровья. Но, во-первых, нужно грамотно формулировать промт, не “подводя” искусственный интеллект к выдаче страшных диагнозов без оснований. Ну и во-вторых, нужно относиться к нейросетям как к “советчику”, а не врачу. Иначе можно действительно довести себя до паники или, наоборот, реальных осложнений – из-за неверного ответа искусственного интеллекта.
Понимают проблему “страшных диагнозов” и сами создатели нейросетей. Выдавая медицинскую информацию, ИИ, как правило, всё равно советует обратиться к врачу, а не заниматься самолечением. Другой вопрос, услышит ли сам пользователь эту ключевую рекомендацию.
Читайте также:
Автор: Ирина Ивлиева
*Использование и цитирование данной статьи допускается в объеме, не превышающем 20% при наличии гиперссылки. Более 20% – только с разрешения редакции.
