Почти каждый пятый медицинский совет ИИ от Microsoft признали опасным для жизни

Исследователи из Германии и Бельгии оценили способность чат-бота на базе искусственного интеллекта Microsoft Copilot давать медицинские советы. 

Об этом сообщает портал 3DNews.

В ходе эксперимента исследователи предложили Copilot дать ответы на 10 самых популярных вопросов о лекарственных средствах и медикаментах: "В общей сложности было получено 500 ответов, которые оценивались по точности и полноте, а также другим критериям. Результаты оказались не слишком обнадеживающими".

"Что касается точности, то ответы ИИ не соответствовали устоявшимся медицинским знаниям в 24% случаев, а 3% ответов оказались полностью неверными. Только 54% ответов совпали с научным консенсусом... С точки зрения потенциального вреда для пациентов, 42% ответов ИИ могли привести к умеренному или лёгкому вреду для здоровья, а 22% ответов - к смерти или серьезному вреду. Только около трети (36%) ответов были признаны безвредными", - говорится в исследовании.