Стоит ли доверять медицинским рекомендациям ИИ?

Эксперимент был проведен учеными из Оксфордского интернет-института и кафедры первичной медико-санитарной помощи при Оксфордском университете, и его результаты опубликованы в научном журнале Nature Medicine. Выяснилось, что использование ИИ для принятия медицинских решений представляет риски для пациентов из-за его «склонности предоставлять неточную и противоречивую информацию», информирует BBC.

Соавтор исследования и врач общей практики доктор Ребекка Пейн заявила, что, по ее данным, несмотря на весь ажиотаж, искусственный интеллект просто не готов взять на себя роль врача.

«Пациентам необходимо понимать, что обращение к сложной языковой модели с вопросами о симптомах может быть опасным, привести к постановке неверных диагнозов и неспособности распознать необходимость срочной помощи», – подчеркнула доктор Пейн.

В ходе исследования ученые попросили почти 1300 участников определить потенциальные проблемы со здоровьем и рекомендуемый курс действий, используя различные сценарии.

Некоторые участники использовали программное обеспечение на основе больших языковых моделей (LLM) с искусственным интеллектом для получения потенциального диагноза и определения дальнейших шагов, в то время как другие использовали более традиционные методы, такие как посещение врача общей практики. Затем исследователи проанализировали результаты и обнаружили, что ИИ часто предоставлял «смесь хорошей и плохой информации», которую пользователям было трудно различить. Хотя чат-боты с ИИ теперь «преуспевают в стандартизированных тестах на медицинские знания», их использование в качестве медицинского инструмента «создаст риски для реальных пользователей, обращающихся за помощью по поводу собственных медицинских симптомов».

Ученые отмечают, как нужны клинические испытания для новых лекарств, так и системам ИИ требуется тщательное тестирование с участием различных реальных пользователей, чтобы понять их истинные возможности в таких областях высокого риска, как здравоохранение.

Сергей КИРИК

Фото из открытых интернет-источников