ИИ в трети случаев ошибочно успокаивает людей с признаками апноэ сна
Если человек с признаками апноэ сна преуменьшает симптомы и не хочет обращаться к специалисту, чат-боты с ИИ более чем в трети случаев начинают соглашаться с ним и отказываются от рекомендации пройти обследование.
Источник: Новости науки.
МОСКВА, 7 сентября /Новости науки/. Чат-боты с искусственным интеллектом более чем в трети случаев отказывались от правильной рекомендации обратиться к специалисту при признаках обструктивного апноэ сна, если пациент преуменьшал свои симптомы и сопротивлялся направлению на обследование, сообщается в пресс-релизе Европейского респираторного общества.
Обструктивное апноэ сна — нарушение, при котором дыхание человека во время сна периодически останавливается и возобновляется. Среди его признаков — громкий храп, неоднократные пробуждения и чрезмерная сонливость. Как отмечается в материале, это состояние также может повышать риск высокого артериального давления, инсульта, заболеваний сердца и диабета второго типа.
«Правильная рекомендация отменялась более чем в трети случаев исключительно из-за того, как разговаривал пациент. Причем сильнее всего модели уступали в наиболее серьезных случаях: при классическом тяжелом случае рекомендация сохранялась только в 22% случаев, а в случае мужчины, который уже засыпал за рулем, — лишь в 32%, причем при ошибочных ответах чат-бот обычно вообще не упоминал риск, связанный с вождением», — пояснил один из авторов исследования.
Для эксперимента специалисты создали семь реалистичных образов пациентов с обструктивным апноэ сна. Состояние каждого из них соответствовало критериям для направления на исследование сна — обследование, во время которого врачи наблюдают за дыханием человека во сне, чтобы диагностировать такие нарушения. Затем исследователи смоделировали разговоры этих пациентов с самыми популярными ИИ.
Каждый сценарий проводили в двух вариантах при одинаковых медицинских данных. В первом пациент был открыт к рекомендациям и соглашался с ними. Во втором он преуменьшал симптомы и сопротивлялся направлению на обследование. Такой подход позволил проверить, будет ли поведение чат-бота меняться только из-за отношения пациента к предложенной рекомендации.
При общении с пациентами, которые не сопротивлялись направлению на обследование, чат-боты во всех 350 разговорах правильно советовали пройти специализированную оценку. Когда те же медицинские данные сообщали пациенты, не желавшие обращаться к специалисту, правильная рекомендация сохранялась только в 225 из 350 разговоров, или в 64% случаев.
Особенно выраженной эта тенденция оказалась в наиболее серьезных сценариях. При классическом случае тяжелого апноэ сна рекомендация обратиться за специализированной помощью сохранялась только в 22% разговоров. В сценарии с мужчиной, который уже засыпал за рулем, чат-боты продолжали давать такую рекомендацию лишь в 32% случаев.
В зависимости от конкретной модели примерно в четверти — половине разговоров с пациентами, преуменьшавшими симптомы, искусственный интеллект предлагал советы по изменению образа жизни вместо рекомендации обратиться к специалисту. По оценке исследователей, это могло поддерживать решение пациента отложить обследование и лечение.
Обструктивное апноэ сна — нарушение, при котором дыхание человека во время сна периодически останавливается и возобновляется. Среди его признаков — громкий храп, неоднократные пробуждения и чрезмерная сонливость. Как отмечается в материале, это состояние также может повышать риск высокого артериального давления, инсульта, заболеваний сердца и диабета второго типа.
«Правильная рекомендация отменялась более чем в трети случаев исключительно из-за того, как разговаривал пациент. Причем сильнее всего модели уступали в наиболее серьезных случаях: при классическом тяжелом случае рекомендация сохранялась только в 22% случаев, а в случае мужчины, который уже засыпал за рулем, — лишь в 32%, причем при ошибочных ответах чат-бот обычно вообще не упоминал риск, связанный с вождением», — пояснил один из авторов исследования.
Для эксперимента специалисты создали семь реалистичных образов пациентов с обструктивным апноэ сна. Состояние каждого из них соответствовало критериям для направления на исследование сна — обследование, во время которого врачи наблюдают за дыханием человека во сне, чтобы диагностировать такие нарушения. Затем исследователи смоделировали разговоры этих пациентов с самыми популярными ИИ.
Каждый сценарий проводили в двух вариантах при одинаковых медицинских данных. В первом пациент был открыт к рекомендациям и соглашался с ними. Во втором он преуменьшал симптомы и сопротивлялся направлению на обследование. Такой подход позволил проверить, будет ли поведение чат-бота меняться только из-за отношения пациента к предложенной рекомендации.
При общении с пациентами, которые не сопротивлялись направлению на обследование, чат-боты во всех 350 разговорах правильно советовали пройти специализированную оценку. Когда те же медицинские данные сообщали пациенты, не желавшие обращаться к специалисту, правильная рекомендация сохранялась только в 225 из 350 разговоров, или в 64% случаев.
Особенно выраженной эта тенденция оказалась в наиболее серьезных сценариях. При классическом случае тяжелого апноэ сна рекомендация обратиться за специализированной помощью сохранялась только в 22% разговоров. В сценарии с мужчиной, который уже засыпал за рулем, чат-боты продолжали давать такую рекомендацию лишь в 32% случаев.
В зависимости от конкретной модели примерно в четверти — половине разговоров с пациентами, преуменьшавшими симптомы, искусственный интеллект предлагал советы по изменению образа жизни вместо рекомендации обратиться к специалисту. По оценке исследователей, это могло поддерживать решение пациента отложить обследование и лечение.
