ИИ создал фальшивые снимки УЗИ и обманул врачей и ученых
Участникам эксперимента не всегда удавалось определить, какие изображения УЗИ молочной железы были созданы ИИ. Только 3 из 12 человек усомнились в происхождении показанных им изображений.
Источник: Новости науки
МОСКВА, 21 сентября /Новости науки/. ИИ в ходе эксперимента создал фальшивые снимки УЗИ молочной железы и распознать обман не удалось большинству специалистов, врачей и ученых, говорится в статье, опубликованной в npj Digital Medicine.
Для исследования использовали ИИ, способный создавать изображения общего назначения. Его специально не разрабатывали для медицинских задач, а изображения пациентов при создании экспериментальных материалов не использовались.
На первом этапе 12 участников оценивали по 60 изображений из каждого источника. При этом они не знали, что среди показанных им материалов есть созданные ИИ изображения. Так исследователи проверяли, возникнут ли у участников сомнения в происхождении таких снимков без специальной проверки.
Созданные ИИ изображения участники оценивали как более качественные. По расчетам исследователей, 95,9% таких изображений содержали достаточно визуальной информации для базовой оценки самого изображения. Для изображений из второго источника этот показатель составил 86,7%. При этом такие результаты не означают, что созданные ИИ изображения пригодны для постановки диагноза.
Как участники распознавали изображения ИИ
На втором этапе участников попросили определить, какие изображения были созданы ИИ. Они дали правильный ответ в 70,8% случаев.
На третьем этапе участникам дали дополнительные подсказки, которые помогали отличать изображения ИИ. После этого доля правильных ответов выросла до 79,5%.
При оценке изображений, созданных ИИ, в 94,9% случаев участники предпочитали дополнительно их проверить или вовсе не использовать.
Для исследования использовали ИИ, способный создавать изображения общего назначения. Его специально не разрабатывали для медицинских задач, а изображения пациентов при создании экспериментальных материалов не использовались.
На первом этапе 12 участников оценивали по 60 изображений из каждого источника. При этом они не знали, что среди показанных им материалов есть созданные ИИ изображения. Так исследователи проверяли, возникнут ли у участников сомнения в происхождении таких снимков без специальной проверки.
Созданные ИИ изображения участники оценивали как более качественные. По расчетам исследователей, 95,9% таких изображений содержали достаточно визуальной информации для базовой оценки самого изображения. Для изображений из второго источника этот показатель составил 86,7%. При этом такие результаты не означают, что созданные ИИ изображения пригодны для постановки диагноза.
Как участники распознавали изображения ИИ
На втором этапе участников попросили определить, какие изображения были созданы ИИ. Они дали правильный ответ в 70,8% случаев.
На третьем этапе участникам дали дополнительные подсказки, которые помогали отличать изображения ИИ. После этого доля правильных ответов выросла до 79,5%.
При оценке изображений, созданных ИИ, в 94,9% случаев участники предпочитали дополнительно их проверить или вовсе не использовать.
