НГУ запатентовал метод для более точного распознавания симптомов с помощью ИИ
Разработка НГУ помогает нейросети находить в электронных медицинских картах самые важные симптомы и показатели. Это делает работу медицинских ИИ-систем понятнее для врача и повышает точность оценки рисков.
Источник: НГУ
МОСКВА, 2 июня. /Новости науки/. Сотрудники Центра искусственного интеллекта Новосибирского государственного университета запатентовали метод, который помогает системам ИИ точнее выделять важные симптомы и показатели в электронных медицинских картах пациентов. Разработку уже используют для обучения системы поддержки врачебных решений «Доктор Пирогов», сообщила пресс-служба НГУ.
Метод относится к медицинской информатике и анализу больших массивов данных. Алгоритм изучает тысячи деперсонифицированных медицинских карт пациентов с одним диагнозом. Затем он находит среди десятков и сотен полей те признаки, которые чаще встречаются при конкретной болезни и сильнее связаны с постановкой диагноза.
«Затем с помощью этого способа мы определяем, какие для заданных заболеваний симптомы более информативны, и используем их в системе поддержки принятия врачебных решений», — сказал руководитель проектов Центра искусственного интеллекта НГУ, заведующий лабораторией ИИ и больших генетических данных ИЦиГ СО РАН Владимир Иванисенко.
Сначала электронные медицинские карты приводят к единому виду. Затем данные превращают в набор простых признаков: если симптом или отклонение в анализе есть, система ставит единицу, если нет — ноль. После этого на этих данных обучают нейросеть типа Concrete Autoencoder. В ней используют механизм Gumbel-Softmax.
Главная особенность такого подхода в том, что нейросеть не только выдает итоговый результат. Она также выбирает конкретные признаки, которые сильнее всего повлияли на вывод. Чтобы убрать случайные эффекты, модель запускают много раз. После этого разработчики смотрят, какие симптомы и показатели нейросеть выбирала чаще всего. Так формируется устойчивый набор значимых признаков для прогноза заболевания.
Одна из главных проблем медицинского ИИ — слабая объяснимость решений. Нейросеть может выдать ответ, но врачу часто трудно понять, почему система пришла именно к такому выводу. Это снижает доверие к алгоритмам и ограничивает их применение в клинической практике.
«Нейросети обычно дают какой-то результат, который не обоснован, не интерпретируется исходя из того, как они его получили. Иначе обстоит дело с этим типом автокодировщиков. Они позволяют на выходе указывать конкретные признаки и симптомы больного, которые дают наибольший вклад в правильную постановку диагноза», — отметил Иванисенко.
По словам разработчиков, новый метод делает работу ИИ более прозрачной. Врач видит, какие симптомы, жалобы или отклонения в анализах система сочла наиболее важными. Это позволяет сопоставить вывод алгоритма с клинической картиной и собственным опытом врача.
Разработку используют для настройки «Доктора Пирогова», но сам метод не привязан только к этой системе. Его можно встроить в разные цифровые платформы, которые помогают врачам принимать решения на основе электронных медицинских карт.
Отдельное направление применения — рискомеры. Такие системы оценивают вероятность развития заболевания у пациента по его данным. Для них особенно важно понимать, какие признаки действительно влияют на прогноз.
«Это, в частности, наша система как раз и делает: определяет риски заболеваний по наличию определенных симптомов и показателей. Для любых систем, которые пытаются на основе симптоматики оценивать риски, критично понимать, на какие признаки обращать внимание, какие из них наиболее значимы», — сказал Иванисенко.
Команда НГУ завершила патентование метода и сейчас занимается тонкой настройкой системы. Разработчики планируют представить результаты на Петербургском международном экономическом форуме.
По словам Иванисенко, новый подход уже помог улучшить работу «Доктора Пирогова»: «С помощью нашей системы мы действительно научили “Доктора Пирогова” лучше распознавать симптомы».
В перспективе такие методы могут сделать цифровую медицину более надежной и понятной. ИИ-системы будут не только оценивать риски и помогать с диагностикой, но и показывать врачу, на каких клинических признаках основан их вывод.
Метод относится к медицинской информатике и анализу больших массивов данных. Алгоритм изучает тысячи деперсонифицированных медицинских карт пациентов с одним диагнозом. Затем он находит среди десятков и сотен полей те признаки, которые чаще встречаются при конкретной болезни и сильнее связаны с постановкой диагноза.
«Затем с помощью этого способа мы определяем, какие для заданных заболеваний симптомы более информативны, и используем их в системе поддержки принятия врачебных решений», — сказал руководитель проектов Центра искусственного интеллекта НГУ, заведующий лабораторией ИИ и больших генетических данных ИЦиГ СО РАН Владимир Иванисенко.
Сначала электронные медицинские карты приводят к единому виду. Затем данные превращают в набор простых признаков: если симптом или отклонение в анализе есть, система ставит единицу, если нет — ноль. После этого на этих данных обучают нейросеть типа Concrete Autoencoder. В ней используют механизм Gumbel-Softmax.
Главная особенность такого подхода в том, что нейросеть не только выдает итоговый результат. Она также выбирает конкретные признаки, которые сильнее всего повлияли на вывод. Чтобы убрать случайные эффекты, модель запускают много раз. После этого разработчики смотрят, какие симптомы и показатели нейросеть выбирала чаще всего. Так формируется устойчивый набор значимых признаков для прогноза заболевания.
Одна из главных проблем медицинского ИИ — слабая объяснимость решений. Нейросеть может выдать ответ, но врачу часто трудно понять, почему система пришла именно к такому выводу. Это снижает доверие к алгоритмам и ограничивает их применение в клинической практике.
«Нейросети обычно дают какой-то результат, который не обоснован, не интерпретируется исходя из того, как они его получили. Иначе обстоит дело с этим типом автокодировщиков. Они позволяют на выходе указывать конкретные признаки и симптомы больного, которые дают наибольший вклад в правильную постановку диагноза», — отметил Иванисенко.
По словам разработчиков, новый метод делает работу ИИ более прозрачной. Врач видит, какие симптомы, жалобы или отклонения в анализах система сочла наиболее важными. Это позволяет сопоставить вывод алгоритма с клинической картиной и собственным опытом врача.
Разработку используют для настройки «Доктора Пирогова», но сам метод не привязан только к этой системе. Его можно встроить в разные цифровые платформы, которые помогают врачам принимать решения на основе электронных медицинских карт.
Отдельное направление применения — рискомеры. Такие системы оценивают вероятность развития заболевания у пациента по его данным. Для них особенно важно понимать, какие признаки действительно влияют на прогноз.
«Это, в частности, наша система как раз и делает: определяет риски заболеваний по наличию определенных симптомов и показателей. Для любых систем, которые пытаются на основе симптоматики оценивать риски, критично понимать, на какие признаки обращать внимание, какие из них наиболее значимы», — сказал Иванисенко.
Команда НГУ завершила патентование метода и сейчас занимается тонкой настройкой системы. Разработчики планируют представить результаты на Петербургском международном экономическом форуме.
По словам Иванисенко, новый подход уже помог улучшить работу «Доктора Пирогова»: «С помощью нашей системы мы действительно научили “Доктора Пирогова” лучше распознавать симптомы».
В перспективе такие методы могут сделать цифровую медицину более надежной и понятной. ИИ-системы будут не только оценивать риски и помогать с диагностикой, но и показывать врачу, на каких клинических признаках основан их вывод.
