В МИСИС предложили способ проверять перенос знаний между моделями ИИ
В НИТУ МИСИС предложили математический подход к проверке переноса знаний между моделями искусственного интеллекта. Такая проверка нужна, поскольку успешная работа системы на исходных данных не гарантирует сохранения её свойств после адаптации.
МОСКВА, 23 сентября. Исследователь НИТУ МИСИС Никита Никитин разработал математический подход, который описывает условия корректного переноса знаний между моделями искусственного интеллекта. Он может стать основой для проверки того, сохранит ли система заданные свойства при переходе к новым данным. Результаты опубликованы в журнале Scientific Reports.
При создании систем ИИ разработчики часто используют уже обученные модели, адаптируя их к новым задачам. Это позволяет сократить время обучения и потребность в данных. Однако знания, полезные в одних условиях, не обязательно окажутся столь же полезными в других: после переноса точность модели может снизиться.
Никитин предложил описывать такой переход с помощью математической логики. В основе работы — «теорема аналогии», которая формализует условия сходного поведения моделей. Исследователь связал этот подход с логикой Хоара — методом проверки программ, позволяющим установить, какие свойства результата следуют из заданных исходных условий.
Вместо того чтобы ограничиваться испытаниями на отдельных примерах, такой подход предполагает математическое обоснование переноса. При этом доказательство действует только при выполнении условий теоремы и в определённой области данных — оно не означает, что ИИ будет безошибочно работать в любой новой ситуации.
Помимо теоретической части, исследователь провёл вычислительные эксперименты на искусственно созданных данных и наборах изображений рукописных цифр MNIST и USPS. Они позволяют изучать перенос между близкими задачами: в обоих случаях требуется распознавать цифры, но сами изображения и их разрешение различаются.
«Предложенный математический аппарат может стать основой для создания более надежных систем ИИ, особенно в тех сферах, где ошибки недопустимы. Например, в медицине, промышленности, робототехнике и беспилотном транспорте», — отметил сотрудник Института новых материалов НИТУ МИСИС Никита Никитин в сообщении университета.
Практические возможности метода ещё предстоит проверить. В статье автор указывает, что подход пока не испытывали в масштабных прикладных задачах, включая анализ медицинских изображений и автономное вождение, а также на больших языковых моделях.
Исследование выполнено при поддержке Российского научного фонда, проект № 23-73-00131.
При создании систем ИИ разработчики часто используют уже обученные модели, адаптируя их к новым задачам. Это позволяет сократить время обучения и потребность в данных. Однако знания, полезные в одних условиях, не обязательно окажутся столь же полезными в других: после переноса точность модели может снизиться.
Никитин предложил описывать такой переход с помощью математической логики. В основе работы — «теорема аналогии», которая формализует условия сходного поведения моделей. Исследователь связал этот подход с логикой Хоара — методом проверки программ, позволяющим установить, какие свойства результата следуют из заданных исходных условий.
Вместо того чтобы ограничиваться испытаниями на отдельных примерах, такой подход предполагает математическое обоснование переноса. При этом доказательство действует только при выполнении условий теоремы и в определённой области данных — оно не означает, что ИИ будет безошибочно работать в любой новой ситуации.
Помимо теоретической части, исследователь провёл вычислительные эксперименты на искусственно созданных данных и наборах изображений рукописных цифр MNIST и USPS. Они позволяют изучать перенос между близкими задачами: в обоих случаях требуется распознавать цифры, но сами изображения и их разрешение различаются.
«Предложенный математический аппарат может стать основой для создания более надежных систем ИИ, особенно в тех сферах, где ошибки недопустимы. Например, в медицине, промышленности, робототехнике и беспилотном транспорте», — отметил сотрудник Института новых материалов НИТУ МИСИС Никита Никитин в сообщении университета.
Практические возможности метода ещё предстоит проверить. В статье автор указывает, что подход пока не испытывали в масштабных прикладных задачах, включая анализ медицинских изображений и автономное вождение, а также на больших языковых моделях.
Исследование выполнено при поддержке Российского научного фонда, проект № 23-73-00131.
