«Модели мира» должны понимать, что предмет, столкнутый со стола, упадет вниз, а автомобиль, съехавший с обрыва, не продолжит путь по воздуху. Это отличает их от многих генеративных систем, которые создают правдоподобные изображения, но не всегда верно предсказывают поведение объектов в реальности.
Диагностика с помощью ИИ занимает доли секунды. Это может помочь энергетикам быстрее реагировать на аварии и перейти к постоянному наблюдению за состоянием электросетей.
Часть специалистов признает, что еще недавно подобные разговоры казались чистой фантастикой, но теперь тревога усилилась из-за резкого роста возможностей больших языковых моделей
Атака отравления данных выглядит не так эффектно, как взлом «в лоб», но может быть даже опаснее. Злоумышленник незаметно подмешивает в обучающую выборку специально искаженные примеры, и модель постепенно начинает усваивать ложные закономерности.
Cистема может определять эмоциональное состояние примерно с точностью 90%.
Эксперты, опрошенные Nature, предупреждают, что модели ИИ, обученные на данных неизвестного происхождения, нельзя использовать для клинических решений. Если их данные не отражают реальный мир, то они могут неверно оценивать риск болезни.
Конференция NeurIPS считается одной из самых важных в мире в области искусственного интеллекта. В последние годы китайские ученые играют там все более заметную роль. По данным Nature, в прошлом году именно исследователи из Китая впервые составили крупнейшую группу первых авторов на этой площадке.
С финальным диагнозом ИИ справлялись хорошо: если у них была вся нужная информация, правильный ответ они давали более чем в 90% случаев. Однако на более раннем этапе, когда врачу нужно определить круг возможных причин болезни, почти все системы работали значительно хуже.
OpenAI исходит из того, что человечество вступает в новую эпоху — эпоху перехода от нынешнего ИИ к суперинтеллекту, то есть к системам, которые смогут превосходить даже самых умных людей, включая людей, усиленных ИИ.
Специалисты предлагают создать систему постоянной независимой проверки медицинских ИИ-моделей — не только на фактические ошибки, но и на устойчивость к дезинформации, скрытым искажениям и другим уязвимостям.
