Ученые все чаще предупреждают о гибели человечества из-за ИИ - Nature
Часть специалистов признает, что еще недавно подобные разговоры казались чистой фантастикой, но теперь тревога усилилась из-за резкого роста возможностей больших языковых моделей
Больше тем из рубрики Нейросети
-
Нейросети -
НейросетиВ МИФИ создали нейросеть которая умеет сопротивляться «отравлению» данных
Атака отравления данных выглядит не так эффектно, как взлом «в лоб», но может быть даже опаснее. Злоумышленник незаметно подмешивает в обучающую выборку специально искаженные примеры, и модель постепенно начинает усваивать ложные закономерности.
-
НейросетиНейросеть научили распознавать стресс жертв телефонных мошенников по данным умных часов
Cистема может определять эмоциональное состояние примерно с точностью 90%.
-
НейросетиДесятки известных медицинских ИИ-моделей обучали на сомнительных данных - исследование
Эксперты, опрошенные Nature, предупреждают, что модели ИИ, обученные на данных неизвестного происхождения, нельзя использовать для клинических решений. Если их данные не отражают реальный мир, то они могут неверно оценивать риск болезни.
-
НейросетиКитайские ученые бойкотировали в США одну из главных конференций по ИИ
Конференция NeurIPS считается одной из самых важных в мире в области искусственного интеллекта. В последние годы китайские ученые играют там все более заметную роль. По данным Nature, в прошлом году именно исследователи из Китая впервые составили крупнейшую группу первых авторов на этой площадке.
-
Нейросети"Цифровой врач" на базе ИИ уступает человеку в определении возможных причин болезни
С финальным диагнозом ИИ справлялись хорошо: если у них была вся нужная информация, правильный ответ они давали более чем в 90% случаев. Однако на более раннем этапе, когда врачу нужно определить круг возможных причин болезни, почти все системы работали значительно хуже.
-
НейросетиOpenAI опубликовало свое видение о будущем человечества после появления сверхразума AI
OpenAI исходит из того, что человечество вступает в новую эпоху — эпоху перехода от нынешнего ИИ к суперинтеллекту, то есть к системам, которые смогут превосходить даже самых умных людей, включая людей, усиленных ИИ.
-
НейросетиУченые придумали несуществующую болезнь, а нейросеть посчитала ее реальной
Специалисты предлагают создать систему постоянной независимой проверки медицинских ИИ-моделей — не только на фактические ошибки, но и на устойчивость к дезинформации, скрытым искажениям и другим уязвимостям.
-
НейросетиНейросети в большом количестве засоряют научные статьи вымышленными ссылками
Один из анализов почти 18 тыс. статей, принятых на три конференции по информатике, показал резкий рост ссылок, которые невозможно проследить до реальных публикаций. Если в 2024 году подозрительные ссылки были примерно в 0,3% работ, то в 2025 году — уже в 2,6%.
-
НейросетиЛьстивые чат-боты нейросетей делают вас менее добрыми к людям
По словам исследователей, чтобы уменьшить склонность ИИ к угодливости, придется пересматривать и методы обучения, и способы оценки моделей, и то, как такие системы подаются пользователю.