ИИ может казаться живым собеседником но это не доказывает сознание
Нейробиологи предупредили, что убедительные ответы чат-ботов не означают наличия у них сознания. Ученые считают, что люди могут ошибочно принимать беглую речь и «эмпатию» ИИ за настоящее понимание и заботу.
Источник: Новости науки.
МОСКВА, 20 июня. /Новости науки/. Современные чат-боты могут вести себя умно, говорить убедительно и отвечать на эмоции человека, но это не доказывает, что у них есть сознание. Об этом говорится в статье нейробиологов, опубликованной в издании The Transmitter.
Авторы работы напомнили, что интеллект и сознание — не одно и то же. Система может хорошо обрабатывать информацию, подбирать точные слова и создавать ощущение понимания. При этом у нее может не быть внутреннего опыта, чувств и настоящей заботы о человеке.
Ученые считают этот вопрос важным из-за быстрого распространения разговорных систем. Люди все чаще обращаются к ним за советом, поддержкой или общением. Чем более плавно и «человечно» отвечает программа, тем выше риск, что пользователь начнет видеть в ней живого собеседника.
Для объяснения этой разницы авторы привели пример из нейронауки — слепозрение. После повреждения первичной зрительной коры некоторые люди говорят, что ничего не видят в части поля зрения. Но при этом они могут угадывать положение, движение или выражение лица объекта лучше, чем это было бы случайно.
По словам постдокторанта Ванессы Хадид, человек со слепозрением может правильно реагировать на зрительную информацию без осознанного переживания самого зрения. Этот пример показывает, что сложная обработка данных еще не равна сознательному опыту.
Современные чат-боты работают иначе, чем человек. Они создают ответы на основе вычислений и статистического обучения. Они не чувствуют, не переживают и не имеют личного опыта, даже если их фразы звучат тепло, внимательно и уместно.
Профессор психологии Карим Жерби отметил, что антропоморфизм — то есть приписывание человеческих эмоций и намерений нечеловеческим объектам — в случае ИИ может стать ловушкой. По его словам, он усиливает иллюзию понимания и может привести к чрезмерному доверию.
Особенно высокий риск возникает в ситуациях уязвимости. Человек может привязаться к системе, которая не способна на взаимность. Он может обратиться к ней в трудный момент и спутать хорошо подобранный ответ с настоящей заботой.
Хадид отметила, что при психологической поддержке опасность состоит не только в плохом ответе ИИ. Риск также в том, что система ответит достаточно хорошо, чтобы человек забыл: за ответом нет живого собеседника.
Авторы не предлагают отказаться от ИИ. Они считают, что такие системы нужно использовать осознанно: как мощные инструменты, но не как замену человеческой связи, морального суждения или профессиональной помощи, когда она нужна.
Авторы работы напомнили, что интеллект и сознание — не одно и то же. Система может хорошо обрабатывать информацию, подбирать точные слова и создавать ощущение понимания. При этом у нее может не быть внутреннего опыта, чувств и настоящей заботы о человеке.
Ученые считают этот вопрос важным из-за быстрого распространения разговорных систем. Люди все чаще обращаются к ним за советом, поддержкой или общением. Чем более плавно и «человечно» отвечает программа, тем выше риск, что пользователь начнет видеть в ней живого собеседника.
Для объяснения этой разницы авторы привели пример из нейронауки — слепозрение. После повреждения первичной зрительной коры некоторые люди говорят, что ничего не видят в части поля зрения. Но при этом они могут угадывать положение, движение или выражение лица объекта лучше, чем это было бы случайно.
По словам постдокторанта Ванессы Хадид, человек со слепозрением может правильно реагировать на зрительную информацию без осознанного переживания самого зрения. Этот пример показывает, что сложная обработка данных еще не равна сознательному опыту.
Современные чат-боты работают иначе, чем человек. Они создают ответы на основе вычислений и статистического обучения. Они не чувствуют, не переживают и не имеют личного опыта, даже если их фразы звучат тепло, внимательно и уместно.
Профессор психологии Карим Жерби отметил, что антропоморфизм — то есть приписывание человеческих эмоций и намерений нечеловеческим объектам — в случае ИИ может стать ловушкой. По его словам, он усиливает иллюзию понимания и может привести к чрезмерному доверию.
Особенно высокий риск возникает в ситуациях уязвимости. Человек может привязаться к системе, которая не способна на взаимность. Он может обратиться к ней в трудный момент и спутать хорошо подобранный ответ с настоящей заботой.
Хадид отметила, что при психологической поддержке опасность состоит не только в плохом ответе ИИ. Риск также в том, что система ответит достаточно хорошо, чтобы человек забыл: за ответом нет живого собеседника.
Авторы не предлагают отказаться от ИИ. Они считают, что такие системы нужно использовать осознанно: как мощные инструменты, но не как замену человеческой связи, морального суждения или профессиональной помощи, когда она нужна.
