Людям и нейросетям нужна «когнитивная настройка» для эффективной совместной работы
Предлагает строить эффективное партнерство человека и ИИ через постепенное формирование «гибридной когнитивной согласованности». Это не возникает автоматически в момент запуска системы, а вырабатывается со временем, когда люди начинают понимать, как ведет себя ИИ, меняют собственный стиль взаимодействия с ним и заново калибруют уровень доверия на основе опыта
Источник: Новости науки. Иллюстрация создана с помощью нейросети.
МОСКВА, 18 марта. /Новости науки/. Для того чтобы люди и нейросети (системы искусственного интеллекта, ИИ) действительно работали эффективно в паре, между ними должна формироваться так называемая гибридная когнитивная согласованность, то есть общее понимание того, какую задачу решает ИИ, как именно его следует использовать и в каких ситуациях решающее слово должно оставаться за человеком.
К такому выводу пришла исследовательница Технологического института Стивенса Бэй Янь, опубликовавшая статью в журнале Academy of Management Journal.
«Компании используют ИИ вместе с людьми, но им трудно работать по-настоящему слаженно. Люди мыслят иначе, чем ИИ. Люди опираются на опыт, суждение и социальные сигналы. ИИ опирается на статистические закономерности, извлеченные из данных», - приводятся в сообщении слова Янь, доцента Школы бизнеса Технологического института Стивенса.
Как отмечает автор, эти различия сами по себе не являются недостатком. Напротив, человек и ИИ могут хорошо дополнять друг друга, если их взаимодействие правильно выстроено. Однако на практике часто происходит обратное: пользователи либо слишком доверяют ответам ИИ, либо неверно применяют систему, либо тратят дополнительное время на исправление ее ошибок и обход ограничений.
«В таких случаях ИИ не снижает трудозатраты. Он добавляет трение. Именно из-за такого несоответствия совместная работа людей и ИИ часто дает результаты ниже ожидаемых», - поясняет исследовательница.
По ее словам, компании обычно объясняют неудачи при внедрении ИИ двумя причинами: либо технология недостаточно сильна, либо, наоборот, слишком сильна и потому не заслуживает полного доверия. Однако Янь предлагает иную трактовку: проблема часто заключается не в самом уровне технологии, а в том, что люди и машины недостаточно согласованы в понимании задач, ролей и ответственности.
Автор отмечает, что при внедрении ИИ компании обычно заранее распределяют функции между человеком и машиной. Такой подход работает только там, где задачи стабильны и предсказуемы. Но в большинстве реальных рабочих ситуаций условия меняются, и жесткое разделение быстро начинает давать сбои.
В качестве примера Янь приводит алгоритмы высокочастотной биржевой торговли. Они хорошо умеют отслеживать рынок и быстро находить закономерности, но могут неправильно интерпретировать резкие и нетипичные события — например, обвалы рынка, важные политические решения или публикацию инфляционных данных. В таких ситуациях ИИ может дать искаженное представление о происходящем и даже усугубить нестабильность.
В своей статье исследовательница предлагает строить эффективное партнерство человека и ИИ иначе — через постепенное формирование «гибридной когнитивной согласованности». Это не возникает автоматически в момент запуска системы, а вырабатывается со временем, когда люди начинают понимать, как ведет себя ИИ, меняют собственный стиль взаимодействия с ним и заново калибруют уровень доверия на основе опыта.
По словам Янь, такой подход особенно важен в медицине. Современные ИИ-системы способны анализировать рентгеновские снимки или компьютерную томографию и нередко замечают признаки рака или других патологий лучше, чем человек. Но при этом они не знают индивидуальную историю болезни конкретного пациента и не могут учитывать все клинические нюансы без участия врача.
Сходная ситуация возникает и в клиентском сервисе. ИИ может быстро обрабатывать прошлые обращения и находить нужные внутренние документы компании, но не всегда способен по-настоящему понять проблему конкретного клиента. Поэтому без подготовки сотрудников и правильной организации совместной работы результаты внедрения могут оказаться слабыми.
Янь считает, что при внедрении ИИ компаниям нужно уделять больше внимания не только самому инструменту, но и тому, как именно делятся роли между людьми и машинами и как это распределение может меняться со временем. Для этого необходимы специальное обучение и время на адаптацию команд.
«Рассматривать ИИ как решение по принципу “подключил и работай” часто оказывается ошибкой; гораздо лучше относиться к нему как к новому коллеге», - подчеркивает исследовательница.
По ее мнению, выводы работы важны и для разработчиков ИИ. Системы следует проектировать не только ради высокой производительности, но и ради качественного сотрудничества с человеком. Они должны ясно показывать свои возможности и ограничения, помогать пользователю учиться взаимодействию с ними и поддерживать формирование устойчивого партнерства.
Автор подчеркивает, что главная ценность ИИ заключается не в том, чтобы делать машины умнее сами по себе, а в том, чтобы сделать совместную работу человека и машины действительно эффективной. Именно согласованность, а не просто высокая вычислительная мощность, превращает ИИ из источника раздражения в источник пользы.
Результаты исследования опубликованы в журнале Academy of Management Journal.
К такому выводу пришла исследовательница Технологического института Стивенса Бэй Янь, опубликовавшая статью в журнале Academy of Management Journal.
«Компании используют ИИ вместе с людьми, но им трудно работать по-настоящему слаженно. Люди мыслят иначе, чем ИИ. Люди опираются на опыт, суждение и социальные сигналы. ИИ опирается на статистические закономерности, извлеченные из данных», - приводятся в сообщении слова Янь, доцента Школы бизнеса Технологического института Стивенса.
Как отмечает автор, эти различия сами по себе не являются недостатком. Напротив, человек и ИИ могут хорошо дополнять друг друга, если их взаимодействие правильно выстроено. Однако на практике часто происходит обратное: пользователи либо слишком доверяют ответам ИИ, либо неверно применяют систему, либо тратят дополнительное время на исправление ее ошибок и обход ограничений.
«В таких случаях ИИ не снижает трудозатраты. Он добавляет трение. Именно из-за такого несоответствия совместная работа людей и ИИ часто дает результаты ниже ожидаемых», - поясняет исследовательница.
По ее словам, компании обычно объясняют неудачи при внедрении ИИ двумя причинами: либо технология недостаточно сильна, либо, наоборот, слишком сильна и потому не заслуживает полного доверия. Однако Янь предлагает иную трактовку: проблема часто заключается не в самом уровне технологии, а в том, что люди и машины недостаточно согласованы в понимании задач, ролей и ответственности.
Автор отмечает, что при внедрении ИИ компании обычно заранее распределяют функции между человеком и машиной. Такой подход работает только там, где задачи стабильны и предсказуемы. Но в большинстве реальных рабочих ситуаций условия меняются, и жесткое разделение быстро начинает давать сбои.
В качестве примера Янь приводит алгоритмы высокочастотной биржевой торговли. Они хорошо умеют отслеживать рынок и быстро находить закономерности, но могут неправильно интерпретировать резкие и нетипичные события — например, обвалы рынка, важные политические решения или публикацию инфляционных данных. В таких ситуациях ИИ может дать искаженное представление о происходящем и даже усугубить нестабильность.
В своей статье исследовательница предлагает строить эффективное партнерство человека и ИИ иначе — через постепенное формирование «гибридной когнитивной согласованности». Это не возникает автоматически в момент запуска системы, а вырабатывается со временем, когда люди начинают понимать, как ведет себя ИИ, меняют собственный стиль взаимодействия с ним и заново калибруют уровень доверия на основе опыта.
По словам Янь, такой подход особенно важен в медицине. Современные ИИ-системы способны анализировать рентгеновские снимки или компьютерную томографию и нередко замечают признаки рака или других патологий лучше, чем человек. Но при этом они не знают индивидуальную историю болезни конкретного пациента и не могут учитывать все клинические нюансы без участия врача.
Сходная ситуация возникает и в клиентском сервисе. ИИ может быстро обрабатывать прошлые обращения и находить нужные внутренние документы компании, но не всегда способен по-настоящему понять проблему конкретного клиента. Поэтому без подготовки сотрудников и правильной организации совместной работы результаты внедрения могут оказаться слабыми.
Янь считает, что при внедрении ИИ компаниям нужно уделять больше внимания не только самому инструменту, но и тому, как именно делятся роли между людьми и машинами и как это распределение может меняться со временем. Для этого необходимы специальное обучение и время на адаптацию команд.
«Рассматривать ИИ как решение по принципу “подключил и работай” часто оказывается ошибкой; гораздо лучше относиться к нему как к новому коллеге», - подчеркивает исследовательница.
По ее мнению, выводы работы важны и для разработчиков ИИ. Системы следует проектировать не только ради высокой производительности, но и ради качественного сотрудничества с человеком. Они должны ясно показывать свои возможности и ограничения, помогать пользователю учиться взаимодействию с ними и поддерживать формирование устойчивого партнерства.
Автор подчеркивает, что главная ценность ИИ заключается не в том, чтобы делать машины умнее сами по себе, а в том, чтобы сделать совместную работу человека и машины действительно эффективной. Именно согласованность, а не просто высокая вычислительная мощность, превращает ИИ из источника раздражения в источник пользы.
Результаты исследования опубликованы в журнале Academy of Management Journal.
