ИИ научился массово писать научные статьи по финансам
Ученые показали, что ИИ может за несколько часов подготовить сотни убедительных научных статей по финансам. Работа ставит вопрос о том, как академия будет отличать реальный научный вклад от красивой, но автоматически собранной имитации исследования.
Источник: Новости науки.
МОСКВА, 29 мая. /Новости науки/. Искусственный интеллект уже способен массово создавать научные статьи по финансам, которые трудно отличить от работ людей, говорится в статье, опубликованной в Journal of Economic Literature.
Авторы исследования построили систему для автоматической подготовки научных работ. Примерно за 12 часов она создала около 400 полных статей, готовых к подаче в научный журнал.
Сначала ученые не планировали делать «конвейер» научных публикаций. Они изучали аномалии на фондовом рынке, в том числе закономерности в данных, которые не укладываются в обычные модели поведения финансовых рынков. Для этого исследователи проверяли корпоративные бухгалтерские данные и искали признаки, которые могут предсказать, какие акции покажут результат лучше рынка.
Всего система нашла более 30 тыс. потенциальных сигналов. Затем ученые проверили их прогностическую силу и сравнили с 200 уже известными аномалиями из научной литературы. После отбора осталось 95 действительно новых сигналов.
На основе этих данных Великов создал сайт, который мог формировать шаблон научного отчета. Такие отчеты были похожи на статьи о новых рыночных аномалиях. Им не хватало только главного элемента — объяснения, почему найденная закономерность вообще может существовать.
Эту часть исследователи поручили большой языковой модели Claude Opus 4.1 компании Anthropic. Для каждого из 95 сигналов модель должна была придумать название показателя и подготовить четыре разные рукописи. В каждой статье она предлагала свою гипотезу и свое теоретическое объяснение одного и того же результата.
Так авторы получили 380 статей. В каждой были аннотация, введение, разделы с данными и результатами, заключение и список источников. Сами тексты и программный код исследователи выложили на GitHub.
Главный риск, по словам авторов, связан не только с числом таких работ. ИИ может резко увеличить поток статей в журналы и на конференции, где система рецензирования уже перегружена. Это значит, что научным изданиям придется менять способы проверки рукописей.
Еще одна проблема — так называемый HARKing. Так называют ситуацию, когда гипотезу придумывают уже после того, как результат найден. В науке такую практику считают сомнительной, потому что она может выдавать случайную закономерность за заранее продуманное открытие. ИИ делает эту практику гораздо более масштабной.
Авторы отмечают, что языковые модели также могут «галлюцинировать» — создавать ложные или вводящие в заблуждение утверждения и подавать их как факт. Поэтому автоматические статьи могут выглядеть убедительно, даже если их объяснения слабы или ошибочны.
Хотя работа была посвящена финансам, исследователи считают, что ее выводы важны и для других научных областей. По словам ученых, речь не идет о полной замене ученых искусственным интеллектом. Но работа исследователей изменится, а умение понимать возможности и ограничения ИИ станет частью научной профессии.
Авторы исследования построили систему для автоматической подготовки научных работ. Примерно за 12 часов она создала около 400 полных статей, готовых к подаче в научный журнал.
Сначала ученые не планировали делать «конвейер» научных публикаций. Они изучали аномалии на фондовом рынке, в том числе закономерности в данных, которые не укладываются в обычные модели поведения финансовых рынков. Для этого исследователи проверяли корпоративные бухгалтерские данные и искали признаки, которые могут предсказать, какие акции покажут результат лучше рынка.
Всего система нашла более 30 тыс. потенциальных сигналов. Затем ученые проверили их прогностическую силу и сравнили с 200 уже известными аномалиями из научной литературы. После отбора осталось 95 действительно новых сигналов.
На основе этих данных Великов создал сайт, который мог формировать шаблон научного отчета. Такие отчеты были похожи на статьи о новых рыночных аномалиях. Им не хватало только главного элемента — объяснения, почему найденная закономерность вообще может существовать.
Эту часть исследователи поручили большой языковой модели Claude Opus 4.1 компании Anthropic. Для каждого из 95 сигналов модель должна была придумать название показателя и подготовить четыре разные рукописи. В каждой статье она предлагала свою гипотезу и свое теоретическое объяснение одного и того же результата.
Так авторы получили 380 статей. В каждой были аннотация, введение, разделы с данными и результатами, заключение и список источников. Сами тексты и программный код исследователи выложили на GitHub.
Главный риск, по словам авторов, связан не только с числом таких работ. ИИ может резко увеличить поток статей в журналы и на конференции, где система рецензирования уже перегружена. Это значит, что научным изданиям придется менять способы проверки рукописей.
Еще одна проблема — так называемый HARKing. Так называют ситуацию, когда гипотезу придумывают уже после того, как результат найден. В науке такую практику считают сомнительной, потому что она может выдавать случайную закономерность за заранее продуманное открытие. ИИ делает эту практику гораздо более масштабной.
Авторы отмечают, что языковые модели также могут «галлюцинировать» — создавать ложные или вводящие в заблуждение утверждения и подавать их как факт. Поэтому автоматические статьи могут выглядеть убедительно, даже если их объяснения слабы или ошибочны.
Хотя работа была посвящена финансам, исследователи считают, что ее выводы важны и для других научных областей. По словам ученых, речь не идет о полной замене ученых искусственным интеллектом. Но работа исследователей изменится, а умение понимать возможности и ограничения ИИ станет частью научной профессии.
