Эксперт назвал спорными предложения Папы Римского по регулированию ИИ
Генеральный директор AIST.AI Петр Загребельный заявил, что энциклика Папы Римского Льва XIV об искусственном интеллекте точно описывает ключевые угрозы отрасли, но не предлагает реалистичных механизмов их решения. Документ посвящен контролю над IT-корпорациями, военному ИИ и защите рынка труда.
Источник: Новости науки. Петр Загребельный.
МОСКВА, 26 мая. /Новости науки/. Энциклика Папы Римского Льва XIV Magnifica Humanitas точно описывает основные угрозы, связанные с развитием искусственного интеллекта, однако предложенные в документе механизмы их решения пока выглядят нереалистично, сказал "Новости науки" генеральный директор AIST.AI Петр Загребельный.
«Энциклика правильно ставит диагноз, но рецепт не соответствует масштабу болезни», — заявил эксперт, комментируя опубликованный Ватиканом документ.
Magnifica Humanitas стала первой энцикликой понтификата Льва XIV. Документ объемом более 42 тыс. слов посвящен влиянию искусственного интеллекта на общество, экономику и военные технологии.
Одним из ключевых тезисов энциклики стало требование усилить государственный контроль над транснациональными технологическими корпорациями, которые, по мнению понтифика, уже обладают влиянием, сопоставимым с возможностями государств.
По словам Загребельного, сама постановка проблемы выглядит точной, однако реализовать подобное регулирование на практике крайне сложно.
«Регулировать крупные корпорации силами национальных регуляторов — примерно как пытаться остановить контейнеровоз веслом. Нужны наднациональные механизмы, а их нет и в обозримой перспективе не появится: страны конкурируют за технологическое лидерство, а не координируются», — считает эксперт.
Отдельный раздел документа посвящен военному применению искусственного интеллекта. Папа Римский потребовал обязательного сохранения человека в контуре принятия решений о применении оружия.
Как отметил Загребельный, такая позиция остается единственно приемлемой с точки зрения этики, однако современные вооружения уже работают в режимах, где участие человека становится формальным.
«Современные системы ПВО уже работают в автономном режиме: скорость принятия решений измеряется миллисекундами, человек физически не успевает. Папа предлагает либо отказаться от таких систем вообще, либо согласиться с тем, что “контроль человека” станет формальностью на бумаге», — заявил он.
В энциклике также говорится о рисках автоматизации для рынка труда. Лев XIV предупредил, что развитие ИИ способно усилить социальное неравенство, если выгоду от технологий получит лишь ограниченная группа людей.
«Исторически каждая технологическая революция в итоге создавала больше рабочих мест, чем уничтожала, но переходный период сопровождался реальными страданиями людей. ИИ может оказаться быстрее. Нужны конкретные механизмы — налог на автоматизацию, массовое переобучение, безусловный базовый доход. Энциклика называет проблему, но инструментов не дает», — отметил Загребельный.
Центральной идеей Magnifica Humanitas стала оценка технологий через призму человеческого достоинства и общего блага, а не только эффективности и прибыли.
«Пока этика ИИ остается на уровне принципов, а не измеримых требований, ее будут использовать как PR, а не как реальное ограничение», — подчеркнул эксперт.
По мнению Загребельного, документ Ватикана стал одним из самых сильных публичных этических заявлений об искусственном интеллекте за последнее время.
«Magnifica Humanitas — редкий случай, когда крупный институт говорит о правильных вещах громко и без корпоративного камуфляжа. Ватикан поставил диагноз. Рецепт пока никто не написал», — резюмировал эксперт.
«Энциклика правильно ставит диагноз, но рецепт не соответствует масштабу болезни», — заявил эксперт, комментируя опубликованный Ватиканом документ.
Magnifica Humanitas стала первой энцикликой понтификата Льва XIV. Документ объемом более 42 тыс. слов посвящен влиянию искусственного интеллекта на общество, экономику и военные технологии.
Одним из ключевых тезисов энциклики стало требование усилить государственный контроль над транснациональными технологическими корпорациями, которые, по мнению понтифика, уже обладают влиянием, сопоставимым с возможностями государств.
По словам Загребельного, сама постановка проблемы выглядит точной, однако реализовать подобное регулирование на практике крайне сложно.
«Регулировать крупные корпорации силами национальных регуляторов — примерно как пытаться остановить контейнеровоз веслом. Нужны наднациональные механизмы, а их нет и в обозримой перспективе не появится: страны конкурируют за технологическое лидерство, а не координируются», — считает эксперт.
Отдельный раздел документа посвящен военному применению искусственного интеллекта. Папа Римский потребовал обязательного сохранения человека в контуре принятия решений о применении оружия.
Как отметил Загребельный, такая позиция остается единственно приемлемой с точки зрения этики, однако современные вооружения уже работают в режимах, где участие человека становится формальным.
«Современные системы ПВО уже работают в автономном режиме: скорость принятия решений измеряется миллисекундами, человек физически не успевает. Папа предлагает либо отказаться от таких систем вообще, либо согласиться с тем, что “контроль человека” станет формальностью на бумаге», — заявил он.
В энциклике также говорится о рисках автоматизации для рынка труда. Лев XIV предупредил, что развитие ИИ способно усилить социальное неравенство, если выгоду от технологий получит лишь ограниченная группа людей.
«Исторически каждая технологическая революция в итоге создавала больше рабочих мест, чем уничтожала, но переходный период сопровождался реальными страданиями людей. ИИ может оказаться быстрее. Нужны конкретные механизмы — налог на автоматизацию, массовое переобучение, безусловный базовый доход. Энциклика называет проблему, но инструментов не дает», — отметил Загребельный.
Центральной идеей Magnifica Humanitas стала оценка технологий через призму человеческого достоинства и общего блага, а не только эффективности и прибыли.
«Пока этика ИИ остается на уровне принципов, а не измеримых требований, ее будут использовать как PR, а не как реальное ограничение», — подчеркнул эксперт.
По мнению Загребельного, документ Ватикана стал одним из самых сильных публичных этических заявлений об искусственном интеллекте за последнее время.
«Magnifica Humanitas — редкий случай, когда крупный институт говорит о правильных вещах громко и без корпоративного камуфляжа. Ватикан поставил диагноз. Рецепт пока никто не написал», — резюмировал эксперт.
