Цена прогресса: Папа Римский призывает «разоружить» ИИ

200-страничный документ разделен на пять глав. В нем понтифик размышляет о роли ИИ и новых технологий в целом в жизни человечества, призывая уделять больше внимания этическим вопросам. Лев XIV исходит из постулата: технология не является «силой, враждебной человеку» или «злом», но она и не «нейтральна», так как «принимает облик тех, кто её создаёт, финансирует, регулирует и использует».

«В эпоху искусственного интеллекта, когда человеческое достоинство рискует быть заслонено новыми формами дегуманизации, мы обязаны оставаться глубоко человечными», — пишет понтифик. Он призывает «разоружить» ИИ, что не предполагает отмены технологического прогресса. «Разоружить не значит отвергнуть технологии, а значит не допустить, чтобы они господствовали над человечеством», — утверждает папа Римский.

Наблюдатели отмечают: Лев XIV явно проводит параллели между индустриализацией XIX века и разворачивающейся сейчас революцией в области ИИ. Понтифик убежден: технологии не должны быть сосредоточены в руках немногих, усугубляя разрыв между теми, кто включен в цифровую революцию, и теми, кто из неё исключен.

Один из ключевых пунктов документа касается использования искусственного интеллекта в военной сфере. Папа осуждает расширение индустрии вооружений, гонку ядерных вооружений и появление новых группировок, которые, по его словам, подпитывают конфликты ради выгоды и власти. На этом фоне звучит его жёсткий призыв против оружия на основе ИИ. «Нет такого алгоритма, который мог бы сделать войну морально приемлемой, — пишет понтифик, критикуя задействование технологий для того, чтобы сделать конфликты «более быстрыми и обезличенными», снижая моральный порог применения насилия.

В энциклике также рассматривается вопрос человеческий «стоимости» цифровой экономики – от нестабильной занятости людей, занятых обучением моделей ИИ, до добычи редкоземельных элементов, нужных в производстве микропроцессоров и электронных устройств. «В некоторых регионах мира подростки и дети работают в опасных условиях, занимаясь дроблением материалов, из которых извлекают редкоземельные элементы. Тела изранены, искалечены, изнурены, лишь бы поток вычислений не прекращался», — пишет понтифик.

Лев XIV не раз высказывался на тему ИИ. Ранее он распорядился создать комиссию, которая исследует последствия внедрения новинки для общества, а также посоветовал католическим священникам не пользоваться ИИ при подготовке проповедей.