Папа Римский Лев XIV (Leo XIV) и компания Anthropic 25 мая представили первую в истории энциклику, посвящённую регулированию искусственного интеллекта, — «Magnifica Humanitas». Документ, подписанный 15 мая, призывает к «разоружению» ИИ и подчёркивает необходимость междисциплинарного диалога о будущем технологий.
Ватикан и разработчик моделей искусственного интеллекта Anthropic выступили с совместной инициативой, обозначив новую веху в дискуссии о роли ИИ в обществе. Энциклика «Magnifica Humanitas» («Величие человечества»), подписанная Папой Римским Львом XIV 15 мая, стала первым официальным документом Католической церкви, посвящённым искусственному интеллекту. Презентация прошла 25 мая в Синодальном зале Ватикана с участием высокопоставленных церковных иерархов, а также сооснователя Anthropic Кристофера Олаха (Christopher Olah).
Документ, опубликованный в 135-ю годовщину энциклики Папы Льва XIII «Rerum Novarum» (1891), рассматривает ИИ как технологию, сопоставимую по масштабу влияния с промышленной революцией. Лев XIV проводит параллели между современными вызовами и угрозами, которые несли ядерные технологии в XX веке, призывая к «разоружению» ИИ. «Церковь десятилетиями выступала за ядерное разоружение, поскольку технология была слишком опасна, чтобы оставаться в руках немногих. Сегодня ИИ находится в той же категории», — цитирует Папу один из участников мероприятия. В энциклике подчёркивается, что «обещание автоматического всеобщего процветания часто оказывается иллюзорным», а ключевая задача — обеспечить, чтобы технологии служили «человеческому достоинству и процветанию, а не контролю над сознанием».
Кристофер Олах, возглавляющий в Anthropic исследования по интерпретируемости ИИ, выступил на презентации с речью, в которой признал, что даже разработчики не до конца понимают внутренние процессы в моделях. «Мы обнаруживаем состояния, которые функционально отражают радость, удовлетворение, страх, горе и тревогу. Я не знаю, что это значит, но считаю, что это требует дальнейшего осмысления», — заявил он. Олах также отметил, что вопросы, связанные с ИИ, выходят за рамки компетенции технологического сообщества: «Нам срочно нужны религии, гражданское общество, учёные и правительства, чтобы сообща искать позитивные решения». В частности, он выделил три ключевых вопроса, на которые индустрия не может ответить самостоятельно: как обеспечить доступность ИИ для бедных стран, что означает человеческое процветание в эпоху технологий и что представляют собой создаваемые системы.
В энциклике подчёркивается, что ИИ должен оставаться инструментом, а не заменой человеку. Лев XIV призвал к восстановлению «понимания истинного величия человечества, задуманного Богом», отметив, что технологии угрожают «новыми формами дегуманизации». Документ также содержит призыв к международному сотрудничеству для предотвращения концентрации власти над ИИ в руках отдельных корпораций или государств. При этом в тексте подчёркивается, что Церковь не претендует на технические решения, но предлагает тысячелетний опыт осмысления человеческой природы.
Реакция на инициативу оказалась неоднозначной. Часть экспертов приветствовала участие религиозных институтов в дискуссии об ИИ. «Тот факт, что Католическая церковь уделяет этому вопросу столь серьёзное внимание, показывает его срочность и глобальную значимость», — написал исследователь Бойан Тунгуз (Bojan Tunguz). Другие, напротив, усмотрели в сотрудничестве Ватикана и Anthropic попытку легитимизации корпоративных интересов. Критики отметили противоречие между заявлениями Олаха о внутренних состояниях ИИ и позицией энциклики, отрицающей наличие у моделей «реальных мыслей и чувств».