Папа Римский Лев XIV обнародовал свой первый масштабный документ под названием Magnifica Humanitas, в котором изложил позицию Католической церкви относительно развития искусственного интеллекта. Объем этого послания превышает 42 000 слов, что свидетельствует о попытке охватить широкий круг вопросов, начиная от использования алгоритмов в военном деле и заканчивая защитой прав работников на фоне автоматизации производства. Церковный деятель настаивает на необходимости создания жестких правовых и этических рамок, которые сдерживали бы неконтролируемое влияние корпораций на общественные процессы.
В тексте энциклики искусственный интеллект сравнивается с библейской Вавилонской башней, что символизирует опасность превращения человеческой жизни в набор данных ради получения прибыли. Папа Римский предостерегает, что чрезмерное доверие к автоматизированным системам может привести к нивелированию индивидуальных особенностей человека, превращая социальные отношения в сухую статистику эффективности. Критике подвергается сама идея того, что техническая мощность автоматически дает право на управление общественными ресурсами или установление новых правил игры без участия человеческой совести и свободы выбора.
Документ содержит призыв к осторожности, в частности предлагается замедлить темпы внедрения отдельных технологий ради их тщательной оценки. Среди конкретных предложений значатся обязательная социальная адаптация работников при переходе на автоматизированные системы, исключительная ответственность людей в вопросах применения летального оружия, а также требование полной прозрачности алгоритмов, влияющих на трудоустройство. Отдельным пунктом стоит необходимость развития экологически устойчивых технологий, которые оказывают меньшее негативное влияние на окружающую среду во время обучения больших языковых моделей.
Самокритично стоит заметить, что инициатива Ватикана возникает на фоне активного лоббирования со стороны крупных технологических компаний, представители которых, в частности из Google, Meta и Amazon, неоднократно встречались с официальными лицами церкви перед публикацией документа. Хотя Папа Римский отрицает полный отказ от технологического прогресса, его позиция явно направлена на перераспределение рычагов влияния от разработчиков к международным регуляторам. Однако остается дискуссионным, насколько эффективными будут такие призывы в среде, где глобальная конкуренция между государствами и корпорациями значительно мощнее моральных наставлений.
В целом стратегия Папы заключается в ограничении доминирования алгоритмов, которые, по его мнению, не должны определять будущее человечества без надлежащего демократического контроля. Хотя документ не упоминает концепцию общего искусственного интеллекта AGI, он четко артикулирует угрозу монополизации власти через использование инструментов искусственного интеллекта. Сможет ли этот религиозный призыв повлиять на реальную политику в сфере высоких технологий, покажет время, однако сейчас это одна из наиболее детализированных попыток гуманитарного осмысления стремительного технического прогресса в современном мире.
