Папа Лев XIV у понеділок опублікував свою першу енцикліку. Документ під назвою Magnifica Humanitas присвячений «захисту людської особи в часи штучного інтелекту». І хоча ШІ є головним приводом, проблеми, на яких зосереджується Лев, значно старіші й більш всеосяжні: нерівність, війна, ерозія демократії та концентрація влади в руках тих, кому не обов’язково важливо, щоб людство загалом лишалося величним.
У 200-сторінковому документі, який папа представив разом із співзасновником компанії зі сфери ШІ Anthropic Крісом Олахом, Лев стверджує, що технології, створені й керовані вузькою елітою, за визначенням не можуть служити спільному благу.
«Коли така влада концентрується в руках небагатьох, вона має тенденцію ставати непрозорою й уникати громадського контролю, підвищуючи ризик спотворених форм розвитку, що породжують нові залежності, виключення, маніпуляції та нерівність», — пише він.
«Фактично, як і при кожному великому технологічному зрушенні, ШІ має тенденцію підсилювати владу тих, хто вже володіє економічними ресурсами, експертизою та доступом до даних», — продовжується в енцикліці, де висловлюється занепокоєння тим, що еліти можуть використовувати свою силу, аби «формувати інформаційні та споживчі патерни, впливати на демократичні процеси й спрямовувати економічну динаміку у власних інтересах».
Енцикліка з’явилася за кілька днів після того, як президент Дональд Трамп відтермінував підписання свого указу щодо ШІ, який мав надати урядові повноваження попереднього нагляду за новими моделями до їхнього виходу на ринок. За повідомленнями, це сталося на наполягання венчурного інвестора й колишнього «шефа з питань ШІ» Білого дому Девіда Сакса.
Папа Лев закликав, щоб розвиток ШІ керувався «чіткими критеріями та дієвим наглядом», заснованими на участі спільнот, яких ці технології зачеплять. Конкретніше, Лев закликав покласти край «перегонам озброєнь» у сфері ШІ — гонитві за створенням «щораз потужніших алгоритмів і більших масивів даних», які компанії та держави вважають запорукою «геополітичного чи комерційного домінування».
«Роззброїтися означає поставити під сумнів припущення, що технічна потуга автоматично надає право управляти», — написав він.
І знову, ці динаміки з’явилися задовго до ШІ. Енцикліка Папи Лева XIII Rerum Novarum 1891 року була присвячена тій самій концентрації влади під час промислової революції, однак немає потреби заглядати так далеко в минуле. Достатньо згадати придбання Ілоном Маском Twitter і використання платформи для допомоги в обранні Трампа або сотні мільйонів доларів, які технологічні еліти вливають у супер-PAC, щоб заблокувати регулювання ШІ — саме такі патерни, очевидно, надихнули Лева XIV.
Папа приходить до висновку, якого вже досягли багато хто: сюрреалістична потуга та можливості сучасного ШІ колосально підвищують ставки.
Професор Школи права Нотр-Даму Паоло Кароцца, член Папської академії соціальних наук і голова Наглядової ради Meta, сказав TechCrunch, що дезінформація та дипфейки на основі ШІ «підірвали нашу здатність розрізняти, що є правдою, а що ні, і це справді має наслідки для демократичної політики». Практика технологічної індустрії щодо «збору й маніпулювання» людськими даними, додав він, створює «фундаментальні виклики для когнітивної свободи».