В этом году изображение мужчины в белой пуховой куртке всколыхнуло как религиозные, так и светские сферы. На нем был Папа Римский и социальные сети были переполнены мнениями: сторонники выкрикивали одобрение, а противники сетовали на еще один пример того, как понтифик продался ХХ века. Дело в том, что фото было ненастоящим. Это был фейк, ставший еще одним напоминанием об опасности искусственного интеллекта. Люди желают верить в нечто, выходящее за пределы привычного мира. Что, если бы боты начали создавать священное писание?
Подобные истории как с вымышленным фото Папы Римского в пуховике являются частью того, что заставило более тысячи экспертов по искусственному интеллекту призвать к временной остановке разработки «гигантских экспериментов с искусственным интеллектом», пока технология не станет надежной.
Комментаторы и критики утверждают, что системы искусственного интеллекта могут дестабилизировать и запутать, если выпустить их на публику без надлежащих гарантий. И когда они научатся, адаптируются и, возможно, даже приближаются к разуму, они могут представлять угрозу, возможно, альтернативу человечеству.
Звучит как научная фантастика, но в таких сценариях мир всегда предупреждает ботан-ученый или неловкий философ. Мы говорим «они должны были слушать!», когда какая-то беда уничтожает жизнь, которой мы ее знаем. Что касается искусственного интеллекта, то некоторые люди прислушиваются к нему, особенно представители организованной религии с ее заботой о человеческой индивидуальности, уникальности души и объятиях высшей силы.
Теологи и общественные комментаторы обеспокоены тем, что новая религия может развиться вокруг чрезвычайного уважения к искусственному интеллекту. Суть религии — это вера, скачок преданности почему-то выходящему за пределы непосредственных знаний.
Иначе с искусственным интеллектом, где религиозная аура может развиться вокруг несуществующего человека, которое появляется на экранах и кажется всезнающим и всепонимающим. Всезнающая, поскольку она будет иметь всю информацию, содержащуюся в интернете. Всепонимающей, потому что ваша информация тоже будет там – и зачастую гораздо больше, чем вы когда-либо думали, что обнародовали.
«То, что будет создано, фактически будет богом, – сказал в 2017 году бывший инженер Google Энтони Левандовски. – Это не бог в том смысле, что он создает молнии или вызывает ураганы. Но если есть что-то в миллиард раз умнее самого умного человека, как еще это назвать?»
Для восприимчивых людей мгновенная коммуникация с сущностью, представляющая бога даже самого Бога, может трансформировать их сознание. Ищущие уверенности в вере могут быть особенно доверчивыми. Говорят, что философ Блез Паскаль писал, что в каждом из нас есть дыра в форме бога. У людей есть желание верить в нечто, выходящее за пределы привычного мира.
The New York Times сообщила о «псевдосакральной индустрии» и росте так называемых консультантов по социальной божественности, которые помогают внедрять духовные практики в технологические компании. Массовое снижение традиционной религиозной привязанности в сочетании со стремлением к определенной вере заставило многих принять инопланетную жизнь, предложения нового возраста и опасные культы.
Для историка и ученого Юваля Ноя Харари искусственный интеллект мог быть еще более привлекательным, особенно если он начнет генерировать писания. Тогда оракулярные качества инструмента могут превратиться в систему убеждений, которая может распространяться и изменять общество.
«Религии на протяжении всей истории утверждали, что их священные книги были написаны неизвестным человеческим разумом, – сказал Харари на недавней научной конференции. – Это никогда раньше не было правдой. Это может стать правдой очень, очень быстро, с дальновидными последствиями».
Нам не нужно ждать, пока алгоритмы создадут божественную фигуру. Сейчас есть многое, что искусственный интеллект может нарушить, например, революционизировать структуру стандартной религиозной службы. Проповедь является основной частью любого религиозного собрания, и искусственный интеллект уже проводит религиозные службы.
Искусственный интеллект может создавать фигуры, способные вводить эмоции, интонацию и искренность в проповеди и иметь быстрый доступ к каждому религиозному комментарию. Он также может находить шутки и остроты и быть в состоянии сделать проповедь уместной из-за его знания текущих событий.
У него также будет потрясающее преимущество немедленности. Раввин Джошуа Франклин, возглавляющий Еврейский центр Хэмптонов в Ист-Гэмптоне, опубликовал на Vimeo написанную ChatGPT проповедь, которую он произнес в прошлом году. «Вы аплодируете, — сказал Франклин собранию после того, как он открыл настоящего автора слов, которые он только что сказал. – Я смертельно боюсь».
Что не может быть обеспечено, по крайней мере, на данный момент, так это настоящий личный контакт с паствой. Значительная часть работы священника заключается в обычном присутствии: оставаться неподвижным и молчать в нескольких метрах от кого-то, кто испытывает глубокое горе или испытывает трудную потребность. Но то, что мы обнаружили во время пандемии, заключается в том, что изображение на экране, хоть и никогда не было таким же, как физическое присутствие, но оно было хорошей заменой.
А теперь представьте себе священнослужителя на экране, работающего по вызову, днем ??или ночью, способного слушать и отвечать, усвоить индивидуальный опыт и соответствовать соответствующим образом.
Популярность чат-ботов для психического здоровья свидетельствует, что это не слишком надумано. И что интересно, GitaGPT, недавно запущенный чат-бот, предоставляет духовное руководство, обращаясь к индуистскому писанию Бхагавад Гита.
Пока что препятствие искусственному интеллекту стоят религиозные ритуалы, привязанные к определенным лицам. Например, мирянин англиканской церкви не может призывать Святого Духа, даже диакон этого не может.
Но, возможно, отсутствие ассоциации с каким-либо организованным религиозным культом работает в интересах искусственного интеллекта. Технология была бы чистым листом: отсутствие злого умысла, отсутствие истории вреда.
Конечно, существуют оправданные опасения относительно склонности технологии расистских и дискриминационных высказываний, сформированных данными, на которых она тренируется. Но мы можем представить обратное: искусственная сущность, пропагандирующая себя как выражение доброты и которая, в отличие от религии на протяжении веков, никогда не руководила крестовыми походами, не организовывала инквизицию, не наказывала тех, кто верит в другого бога.
Однако, кроме всего этого, есть нечто более радикальное: светское поклонение искусственному интеллекту. Идея, пропагандируемая некоторыми техноутопистами, что такие системы могут решить любую проблему, возможно, есть то, чего нам действительно стоит опасаться.
Сэм Альтман, генеральный директор OpenAI, ответственный за создание ChatGPT, заявил на недавних слушаниях в Сенате США, что его компания «была основана на вере в то, что искусственный интеллект способен улучшить почти каждый аспект нашей жизни».
Возможно, фантазия или глупость разгулялись, а может, нет. «Убедите меня, что это создано искусственным интеллектом», — написал один пользователь в Твиттере после публикации фото Папы Римского в пуховике.
По материалам: TheWallrus
