В романе «Город перестановок» Грега Эгана персонаж Пир, достигнув бессмертия в виртуальной реальности, над которой он имеет полный контроль, испытывает скуку. Поэтому он создает за собой новые страсти. Однажды он расширяет границы высшей математики, на следующий пишет оперы. «Он даже когда-то интересовался Элисиями [посмертный мир]. Теперь нет. Он предпочитает думать о ножках столов», — так описывают героя в тексте. Эта капризность Пира касается более глубокой проблемы. Когда технология решает самые глубокие проблемы человечества, что остается делать людям?
Это один из вопросов, который рассматривается в новой публикации Ника Бострома, философа из Университета Оксфорда, чье предыдущее произведение утверждало, что существует один шанс из шести, что человечество будет уничтожено в следующие 100 лет, возможно, из-за развития опасных форм искусственного интеллекта (ИИ) .
В своей последней книге «Глубокая Утопия» Бостром рассматривает совсем другой вариант. Что будет, если ИИ будет развиваться очень успешно? По одному из рассматриваемых им сценариев технология развивается до такого уровня, когда она может выполнять всю экономически ценную работу за почти нулевую стоимость. По еще более радикальному сценарию даже такие задачи, как воспитание детей, могут быть выполнены ИИ лучше. Это может звучать больше дистопией, чем утопией, но Бостром утверждает обратное.
Начнём с первого сценария, который Бостром называет «утопией без дефицита». В таком мире потребность в работе была бы уменьшена. Около столетия назад Джон Мейнард Кейнс написал эссе под названием «Экономические возможности для наших внуков», в котором предположил, что через 100 лет его богатые потомки смогут работать всего 15 часов в неделю. Это совсем не претворяется в жизнь, но рабочее время все-таки несколько уменьшилось. В богатых странах средние недельные рабочие часы уменьшились с более чем 60 в конце 19 века до менее чем 40 сегодня.
Типичный американец проводит треть своего времени на досуге и спортивных мероприятиях. В будущем они, возможно, захотят проводить свое время на необычных для нашей текущей концепции человечества вещах. Как Бостром пишет, когда помогая мощными технологиями, «пространство возможных для нас опытов выходит далеко за те, к которым мы имеем доступ сейчас с нашими недооптимизированными мозгами».
Тем не менее, отметка Бострома «утопия без дефицита» может быть несколько обманчива: экономический взрыв, вызванный суперинтеллектом, все еще будет ограничен физическими ресурсами, особенно землей. Хотя космическое исследование может значительно увеличить доступное пространство для строительства, оно не сделает его бесконечным. Есть также промежуточные миры, где люди развивают новые мощные формы интеллекта, но не становятся космонавтами. В таких мирах богатство может быть фантастическим, но многие из них могут быть поглощены жильем — так, как это происходит в богатых странах сегодня.
«Позиционные товары», которые повышают статус их владельцев, также, вероятно, все еще существуют и, по своей природе, редки. Даже если ИИ превышают людей в искусстве, интеллекте, музыке и спорте, люди, вероятно, будут продолжать чувствовать ценность в том, чтобы иметь лучше, чем у всех, например, имея билеты на самые горячие события.
В 1977 году Фред Гирш, экономист, аргументировал в «социальных пределах роста», что с ростом богатства все большая часть человеческих желаний становится позиционными товарами. Время, проведенное в конкуренции, увеличивается, цена таких товаров растет, и поэтому их доля в ВВП растет. Эта тенденция может продолжаться в утопии ИИ.
Бостром отмечает, что некоторые виды конкуренции являются неудачным согласованием: если все согласны прекратить конкуренцию, у них будет время на другие, лучшие вещи, что может дополнительно повысить рост. Однако некоторые виды конкуренции, такие как спорт, имеют внутреннюю ценность и следует их сохранить.
Интерес к шахматам возрос после того, как Deep Blue от IBM впервые победил Гарри Каспарова, тогда чемпиона мира, в 1997 году. Возникла целая индустрия вокруг электронного спорта, где компьютеры могут легко побеждать людей. Ожидается, что их доходы будут расти на 20% ежегодно в течение следующего десятилетия, достигнув почти $11 млрд. в 2032 году. Несколько групп общества сегодня дают нам представление о том, как могли бы проводить свое время будущие люди. Аристократы и богемы наслаждаются искусством. Монахи живут в себе. Атлеты проводят свою жизнь в спорте. Пенсионеры интересуются всеми этими занятиями.
Ранний уход в отпуск для всех
Останется ли такая задача, как воспитание детей, любимым делом людей? Бостром не так уверен. Он утверждает, что после мира без дефицита лежит «пост-инструментальный» мир, в котором ИИ также станут сверхчеловеческими в воспитании. Сам Кейнс написал, что «нет страны и народа, я думаю, что может ожидать возраст досуга и богатства без тревоги. Потому что мы были слишком долго научены бороться, а не наслаждаться… Судя по поведению и достижениям состоятельных классов сегодня в любой точке мира, перспектива очень подавлена!» Библия выражает это коротко: «пустые руки – мастерская дьявол».
Эти динамики указывают на «феномен прогресса». Хотя большинство людей желает лучшего мира, если технология станет слишком развитой, они могут потерять цель существования.
Бостром утверждает, что большинство людей все еще будут наслаждаться занятиями, имеющими внутреннюю ценность, например вкусной едой. Утописты, полагая, что жизнь стала слишком простой, могут решить вызвать себя, возможно колонизируя новую планету, чтобы попытаться перестроить цивилизацию с нуля.
Однако в каком-то момент даже такие приключения могут перестать быть интересными. Это открытый вопрос, насколько долго люди будут счастливы, передвигаясь от одной страсти к другой, как это делает Пир в «Городе перестановок».
Экономисты давно считали, что у людей «неограниченные желания и пожелания», что указывает на нескончаемые вариации вещей, которые люди хотят потреблять. С приходом утопии ИИ это будет проверено на практике. Достаточно многое будет зависеть от результата.
По материалам: The Economist
