У романі “Місто перестановок” Грега Егана персонаж Пір, досягши безсмертя в віртуальній реальності, над якою він має повний контроль, відчуває нудьгу. Тому він створює у себе нові страсті. Одного дня він розширює межі вищої математики, наступного пише опери. “Він навіть колись цікавився Елісіями [посмертний світ]. Тепер ні. Він віддає перевагу думати про ніжки столів”, – так описуюбть героя в тексті. Ця капризність Піра стосується глибшої проблеми. Коли технологія вирішує найглибші проблеми людства, що залишається робити людям?
Це одне з питань, яке розглядається в новій публікації Ніка Бострома, філософа з Університету Оксфорду, чий попередній твір стверджував, що існує один шанс із шести, що людство буде знищено в наступні 100 років, можливо, через розвиток небезпечних форм штучного інтелекту (ШІ).
У своїй останній книзі “Глибока Утопія” Бостром розглядає зовсім інший варіант. Що буде, якщо ШІ буде розвиватися надзвичайно успішно? За одним з сценаріїв, який він розглядає, технологія розвивається до такого рівня, коли вона може виконувати всю економічно цінну роботу за майже нульову вартість. За ще радикальнішим сценарієм навіть такі завдання, як виховання дітей, можуть бути виконані ШІ краще. Це може звучати більше дистопієй, ніж утопієй, але Бостром стверджує протилежне.
Почнемо з першого сценарію, який Бостром називає “утопією без дефіциту”. У такому світі потреба в роботі була б зменшена. Майже століття тому Джон Мейнард Кейнс написав есе під назвою “Економічні можливості для наших онуків”, в якому передбачив, що через 100 років його багаті нащадки зможуть працювати лише 15 годин на тиждень. Це зовсім не втілюється в життя, але робочий час все-таки дещо зменшився. У багатих країнах середні тижневі робочі години зменшилися з понад 60 у кінці 19 століття до менше ніж 40 сьогодні.
Типовий американець проводить третину свого часу на дозвіллі та спортивних заходах. У майбутньому вони, можливо, захочуть проводити свій час на речах, незвичайних для нашої поточної концепції людства. Як Бостром пише, коли допомагаючись потужними технологіями, “простір можливих для нас досвідів виходить далеко за ті, до яких ми маємо доступ зараз з нашими недооптимізованими мізками”.
Тим не менш, позначка Бострома “утопія без дефіциту” може бути трохи оманливою: економічний вибух, викликаний суперінтелектом, все ще буде обмежений фізичними ресурсами, особливо землею. Хоча космічне дослідження може значно збільшити доступний простір для будівництва, воно не зробить його нескінченним. Є також проміжні світи, де люди розвивають потужні нові форми інтелекту, але не стають космонавтами. У таких світах багатство може бути фантастичним, але багато з нього може бути поглинено житлом – так, як це відбувається в багатих країнах сьогодні.
“Позиційні товари”, які підвищують статус їх власників, також, ймовірно, все ще існують і, за своєю природою, є рідкісними. Навіть якщо ШІ перевищують людей в мистецтві, інтелекті, музиці та спорті, люди, ймовірно, продовжуватимуть відчувати цінність в тому, щоб мати краще, ніж у усіда, наприклад, маючи квитки на найгарячіші події.
У 1977 році Фред Гірш, економіст, аргументував в “Соціальних межах зростання”, що зі зростанням багатства все більша частина людських бажань становиться позиційними товарами. Час, проведений у конкуренції, збільшується, ціна на такі товари зростає, і тому їх частка в ВВП зростає. Ця тенденція може продовжуватися в утопії ШІ.
Бостром зазначає, що деякі види конкуренції є невдалими узгодженням: якщо всі згодні припинити конкуренцію, вони матимуть час на інші, кращі речі, що може додатково підвищити зростання. Проте деякі види конкуренції, такі як спорт, мають внутрішню цінність і варто їх зберегти.
Інтерес до шахів зріс після того, як Deep Blue від IBM вперше переміг Гаррі Каспарова, тоді чемпіона світу, в 1997 році. Виникла ціла індустрія навколо електронного спорту, де комп’ютери можуть легко перемагати людей. Очікується, що їхні доходи будуть зростати на 20% щорічно протягом наступного десятиліття, досягнувши майже $11 млрд у 2032 році. Декілька груп суспільства сьогодні дають нам уявлення про те, як могли б проводити свій час майбутні люди. Аристократи та богеми насолоджуються мистецтвом. Монахи живуть у собі. Атлети проводять своє життя у спорті. Пенсіонери цікавляться всіма цими заняттями.
Ранній відхід у відпустку для всіх
Чи залишиться таке завдання, як виховання дітей, улюбленою справою людей? Бостром не так впевнений. Він стверджує, що після світу без дефіциту лежить “пост-інструментальний” світ, в якому ШІ також стануть надлюдськими в вихованні. Сам Кейнс написав, що «немає країни і народу, я думаю, який може очікувати на вік дозвілля та багатства без тривоги. Бо ми були надто довго навчені боротися, а не насолоджуватися… Судячи з поведінки та досягнень заможних класів сьогодні в будь-якому куточку світу, перспектива дуже пригнічена!” Біблія висловлює це коротко: “порожні руки – майстерня диявол».
Ці динаміки вказують на “парадокс прогресу”. Хоча більшість людей хоче кращого світу, якщо технологія стане занадто розвиненою, вони можуть втратити мету існування.
Бостром стверджує, що більшість людей все ще будуть насолоджуватися заняттями, які мають внутрішню цінність, наприклад, смачною їжею. Утопісти, вважаючи, що життя стало занадто простим, можуть вирішити викликати себе, можливо, колонізуючи нову планету, щоб спробувати перебудувати цивілізацію з нуля.
Однак в якому-то моменті навіть такі пригоди можуть перестати бути цікавими. Це відкрите питання, наскільки довго люди будуть щасливими, пересуваючись від однієї страсті до іншої, як це робить Пір у “Місті перестановок”.
Економісти давно вважали, що у людей “необмежені бажання і побажання”, що вказує на нескінченні варіації речей, які люди хочуть споживати. З приходом утопії ШІ це буде перевірено на практиці. Досить багато буде залежати від результату.
За матеріалами: The Economist
