Думка: людство зробило прориви, до яких не було готове

У масштабі нації немає розуміння, що таке штучний інтелект. Деякі навіть не розуміють, що вони вже його застосовують.

Чому штучний інтелект, робототехніка, генетика та інші проривні технології небезпечні для людства? Як зміниться суспільство в найближчому майбутньому, які потрясіння на нас чекають? Про це розповідає Ігор Новіков, представник Singularity University в Україні і ведучий напряму «Інновації» на iForum – найбільшої інтернет-конференції України.

Який тематиці присвячений напрям «Інновації» на iForum? Про що плануєте розповісти слухачам?
Ігор Новіков. Під інноваціями в нас дуже часто розуміють саме досягнення у сфері інформаційних технологій. Але це в корені неправильно. Насправді їх можна поділити на три основні напрямки. По-перше, інновації технологічні, які охоплюють серед іншого інтернет та ІТ. По-друге, інновації в бізнесі: нові методології, нові підходи, нові бізнес-моделі. І по-третє – інновації в суспільстві.

Програма напряму «Інновації» на iForum буде сфокусована рівною мірою на всіх трьох напрямках. Причому під технологіями ми розуміємо не тільки програмні розробки, такі як штучний інтелект, великі дані та блокчейн, але й робототехніку, генетику, 3D-друк, доповнену і віртуальну реальність і багато іншого. Адже всі ці сфери певною мірою навіть важливіші за ІТ.

Вибрана назва повністю відповідає ідеології напряму. До речі, ми розглядали також варіант «Експонентні технології», однак це б виключило категорію бізнесу й суспільства.

Чому вищезгадані методики настільки важливі?
Людство зробило прориви, до яких не було готове. Ми довели швидкість розвитку до такого рівня, що потрапили на невідому нам територію. У нас є інструмент, але немає розуміння того, що станеться, коли ми почнемо його використовувати. Найчастіше мова йде про дві сфери: штучний інтелект і генетика. У першому випадку мова йде про сценарії, які були описані в «Термінаторі» і частково в «Матриці». Проблематика штучного інтелекту – це сценарій співіснування з розумними машинами, у яких є потенціал стати набагато розумнішими і сильнішими за нас.

Ви розглядаєте штучний інтелект як одну із загроз майбутнього. Але в чому полягає основна небезпека?
У масштабі нації немає розуміння, що таке штучний інтелект. Деякі навіть не розуміють, що вони вже його застосовують. Я люблю питати студентів: «Хто з вас сьогодні використовував нейронні мережі?». І зазвичай позитивно відповідає лише кілька людей. Хоча якщо ви сьогодні заходили на Facebook, відкривали Prisma, робили пошук в Google, то нейронними мережами ви вже користувалися.

Штучний інтелект – це також голосові помічники. Хоча до Siri від компанії Apple я ставлюся скептично. Сьогодні основна битва буде йти між Amazon Alexa і Google Assistant, а також стартап-проектом, який був викуплений Samsung і раніше називався Viv (зараз носить назву Bixby). Його заснували творці Siri, і їхня технологія вже сьогодні показує дуже гарні результати. Що стосується Cortana (голосовий помічник Microsoft, який містить штучний інтелект – ред.) – то поки це темна конячка, незрозуміло, як буде далі розвиватися цей проект.

Останні відеоролики Boston Dynamics показують, що роботи можуть бути не тільки «розумними», а й досить розвиненими фізично.
Boston Dynamics – дуже «просунута» компанія у сфері робототехніки. Але для мене вони, в першу чергу, чудова ілюстрація майбутнього. Коли ми говоримо про те, що робототехніка і штучний інтелект змінять світ, то саме демонстрація їхніх розробок дозволяє показати, як саме змінять. Про них є такий жарт – ви напевне бачили таке відео, де людина штовхає ногою чотириногого робота, і той демонструє свої здібності утриматися на «ногах». Ми жартуємо, що людина, яка штовхнула робота, даремно це робила без маски, адже відео залишиться на YouTube, і в майбутньому роботи зможуть «помститися за колегу». Утім, такий жарт має підоснову: вже сьогодні ряд стартапів учать роботів пам’ятати і відчувати біль.

В масштабе нации нет понимания, что такое искусственный интеллект

Але ж свого часу Айзек Азімов описав три закони робототехніки, згідно з якими робот не може заподіяти шкоди людині або своєю бездіяльністю допустити, щоб людині було завдано шкоди. Напевне ці закони будуть втілені при розробці роботів?
Цікаво, що ці закони взяла на озброєння компанія Mercedes. Зараз йде велика технічна дискусія з приводу безпілотних автомобілів, і ось виникло одне важливе питання: у разі аварійної ситуації на дорозі кого повинен врятувати автопілот – пасажирів або пішоходів? Більшість виробників спробувала зберегти політкоректність у своїх відповідях, зробивши застереження, «що ми будемо дивитися, виходячи із ситуації на дорозі, брати до уваги вимоги законодавства». А ось Mercedes у своєму прес-релізі процитували три закони робототехніки Айзека Азімова і сказали, що «ми будемо зберігати життя пасажирів автомобіля». Звичайно, такі ситуації будуть траплятися вкрай рідко, але «соррі, пішоходи, ми створюємо автомобіль для пасажирів і в першу чергу повинні турбуватися про них».

Але мене лякає, що коли перевіряли на роботі Google зі штучним інтелектом DeepMind теорію ігор, він виявив егоїзм і агресію. Мене лякають стартапи, які, використовуючи машинний зір, навчають нейронні мережі ефективно грати в Doom. Мене неприємно дивують компанії, які виробляють роботів для вивчення океанського дна, здатних харчуватися мікроорганізмами. Ось ці розробки набагато ближчі до «Термінатора», ніж традиційні роботи.

Які інші технологічні напрямки несуть загрозу для суспільства?
Ще один дуже небезпечний тренд – розвиток дронів. Ці пристрої застали суспільство зненацька. Одна з найбільших проблем сьогодні на Заході – як боротися з ними в тюрмах. Тому що спочатку в’язниці будувалися під світ, у якому дронів не було і взагалі всі умови польотів були обмежені й ексклюзивні. Більшість в’язниць у світі зверху не накриті. І зараз, коли різні квадрокоптери коштують відносно недорого, гостро постало питання, як протистояти дронам, які цілим роєм можуть атакувати в’язниці й перевозити наркотики, зброю та інше.

Причому єдиного алгоритму, як боротися з такими літальними апаратами, поки не існує. Адже це не тільки проблема в’язниць, а й проблема аеропортів і взагалі – приватності в цілому. Крім того, є вже розробки дронів з вогнепальною зброєю. Усі ці питання повинні провокувати діалог у суспільстві.

До речі, один з проектів, який ми зараз в Україні активно підтримуємо, – дрони для розмінування, які здатні за допомогою міношукача шукати міни на дуже малій висоті і складати детальну карту мінного поля.

Але, знову-таки, треба відзначити, що прогрес йде не тільки за рахунок новаторів-візіонерів, а завдяки конкуренції в індустрії. Коли кілька підходів починають конкурувати за одну нішу – прогрес стає експоненціальним.

В одній із серій «Зоряних воєн» була показана армія роботів-піхотинців, керованих з командного центру. Наскільки це реалістичний сценарій у XXI столітті?
Уже сьогодні є роботи, які сильніші та швидші за звичайну людину, однак вони дуже дорого коштують. Поки все впирається в гроші. Хоча якщо ми подивимося на дронів-хижаків, то у сфері авіації робототехніка вже успішно застосовується.

У сегменті піхоти ми поки ще не зайшли в це «світле» майбутнє. Але ми в нього зайдемо – і ось тут якраз виникає питання «Термінатора». На жаль, не тільки мені, а й багатьом іншим такий сценарій не здається фантастикою. І тому краще, щоб ми туди ніколи і не прийшли.

Але дуальність, тобто хороші і погані сторони, проглядаються в будь-якій технології. Мій улюблений курс, який я часто читаю, називається «Злочини майбутнього». Родоначальник такого курсу – Марк Гудман, який займає пост радника в уряді США. Курс вивчає різні технології з точки зору ступеня шкоди, яку вони можуть заподіяти людству. Ідеться про штучний інтелект, блокчейн, тривимірний друк, віртуальну реальність і багато іншого. І ось проглядається одна дуже неприємна тенденція: чим більше позитивного потенціалу несе технологія, тим більше в ній може бути негативного. Генетика разом з комплексом інших технологій теоретично дозволить нам жити дуже довго і дуже комфортно. З іншого боку, ця ж технологія здатна дуже швидко погубити нас як вид.

Навіть віртуальна реальність у багатьох випадках уже має негативні наслідки. На курсах етики ми колись розглядали кейс, де дівчина вперше заявила про сексуальні домагання у віртуальному світі. На перший погляд це може звучати смішно, проте у віртуальній реальності все відчувається набагато яскравіше, ніж це може здатися. Про те, як на людину діє перебування у віртуальному світі, добре говорить знаменитий кейс про пацієнтів з опіками, яким показували через окуляри віртуальної реальності Oculus Rift досить примітивне відео про Антарктику з пінгвінами, снігом і льодом і поступово відключали знеболювальне. Левова частка пацієнтів не помітила, що вимкнений анестетик. Притому справи про сексуальні домагання до судів поки не доходили і з точки зору юриспруденції навряд чи є злочином. Хоча ефект шкоди від них не менший, ніж від реальних домагань.

Ви є представником Singularity University в Україні. Яка місія цієї організації, у чому полягає ваше завдання в Україні?
Коли новачки чують назви NASA та Університет сингулярності – а саме NASA є одним з наших партнерів, – то починають думати або про військову розвідку, або про масонство, або про саєнтологію. Але до жодного із цих напрямків ми не маємо ніякого відношення. Singularity University був заснований у 2008 році двома провідними підприємцями та лідерами думок – Пітером Діамантісом, главою фонду X-Prize, людиною, яка стояла за першими технологіями для приватних польотів у Космос, і Реєм Курцвейлом – главою інжинірингу в компанії Google і відомим футурологом. Вони познайомилися на конференції TED і дійшли висновку, що на сьогодні у світі не існує організації, яка б системно займалася розвитком технологій і вивченням їхнього впливу на бізнес, на світ, на суспільство.

Вони ініціювали створення такої організації, а далі до них приєдналося Національне агентство з аеронавтики і дослідження космічного простору (NASA), потім Deloitte, Cisco, Genentech, Nokia і Google. Місія університету звучить просто – надихати, навчати та надавати інструменти лідерам завтрашнього дня.

Філія університету в Україні відкрилася в червні минулого року. Ми досить довго вели переговори з університетом, це був непростий процес. Проте ми побачили, що програма університету дуже затребувана, а також актуальна і важлива для прискорення розвитку бізнесу, поліпшення добробуту людей, переходу до більш сучасного та культурного суспільства. Адже інновації – це засіб величезних заробітків, які дуже сильно впливають на економіку.

Наша кінцева мета – відкрити в Україні перший у Східній Європі повноцінний кампус, який буде містити дослідницьку лабораторію, фабрику прототипування, виставкову зону, лекторій і т.д. Це потенційно мультимільйонний проект, якщо говорити про інвестиції. Коли ми ініціювали відкриття чаптеру (філії – ред.) менше року тому, нам говорили, що його відкрити в принципі нереально. А зараз ми вже проводимо перший на території колишнього союзу конкурс Global Impact Challenge. І цього літа один із наших співвітчизників поїде в США і проведе 10 тижнів у компанії Рея Курцвейла, Ларрі Пейджа, Пітера Діамантіса, Ілона Маска і т. д. Нас підтримав сам університет, ми перша країна, де університет працює без локального спонсора.

Скільки коштує навчання в Singularity University?
Навчання в українському університеті – безплатне. А ось у головному університеті, у Кремнієвій долині, навчання ділиться на два типи: є платні executive-програми, які орієнтовані на топ-менеджерів великих корпорацій та акціонерів успішних бізнесів, і є річна безплатна 10-тижнева програма. Остання побудована за такиим принципом: у всьому світі на конкурсній основі відбираються 90 найкращих умів, які проходять 10-тижневий інтенсивний курс. Одна його частина складається з навчання, усе інше – робота над проектами, потенційно здатними позитивно вплинути на мільярд осіб у 10-річній перспективі. Ця програма повністю безплатна, у більшості країн вона робиться за гроші локальних спонсорів, частину витрат оплачує Google. В Україні все оплачує Університет сингулярності.

В Україні ми для себе виробили модель одноденної програми, де даємо вступ, чим займається університет, а далі – робимо 5-годинний спринт за основною програмою. Після цього левова частка слухачів залишається в ком’юніті, і ми вже починаємо індивідуально працювати з кожним. Є люди, які хочуть продовжити навчання, є такі, які отримані знання відразу намагаються застосувати на практиці.

Хочу зазначити, що програма напряму на iForum-2017 буде дуже схожа на одноденний курс, який ми викладаємо в Singularity University в Києві. Разом з тим, для конференції ми запросили сторонніх спікерів і додали кілька незвичайних доповідей для більшої різноманітності. Але якщо в університеті ми беремо всього 12 студентів на тиждень, то на iForum для величезної кількості слухачів з’являється чудова можливість пройти схожий і дуже пізнавальний курс.

Автор: Олег Пилипенко