Чем опасны искусственный интеллект, робототехника, генетика и прочие прорывные технологии для человечества? Как изменится общество в ближайшем будущем, какие потрясения нас ожидают? Об этом рассказывает Игорь Новиков, представитель Singularity University в Украине и ведущий потока «Инновации» на iForum – крупнейшей интернет-конференции Украины.

Какой тематике посвящен поток «Инновации» на iForum? О чем планируете рассказать слушателям?

Игорь Новиков. Под инновациями у нас очень часто понимают именно достижения в сфере информационных технологий. Но это в корне неправильно. На самом деле их можно поделить на три основных направления. Во-первых, инновации технологические, которые включают в том числе интернет и IT. Во-вторых, инновации в бизнесе: новые методологии, новые подходы, новые бизнес-модели. И в-третьих – инновации в обществе.

Программа потока «Инновации» на iForum будет сфокусирована в равной мере на всех трех направлениях. Причём под технологиями мы понимаем не только программные разработки, такие как искусственный интеллект, большие данные и блокчейн, но и робототехнику, генетику, 3D-печать, дополненную и виртуальную реальность и многое другое. Ведь все эти сферы в определенной степени даже важнее, чем IT.

Выбранное название полностью отвечает идеологии потока. Кстати, мы рассматривали также вариант «Экспоненциальные технологии», однако это бы исключило категорию бизнеса и общества.

Почему вышеупомянутые методики столь важны?
Человечество совершило прорывы, к которым не было готово. Мы довели скорость развития до такого уровня, что попали на неизвестную нам территорию. У нас есть инструмент, но нет понимания того, что произойдет, когда мы начнем его использовать. Чаще всего речь идет о двух сферах: искусственный интеллект и генетика. В первом случае речь идет о сценариях, которые были описаны в «Терминаторе» и отчасти в «Матрице». Проблематика искусственного интеллекта – это сценарий сосуществования с умными машинами, у которых есть потенциал стать намного умнее и сильнее нас.

Вы рассматриваете искусственный интеллект как одну из угроз будущего. Но в чем состоит основная опасность?
В масштабе нации нет понимания, что такое искусственный интеллект. Некоторые даже не понимают, что они уже его применяют. Я люблю спрашивать студентов: «Кто из вас сегодня использовал нейронные сети?». И обычно положительно отвечает всего несколько человек. Хотя если вы сегодня заходили на Facebook, открывали Prisma, делали поиск в Google, то нейронными сетями вы уже пользовались.

Искусственный интеллект – это также голосовые помощники. Хотя к Siri от компании Apple я отношусь скептически. На сегодня основная битва будет идти между Amazon Alexa и Google Assistant, а также стартап-проектом, который был выкуплен Samsung и ранее назывался Viv (сейчас носит название Bixby). Его основали создатели Siri, и их технология уже сегодня показывает очень хорошие результаты. Что касается Cortana (голосовой помощник от Microsoft, в котором используется искусственный интеллект — ред.), то пока это темная лошадка, непонятно, как будет далее развиваться этот проект.

Последние видеоролики Boston Dynamics показывают, что роботы могут быть не только «умными», но и довольно развитыми физически.
Boston Dynamics – очень продвинутая компания в сфере робототехники. Но для меня они, в первую очередь, великолепная иллюстрация будущего. Когда мы говорим о том, что робототехника и искусственный интеллект изменят мир, то именно демонстрация их разработок позволяет показать, как именно изменят. Про них есть такая шутка – вы наверняка видели такое видео, где человек толкает ногой четвероногого робота, и тот демонстрирует свои способности удержаться на «ногах». Мы шутим, что человек, который пнул робота, зря это делал без маски, ведь видео останется на YouTube, и в будущем роботы смогут «отомстить за коллегу».

Впрочем, такая шутка имеет подоснову: уже сегодня ряд стартапов учат роботов помнить и чувствовать боль.

В масштабе нации нет понимания, что такое искусственный интеллект

Но ведь в свое время Айзек Азимов описал три закона робототехники, согласно которым робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Наверняка эти законы будут воплощены при разработке роботов?
Любопытно, что эти законы взяла на вооружение компания Mercedes. Сейчас идет большая техническая дискуссия по поводу беспилотных автомобилей, и вот возник один важный вопрос: в случае аварийной ситуации на дороге кого должен спасти автопилот – пассажиров или пешеходов?

Большинство производителей попытались сохранить политкорректность в своих ответах, сделав оговорку, «что мы будем смотреть по ситуации на дороге, брать во внимание требования законодательства». А вот Mercedes в своем пресс-релизе процитировали три закона робототехники Айзека Азимова и сказали, что «мы будем сохранять жизнь пассажиров автомобиля». Конечно, такие ситуации будут случаться крайне редко, но «сорри, пешеходы, мы создаем автомобиль для пассажиров и в первую очередь должны заботиться о них».

Но меня пугает, что когда проверяли на роботе Google с искусственным интеллектом DeepMind теорию игр, он проявил эгоизм и агрессию. Меня пугают стартапы, которые, используя машинное зрение, обучают нейронные сети эффективно играть в Doom. Меня неприятно удивляют компании, которые производят роботов для изучения океанского дна, способных питаться микроорганизмами. Вот эти разработки гораздо ближе к «Терминатору», чем традиционные роботы.

Какие другие технологические направления несут угрозу для общества?
Еще один очень небезопасный тренд – развитие дронов. Эти устройства застали общество врасплох. Одна из самых больших проблем сегодня на Западе – как бороться с ними в тюрьмах. Потому что изначально тюрьмы строились под мир, в котором дронов не было и вообще все условия полетов были ограничены и эксклюзивны.

Большинство тюрем в мире сверху не накрыты. И сейчас, когда различные квадрокоптеры стоят относительно недорого, остро встал вопрос – как противостоять дронам, которые целым роем могут атаковать тюрьмы и перевозить наркотики, оружие и прочее.

Причем единого алгоритма, как бороться с такими летательными аппаратами, пока не существует. Ведь это не только проблема тюрем, но и проблема аэропортов, и вообще – приватности в целом. Кроме того, есть уже разработки дронов с огнестрельным оружием. Все эти вопросы должны провоцировать диалог в обществе.

Кстати, один из проектов, который мы сейчас в Украине активно поддерживаем, – дроны для разминирования, которые способны с помощью миноискателя искать мины на очень малой высоте и составлять детальную карту минного поля.

Но, снова-таки, надо отметить, что прогресс идет не только за счет новаторов-визионеров, а благодаря конкуренции в индустрии. Когда несколько подходов начинают конкурировать за одну нишу, прогресс становится экспоненциальным.

В одной из серий «Звездных войн» была показана армия роботов-пехотинцев, управляемых из командного центра.

В одной из серий «Звездных войн» была показана армия роботов-пехотинцев, управляемых из командного центра. Насколько это реалистичный сценарий в XXI веке?
Уже сегодня есть роботы, которые сильнее и быстрее, чем обычный человек, однако они очень дорого стоят. Пока все упирается в деньги. Хотя если мы посмотрим на дронов-хищников, то в сфере авиации робототехника уже успешно применяется.

В сегменте пехоты мы пока еще не зашли в это «светлое» будущее. Но мы в него зайдем – и вот здесь как раз возникает вопрос «Терминатора». К сожалению, не только мне, но и многим другим такой сценарий не кажется фантастикой. И поэтому лучше, чтобы мы туда никогда и не пришли.

Но дуальность, то есть хорошие и плохие стороны, просматривается в любой технологии. Мой любимый курс, который я часто читаю, называется «Преступления будущего». Родоначальник такого курса – Марк Гудман, который занимает пост советника в правительстве США. Курс изучает различные технологии с точки зрения степени вреда, которые они могут причинить человечеству. Курс рассматривает искусственный интеллект, блокчейн, трехмерную печать, виртуальную реальность и многое другое. И вот просматривается одна очень неприятная тенденция: чем больше позитивного потенциала несет технология, тем больше в ней может быть негативного. Генетика вместе с комплексом других технологий теоретически позволит нам жить очень долго и очень комфортно. С другой стороны, эта же технология способна очень быстро погубить нас как вид.

Даже виртуальная реальность в ряде случаев уже имеет негативные последствия. На курсах этики мы когда-то рассматривали кейс, где девушка впервые заявила о сексуальных домогательствах в виртуальном мире. На первый взгляд это может звучать смешно, однако в виртуальной реальности все ощущается намного ярче, чем это может показаться. О том, как на человека действует пребывание в виртуальном мире, хорошо говорит знаменитый кейс про ожоговых пациентов, которым показывали через очки виртуальной реальности Oculus Rift довольно примитивное видео об Антарктике с пингвинами, снегом и льдом и постепенно отключали обезболивающее. Львиная доля пациентов не заметили, что выключен анестетик. Притом дела о сексуальных домогательствах до судов пока не доходили и c точки зрения юриспруденции вряд ли являются преступлением. Хотя эффект вреда от них не меньше, чем от реальных домогательств.

Вы являетесь представителем Singularity University в Украине. Какова миссия этой организации, в чем заключается ваша задача в Украине?
Когда новички слышат названия NASA и Университет сингулярности – а именно NASA является одним из наших партнеров, – то начинают думать либо о военной разведке, либо о масонстве, либо о сайентологии. Но ни к одному из этих направлений мы не имеем никакого отношения. Singularity University был основан в 2008 году двумя ведущими предпринимателями и лидерами мнений – Питером Диамантисом, главой фонда X-Prize, человеком, который стоял за первыми технологиями для частных полетов в Космос, и Реем Курцвейлом – главой инжиниринга в компании Google и известным футурологом. Они познакомились на конференции TED и пришли к выводу, что на сегодня в мире не существует организации, которая бы системно занималось развитием технологий и изучением их влияния на бизнес, на мир, на общество. Они инициировали создание такой организации, а далее к ним присоединилось Национальное агентство по аэронавтике и исследованию космического пространства (NASA), затем Deloitte, Cisco, Genentech, Nokia и Google. Миссия университета звучит просто: вдохновлять, обучать и предоставлять инструменты лидерам завтрашнего дня.

Филиал университета в Украине открылся в июне прошлого года. Мы довольно долго вели переговоры с университетом, это был непростой процесс. Тем не менее, мы увидели, что программа университета очень востребована, а также актуальна и важна для ускорения развития бизнеса, улучшения благосостояния людей, перехода к более современному и культурному обществу. Ведь инновации – это средство огромных заработков, которые очень сильно влияют на экономику.

Наша конечная цель – открыть в Украине первый в Восточной Европе полноценный кампус, который будет включать в себя исследовательскую лабораторию, фабрику прототипирования, выставочную зону, лекторий и т. д. Это потенциально мультимиллионный проект по инвестициям. Когда мы инициировали открытие чаптера менее года назад, нам говорили, что его открыть в принципе нереально. А сейчас мы уже проводим первый на территории бывшего союза конкурс Global Impact Challenge. И этим летом один из наших соотечественников уедет в США и проведет 10 недель в компании Рея Курцвейла, Ларри Пейджа, Питера Диамантиса, Илона Маска и т. д. Нас поддержал сам университет, мы первая страна, где университет работает без локального спонсора.

Сколько стоит обучение в Singularity University?
Обучение в украинском университете – бесплатное. А вот в головном Университете, в Кремниевой Долине, обучение делится на два типа: есть платные executive-программы, которые ориентированы на топ-менеджеров крупных корпораций и акционеров успешных бизнесов, и есть летняя бесплатная 10-недельная программа. Последняя построена по следующему принципу: по всему миру на конкурсной основе отбираются 90 лучших умов, которые проходят 10-недельный интенсивный курс. Одна его часть состоит из обучения, все остальное – работа над проектами, потенциально способными позитивно повлиять на миллиард человек в 10-летней перспективе. Это программа полностью бесплатна, в большинстве стран она делается за деньги локальных спонсоров, часть расходов оплачивает Google. В Украине все оплачивает Университет сингулярности.

В Украине мы для себя выработали модель однодневной программы, где даем вводную, чем занимается университет, а далее – делаем 5-часовой спринт по основной программе. После этого львиная доля слушателей остаются в комьюнити, и мы уже начинаем индивидуально работать с каждым. Есть люди, которые хотят продолжить обучение, есть такие, которые полученные знания сразу пытаются применить на практике.

Хочу отметить, что программа потока на грядущем iForum будет очень похожа на однодневный курс, который мы преподаем в Singularity University в Киеве. Вместе с тем, для конференции мы пригласили сторонних спикеров и добавили пару необычных докладов для большего разнообразия. Но если в университете мы берем всего 12 студентов в неделю, то на iForum для огромного числа слушателей появляется прекрасная возможность пройти похожий и очень познавательный курс.

Автор: Олег Пилипенко