В мире искусственного интеллекта идея «сингулярности» занимает особое место. Эта неоднозначная концепция описывает момент, когда искусственный интеллект выйдет из-под контроля человека и начнет стремительно менять общество. Сложность темы сингулярности искусственного интеллекта и причина заимствования терминологии из физики черных дыр заключается в том, что чрезвычайно сложно точно предсказать, где она начинается, и почти невозможно понять, что находится по ту сторону этого технологического «горизонта событий».

В то же время отдельные исследователи в области искусственного интеллекта пытаются найти признаки приближения сингулярности, измеряя прогресс систем искусственного интеллекта в направлении навыков и возможностей, сравнимых с человеческими.

Одним из таких индикаторов, предложенных римской переводческой компанией Translated, является способность искусственного интеллекта переводить речь с точностью, эквивалентной человеческой. Язык считается одной из самых сложных задач для искусственного интеллекта, и система, которая могла бы значительно сократить разрыв в этой области, теоретически могла бы демонстрировать признаки общего искусственного интеллекта.

«Это потому, что язык — самая естественная вещь для человека», — заявил генеральный директор Translated Марко Тромбетти на конференции 2022 года в Орландо, Флорида. При этом он подчеркнул, что данные, собранные компанией, ясно показывают, что машины не так уж далеки от преодоления этого разрыва.

Компания отслеживала производительность своего ИИ в период с 2014 по 2022 год с помощью показателя Time to Edit, или TTE. Этот показатель измеряет время, которое профессиональные редакторы тратят на исправление переводов, созданных искусственным интеллектом, по сравнению с переводами, выполненными человеком. За этот восьмилетний период, основываясь на анализе более двух миллиардов постредактирований, ИИ Translated продемонстрировал медленное, но неоспоримое улучшение, постепенно приближаясь к уровню качества человеческого перевода.

По данным Translated, среднестатистическому переводчику-человеку требуется около одной секунды, чтобы отредактировать каждое слово, переведенное другим переводчиком. В 2015 году профессиональные редакторы тратили около 3,5 секунды на каждое слово на проверку предложений по машинному переводу. Сегодня эта цифра снизилась примерно до 2 секунд. Если эта тенденция сохранится, искусственный интеллект Translated достигнет уровня перевода, сравнимого с человеческим, к концу текущего десятилетия или даже раньше. Как отметил Марко Тромбетти в одном из подкастов, ежедневные изменения настолько малы, что их сложно заметить, но если посмотреть на прогресс за десятилетие, он впечатляет. По его словам, это первый случай в сфере искусственного интеллекта, когда была предпринята попытка предсказать скорость приближения к сингулярности.

Несмотря на новизну такого подхода к количественной оценке близости человечества к сингулярности, такое определение сталкивается с теми же трудностями, что и попытки выявить общий искусственный интеллект в целом. И хотя улучшение понимания и воспроизведения человеческого языка является важным направлением исследований, само по себе это умение не обязательно означает наличие интеллекта у машины, особенно с учетом того, что даже среди исследователей нет единогласного согласия по определению самого понятия «интеллект».

Независимо от того, являются ли сверхточные переводчики предвестниками радикальных технологических перемен, это никоим образом не умаляет достижений искусственного интеллекта Translated. Система, способная переводить речь на уровне человека, вполне может оказать существенное влияние на общество, даже если истинная «технологическая сингулярность» по-прежнему будет неуловимой и трудно поддающейся четкому определению.

Примечание редактора: термин, озвученный экспертами, слишком оптимистичен. Его смело можно умножить на 10.

Бурное развитие искусственного интеллекта и робототехники имеет все шансы стать как мощным инструментом полиции, так и опасным оружием в руках преступников. Об этом говорится в 48-страничном отчете общеевропейского полицейского агентства Европол. Ранее в этом месяце Лаборатория инноваций Европола опубликовала документ под названием «Будущее беспилотных систем: влияние робототехники и беспилотных систем на правоохранительную деятельность». Авторы подчеркивают, что доклад представляет собой упражнение по предсказанию возможных сценариев, а не жесткий прогноз. На нем изображено ближайшее будущее 2035 года, в котором интеллектуальные машины будут повсюду: в домах, больницах, фабриках, полицейских участках, магазинах и школах.

Исследователи из базирующейся в Гааге организации, которая фактически является европейским аналогом глобального полицейского агентства Интерпола, описывают гипотетические сценарии, включая массовое недовольство потерей рабочих мест и автоматизацией, которое может перерасти в гражданские беспорядки, «избиение роботов» и популистские протесты с требованием «ставить людей на первое место». В другом сценарии поднимаются вопросы о том, начнут ли люди в конечном итоге воспринимать забастовки на работе как форму насилия. Подобные дискуссии неоднократно возникали вокруг собак-роботов. При отсутствии четких ответов подобные дилеммы, по мнению авторов, могут вызвать напряженность во взаимоотношениях полиции и общества.

С другой стороны, прогнозы Европола предсказывают, что вездесущие роботы будущего сами станут виновниками преступлений. Роботы-опекуны, используемые в больницах или домах для людей с ограниченными возможностями или пожилых людей, могут быть взломаны, чтобы следить за семьями, собирать конфиденциальную информацию и манипулировать жертвами или даже вовлекать детей. Автономные транспортные средства или дроны также могут быть взломаны, что, как предупреждается в докладе, приведет к утечке конфиденциальных данных или их использованию в качестве физического оружия. Стаи дронов, возможно, собранные в зонах боевых действий, таких как Украина, рассматриваются авторами как инструмент для террористических атак на города, для вооруженных столкновений между преступными группировками с использованием самодельных взрывных устройств или для наблюдения за действиями полиции с целью получения тактического преимущества.

Далее доклад становится все более теоретическим, предполагая, что работа будущего создаст серьезные трудности для правоохранительных органов. Их «допрос» может стать настоящим кошмаром, и исследователи предупреждают, что будет все сложнее отличить намеренное и случайное поведение, когда роботы поступают неправильно. Они указывают на трудности, с которыми уже сталкивается полиция при расследовании происшествий с участием беспилотных автомобилей. В докладе даже предполагается, что полиция уничтожает «сумасшедших» роботов с помощью импровизированных «робозамораживающих пистолетов», а использование сетей со встроенными гранатами для перехвата дронов не способно окончательно устранить угрозу. Попав в помещение полиции, роботы, по мнению авторов, могут «записывать, красть, уничтожать или скрываться».

Хотя некоторые из этих прогнозов могут показаться слишком фантастическими, Европол считает, что их видение 2035 года не так уж далеко от реальности. Неназванный представитель Европола сообщил The Telegraph, что агентство «не может предсказать будущее», но пытается «предсказать правдоподобные сценарии, которые позволят принимать более обоснованные решения сегодня». Европол не ответил на просьбу The Verge об интервью.

По мнению исследователей, признаки этих тенденций уже заметны. Контрабандисты наркотиков и других незаконных товаров уже используют в своих операциях дроны и автономные транспортные средства, в том числе для доставки в тюрьмы. Террористические группировки также начинают демонстрировать аналогичные подходы. В докладе утверждается, что в Интернете появляется рынок, на котором пилоты дронов могут предложить свои навыки преступникам. Чтобы полиция могла в будущем не отставать от преступников, Европол рекомендует увеличить финансирование обучения и образования в соответствующих областях, обеспечить доступ к новейшим технологиям и осуществить переход от «двухмерной к трехмерной полицейской деятельности» ввиду активного использования дронов.

Исполнительный директор Европола Катрин де Болл отмечает в отчете:
«Интеграция беспилотных систем в преступную деятельность уже стала реальностью, и нам придется задуматься о том, как преступники и террористы смогут использовать дроны и роботов через несколько лет. Точно так же, как Интернет и смартфоны создали значительные возможности и проблемы, эти технологии будут иметь аналогичный эффект. В новом отчете Инновационной лаборатории Европола рассматривается будущая рабочая среда для европейских правоохранительных органов и предлагаются действия, необходимые сегодня для эффективной борьбы с преступностью, сохраняя при этом общественное доверие и фундаментальные права завтра».

Однако эксперты по робототехнике, опрошенные The Verge, выразили меньшую уверенность в том, что технология распространяется так быстро, как предполагают исследователи Европола, или что сама технология является основной проблемой. Мартим Брандао, преподаватель робототехники и автономных систем в Королевском колледже Лондона, говорит, что вполне вероятно представить себе такие проблемы, как слежка или шантаж с помощью взломанных роботов-уходников или домашних роботов, учитывая их количество и зависимость от Интернета. Подобные инциденты уже происходили. В то же время он выражает скептицизм по поводу других прогнозов, таких как террористические атаки с использованием дронов из зон боевых действий или бурная реакция людей на автоматизацию, отмечая, что ему не известны убедительные доказательства, подтверждающие эти утверждения.

Джованни Лука Мазала, робототехник и преподаватель информатики в Кентском университете в Великобритании, подчеркивает, что «прогнозы на 2035 год сложны», учитывая скорость, с которой развиваются новые технологии. По его словам, внедрение роботов зависит не только от технических возможностей, но и от рынка, стоимости и возможности массового производства, что может сдерживать уровень внедрения, описанный в отчете Европола.

В то же время Мазала согласен с общими рекомендациями исследователей Европола. Он отмечает, что преступники так или иначе будут использовать любую новую технологию, и добавляет, что обществу необходимо инвестировать в полицейскую деятельность и обучение искусственному интеллекту, робототехнике и кибербезопасности. По его словам, если полицейский едва умеет пользоваться таким инструментом, как дрон, он не сможет конкурировать с подготовленным противником.

При этом, несмотря на все спекуляции о том, как полиция и преступники могут использовать роботов в будущем, Брандао считает, что в докладе Европола упущен один из наиболее важных вопросов, с которыми придется столкнуться, а именно вопрос подотчетности самих правоохранительных органов. Он отмечает, что в отчете рассматривается потенциальное злоупотребление конфиденциальностью и безопасностью домашних роботов со стороны преступников, но не рассматривается возможность того, что сами полицейские органы могут нарушать конфиденциальность или создавать или использовать уязвимости безопасности. Учитывая многочисленные случаи злоупотреблений со стороны полиции и дискриминационного надзора, он считает, что эти риски также требуют серьезного внимания. Он добавляет, что его больше беспокоит использование уязвимостей роботов полицией и спецслужбами, чем террористами, особенно с учетом авторитарных сдвигов, происходящих во всем мире.