Риски злонамеренного использования искусственного интеллекта вполне реальные, предупреждают эксперты. Они назвали три основные угрозы, которые принесет искусственный разум, попавший в плохие руки. Со злыми намерениями искусственный интеллект могут использовать страны-изгои, преступники и террористы, рассказывает отчет «Вредное использование искусственного интеллекта».

Эксперты призывают разработчиков робототехники и систем искусственного интеллекта (ИИ) прилагать больше усилий для предотвращения вредного применения своих технологий. Они также просят власти страны подумать о принятии новых законов. Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредное использование ИИ и как это предотвратить.

Кардинальное изменение

Особую тревогу вызывают новые методы обучения, когда робототехнику доводят до чрезмерных интеллектуальных возможностей, но не дают ни примеров для подражания, ни руководства на человеческом уровне.

Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин называет несколько сценариев, где искусственный интеллект может вдруг нанести вред:

• разработанный компанией Google искусственный интеллект AlphaGo можно использовать для поиска шаблонов данных и уязвимости кодирования;
• отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на кого-то;
• боты могут автоматически производить фейковые материалы для политической манипуляции. Искусственный интеллект позволяет говорить голосом любого человека, что позволит злоумышленникам выдавать себя за другого.

«Искусственный интеллект изменит существующие угрозы для отдельных граждан, организаций и государств, – говорит научный сотрудник Института будущего человечества Оксфордского университета Майлз Брандидж. – Будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет вмешательство в частную жизнь путем наблюдения, профилирования личности и дальнейших репрессий – полный спектр влияния на безопасность огромный. Очень часто так бывает, что системы искусственного интеллекта не просто достигают человеческого уровня производительности, но значительно его превосходят. Это очень грустно, однако необходимо рассмотреть те последствия, к которым могут привести хакерство, слежка, методы убеждения и распознавание сверхчеловеческого уровня».

«Искусственный интеллект кардинально меняет все, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет, – считает исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада Шон О’Хеггерти. – Мы живем в мире, который может стать жертвой ежедневной опасности злоупотребления искусственного интеллекта, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны».

Сам доклад составили некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.

По материалам: BBC

Недавно состоялось необычное соревнование: искусственный интеллект LawGeex против профессоров юриспруденции из Стэнфорда и университета Южной Калифорнии. Программный комплекс способен читать и интерпретировать сложные юридические документы. Участники получили одинаковое задание: прочитать и проанализировать пять юридических контрактов.

Люди и искусственный интеллект получили четыре часа на чтение контрактов и идентификацию более 30 терминов и проблемных мест в арбитражных соглашениях и соглашениях о конфиденциальности. Баллы всем участникам выставляли по точности сделанных оценок.

Люди набрали в конкурсе 85%, но их существенно опередил искусственный интеллект, который набрал 95%. К тому же в среднем людям понадобилось 92 минуты для анализа контрактов, тогда как программный комплекс справился за 26 секунд. Больше всего люди потратили на выполнение теста 156 минут, а меньше всего – 51 минуту.

«Это исследование показывает, что технология способна решить две проблемы: во?первых, сделать составление контрактов быстрым и надежным, во?вторых, освободить ресурсы, чтобы юридические отделы могли сосредоточиться на качестве человеческих юридических команд там, где они нужны», – говорит Джиллиан Хэдфилд, один из юристов, принимавших участие в соревновании.

Пока что юристам можно не беспокоиться, что искусственный интеллект отправит их на пенсию. Сейчас подобные технологии могут несколько облегчить их работу, освободив людей от механических задач. Специалисты смогут принимать больше клиентов, а их клиентам будет легче получить юридические консультации и поддержку.

При пользовании YouTube может сложиться впечатление, что заработок на этом сервисе зависит от популярности. Но профессор Матиас Бертль из Оффенбургского университета показал, что между ними нет связи. Как показывает статистика, можно иметь большую аудиторию и просмотры, но совсем не получать от этого финансовую прибыль.Согласно исследованиям профессора, 96,5% всех каналов на YouTube с подключенной монетизацией зарабатывают в год меньше 12 тысяч долларов. А 3% крупнейших каналов по просмотрам в среднем приносят своим владельцам всего 16 800 долларов в год. При том, что каждый из них имеет количество просмотров свыше 1,4 миллиона в месяц.

Максимум просмотров и прибыли приносят только топовые каналы. Их всего 1%, но они имеют уже от 2,2 миллиона просмотров в месяц до 42,1 млн просмотров.

В своем исследовании профессор Бертль принял за условие, что тысяча просмотров приносит 1 доллар прибыли, хотя в реальности неизвестно, сколько именно платит YouTube каждому конкретному каналу. По разным оценкам, цифры составляют от 35 центов до 5 долларов. Кроме того, сложно учесть спонсорские выплаты за рекламу непосредственно в ролике. Представители YouTube не разглашают сведения о доходах каналов, но отмечают, что ежегодно число каналов, доход которых исчисляется сотнями тысяч долларов в год, возрастает на 40%.

Однако собранная Бертлем статистика указывает, что для начинающих видеоблогеров ситуация только ухудшается. Если в 2006 году на долю 3% топовых создателей приходилось 63% от всех просмотров, то через 10 лет они получают уже 9 из 10. А 85% каналов имеют менее 458 просмотров за месяц, что не позволяет говорить о какой-либо уровень доходности.

За время существования крупнейшего видеосервиса планеты YouTube его представители не называли официальных данных о доходах. Аналитик компании R. W. Baird Колин Себастиан сделал собственную оценку его доходов. По прогнозам Себастиана, YouTube заработает в 2018 году на демонстрации рекламы примерно $15 млрд.