Риски злонамеренного использования искусственного интеллекта вполне реальные, предупреждают эксперты. Они назвали три основные угрозы, которые принесет искусственный разум, попавший в плохие руки. Со злыми намерениями искусственный интеллект могут использовать страны-изгои, преступники и террористы, рассказывает отчет «Вредное использование искусственного интеллекта».
Эксперты призывают разработчиков робототехники и систем искусственного интеллекта (ИИ) прилагать больше усилий для предотвращения вредного применения своих технологий. Они также просят власти страны подумать о принятии новых законов. Политики и инженеры-разработчики должны совместно определить, каким именно может быть вредное использование ИИ и как это предотвратить.
Кардинальное изменение
Особую тревогу вызывают новые методы обучения, когда робототехнику доводят до чрезмерных интеллектуальных возможностей, но не дают ни примеров для подражания, ни руководства на человеческом уровне.
Специалист Центра по изучению экзистенциальных рисков при Кембриджском университете Шахар Авин называет несколько сценариев, где искусственный интеллект может вдруг нанести вред:
- разработанный компанией Google искусственный интеллект AlphaGo можно использовать для поиска шаблонов данных и уязвимости кодирования;
- отдельно взятый злоумышленник может купить дрон, оснастить его программой распознавания лиц и с помощью него напасть на кого-то;
- боты могут автоматически производить фейковые материалы для политической манипуляции. Искусственный интеллект позволяет говорить голосом любого человека, что позволит злоумышленникам выдавать себя за другого.
«Искусственный интеллект изменит существующие угрозы для отдельных граждан, организаций и государств, – говорит научный сотрудник Института будущего человечества Оксфордского университета Майлз Брандидж. – Будь то на уровне преступников, которые настроят машины на взлом или фишинг информации у отдельных лиц, или же это будет вмешательство в частную жизнь путем наблюдения, профилирования личности и дальнейших репрессий – полный спектр влияния на безопасность огромный. Очень часто так бывает, что системы искусственного интеллекта не просто достигают человеческого уровня производительности, но значительно его превосходят. Это очень грустно, однако необходимо рассмотреть те последствия, к которым могут привести хакерство, слежка, методы убеждения и распознавание сверхчеловеческого уровня».
«Искусственный интеллект кардинально меняет все, и этот доклад размышляет над тем, как мир может измениться в следующие 5-10 лет, – считает исполнительный директор Центра по изучению экзистенциальных рисков и один из соавторов доклада Шон О’Хеггерти. – Мы живем в мире, который может стать жертвой ежедневной опасности злоупотребления искусственного интеллекта, и мы должны начать заниматься этой проблемой, потому что эти риски вполне реальны».
Сам доклад составили некоммерческая исследовательская компания OpenAI, группа по управлению цифровыми правами Electronic Frontier Foundation и Центр новых подходов к охране безопасности США.
По материалам: BBC
