Ризики зловмисного використання штучного інтелекту цілком реальні, попереджають експерти. Вони назвали три основні загрози, які принесе штучний розум, що потрапив в погані руки. Зі злими намірами штучний інтелект можуть використовувати країни-вигнанці, злочинці та терористи, йдеться у звіті «Шкідливе використання штучного інтелекту».
Експерти закликають розробників робототехніки та систем штучного інтелекту (ШІ) докладати більше зусиль для запобігання шкідливого застосування своїх технологій. Вони також просять владу країн подумати про прийняття нових законів. Політики та інженери-розробники повинні спільно визначити, яким саме може бути шкідливе використання ШІ та як цьому запобігти
Кардинальна зміна
Особливу тривогу викликають нові методи навчання, коли робототехніку доводять до надмірних інтелектуальних можливостей, але не дають ні прикладів для наслідування, ні керівництва на людському рівні.
Спеціаліст Центру з вивчення екзистенційних ризиків при Кембриджському університеті Шахар Авін називає кілька сценаріїв, де штучний інтелект може раптом завдати шкоди:
- розроблений компанією Google штучний інтелект AlphaGo можна використати для пошуку шаблонів даних і уразливості кодування;
- окремо взятий зловмисник може купити дрон, оснастити його програмою розпізнавання осіб і за допомогою нього напасти на когось;
- боти можуть автоматично виготовляти фейкові матеріали для політичної маніпуляції. Штучний інтелект дозволяє говорити голосом будь-якої людини, що дозволить зловмисникам видавати себе за іншого.
«Штучний інтелект змінить наявні загрози для окремих громадян, організацій і держав, – каже науковий співробітник Інституту майбутнього людства Оксфордського університету Майлз Брандидж. – Чи то на рівні злочинців, які налаштують машини на злом або фішинг інформації в окремих осіб, або ж це буде втручання в приватне життя шляхом спостереження, профілювання особистості та подальших репресій – повний спектр впливу на безпеку величезний. Дуже часто так буває, що системи штучного інтелекту не просто досягають людського рівня продуктивності, але значно його перевершують. Це дуже сумно, проте необхідно розглянути ті наслідки, до яких можуть призвести хакерство, стеження, методи переконання і розпізнавання надлюдського рівня».
«Штучний інтелект кардинально змінює все, і ця доповідь розмірковує над тим, як світ може змінитися в наступні 5-10 років, – вважає виконавчий директор Центру з вивчення екзистенційних ризиків і один зі співавторів доповіді Шон О’Хеггерті. – Ми живемо у світі, який може стати жертвою щоденної небезпеки зловживання штучного інтелекту, і ми повинні почати займатися цією проблемою, тому що ці ризики цілком реальні».
Саму доповідь склали некомерційна дослідницька компанія OpenAI, група з управління цифровими правами Electronic Frontier Foundation і Центр нових підходів до охорони безпеки США.
За матеріалами: BBC
