В будущем аналитики обеспокоены, что современный тренд по интеграции искусственного интеллекта в вооружение и военное оборудование может случайно привести к войне между нациями. Гонка интеллектуального вооружения, по мнению экспертов, приведет к пренебрежению существующими международными нормами коммуникации между странами. Это приведет к запутанному положению, которое потенциально может подтолкнуть к военному конфликту.
По данным доклада агентства безопасности США Center for a New American Security (CNAS), наиболее вероятным спичкой, что начнет войну, может стать использование дронов. Сегодня работа этих летательных аппаратов стала большей частью автоматизированной, и они способны выполнять самостоятельно простые задачи, например, кружить над целью. Китай, говорят аналитики, идет дальше, и вплотную приближается к летальной взаимодействия дронов. Один из примеров таких машин – дрон Blowfish A2, Китай экспортирует и который, согласно его рекламного описания, «способен на полную автономность, включая прицельные удары».
Удаленное управление дронами также позволяет военным чувствовать себя более защищенными, через что они начинают действовать более дерзко. «Неясно как каждая из сторон интерпретирует определенное поведение, — говорит старший сотрудник CNAS Грегори Аллен. — Сторона, запускающая автономный дрон, будет считать, что это мелочь. Другая сторона может сбить аппарат по той же причине. Но нет общего соглашения в понимании какое послание несут такие действия».
Аналитики также говорят, что риски растут с появлением роботов с углубленной автономностью. Например, как расценивать ситуацию, в которой робот или дрон расстреливает вражеские войска. Пострадавшая сторона может подумать, что это не автоматизированная атака, а приказ командования.
Эксперты считают, что сегодня странам необходимо договориться относительно норм вооруженного конфликта, в котором принимают участие автономные системы. Чем дольше они откладывают принятие такого документа, тем больший риск случайной эскалации конфликта.
