Фантастика у фільмах «Термінатор» вражає, але наскільки вона може бути реальною? Про це розповів колишній співробітник Пентагону Пол Шеррі, який брав участь у розробці стратегії застосування автономного озброєння. Він стверджує, що в реальних умовах така зброя може бути некерованою, і існує можливість злому, підміни й маніпуляцій з боку противника.
Автономне озброєння стало можливим завдяки здешевленню датчиків і появі технологій штучного інтелекту. Можливу появу роботів-убивць уже спровокував рух протесту і дискусії в ООН про обмеження розробки та впровадження таких систем.
Чого бояться експерти
Пол Шеррі керує програмою з розробки прийомів ведення «війни майбутнього» в Центрі Нової Американської Безпеки. Із 2008 по 2013 роки він працював у кабінеті міністра оборони США, де допоміг розробити стратегію застосування автономної зброї. У 2012 році він став одним з авторів директиви Міністерства оборони, яка встановлювала військову політику щодо використання подібних систем.
У своїй доповіді «Автономна зброя й операційний ризик» Шеррі попереджає про реальні ризики, пов’язані з повністю автономними бойовими системами, які можуть вбивати без втручання людини. зброї. Альтернативою їм є озброєння, яке «тримає людей в курсі» у процесі вибору й ураження цілі, тобто ним керує оператор.
«Кожен коли-небудь розчаровувався в автоматизованій підтримці телефону довіри, будильнику, помилково встановленому на «вечір» замість «ранок» і так далі. Кожен стикався з проблемою «крихкості», яка присутня в автоматизованих системах», – пише Шеррі.
За словами експерта, автономним системам озброєння не вистачає «гнучкості». У процесі виконання такою системою завдання можуть виникнути помилки, яких люди змогли б уникнути.
Автономне озброєння в армії
Повністю автономна зброя вже починає з’являтися в арсеналах різних держав. Наприклад, Південна Корея встановила автоматичну турель уздовж демілітаризованої зони з Північною Кореєю. В Ізраїлі стоїть на озброєнні безпілотний літальний апарат, який запрограмований атакувати радіолокаційні системи противника при їхньому виявленні. Військові США поки ще не використовують автономну зброю, але в цьому році Міністерство оборони запросило майже $1 млрд для виробництва напівавтономної зброї. Хоча її оператор буде спочатку вибирати ціль, але без контакту з людиною такі системи автоматично будуть ідентифікувати й атакувати ворожі війська.
«Під час свого першого випробування над Тихим океаном у восьми винищувачах F-22 повністю відмовила система комп’ютера, оскільки вони перетнули лінію зміни дати», – говориться в доповіді. – Усі бортові комп’ютерні системи відмовили, і результат був майже катастрофічним – втрата літака. Хоча існування лінії зміни дат давно відомо, результат взаємодії з програмним забезпеченням не повністю протестований».
Що пропонують натомість
Як альтернативу повністю автономній зброї Шеррі у своїй доповіді рекомендує впроваджувати Centaur Warfighting. Це комбіноване озброєння, яке тісно інтегрує роботу людей і комп’ютерів. У шахах, наприклад, команди, які використовують і людей, і програми штучного інтелекту, домінують у змаганнях проти команд, які використовують тільки штучний інтелект.
Шеррі також визнає, що просто оператора, який «натискає на кнопки», мало. «Наявність просто обізнаної про дії машини людини недостатньо, сказав він. – Люди не можуть бути просто частиною алгоритму роботи системи. Людина повинна активно брати участь в ухваленні рішень».
За матеріалами: New York Times
