Чим може бути небезпечне автономне озброєння

Фантастика у фільмах «Термінатор» вражає, але наскільки вона може бути реальною? Про це розповів колишній співробітник Пентагону Пол Шеррі, який брав участь у розробці стратегії застосування автономного озброєння. Він стверджує, що в реальних умовах така зброя може бути некерованою, і існує можливість злому, підміни й маніпуляцій з боку противника.

Автономне озброєння стало можливим завдяки здешевленню датчиків і появі технологій штучного інтелекту. Можливу появу роботів-убивць уже спровокував рух протесту і дискусії в ООН про обмеження розробки та впровадження таких систем.

Чого бояться експерти

Пол Шеррі керує програмою з розробки прийомів ведення «війни майбутнього» в Центрі Нової Американської Безпеки. Із 2008 по 2013 роки він працював у кабінеті міністра оборони США, де допоміг розробити стратегію застосування автономної зброї. У 2012 році він став одним з авторів директиви Міністерства оборони, яка встановлювала військову політику щодо використання подібних систем.

У своїй доповіді «Автономна зброя й операційний ризик» Шеррі попереджає про реальні ризики, пов’язані з повністю автономними бойовими системами, які можуть вбивати без втручання людини. зброї. Альтернативою їм є озброєння, яке «тримає людей в курсі» у процесі вибору й ураження цілі, тобто ним керує оператор.

«Кожен коли-небудь розчаровувався в автоматизованій підтримці телефону довіри, будильнику, помилково встановленому на «вечір» замість «ранок» і так далі. Кожен стикався з проблемою «крихкості», яка присутня в автоматизованих системах», – пише Шеррі.

За словами експерта, автономним системам озброєння не вистачає «гнучкості». У процесі виконання такою системою завдання можуть виникнути помилки, яких люди змогли б уникнути.

Автономне озброєння в армії

Повністю автономна зброя вже починає з’являтися в арсеналах різних держав. Наприклад, Південна Корея встановила автоматичну турель уздовж демілітаризованої зони з Північною Кореєю. В Ізраїлі стоїть на озброєнні безпілотний літальний апарат, який запрограмований атакувати радіолокаційні системи противника при їхньому виявленні. Військові США поки ще не використовують автономну зброю, але в цьому році Міністерство оборони запросило майже $1 млрд для виробництва напівавтономної зброї. Хоча її оператор буде спочатку вибирати ціль, але без контакту з людиною такі системи автоматично будуть ідентифікувати й атакувати ворожі війська.

«Під час свого першого випробування над Тихим океаном у восьми винищувачах F-22 повністю відмовила система комп’ютера, оскільки вони перетнули лінію зміни дати», – говориться в доповіді. – Усі бортові комп’ютерні системи відмовили, і результат був майже катастрофічним – втрата літака. Хоча існування лінії зміни дат давно відомо, результат взаємодії з програмним забезпеченням не повністю протестований».

Що пропонують натомість

Як альтернативу повністю автономній зброї Шеррі у своїй доповіді рекомендує впроваджувати Centaur Warfighting. Це комбіноване озброєння, яке тісно інтегрує роботу людей і комп’ютерів. У шахах, наприклад, команди, які використовують і людей, і програми штучного інтелекту, домінують у змаганнях проти команд, які використовують тільки штучний інтелект.

Шеррі також визнає, що просто оператора, який «натискає на кнопки», мало. «Наявність просто обізнаної про дії машини людини недостатньо, сказав він. – Люди не можуть бути просто частиною алгоритму роботи системи. Людина повинна активно брати участь в ухваленні рішень».

За матеріалами: New York Times

НАПИСАТИ ВІДПОВІДЬ

Коментуйте, будь-ласка!
Будь ласка введіть ваше ім'я