В интернете появилось открытое письмо к ООН, подписанное основателем компании Tesla Илоном Маском и соучредителем компании по разработке искусственного интеллекта DeepMind Technologies Мустафой Сулейманом. Вместе со 116 экспертами из 26 стран они просят запретить использование летального автономного оружия, более известного как боевые роботы. Активисты опасаются, что подобные машины могут привести к самой масштабной в истории человечества войне.
По слухам, в ООН сейчас проходят формальные дискуссии по поводу боевых роботов. К этому классу машин относят автономные дроны, танки, пулеметы.
В своем письме специалисты предупреждают, что пересмотр существующей конвенции вооружений может привести к новой технологической гонке и третьей революции в войне – после пороха и ядерного оружия.
«Как только их создадут, летальное автономное оружие позволит проводить боевые действия в невиданных ранее масштабах и с невиданной скоростью, с которой не сможет конкурировать ни один человек, – пишут эксперты в своем письме. – Это может быть оружие террора. Оружие, которое деспоты и террористы используют против невинного населения. Оружие, которое хакеры могут заставить вести себя нежелательным образом. У нас нет много времени. Как только ящик Пандоры откроется, его будет сложно закрыть».
Некоторые из экспертов, кто написал письмо, ранее также предупреждали, что технологии искусственного интеллекта достигли той точки, когда разработка автономного оружия становится вопросом нескольких лет. При этом хотя такое автономное оружие может выглядеть привлекательно, так как заменит живых солдат на поле боя, оно также снизит порог для начала боевых действий. Это приведет к увеличению человеческих потерь.
В письме эксперты призывают, чтобы морально неправильные летальные автономные боевые системы оказались в списке запрещенного оружия. Его ведут с 1983 года, когда ООН приняла конвенцию о разрешенных видах вооружений.
Сам Илон Маск многократно предупреждал о необходимости заблаговременного регулирования искусственного интеллекта. По его мнению, эта технология является наибольшей угрозой существованию человечества.
Автономные боевые роботы уже не являются фантастикой. Пулемет Samsung SGR-A1 уже длительное время несет службу в Корейской Демилитаризованной зоне. Это автономная машина, которая, по слухам, способна не только самостоятельно следить за целями, но и открывать по ним огонь. Это первая машина подобного класса, но в разработке также находятся работы, которые способны действовать на земле, в воздухе и в воде.
