По информации от 18 сентября, опубликованной телеканалом CNN, вооруженные силы США оказались на грани реального военного столкновения из-за непроверенной информации, полученной от программного обеспечения на основе искусственного интеллекта. Военные аналитики подготовили отчет, в котором утверждали, что китайское судно, находившееся в регионе Ближнего Востока, тайно перевозит компоненты для изготовления ядерного оружия. Для перехвата этого корабля уже была поднята авиация и начата подготовка к высадке группы на борт судна с целью силового досмотра груза.
Миссия была отменена в последний момент, поскольку официальные лица успели провести дополнительную проверку данных и выяснили, что отчет базировался исключительно на ложной информации, сгенерированной чат-ботом. Согласно заявлениям источников, знакомых с ситуацией, на борту корабля не было обнаружено никаких материалов, которые могли бы касаться ядерного вооружения. Если бы американские силы осуществили перехват и высадку на судно, это могло привести к непредсказуемым последствиям, включая вероятность начала открытого вооруженного конфликта между странами.
Военные аналитики неоднократно выражали опасения по поводу использования искусственного интеллекта для анализа чувствительных разведывательных данных, поскольку подобные технологии склонны к так называемым галлюцинациям, когда система выдает ложные утверждения за реальные факты. Несмотря на такие риски, представители оборонного сектора США активно интегрируют алгоритмы искусственного интеллекта в процессы оценки целей, руководствуясь необходимостью быстрой обработки все больших объемов информации, которые физически не в состоянии обработать только люди без автоматизированной поддержки.
Анализ текущего состояния внедрения технологий в правительственные структуры показывает, что процесс интеграции искусственного интеллекта является децентрализованным и лишенным единых стандартов верификации сгенерированных результатов. Разные подразделения используют разные программные инструменты, что существенно снижает надежность конечных отчетов. Известно, что многие инструменты, применяемые аналитиками, являются адаптированными версиями коммерческих моделей, которые не предназначены для работы с критически важной разведывательной информацией государственного уровня, что неоднократно приводило к ошибочным выводам.
По словам бывших высокопоставленных лиц, использование коммерческого программного обеспечения без специализированных настроек для безопасности является системной проблемой, которая создает риск катастрофических просчетов. Случай с китайским судном не является единичным инцидентом, поскольку источники подтверждают серию ошибочных выводов, которые уже фиксировались после внедрения инструментов искусственного интеллекта в работу государственных аналитических центров. Текущая ситуация демонстрирует, что отсутствие жестких протоколов проверки данных ставит национальную безопасность в прямую зависимость от стабильности алгоритмических решений.
Основной проблемой остается сочетание открытых данных с разведывательной информацией секретного характера через непроверенные алгоритмы, которые не способны различать достоверность источников. В условиях отсутствия единого протокола оценки рисков, каждое обращение к подобным системам несет в себе вероятность повторения ошибок, подобных ситуации с китайским кораблем. Дальнейшее использование таких инструментов без их глубокой модернизации и внедрения надежных методов верификации угрожает безопасности из-за постоянной генерации ложных данных о потенциальных военных целях.
