За інформацією, опублікованою телеканалом CNN, збройні сили США опинилися на межі реального військового зіткнення через неперевірену інформацію, отриману від програмного забезпечення на основі штучного інтелекту. Військові аналітики підготували звіт, у якому стверджували, що китайське судно, яке перебувало у регіоні Близького Сходу, таємно перевозить компоненти для виготовлення ядерної зброї. Для перехоплення цього корабля вже було піднято авіацію та розпочато підготовку до висадки групи на борт судна з метою силового догляду вантажу.
Місію було скасовано в останній момент, оскільки офіційні особи встигли провести додаткову перевірку даних і з’ясували, що звіт базувався виключно на помилковій інформації, згенерованій чат-ботом. Згідно із заявами джерел, знайомих із ситуацією, на борту корабля не було виявлено жодних матеріалів, які могли б стосуватися ядерного озброєння. Якби американські сили здійснили перехоплення та висадку на судно, це могло призвести до непередбачуваних наслідків, включаючи ймовірність початку відкритого збройного конфлікту між країнами.
Військові аналітики неодноразово висловлювали побоювання щодо використання штучного інтелекту для аналізу чутливих розвідувальних даних, оскільки подібні технології схильні до так званих галюцинацій, коли система видає неправдиві твердження за реальні факти. Попри такі ризики, представники оборонного сектору США активно інтегрують алгоритми штучного інтелекту в процеси оцінки цілей, керуючись необхідністю швидкої обробки дедалі більших обсягів інформації, які фізично не в змозі опрацювати лише люди без автоматизованої підтримки.
Аналіз поточного стану впровадження технологій в урядові структури показує, що процес інтеграції штучного інтелекту є децентралізованим та позбавленим єдиних стандартів верифікації згенерованих результатів. Різні підрозділи використовують різні програмні інструменти, що суттєво знижує надійність кінцевих звітів. Відомо, що багато інструментів, які застосовуються аналітиками, є адаптованими версіями комерційних моделей, котрі не призначені для роботи з критично важливою розвідувальною інформацією державного рівня, що неодноразово призводило до помилкових висновків.
За словами колишніх високопосадовців, використання комерційного програмного забезпечення без спеціалізованих налаштувань для безпеки є системною проблемою, яка створює ризик катастрофічних прорахунків. Випадок із китайським судном не є поодиноким інцидентом, оскільки джерела підтверджують серію помилкових висновків, які вже фіксувалися після впровадження інструментів штучного інтелекту в роботу державних аналітичних центрів. Поточна ситуація демонструє, що відсутність жорстких протоколів перевірки даних ставить національну безпеку в пряму залежність від стабільності алгоритмічних рішень.
Основною проблемою залишається поєднання відкритих даних з розвідувальною інформацією секретного характеру через неперевірені алгоритми, які не здатні розрізняти достовірність джерел. В умовах відсутності єдиного протоколу оцінки ризиків, кожне звернення до подібних систем несе в собі ймовірність повторення помилок, подібних до ситуації з китайським кораблем. Подальше використання таких інструментів без їхньої глибокої модернізації та впровадження надійних методів верифікації загрожує безпеці через постійну генерацію неправдивих даних про потенційні військові цілі.
