Многие годы теория «мертвого интернета» (настоящих людей в интернете нет, все с кем вы общаетесь – боты) оставалась чем-то полумифическим. Однако в будущем она начнет претворяться в реальность усилиями Пентагона. Пентагон хочет использовать искусственный интеллект для создания несуществующих пользователей Интернета.
Согласно документу о закупке, полученному изданием The Intercept, тайное Командование специальных операций Соединенных Штатов ищет компании, которые помогли бы создать настолько убедительных интернет-пользователей, что ни люди, ни компьютеры не смогут обнаружить то, что это боты.
План, упомянутый в новом 76-страничном списке пожеланий Объединенного командования специальных операций Министерства обороны (JSOC), описывает передовые технологии, необходимые для самых элитных тайных военных усилий страны.
«Силы специальных операций (SOF) заинтересованы в технологиях, которые могут создавать убедительных онлайн-персон для использования на платформах социальных медиа, сайтах социальных сетей и другом онлайн-контенте», — говорится в записи.
В документе отмечено, что JSOC хочет иметь возможность создавать онлайн-профили пользователей, которые будут казаться уникальными лицами, которые можно узнать как человека, но эти люди не существуют в реальном мире. Профили будут содержать фотографии качества, соответствующие государственной идентификации.
Кроме неподвижных изображений поддельных людей, решение должно включать изображения лица и фона, лицо и фоновое видео и аудиослои. JSOC надеется, что сможет создать «селфи-видео» из этих вымышленных людей. У этих видео будет больше, чем фейковые люди: каждое дипфейк-селфи будет иметь соответствующий фальшивый фон, чтобы создать виртуальную среду, которую не заметят алгоритмы социальных сетей.
В последние годы Пентагон уже был пойман на использовании фальшивых пользователей социальных сетей для достижения своих интересов. В 2022 году Meta и Twitter удалили пропагандистскую сеть, которая использовала поддельные учетные записи, которыми управляет Центральное командование США, включая некоторые изображения профилей, созданные с помощью методов, подобных описанным JSOC.
Расследование Reuters в 2024 году показало, что Командование специальных операций использует фальшивых пользователей социальных сетей, чтобы взорвать доверие иностранных государств к китайской вакцине против Covid.
В прошлом году Командование специальных операций (SOCOM) выразило заинтересованность в использовании видео дипфейков (deepfake) — общего термина для синтезированных аудиовизуальных данных, не отличающихся от настоящей записи — для операций воздействия, цифрового обмана, нарушения связи и кампаний по дезинформации.
Такие изображения создаются с помощью различных методов машинного обучения, как правило, с использованием программного обеспечения, которое было «обучено» распознавать и воспроизводить человеческие черты путем анализа огромной базы данных лиц и тел.
Нынешний список пожеланий SOCOM указывает на интерес к программному обеспечению, подобному StyleGAN, инструменту, выпущенному Nvidia в 2019 году, который работал на всемирно популярном веб-сайте «Этот человек не существует».
В течение года после запуска StyleGAN Facebook заявил, что ликвидировал сеть аккаунтов, которые использовали эту технологию для создания фальшивых фотографий профиля. С тех пор исследователи из академического и частного секторов ведут гонку между новыми способами создания невыявленных дипфейков и новыми способами их выявления.
Многие государственные услуги сейчас нуждаются в так называемом обнаружении живости, чтобы предотвратить подделку идентификационных фотографий, требуя от людей-заявителей загрузить видео селфи, чтобы продемонстрировать, что они реальные лица – пока существенное препятствие фейковым аккаунтам.
В списке отмечается, что войска специальных операций будут использовать фейковых людей для сбора информации с общедоступных онлайн-форумов.
Этот подробный список закупок показывает, что Соединенные Штаты используют те же технологии и методы, которые они осуждают в руках геополитических врагов. Сотрудники национальной безопасности США уже давно описывают использование дипфейков при поддержке государства как немедленную угрозу, если это делает другая страна.
В сентябре прошлого года в совместном заявлении АНБ, ФБР и CISA предупреждали, что синтетические медиа, такие как дипфейки, представляют растущую проблему для всех пользователей современных технологий и коммуникаций.
В заявлении глобальное распространение технологии deepfake названо «самым высоким риском» в 2023 году. В этом году на информационном брифинге для журналистов представители разведки США предупредили, что способность иностранных врагов распространять контент, созданный искусственным интеллектом без обнаружения, — именно способность, которую сейчас ищет Пентагон, — это ускоритель злого влияния со стороны России, Китая и Ирана.
В начале этого года отдел оборонных инноваций Пентагона обратился за помощью к частному сектору в борьбе с дипфейками с видом тревоги, сообщив, что эта технология становится все более распространенной, создавая серьезную угрозу для Министерства обороны, особенно потому, что враги США используют дипфейки для обмана. мошенничества, дезинформации и других злонамеренных действий.
Апрельский документ Института стратегических исследований армии США выразил такое же беспокойство: «Эксперты ожидают, что злонамеренное использование искусственного интеллекта, включая создание глубоких фейковых видео для распространения дезинформации в целях поляризации обществ и углубления оскорблений, будет расти в течение следующего десятилетия».
Следующее использование этой технологии США, естественно, способствовало бы ее распространению и нормализовало ее как инструмент для всех правительств. «Что примечательно в этой технологии, это то, что она носит сугубо обманчивый характер», — сказала Хайди Хлааф, главный научный сотрудник ИИ Института AI Now. «Нет законных случаев использования, кроме обмана, и вызывает обеспокоенность тем, что американские военные склоняются к использованию технологии, которой они сами предостерегали. Это лишь подбодрит другие армии или противников делать то же, что приведет к обществу, где будет все труднее отличить правду от вымысла и запутать геополитическую сферу».
Россия, так и Китай были пойманы на использовании поддельных видео и аватаров пользователей в своих онлайн-пропагандистских усилиях, что побудило Государственный департамент объявить международную Рамку для противодействия манипулированию информацией иностранных государств в январе.
«Манипулирование иностранной информацией и вмешательство представляет угрозу национальной безопасности Соединенных Штатов, а также их союзников и партнеров», — говорится в пресс-релизе Госдепартамента. «Авторитарные правительства используют информационные манипуляции, чтобы разорвать структуру свободных и демократических обществ».
Интерес SOCOM к дипфейкам является частью фундаментального напряжения в правительстве США, сказал Дэниел Байман, профессор исследований безопасности в Джорджтаунском университете и член Консультативного совета по международной безопасности Государственного департамента. «Значительная часть правительства США сильно заинтересована в том, чтобы общественность верила в то, что правительство постоянно распространяет правдивую (насколько ему известно) информацию, а не намеренно обманывает людей», — пояснил он.
«Поэтому существует законная обеспокоенность, что США будут считаться лицемерными», – добавил Байман. «Меня также волнует влияние на доверие правительству внутри страны — станут ли некоторые слои населения США в целом с большим подозрением относиться к информации от правительства?»
По материалам: The Intercept
