Многие годы теория «мертвого интернета» (настоящих людей в интернете нет, все с кем вы общаетесь – боты) оставалась чем-то полумифическим. Однако в будущем она начнет претворяться в реальность усилиями Пентагона. Пентагон хочет использовать искусственный интеллект для создания несуществующих пользователей Интернета.

Согласно документу о закупке, полученному изданием The Intercept, тайное Командование специальных операций Соединенных Штатов ищет компании, которые помогли бы создать настолько убедительных интернет-пользователей, что ни люди, ни компьютеры не смогут обнаружить то, что это боты.

План, упомянутый в новом 76-страничном списке пожеланий Объединенного командования специальных операций Министерства обороны (JSOC), описывает передовые технологии, необходимые для самых элитных тайных военных усилий страны.

«Силы специальных операций (SOF) заинтересованы в технологиях, которые могут создавать убедительных онлайн-персон для использования на платформах социальных медиа, сайтах социальных сетей и другом онлайн-контенте», — говорится в записи.

В документе отмечено, что JSOC хочет иметь возможность создавать онлайн-профили пользователей, которые будут казаться уникальными лицами, которые можно узнать как человека, но эти люди не существуют в реальном мире. Профили будут содержать фотографии качества, соответствующие государственной идентификации.

Кроме неподвижных изображений поддельных людей, решение должно включать изображения лица и фона, лицо и фоновое видео и аудиослои. JSOC надеется, что сможет создать «селфи-видео» из этих вымышленных людей. У этих видео будет больше, чем фейковые люди: каждое дипфейк-селфи будет иметь соответствующий фальшивый фон, чтобы создать виртуальную среду, которую не заметят алгоритмы социальных сетей.

В последние годы Пентагон уже был пойман на использовании фальшивых пользователей социальных сетей для достижения своих интересов. В 2022 году Meta и Twitter удалили пропагандистскую сеть, которая использовала поддельные учетные записи, которыми управляет Центральное командование США, включая некоторые изображения профилей, созданные с помощью методов, подобных описанным JSOC.

Расследование Reuters в 2024 году показало, что Командование специальных операций использует фальшивых пользователей социальных сетей, чтобы взорвать доверие иностранных государств к китайской вакцине против Covid.

В прошлом году Командование специальных операций (SOCOM) выразило заинтересованность в использовании видео дипфейков (deepfake) — общего термина для синтезированных аудиовизуальных данных, не отличающихся от настоящей записи — для операций воздействия, цифрового обмана, нарушения связи и кампаний по дезинформации.

Такие изображения создаются с помощью различных методов машинного обучения, как правило, с использованием программного обеспечения, которое было «обучено» распознавать и воспроизводить человеческие черты путем анализа огромной базы данных лиц и тел.

Нынешний список пожеланий SOCOM указывает на интерес к программному обеспечению, подобному StyleGAN, инструменту, выпущенному Nvidia в 2019 году, который работал на всемирно популярном веб-сайте «Этот человек не существует».

В течение года после запуска StyleGAN Facebook заявил, что ликвидировал сеть аккаунтов, которые использовали эту технологию для создания фальшивых фотографий профиля. С тех пор исследователи из академического и частного секторов ведут гонку между новыми способами создания невыявленных дипфейков и новыми способами их выявления.

Многие государственные услуги сейчас нуждаются в так называемом обнаружении живости, чтобы предотвратить подделку идентификационных фотографий, требуя от людей-заявителей загрузить видео селфи, чтобы продемонстрировать, что они реальные лица – пока существенное препятствие фейковым аккаунтам.

В списке отмечается, что войска специальных операций будут использовать фейковых людей для сбора информации с общедоступных онлайн-форумов.

Этот подробный список закупок показывает, что Соединенные Штаты используют те же технологии и методы, которые они осуждают в руках геополитических врагов. Сотрудники национальной безопасности США уже давно описывают использование дипфейков при поддержке государства как немедленную угрозу, если это делает другая страна.

В сентябре прошлого года в совместном заявлении АНБ, ФБР и CISA предупреждали, что синтетические медиа, такие как дипфейки, представляют растущую проблему для всех пользователей современных технологий и коммуникаций.

В заявлении глобальное распространение технологии deepfake названо «самым высоким риском» в 2023 году. В этом году на информационном брифинге для журналистов представители разведки США предупредили, что способность иностранных врагов распространять контент, созданный искусственным интеллектом без обнаружения, — именно способность, которую сейчас ищет Пентагон, — это ускоритель злого влияния со стороны России, Китая и Ирана.

В начале этого года отдел оборонных инноваций Пентагона обратился за помощью к частному сектору в борьбе с дипфейками с видом тревоги, сообщив, что эта технология становится все более распространенной, создавая серьезную угрозу для Министерства обороны, особенно потому, что враги США используют дипфейки для обмана. мошенничества, дезинформации и других злонамеренных действий.

Апрельский документ Института стратегических исследований армии США выразил такое же беспокойство: «Эксперты ожидают, что злонамеренное использование искусственного интеллекта, включая создание глубоких фейковых видео для распространения дезинформации в целях поляризации обществ и углубления оскорблений, будет расти в течение следующего десятилетия».

Следующее использование этой технологии США, естественно, способствовало бы ее распространению и нормализовало ее как инструмент для всех правительств. «Что примечательно в этой технологии, это то, что она носит сугубо обманчивый характер», — сказала Хайди Хлааф, главный научный сотрудник ИИ Института AI Now. «Нет законных случаев использования, кроме обмана, и вызывает обеспокоенность тем, что американские военные склоняются к использованию технологии, которой они сами предостерегали. Это лишь подбодрит другие армии или противников делать то же, что приведет к обществу, где будет все труднее отличить правду от вымысла и запутать геополитическую сферу».

Россия, так и Китай были пойманы на использовании поддельных видео и аватаров пользователей в своих онлайн-пропагандистских усилиях, что побудило Государственный департамент объявить международную Рамку для противодействия манипулированию информацией иностранных государств в январе.

«Манипулирование иностранной информацией и вмешательство представляет угрозу национальной безопасности Соединенных Штатов, а также их союзников и партнеров», — говорится в пресс-релизе Госдепартамента. «Авторитарные правительства используют информационные манипуляции, чтобы разорвать структуру свободных и демократических обществ».

Интерес SOCOM к дипфейкам является частью фундаментального напряжения в правительстве США, сказал Дэниел Байман, профессор исследований безопасности в Джорджтаунском университете и член Консультативного совета по международной безопасности Государственного департамента. «Значительная часть правительства США сильно заинтересована в том, чтобы общественность верила в то, что правительство постоянно распространяет правдивую (насколько ему известно) информацию, а не намеренно обманывает людей», — пояснил он.

«Поэтому существует законная обеспокоенность, что США будут считаться лицемерными», – добавил Байман. «Меня также волнует влияние на доверие правительству внутри страны — станут ли некоторые слои населения США в целом с большим подозрением относиться к информации от правительства?»

По материалам: The Intercept

Одной из наиболее впечатляющих черт квантовых вычислений является то, что эта сфера, несмотря на то, что не доказала свою особую полезность, уже породила множество стартапов, которые сосредоточены на создании чего-либо другого, кроме кубит. Легко отбросить это как прагматизм – попытку воспользоваться шумом вокруг квантовых вычислений. Но может быть полезно рассмотреть вопросы, на которые нацелены эти стартапы, поскольку они могут свидетельствовать о сложных проблемах в квантовых вычислениях, которые еще не были решены ни одной из крупных компаний, задействованных в этой области, таких как Amazon, Google, IBM или Intel.

В случае базирующейся в Великобритании компании Riverlane нерешенным вопросом является огромное количество классических вычислений, которые будут необходимы для того, чтобы квантовое оборудование работало. Конкретно, она нацелена на огромное количество обработки данных, которое потребуется для ключевой части квантовой коррекции ошибок: обнаружение, когда произошла ошибка.

Обнаружение ошибок против данных

Все кубиты хрупкие, склонны терять свое состояние во время операций или просто со временем. Неважно, какая технология — холодные атомы, сверхпроводящие трансмоны, что угодно — эти показатели ошибок накладывают жесткие ограничения на вычисления, которые можно выполнить до неизбежности ошибки. Это исключает возможность выполнения практически всех нужных вычислений, работающих конкретно на имеющихся аппаратных кубитах.

Обычно принятым решением является работа с так называемыми логическими кубитами. Это подразумевает соединение нескольких аппаратных кубитов вместе и распределение квантовой информации между ними. Дополнительные аппаратные кубиты соединяются так, чтобы их можно было измерять для мониторинга ошибок, влияющих на данные, что позволяет их исправлять. Может потребоваться десятки аппаратных кубитов для создания одного логического кубита, что означает, что даже самые существующие системы могут поддерживать только около 50 надежных логических кубитов.

Основатель и CEO Riverlane, Стив Бриерли, рассказал, что коррекция ошибок нагружает не только аппаратные кубиты; она также нагружает классическую часть системы. Каждое измерение кубитов, используемое для мониторинга системы, нужно обработать, чтобы выявить и интерпретировать любые ошибки. Нам нужно примерно 100 логических кубитов для выполнения некоторых из самых простых интересных вычислений, что означает мониторинг тысяч аппаратных кубитов. Выполнение более сложных вычислений может потребовать тысячи логических кубитов.

Эти данные коррекции ошибок (в области известные как синдромные данные) следует считывать между каждой операцией, что приводит к большому количеству данных. «На масштабе мы говорим о ста терабайтах в секунду», — сказал Бриерли. «При миллионе физических кубитов мы будем обрабатывать около ста терабайт в секунду, что равно глобальному стримингу Netflix.»

Также эти данные нужно обрабатывать в реальном времени, иначе вычисления будут задерживаться в ожидании коррекции ошибок. Чтобы избежать этого, ошибки должны обнаруживаться в реальном времени. Для кубитов на основе трансмонов синдромные данные генерируются примерно на каждую микросекунду, поэтому реальное время означает завершение обработки данных — возможно, их терабайтов — с частотой около мегагерца. И Riverlane была основана, чтобы обеспечить оборудование, способное с этим справиться.

Обработка данных

Система, разработанная компанией, описана в статье, которую они опубликовали на arXiv. Она предназначена для обработки синдромных данных после того, как другое оборудование уже превратило аналоговые сигналы в цифровую форму. Это позволяет оборудованию Riverlane работать вне любого низкотемпературного оборудования, которое необходимо для некоторых видов физических кубитов.

Эти данные проходят через алгоритм, который статья называет Collision Clustering decoder, отвечающий за обнаружение ошибок. Чтобы продемонстрировать его эффективность, они реализовали его на типичном программируемом вентильном массиве (FPGA) от Xilinx, где он занимает всего около 5 процентов чипа, но может обрабатывать логический кубит, построенный из почти 900 аппаратных кубит (в этом случае симулированных).

Компания также продемонстрировала специализированный чип, обрабатывавший еще больший логический кубит, занимая лишь маленькую долю квадратного миллиметра и потребляя всего 8 милливатт энергии.

Обе эти версии высокоспециализированы; они просто предоставляют информацию об ошибках других частей системы. Таким образом, это очень направленное решение. Но оно также достаточно гибкое, поскольку работает с разными кодами коррекции ошибок. Критически важно также, что оно интегрируется с системами, предназначенными для управления кубитами на основе различной физики, включая холодные атомы, удержанные ионы и трансмоны.

«В начале, я думаю, это было немного головоломкой», — сказал Бриерли. «У вас есть все эти разные типы физики; как мы это будем делать?» Оказалось, что это было не значительным вызовом. «Один из наших инженеров работал в Оксфорде со сверхпроводящими кубитами, а днем ??он работал с кубитами в ловушке для ионов. Он вернулся в Кембридж и был очень увлечен. Он сказал: ‘Они используют ту же электронику управления’.» Оказывается, что независимо от физики, используемой для управления кубитами, все одолжили одинаковое оборудование с другого поля (Бриерли сказал, что это была система на чипе радиочастотного радиосигнала от Xilinx, построенная для прототипирования базовых станций 5G). Это позволяет достаточно легко интегрировать специализированное оборудование Riverlane с разными системами.

Что дальше?

Но на днях компания объявила о плане, предусматривающем быстрое масштабирование этого чипа. «Сейчас у нас есть один чип для квантовой коррекции ошибок, который поддерживает один логический кубит до тысячи физических кубитов», — сказал Бриерли. «Следующее поколение будет поддерживать 10,000 физических кубитов. Это большой вызов – нужно выполнить много инженерной работы. Это приведет нас к первому поколению квантовых компьютеров с корректируемыми ошибками.» Согласно его словам, компания планирует продолжать увеличивать мощность в десять раз каждые 12-18 месяцев.

В статье на arXiv также отмечено, что сейчас алгоритм запоминает весь поток данных, но в конечном счете ему нужно будет измениться для «забывания» старых данных и операции только с более узким временным окном. Система разработана таким образом, что может комбинировать отдельные функциональные блоки на одном чипе (Бриэрли называет их «чиплетами») и, когда сложность становится достаточно большой, комбинировать несколько чипов. Бриерли сказал, что алгоритм может работать параллельно на одном потоке данных при условии наличия временного перекрытия между сигналами, которые обрабатывают различные чиплеты.

Опять же интерес Riverlane к этой области вытекает из того факта, что эти проблемы нужно решать всем в сфере квантовых вычислений для того, чтобы продолжать развивать корректированные ошибки кубитов. И, как признал Бриерли, ничто не останавливает их от создания собственного решения.

Теперь он гораздо более оптимистичен. «Я думаю, что мы увидим первый долговременный логический кубит в течение следующих 12 месяцев, и мы быстро достигнем сотен логических кубитов в течение двух-трех лет», — сказал он. Для технологии, которую некоторые считают всегда в будущем, это очень короткий промежуток времени.

По материалам: technica