Багато років теорія «мертвого інтернету» (справжніх людей в інтернеті немає, усі з ким ви спілкуєтеся – боти) залишалася чимось напівміфічним. Однак в майбутньому вона почне втілюватися в реальність зусиллями Пентагону. Пентагон хоче використовувати штучний інтелект для створення неіснуючих користувачів інтернету.
Згідно з документом про закупівлю, отриманим виданням The Intercept, таємне Командування спеціальних операцій Сполучених Штатів шукає компанії, які б допомогли створити настільки переконливих інтернет-користувачів, що ні люди, ні комп’ютери не зможуть виявити те, що це боти.
План, згаданий у новому 76-сторінковому списку побажань Об’єднаного командування спеціальних операцій Міністерства оборони (JSOC), окреслює передові технології, необхідні для найбільш елітних таємних військових зусиль країни.
«Сили спеціальних операцій (SOF) зацікавлені в технологіях, які можуть створювати переконливих онлайн-персон для використання на платформах соціальних медіа, сайтах соціальних мереж та іншому онлайн-контенті», — йдеться в записі.
У документі зазначено, що JSOC хоче мати можливість створювати онлайн-профілі користувачів, які здаватимуться унікальними особами, які можна впізнати як людину, але ці люди не існують у реальному світі. Профілі міститимуть фотографії якістю, що відповідають державній ідентифікації.
Окрім нерухомих зображень підроблених людей, рішення має включати зображення обличчя та фону, обличчя та фонове відео та аудіошари. JSOC сподівається, що зможе створити «селфі-відео» з цих вигаданих людей. У цих відео буде більше, ніж фейкові люди: кожне дипфейк-селфі буде мати відповідний фальшивий фон, щоб створити віртуальне середовище, яке не помітять алгоритми соціальних мереж.
Протягом останніх років Пентагон уже був спійманий на використанні фальшивих користувачів соціальних мереж для досягнення своїх інтересів. У 2022 році Meta і Twitter видалили пропагандистську мережу, яка використовувала підроблені облікові записи, якими керує Центральне командування США, включно з деякими із зображеннями профілів, створеними за допомогою методів, подібних до тих, що описані JSOC.
Розслідування Reuters у 2024 році показало, що Командування спеціальних операцій використовує фальшивих користувачів соціальних мереж, щоб підірвати довіру іноземних держав до китайської вакцини проти Covid.
Минулого року Командування спеціальних операцій (SOCOM) висловило зацікавленість у використанні відео дипфейків (deepfake) — загального терміна для синтезованих аудіовізуальних даних, які не відрізняються від справжнього запису — для «операцій впливу, цифрового обману, порушення зв’язку та кампаній з дезінформації.
Такі зображення створюються за допомогою різноманітних методів машинного навчання, як правило, з використанням програмного забезпечення, яке було «навчено» розпізнавати та відтворювати людські риси шляхом аналізу величезної бази даних облич і тіл.
Цьогорічний список побажань SOCOM вказує на інтерес до програмного забезпечення, подібного до StyleGAN, інструменту, випущеного Nvidia у 2019 році, який працював на всесвітньо популярному веб-сайті «Ця людина не існує».
Протягом року після запуску StyleGAN Facebook заявив, що ліквідував мережу облікових записів, які використовували цю технологію для створення фальшивих фотографій профілю. Відтоді дослідники з академічного та приватного секторів ведуть гонку між новими способами створення дипфейків, які неможливо виявити, і новими способами їх виявлення.
Багато державних послуг зараз потребують так званого виявлення живості, щоб запобігти підробці ідентифікаційних фотографій, вимагаючи від людей-заявників завантажити відео селфі, щоб продемонструвати, що вони реальні особи – поки що суттєва перешкода фейковим акаунтам.
У списку зазначається, що війська спеціальних операцій використовуватимуть фейкових людей для збору інформації з загальнодоступних онлайн-форумів.
Цей більш детальний список закупівель показує, що Сполучені Штати використовують ті самі технології та методи, які вони засуджують у руках геополітичних ворогів. Співробітники національної безпеки США вже давно описують використання дипфейків за підтримки держави як негайну загрозу, якщо це робить інша країна.
У вересні минулого року у спільній заяві АНБ, ФБР і CISA попереджали, що синтетичні медіа, такі як дипфейки, становлять зростаючу проблему для всіх користувачів сучасних технологій і комунікацій.
У заяві глобальне розповсюдження технології deepfake названо «найвищим ризиком» у 2023 році. Цього року на інформаційному брифінгу для журналістів представники розвідки США попередили, що здатність іноземних ворогів поширювати контент, створений штучним інтелектом без виявлення — саме спроможність, яку зараз шукає Пентагон, — це «прискорювач злого впливу» з боку Росії, Китаю та Ірану.
На початку цього року відділ оборонних інновацій Пентагону звернувся за допомогою до приватного сектору в боротьбі з дипфейками з виглядом тривоги, повідомивши, що ця технологія стає все більш поширеною, створюючи серйозну загрозу для Міністерства оборони, особливо тому, що вороги США використовують дипфейки для обману, шахрайства, дезінформації та інших зловмисних дій.
Квітневий документ Інституту стратегічних досліджень армії США висловив таке ж занепокоєння: «Експерти очікують, що зловмисне використання штучного інтелекту, включаючи створення глибоких фейкових відео для поширення дезінформації з метою поляризації суспільств і поглиблення образ, буде зростати протягом наступного десятиліття».
Наступальне використання цієї технології США, природно, сприяло б її розповсюдженню та нормалізувало б її як інструмент для всіх урядів. «Що примітно в цій технології, це те, що вона носить суто оманливий характер», — сказала Хайді Хлааф, головний науковий співробітник ШІ Інституту AI Now. «Немає законних випадків використання, окрім обману, і викликає занепокоєння те, що американські військові схиляються до використання технології, від якої вони самі застерігали. Це лише підбадьорить інші армії чи супротивників робити те ж саме, що призведе до суспільства, де буде дедалі важче відрізнити правду від вигадки та заплутати геополітичну сферу».
Росія, так і Китай були спіймані на використанні підроблених відео та аватарів користувачів у своїх онлайн-пропагандистських зусиллях, що спонукало Державний департамент оголосити міжнародну «Рамку для протидії маніпулюванню інформацією іноземних держав» у січні.
«Маніпулювання іноземною інформацією та втручання є загрозою національній безпеці Сполучених Штатів, а також їхніх союзників і партнерів», — йдеться в прес-релізі Держдепартаменту. «Авторитарні уряди використовують інформаційні маніпуляції, щоб розірвати структуру вільних і демократичних суспільств».
Інтерес SOCOM до дипфейків є частиною фундаментальної напруги в уряді США, сказав Деніел Байман, професор досліджень безпеки в Джорджтаунському університеті та член Консультативної ради з міжнародної безпеки Державного департаменту. «Значна частина уряду США сильно зацікавлена в тому, щоб громадськість вірила в те, що уряд постійно поширює правдиву (наскільки йому відомо) інформацію, а не навмисно обманює людей», — пояснив він.
«Тож існує законне занепокоєння, що США будуть вважатися лицемірними», – додав Байман. «Мене також хвилює вплив на довіру до уряду всередині країни — чи стануть деякі верстви населення США загалом з більшою підозрою ставитися до інформації від уряду?»
За матеріалами: The Intercept
