На смартфоны пришел искусственный интеллект и убил доказательство реальности, которое человечество использовало сотни лет. Фотография уже не отражает то, что произошло на самом деле. Ведь несуществующие объекты и предметы на фото каждый может пририсовать несколькими движениями пальцев. Финальный кадр реалистично соединит настоящих людей и вещей с вымышленными.
Сначала возможность быстрого редактирования реальности на фотографии представил Samsung в телефоне Galaxy Z Fold 6. Но его искусственный интеллект все же заишал визуально заметные артефакты искажения реальности.
Впрочем, только что представленный Google Pixel 9 доказал, что подделка может быть такой качественной как реальность. Редактируемые снимки четкие. Они полноцветны. Они высококачественны. Нет ни подозрительного размытия фона, ни контрольного шестого пальца. Эти фотографии очень убедительны, и все они очень фальшивы.
Фотографию использовали для обмана столько времени, сколько она существует. Первой фальшивой фотографией считается «Автопортрет утопленника» (1840) француза Ипполита Байяра. Вы наверняка легко вспомните другие знаменитые фальшивки: фотографии чудовища из озера Лох-Несс или фотографию девочки Алисы с феями или изображение снежного чудовища Бигфута.
Но все же фотографии преимущественно считались надежными доказательствами реального события. Постановочная сцена с эффектами, манипуляция с цифровыми фотографиями или использование искусственного интеллекта для манипуляции с изображением — это были потенциальные обманы, которые следовало принять во внимание, но они были исключительными, требовали много умений и ресурсов. Чтобы подорвать интуитивное доверие к фотографии, требовались специальные знания и инструменты. Фальшивое фото было исключением, а не правилом.
Правдивые фотографии – это больше, чем короткий исторический момент, попавший на пленку или карту памяти фотоаппарата. Некоторые снимки оказали и оказывают значительное влияние на ход истории человечества. Снимок «Площадь Тяньаньмэнь», рука супруги Вильгельма Ренгена, первый полет самолета братьев Райт, столбы сотворения, падение Берлинской стены, отставка президента США Ричарда Никсона.
Эти образы определяли войны и революции; они заключили правду до такой степени, которую невозможно полностью выразить. Не было никакой причины объяснять, почему эти фотографии важны, почему они так ключевые, почему мы так ценим их. Наше доверие к фотографии было настолько глубоким, что, когда мы проводили время, обсуждая правдивость изображений, было важнее вспомнить, что фотографии иногда могут быть поддельными.
Фотография перестает быть доказательством реальности
Вот-вот все изменится — стандартное предположение о правдивости фотографии скоро станет недействительным. Создавать реалистичные и правдоподобные фальшивые фотографии теперь нетрудно. Мы не готовы к тому, что произойдет потом.
Сегодня никто на Земле никогда не жил в мире, где фотографии не были бы стержней социального консенсуса — сколько мы здесь, фотографии доказывали, что случилось.
Рассмотрите все способы, которыми предполагаемая достоверность фотографии ранее подтверждала правдивость вашего опыта. Вмятина на крыле арендованного вами автомобиля. Протекает потолок в вашем доме. Прибытие посылки Настоящий таракан в вашем продукте. Когда событие происходит на вашей улице, как вы сообщаете друзьям и знакомым о нем?
В эпоху Pixel 9, возможно, типичное изображение, созданное этими инструментами искусственного интеллекта, само по себе будет достаточно безвредным — лишнее дерево на фоне, аллигатор в пиццерии, дурацкий костюм, накинутый на кота.
Но этот потоп ненастоящих фото изменяет то, как мы в общем относимся к концепции фотографии, и это чревато огромными последствиями. Подумайте, например, что в последнее десятилетие в Соединенных Штатах произошли чрезвычайные социальные потрясения, толчком к которым стали низкокачественные зернистые видео жестокости полиции. Там, где власти умалчивали или скрывали реальность, эти видео рассказывали правду.
Но постоянные крики «Фейковые новости!» предвещали начало этой эры несмягченной ерунды, в которой влияние правды будет приглушено пожарным шлангом лжи. Следующий Абу-Грайб (тюрьма, где жестоко допрашивали заключенных) будет похоронен под морем лжи, созданной искусственным интеллектом.
Фотографии — под вопрос
Вы уже можете увидеть то, что будет. В судебном процессе над Кайлом Риттенхаусом защита утверждала, что функция pinch-to-zoom (щипок для масштабирования) от Apple манипулирует фотографиями, успешно убедив судью возложить бремя доказывания на обвинение, чтобы доказать, что увеличенные кадры iPhone не были обработаны искусственным интеллектом. Недавно Дональд Трамп ложно заявил, что фотография митинга Камалы Гаррис, которую посетили люди, была создана искусственным интеллектом — это утверждение было возможно только потому, что люди смогли в это поверить.
Еще до искусственного интеллекта те, кто занимался СМИ, тщательно изучали детали и происхождение каждого изображения, проверяя наличие обманчивого контекста или манипуляций с фотографиями. В конце концов каждая большая новость сопровождается нашествием дезинформации.
Но нынешнее изменение парадигмы предполагает нечто гораздо более фундаментальное, чем постоянные подозрения, иногда называемые цифровой грамотностью.
Google прекрасно понимает, что он делает с фотографией как институт – в интервью Wired менеджер группы продуктов для камеры Pixel описал инструмент редактирования как «помогает создать момент, который вы запомнили. Это достоверно для вашей памяти и широкого контекста, но, возможно, не достоверно для определенной миллисекунды».
В этом мире фотография перестает быть дополнением к ошибочной человеческой памяти, а становится зеркалом человеческой ошибки. И поскольку фотографии становятся не более чем галлюцинациями, самое глупое дерьмо перерастет в судебную борьбу за репутацию свидетелей и наличие подтверждающих доказательств.
Эта эрозия социального консенсуса началась еще до Pixel 9. Тем не менее, новые возможности искусственного интеллекта телефона заслуживают внимания не только потому, что барьер входа такой низкий, но и потому, что средства защиты, с которыми мы столкнулись, были удивительно непригодны. .
Предложенный индустрией стандарт водяных знаков искусственного интеллекта увяз в обычных стандартах Google, а собственная расхваленная система водяных знаков искусственного интеллекта не проявляется в тестировании Magic Editor Pixel 9. К фотографиям, измененным с помощью инструмента Reimagine, просто добавляется ряд метаданных, которые можно удалить. Врожденная хрупкость такого рода метаданных должна быть решена благодаря изобретению Google теоретически несъемного водяного знака SynthID.
Google сообщает, что результаты Pixel Studio – чистого генератора изображений, более близкого к DALL-E – будут обозначаться тегами с водяным знаком SynthID. По иронии судьбы, возможности инструмента Reimagine редактора Magic, меняющего существующие фотографии, вызывают гораздо большее беспокойство.
Google утверждает, что Pixel 9 не будет беспрепятственной фабрикой глупости, но не имеет серьезных гарантий. «Мы разрабатываем наши инструменты Generative AI, чтобы уважать намерения подсказок пользователей, и это означает, что они могут создавать содержимое, которое может оскорбить, когда пользователь предписывает это сделать», — сказал Алекс Моррикони, менеджер по коммуникациям Google. «Тем не менее. У нас есть четкая политика и условия использования относительно того, какое содержимое мы разрешаем, а какой запрещаем, и создаем ограждения для предотвращения злоупотреблений. Иногда некоторые подсказки могут достигать ограждения этих инструментов, и мы продолжаем постоянно улучшать и усовершенствовать существующие средства защиты».
Политики, соответствующие вашим ожиданиям, например, вы не можете использовать службы Google для содействия преступлениям или подстрекательству к насилию. Однако есть несколько сработавших тревожных подсказок. Когда дело дойдет до массовости, стандартная модерация содержимого не спасет фотографию от ее исходной смерти как сигнала правды.
Короткое время мы жили в эпоху, когда фотография была путём к реальности. Это был очень полезный инструмент для ориентировки в окружающем мире.
Сейчас мы прыгаем головой вперед в будущее, в котором реальность просто менее узнаваема. Портативный телефон теперь извергает ложь, как маленький веселый фонтан.
По материалам: The Verge
