На смартфони прийшов штучний інтелект і вбив доказ реальності, який людство використовувало сотні років. Фотографія уже не відображає те, що відбулося насправді. Адже неіснуючі об’єкти та предмети на фото кожен може домалювати кількома рухами пальців. Фінальний кадр реалістично поєднає справжніх людей та речей з вигаданими.
Спершу можливість швидкого редагування реальності на фотографії представив Samsung в телефоні Galaxy Z Fold 6. Але його штучний інтелект все ж заишав візуально помітні артефакти викривлення реальності.
Утім, щойно представлений Google Pixel 9 довів, що підробка може бути такою якісною як реальність. Редаговані знімки чіткі. Вони повнокольорові. Вони високоякісні. Немає ні підозрілого розмиття фону, ні контрольного шостого пальця. Ці фотографії надзвичайно переконливі, і всі вони надзвичайно фальшиві.
Фотографію використовували для обману стільки часу, скільки вона існує. Першою фальшивою фотографією вважається «Автопортрет утопленика» (1840) француза Іпполіта Байяра. Ви, напевне, легко згадаєте інші знамениті фальшивки: фотографії чудовиська з озера Лох-Несс або фотографію дівчинки Аліси з феями чи зображення сніжного чудовиська Бігфута.
Але все ж-таки фотографії переважно вважалися надійними доказами реальної події. Постановочна сцена з ефектами, маніпуляції з цифровими фотографіями або використання штучного інтелекту для маніпуляції з зображенням — це були потенційні обмани, які слід було взяти до уваги, але вони були винятковими, оскільки вимагали багато вмінь та ресурсів. Щоб підірвати інтуїтивну довіру до фотографії, потрібні були спеціальні знання та інструменти. Фальшиве фото було винятком, а не правилом.
Правдиві фотографії – це більше, ніж коротка історична мить, що потрапила на плівку або картку пам’яті фотоапарату. Деякі знімки мали та мають значний вплив на хід історії людства. Знімок «Площа Тяньаньмень», рука дружини Вільгельма Ренгена, перший політ літака братів Райт, стовпи сотворіння, падіння Берлінської стіни, відставка президента США Річарда Ніксона.
Ці образи визначали війни та революції; вони уклали правду до такої міри, яку неможливо повністю висловити. Не було жодної причини пояснювати, чому ці фотографії важливі, чому вони такі ключові, чому ми так цінуємо їх. Наша довіра до фотографії була настільки глибокою, що, коли ми проводили час, обговорюючи правдивість зображень, було важливіше згадати те, що фотографії іноді можуть бути підробленими.
Фотографія перестає бути доказом реальності
Ось-ось все зміниться — стандартне припущення щодо правдивості фотографії скоро стане недійсним. Створювати реалістичні та правдоподібні підроблені фотографії тепер неважко. Ми не готові до того, що станеться потім.
Сьогодні ніхто на Землі ніколи не жив у світі, де фотографії не були б стрижнею соціального консенсусу — скільки ми тут, фотографії доводили, що щось трапилося.
Розгляньте всі способи, якими передбачувана достовірність фотографії раніше підтверджувала правдивість вашого досвіду. Вм’ятина на крилі орендованого вами автомобіля. Протікання стелі у вашому домі. Прибуття посилки. Справжній тарган у вашому продукті. Коли подія відбувається на вашій вулиці, як ви повідомляєте друзям і знайомим про неї?
В епоху Pixel 9, можливо, типове зображення, створене цими інструментами штучного інтелекту, саме по собі буде досить нешкідливим — зайве дерево на тлі, алігатор у піцерії, дурний костюм, накинутий на кота.
Але цей потоп несправжніх фото змінює те, як ми загалом ставимося до концепції фотографії, і це має величезні наслідки. Подумайте, наприклад, що за останнє десятиліття в Сполучених Штатах відбулися надзвичайні соціальні потрясіння, поштовхом до яких стали низькоякісні зернисті відео жорстокості поліції. Там, де влада замовчувала чи приховувала реальність, ці відео розповідали правду.
Але постійні крики «Фейкові новини!» передвіщали початок цієї ери непом’якшеної дурниці, в якій вплив правди буде приглушено пожежним шлангом брехні. Наступний Абу-Грайб (тюрма, де жорстоко допитували ув’язнених) буде похований під морем неправди, створеної штучним інтелектом.
Фотографії – під сумнів
Ви вже можете побачити те, що буде. У судовому процесі над Кайлом Ріттенхаусом захист стверджував, що функція pinch-to-zoom (щипок для масштабування) від Apple маніпулює фотографіями, успішно переконавши суддю покласти тягар доведення на обвинувачення, щоб довести, що збільшені кадри iPhone не були оброблені штучним інтелектом. Нещодавно Дональд Трамп неправдиво заявив , що фотографія мітингу Камали Гарріс, яку відвідали люди, була створена штучним інтелектом — це твердження було можливим лише тому, що люди змогли в це повірити.
Ще до штучного інтелекту ті, хто займався ЗМІ, ретельно вивчали деталі та походження кожного зображення, перевіряючи на наявність оманливого контексту чи маніпуляцій з фотографіями. Зрештою, кожна велика новина супроводжується навалою дезінформації.
Але нинішня зміна парадигми передбачає щось набагато більш фундаментальне, ніж постійні підозри, які іноді називають цифровою грамотністю.
Google чудово розуміє, що він робить із фотографією як інституція — в інтерв’ю Wired менеджер групи продуктів для камери Pixel описав інструмент редагування як «допомагає створити момент, який ви запам’ятали. Це достовірно для вашої пам’яті та для широкого контексту, але, можливо, не достовірно для певної мілісекунди».
У цьому світі фотографія перестає бути доповненням до помилкової людської пам’яті, а натомість стає дзеркалом людської помилки. І оскільки фотографії стають не більш ніж галюцинаціями, найдурніше лайно переросте в судову боротьбу за репутацію свідків і наявність підтверджуючих доказів.
Ця ерозія соціального консенсусу почалася ще до Pixel 9. Тим не менш, нові можливості штучного інтелекту телефону заслуговують на увагу не лише тому, що бар’єр входу такий низький, а й тому, що засоби захисту, з якими ми зіткнулися, були напрочуд непридатними.
Запропонований індустрією стандарт водяних знаків штучного інтелекту загруз у звичайних стандартах Google, а власна розхвалена система водяних знаків штучного інтелекту не проявляється в тестуванні Magic Editor Pixel 9. До фотографій, змінених за допомогою інструмента Reimagine, просто додається ряд метаданих, які можна видалити. Природжена крихкість такого роду метаданих мала бути вирішена завдяки винаходу Google теоретично незнімного водяного знака SynthID.
Google повідомляє, що результати Pixel Studio — чистого генератора зображень, ближчого до DALL-E — будуть позначатися тегами з водяним знаком SynthID. За іронією долі, можливості інструменту Reimagine редактора Magic, який змінює наявні фотографії, викликають набагато більше тривоги.
Google стверджує, що Pixel 9 не буде безперешкодною фабрикою дурниці, але не має серйозних гарантій. «Ми розробляємо наші інструменти Generative AI, щоб поважати наміри підказок користувачів, і це означає, що вони можуть створювати вміст, який може образити, коли користувач наказує це зробити», — сказав Алекс Моріконі, менеджер із комунікацій Google. «Тим не менш. Ми маємо чітку політику й Умови використання щодо того, який вміст ми дозволяємо, а який забороняємо, і створюємо огорожі для запобігання зловживанням. Часом деякі підказки можуть сягати огорожі цих інструментів, і ми продовжуємо постійно покращувати та вдосконалювати наявні засоби захисту».
Політики, які відповідають вашим очікуванням — наприклад, ви не можете використовувати служби Google для сприяння злочинам або підбурювання до насильства. Однак є кілька тривожних підказок, які спрацювали. Коли справа дійде до масовості, стандартна модерація вмісту не врятує фотографію від її початкової смерті як сигналу правди.
Короткий час ми жили в епоху, коли фотографія була шляхом до реальності. Це був надзвичайно корисний інструмент для орієнтування в навколишньому світі.
Зараз ми стрибаємо головою вперед у майбутнє, в якому реальність просто менш пізнавана. Портативний телефон тепер вивергає брехню як маленький веселий фонтан.
За матеріалами: The Verge
books in ancient times was papyrus