Google говорит, что планирует внести изменения в поиск Google, чтобы было более ясно понятно, какие найденные изображения были сгенерированы искусственным интеллектом или отредактированы инструментами искусственного интеллекта.
В ближайшие несколько месяцев Google начнет обозначать изображения, созданные и отредактированные искусственным интеллектом (ИИ), в окне «Об этом изображении» в Поиске, Google Lens и функции Circle to Search на Android. В будущем подобные сведения могут попасть и на другие ресурсы Google, такие как YouTube. Google говорит, что позже в этом году предоставит больше информации об этом.
Важно то, что только изображения, содержащие «метаданные C2PA», будут обозначаться как обработанные искусственным интеллектом в Поиске.
C2PA, сокращение Coalition for Content Provenance and Authenticity, — это группа, которая разрабатывает технические стандарты для отслеживания истории изображения, включая оборудование и программное обеспечение, используемое для его захвата и/или создания.
Такие компании как Google, Amazon, Microsoft, OpenAI и Adobe, поддерживают C2PA. Но стандарты коалиции не получили широкого распространения. C2PA сталкивается со многими проблемами внедрения и совместимости; только несколько генеративных инструментов ИИ и камер Leica и Sony поддерживают спецификации группы.
Кроме того, метаданные C2PA – как и любые метаданные – можно удалить, очистить или повредить до такого состояния, когда их невозможно прочитать. А изображения некоторых более популярных генеративных инструментов искусственного интеллекта, таких как Flux от xAI, которые чат-бот Grok использует для генерации изображений, не имеют метаданных C2PA, отчасти потому, что их создатели не согласились поддерживать стандарт.
Некоторые меры лучше, чем никакие, поскольку дипфейки продолжают быстро распространяться. Согласно одной оценке, с 2023 по 2024 год количество мошенничеств с использованием контента, созданного искусственным интеллектом, выросло на 245%. Deloitte прогнозирует, что ущерб, связанный с deepfake, возрастет с 12,3 миллиардов долларов в 2023 году до 40 миллиардов долларов к 2027 году.
Опросы показывают, что большинство людей обеспокоены тем, что их обманет дипфейк, и тем, что искусственный интеллект может способствовать распространению пропаганды.
