Искусственный интеллект создает столь реалистичные фотографии, что их часто считают подлинными. Поэтому Google создал водяной знак для изображения искусственного интеллекта, который не удастся удалить. Водяной знак SynthID будет незаметен для человека, но приложения смогут его легко распознать.
Команда Google DeepMind годами считала, что создание замечательных генеративных инструментов искусственного интеллекта также требует создания отличных инструментов для выявления того, что было создано искусственным интеллектом.
На это много очевидных и серьезных причин, говорит генеральный директор Google DeepMind Демис Хассабис. «Каждый раз, когда мы говорим об этом и других системах, мы спрашиваем: «А как насчет проблемы дипфейков?»
В связи с тем, что в 2024 году в США и Великобритании наступает еще один противоречивый сезон выборов, Хассабис говорит, что создание системы для идентификации и обнаружения изображений искусственного интеллекта всегда важнее.
Хассабис и его команда за последние несколько лет работали над инструментом, который Google опубликовал на этой неделе. Он называется SynthID и предназначен, в сущности, для создания водяного знака на изображении, созданном искусственным интеллектом, таким образом, чтобы это было незаметно для человеческого глаза, но легко улавливалось специальным инструментом обнаружения искусственного интеллекта.
Водяной знак встроен в пиксели изображения, но Хассабис говорит, что он не изменяет само изображение никоим образом.Он устойчив к различным трансформациям – обрезке, изменению размера и всему тому, что можно сделать, чтобы попытаться обойти обычные водяные знаки.
По мере усовершенствования базовых моделей SynthID, по словам Хассабиса, водяной знак станет еще менее заметным для людей, но еще легче будет оказываться инструментами DeepMind.
Пока новая система не раскрывается полностью, чтобы не облегчать злоумышленникам работу. Даже публикация в блоге о запуске скупая на детали, поскольку SynthID все еще новая система.
«Чем больше вы раскроете о том, как это работает, тем легче будет хакерам и злонамеренным организациям обойти это», — говорит Хассабис.
SynthID разворачивается сначала Google-ориентированным способом: клиенты Google Cloud, использующие платформу Vertex AI компании и генератор изображений Imagen, смогут вставлять и обнаруживать водяной знак.
По мере того как система будет тестироваться в реальном мире, Google сможет использовать его в большем количестве мест, делиться больше о том, как он работает.
В конце концов Хассабис, похоже, надеется, что SynthID может стать чем-то вроде стандарта для всего интернета. Основополагающие идеи можно даже использовать в других медиа, таких как видео и текст.
После того, как Google опробовал эту технологию, «вопрос состоит в том, чтобы ее масштабировать, делиться ею с другими партнерами, а затем расширять потребительское решение.
Конечно, Google не единственная компания с такими амбициями. Только в прошлом месяце Meta, OpenAI, Google и несколько других величайших имен в области искусственного интеллекта пообещали создать дополнительные средства защиты и системы безопасности для своего искусственного интеллекта.Ряд компаний также работает с протоколом под названием C2PA, использующим криптографические метаданные для обозначения тегами контента, созданного искусственным интеллектом.
Запуск любого инструмента обнаружения искусственного интеллекта гарантированно станет началом гонки вооружений. Во многих случаях проигрышный OpenAI уже отказался от инструмента, предназначенного для обнаружения текста от собственного чат-бота ChatGPT.
Если SynthID приживется, это вдохновит хакеров и разработчиков на поиск креативных путей обхода системы, что заставит Google DeepMind совершенствовать систему, и они породят замкнутый круг. Хассабис говорит, что команда готова к этому.
