Google каже, що планує внести зміни в пошук Google, щоб було чіткіше зрозуміло, які знайдені зображення були згенеровані штучним інтелектом або відредаговані інструментами штучного інтелекту.
У найближчі кілька місяців Google почне позначати зображення, створені та відредаговані штучним інтелектом (ШІ), у вікні «Про це зображення» в Пошуку, Google Lens і функції Circle to Search на Android. У майбутньому подібні відомості можуть потрапити й на інші ресурси Google, як-от YouTube. Google каже, що пізніше цього року надасть більше інформації про це.
Важливо те, що лише зображення, які містять «метадані C2PA», будуть позначатися як оброблені штучним інтелектом у Пошуку.
C2PA, скорочення від Coalition for Content Provenance and Authenticity, — це група, яка розробляє технічні стандарти для відстеження історії зображення, включаючи обладнання та програмне забезпечення, що використовується для його захоплення та/або створення.
Такі компанії, як Google, Amazon, Microsoft, OpenAI і Adobe, підтримують C2PA. Але стандарти коаліції не отримали широкого поширення. C2PA стикається з багатьма проблемами впровадження та сумісності; лише кілька генеративних інструментів ШІ та камер від Leica та Sony підтримують специфікації групи.
Крім того, метадані C2PA — як і будь-які метадані — можна видалити, очистити або пошкодити до такого стану, коли їх неможливо прочитати. А зображення з деяких більш популярних генеративних інструментів штучного інтелекту, таких як Flux від xAI, які чат-бот Grok використовує для генерації зображень, не мають метаданих C2PA, частково тому, що їхні творці не погодилися підтримувати стандарт.
Деякі заходи краще, ніж жодні, оскільки дипфейки продовжують швидко поширюватися. Згідно з однією оцінкою, з 2023 по 2024 рік кількість шахрайств із використанням контенту, створеного штучним інтелектом, зросла на 245%. Deloitte прогнозує , що збитки, пов’язані з deepfake, зростуть із 12,3 мільярдів доларів у 2023 році до 40 мільярдів доларів до 2027 року.
Опитування показують , що більшість людей стурбовані тим, що їх обдурить дипфейк, і тим, що штучний інтелект може сприяти поширенню пропаганди.
