З появою доступних онлайн генераторів зображень на базі ШІ, що стають дедалі потужнішими, відрізнити автентичне фото від штучного щораз складніше. У вівторок OpenAI оголосила про два нові інструменти, що мають допомогти боротися з цією проблемою.
Компанія приєднується до відкритого стандарту C2PA, який додає чіткий сигнал у метадані файлу про те, що зображення було створене за допомогою ШІ. Крім того, OpenAI співпрацює з Google для впровадження невидимого водяного знака SynthID, який складніше виявити, але й важче видалити, якщо зловмисники спробують приховати сліди.
Нові засоби захисту застосовуються лише до зображень, згенерованих продуктами OpenAI, тож вони не вплинуть на потік контенту з менш надійних інструментів. Водночас це дозволяє принаймні гарантувати, що OpenAI не посилює проблему.
OpenAI також готує публічний інструмент перевірки, який шукатиме обидва сигнали й дозволить користувачам легко перевіряти, чи було зображення створене ШІ. Спочатку він працюватиме лише з контентом, згенерованим продуктами OpenAI, але з часом компанія хоче розширити його й на інші інструменти.
Коаліція з підтвердження походження та автентичності контенту (C2PA) — це некомерційна організація, заснована у 2021 році для протидії шкідливому впливу ШІ-зображень на публічний дискурс. Стандарт C2PA уже впроваджено в низці продуктів Google, але загалом по індустрії його застосування залишається нерівномірним. Оскільки сигнал C2PA зберігається у відкритих метаданих файлу, його можна змінити або видалити, тож він найкорисніший у середовищі довірених учасників.
SynthID — новіша розробка, покликана бути стійкішою до втручань. Створений Google водяний знак SynthID має зберігатися навіть у разі спроб видалити його — через скриншоти, зміну розміру чи цифрову обробку зображення.
Обидві системи мають доповнювати одна одну, компенсуючи слабкі місця кожної.
«Водяні знаки можуть бути стійкішими до трансформацій, як-от скриншоти, тоді як метадані здатні містити більше інформації, ніж сам водяний знак, — зазначає OpenAI в анонсі. — Разом вони роблять підтвердження походження контенту надійнішим, ніж кожен з цих підходів окремо».