Проблема распознавания контента, созданного искусственным интеллектом, становится все более актуальной, поскольку растет использование текстов и изображений, сгенерированных соответствующими сервисами. В ответ на это, Европейский Союз принял Закон об искусственном интеллекте (AIA), который устанавливает конечный срок – 2 августа 2026 года – для провайдеров ИИ-сервисов по внедрению мер по идентификации контента. Компания Anthropic, разработчик модели Claude, опубликовала документ, который детализирует, как именно новые версии их продуктов будут соответствовать статье 50 этого закона.
Законодательные положения сопровождаются Кодексом практики, содержащим рекомендации по их внедрению. Согласно этому Кодексу, все новые модели Claude будут применять цифровые водяные знаки к сгенерированному тексту и добавлять данные о происхождении к созданным файлам, в частности изображениям в форматах SVG, PNG и JPG. Компания Anthropic заявила, что эти изменения будут касаться выходных данных от поддерживаемых моделей Claude независимо от их региона использования, то есть во всем мире.
Что касается текстового контента, процесс водяного маркирования отличается от стеганографии, которая обычно используется для скрытия данных непосредственно в содержимом изображений. В случае текстов, водяной знак реализуется через смещение выбора так называемых «токенов» (частей слов) во время генерации. Таким образом, сгенерированный текст приобретает определенную статистическую закономерность, которая позволяет обнаружить встроенный водяной знак при анализе. Anthropic также планирует предоставить инструменты для выявления этих закономерностей, детали о которых будут обнародованы в будущей технической документации.
Предполагается, что текст, который был скопирован и лишь незначительно отредактирован, все равно будет сохранять идентифицированный закономерный узор. По утверждению Anthropic, качество и смысловое наполнение сгенерированного текста не ухудшатся в результате процесса маркирования. Однако фрагменты текста объемом менее 200 токенов освобождаются от обязательной маркировки согласно Кодексу практики, поскольку они не содержат достаточного объема данных для надежного применения водяного знака.
Что касается изображений, указанные ранее файловые форматы поддерживают добавление метаданных непосредственно к графическому содержимому. По этой причине Claude начнет интегрировать сертификат происхождения, используя стандарт C2PA. Это означает, что файлы будут содержать цифровой сертификат, который станет недействительным в случае любых изменений или модификаций исходного изображения, обеспечивая таким образом его подлинность.
Важно отметить, что в опубликованных материалах Anthropic не упоминается непосредственно о стеганографическом водяном маркировании для изображений, хотя это является требованием Кодекса практики наряду с информацией о происхождении. Ожидается, что компания внедрит эту функцию в будущем, поскольку ее отсутствие позволило бы легко сделать контент неотслеживаемым путем простого копирования. Кроме того, Anthropic работает над интеграцией этих возможностей в существующие модели Claude, соблюдая срок 2 декабря 2026 года, установленный Законом об искусственном интеллекте.
В сопроводительной информации также отмечается, что прямые цитаты могут быть ошибочно помечены водяным знаком как часть ответа, сгенерированного искусственным интеллектом. При этом отсутствие текстового водяного знака не является однозначным свидетельством того, что контент не был создан или обработан системой ИИ. Закон об искусственном интеллекте также требует от провайдеров услуг предлагать инструменты для выявления водяных знаков, и Anthropic обещает предоставить детали о них в будущей документации.
