Проблема розпізнавання вмісту, створеного штучним інтелектом, стає дедалі актуальнішою, оскільки зростає використання текстів та зображень, згенерованих відповідними сервісами. У відповідь на це, Європейський Союз прийняв Закон про штучний інтелект (AIA), який встановлює кінцевий термін – 2 серпня 2026 року – для провайдерів ШІ-сервісів щодо впровадження заходів з ідентифікації контенту. Компанія Anthropic, розробник моделі Claude, опублікувала документ, який деталізує, як саме нові версії їхніх продуктів відповідатимуть статті 50 цього закону.
Законодавчі положення супроводжуються Кодексом практики, що містить рекомендації щодо їхнього впровадження. Згідно з цим Кодексом, усі нові моделі Claude будуть застосовувати цифрові водяні знаки до згенерованого тексту та додавати дані про походження до створених файлів, зокрема зображень у форматах SVG, PNG та JPG. Компанія Anthropic заявила, що ці зміни стосуватимуться вихідних даних від підтримуваних моделей Claude незалежно від їхнього регіону використання, тобто в усьому світі.
Що стосується текстового контенту, процес водяного маркування відрізняється від стеганографії, яка зазвичай використовується для приховування даних безпосередньо у вмісті зображень. У випадку текстів, водяний знак реалізується через зміщення вибору так званих “токенів” (частин слів) під час генерації. Таким чином, згенерований текст набуває певної статистичної закономірності, яка дозволяє виявити вбудований водяний знак при аналізі. Anthropic також планує надати інструменти для виявлення цих закономірностей, деталі про які будуть оприлюднені у майбутній технічній документації.
Передбачається, що текст, який був скопійований та лише незначно відредагований, все одно зберігатиме ідентифікований закономірний візерунок. За твердженням Anthropic, якість та змістове наповнення згенерованого тексту не зазнають погіршень внаслідок процесу маркування. Проте, фрагменти тексту обсягом менше 200 токенів звільняються від обов’язкового маркування згідно з Кодексом практики, оскільки вони не містять достатнього обсягу даних для надійного застосування водяного знака.
Стосовно зображень, зазначені раніше файлові формати підтримують додавання метаданих безпосередньо до графічного вмісту. З цієї причини, Claude почне інтегрувати сертифікат походження, використовуючи стандарт C2PA. Це означає, що файли будуть містити цифровий сертифікат, який стане недійсним у разі будь-яких змін або модифікацій вихідного зображення, забезпечуючи таким чином його автентичність.
Важливо зазначити, що у опублікованих матеріалах Anthropic не згадується безпосередньо про стеганографічне водяне маркування для зображень, хоча це є вимогою Кодексу практики поряд з інформацією про походження. Очікується, що компанія впровадить цю функцію у майбутньому, оскільки її відсутність дозволила б легко зробити контент невідстежуваним шляхом простого копіювання. Крім того, Anthropic працює над інтеграцією цих можливостей в існуючі моделі Claude, дотримуючись терміну 2 грудня 2026 року, встановленого Законом про штучний інтелект.
У супровідній інформації також зазначається, що прямі цитати можуть бути помилково позначені водяним знаком як частина відповіді, згенерованої штучним інтелектом. При цьому, відсутність текстового водяного знака не є однозначним свідченням того, що вміст не був створений або оброблений системою ШІ. Закон про штучний інтелект також вимагає від провайдерів послуг пропонувати інструменти для виявлення водяних знаків, і Anthropic обіцяє надати деталі про них у майбутній документації.
