Сучасні технології генерації тексту штучним інтелектом, зокрема великі мовні моделі, впроваджують нові методи для ідентифікації контенту. Одним із таких методів є приховане “водяне маркування” тексту, що дозволяє відрізнити матеріал, створений машиною, від написаного людиною. Це робиться задля юридичних міркувань, підвищення прозорості та для самореклами розробників.
На відміну від зображень, де водяний знак може бути очевидним візуальним елементом, у текстовому контенті він вбудовується непомітно. Компанії, такі як Anthropic, додають підписані метадані до файлів, що генеруються їхніми моделями. Однак, копіювання такого тексту як звичайного може позбавити його цього маркера.
Цікавим аспектом є те, що компанії знайшли спосіб маркувати навіть “сирий” текст, роблячи частиною водяного знака сам процес його створення. Google, наприклад, надає певну прозорість щодо методу маркування тексту, згенерованого їхньою моделлю Gemini, через власну документацію.
Інші компанії, як-от Anthropic, підтверджують факт маркування тексту, згенерованого їхніми моделями Claude, але не розкривають деталей використовуваних методів. Це може бути як схожий підхід, так і зовсім унікальна розробка.
Для розуміння цього процесу важливо знати, що мовні моделі працюють не зі словами в людському розумінні, а з “токенами”. Токен може бути цілим словом, частиною слова або навіть розділовим знаком, залежно від того, як модель була навчена.
Коли модель створює речення, вона послідовно вибирає токени, враховуючи статистичну ймовірність їхнього наступного входження, ґрунтуючись на величезних обсягах тексту, на яких вона навчалася. Кожному токену присвоюється оцінка, що відображає ймовірність його правильного вибору.
Іноді кілька токенів отримують майже однакові оцінки, і будь-який з них міг би логічно завершити речення, наприклад, замість слова “великий” можна використати “величезний”. Саме тут і відбувається маркування.
Компанії модифікують моделі таким чином, щоб надати перевагу одному з ідентичних за оцінкою токенів. Це відбувається шляхом незначного підвищення або зниження його ймовірності, що не впливає на загальний зміст речення, але створює прихований патерн.
Оскільки ці маніпуляції відбуваються послідовно протягом усього згенерованого тексту, точний порядок цих “зсувів” і стає тим самим водяним знаком. Візуально він абсолютно непомітний для людського ока, але спеціальні інструменти, як-от Google SynthID, можуть виявити цей патерн.
Попри те, що загальний принцип маркування відомий, конкретні патерни залишаються конфіденційною інформацією компаній. Також, варто зазначити, що інші компанії можуть використовувати відмінні від Google методи.
Цей механізм маркування не слід плутати зі стилістичними особливостями мовних моделей, такими як повторювані фрази. Текст може виглядати абсолютно природно і при цьому містити прихований водяний знак.
Існують і недоліки такого методу. Маркування може бути ненадійним для окремих речень, а значне ручне редагування тексту може порушити створений патерн. Також, спроби автоматизованої “очистки” тексту від водяних знаків, ймовірно, призведуть до накладання нових маркерів.
Отже, спілкуючись з чат-ботом, варто пам’ятати, що його мова та вибір слів можуть бути навмисно скеровані за певним шаблоном, навіть якщо це робиться задля прозорості.
