Британська депутатка від Лейбористської партії Джесс Асато подала до суду на компанію xAI через сексуально відверті згенеровані ШІ-зображення, які створив про неї асистент Grok, повідомляє Financial Times. Цей позов став першим гучним тестом у Великій Британії щодо того, чи можуть компанії, що працюють з ШІ, нести відповідальність за контент, який користувачі створюють за допомогою їхніх інструментів.
Користувачі Grok почали створювати та поширювати зображення Асато в січні — приблизно тоді ж, коли вперше зʼявилися повідомлення, що цей ШІ-асистент використовували для створення матеріалів із сексуальним насильством щодо дітей (CSAM). За даними FT, Асато стверджує, що користувачі просили Grok згенерувати її зображення в бікіні, а також відверте відео, “де її одурманюють хлороформом і готують до сексуального нападу”. Пізніше користувачі знову поширювали, обговорювали й генерували нові ШІ-зображення вже на платформі X, яка належить xAI.
У позові Асато йдеться, що xAI порушила закони про неналежне використання приватної інформації та про захист даних, що робить компанію потенційно відповідальною, навіть попри те, що безпосередньо інструментом користувалися окремі люди. Вона вимагає грошової компенсації та судового припису, який змусить xAI дотримуватися британського законодавства. «Я сподіваюся, що це відновить баланс між правами окремих людей і дуже великих технологічних компаній, які мали б запровадити запобіжники до того, як завдали шкоди жінкам і дітям», — сказала Асато в коментарі FT.
xAI заявляла, що в січні обмежила можливості Grok зі створення сексуально відвертих зображень, однак ці блокування виявилися доволі легко обхідними під час перевірок. Негативна реакція на здатність Grok генерувати неконсенсуальні дипфейки була масштабною. Окрім розслідувань у ЄС, Великій Британії та Каліфорнії, xAI або X також фігурують у позовах, поданих міською владою Балтімора (штат Меріленд), групою підлітків та Ешлі Сент-Клер, матірʼю однієї з дітей Ілона Маска.