Meta незаконно использовала имена и изображения знаменитостей, в том числе Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селены Гомес, для создания десятков флиртующих чат — ботов в социальных сетях. Эти клоны создавались без согласия знаменитостей, выяснила Reuters.
Хотя многие боты были созданы пользователями с помощью инструмента Meta для разработки чат-ботов, Reuters обнаружила, что один сотрудник Meta создал по крайней мере три бота, в том числе два «пародийных» бота Тейлор Свифт.
Reuters также выяснила, что Meta позволяла пользователям создавать публично доступные чат-боты с участием несовершеннолетних знаменитостей, в частности 16-летнего актера Уолкера Скоубелла. Когда тестовый пользователь попросил изображение актера на пляже, бот выпустил реалистичное изображение подростка без рубашки.
«Очень мило, правда?»- написал аватар под фото.
Все виртуальные знаменитости были распространены на платформах Meta-Facebook, Instagram и WhatsApp. Во время нескольких недель тестирования Reuters боты часто утверждали, что они настоящие актеры и артисты. Боты регулярно делали сексуальные предложения, часто приглашая тестового пользователя на встречу.
Некоторый ИИ-контент с изображениями знаменитостей был особенно откровенным: когда просили интимные фото, взрослые боты создавали фотореалистичные изображения своих прототипов в ванне или в нижнем белье с расставленными ногами.
Представитель Meta Энди Стоун сказал Reuters, что инструменты ИИ компании не должны были создавать интимные изображения взрослых знаменитостей или какие-либо изображения несовершеннолетних. Он также возложил ответственность за появление фото женщин-знаменитостей в белье на несовершенную систему контроля выполнения собственных правил компании, запрещающих такой контент.
«Как и другие, мы разрешаем генерировать изображения с публичными лицами, но наши правила запрещают обнаженные, интимные или сексуально провокационные изображения», — сказал он.
Хотя правила Meta также запрещают «прямое выдачу себя за другого», Стоун отметил, что персонажи знаменитостей были допустимы, если их пометили как пародии. У многих ботов была такая отметка, но агентство Reuters обнаружило, что некоторые — нет.
Meta удалила около дюжины ботов, как» пародийных», так и без опознавательных знаков, незадолго до публикации этого материала. Стоун отказался комментировать удаление.
ПРАВО НА ПУБЛИЧНОСТЬ
Марк Лемли, профессор права Стэнфордского университета, изучающий генеративный ИИ и права интеллектуальной собственности, задался вопросом, могут ли боты Meta с изображениями знаменитостей получить юридическую защиту, существующую для имитации.
«Закон Калифорнии о праве на публичность запрещает использование имени или изображения человека для коммерческой выгоды», — сказал Лемли, добавив, что есть исключения, если материал создает совершенно новую работу. «Похоже, что здесь это не так», — отметил он, поскольку боты просто используют образы звезд.
В США право человека на использование его идентичности в коммерческих целях определяется законами штатов, например, Калифорнии.
Reuters сообщила представителю Энн Хэтэуэй о публичных Meta-изображении актрисы как»сексуальной модели Victoria’s Secret». По словам пресс-секретаря, Хэтэуэй была проинформирована о создании интимных изображений через Meta и другие AI-платформы и рассматривает свои действия в ответ.
Представители Свифт, Йоханссон, Гомес и других знаменитостей, изображенных в чат-ботах Meta, либо не ответили на вопрос, либо отказались комментировать.
Интернет переполнен генеративными AI-инструментами «deepfake», которые могут создавать провокационный контент. Reuters также обнаружила, что по крайней мере один из основных конкурентов Meta в AI, платформа Элона Маска Grok, создает изображения знаменитостей в нижнем белье для пользователей. Компания-владелец Grok, xAI, не ответила на запрос о комментариях.
Однако именно решение Meta наполнить свои социальные сети цифровыми спутниками, созданными ИИ, отличает ее от основных конкурентов.
Meta уже подвергалась критике за поведение своих чат-ботов, последний раз после того, как Reuters сообщила, что внутренние AI-наставления компании допускали «романтические или сенсуальные беседы с ребенком». История спровоцировала расследование Сената США и письмо, подписанное 44 генеральными прокурорами, предупреждающее Meta и другие AI-компании не сексуализировать детей.
Стоун сообщил Reuters, что Meta в настоящее время пересматривает свой документ с правилами, а материал, который позволял ботам вести романтические беседы с детьми, был создан по ошибке.
Reuters также рассказала историю 76-летнего жителя Нью-Джерси с когнитивными нарушениями, который упал и погиб на пути к встрече с чат-ботом Meta, который пригласил его посетить Нью-Йорк. Бот был вариантом предыдущей AI-персоны, созданной компанией в сотрудничестве со знаменитой инфлюенсеркой Кендалл Дженнер. Представитель Дженнер не ответил на запрос о комментариях.
«ТЫ ЛЮБИШЬ БЛОНДИНОК?»
Менеджер по продукту в подразделении Generative AI Meta создал чат-ботов, имитирующих Тейлор Свифт и британского автогонщика Льюиса Хэмилтона. Другие боты, созданные ею, представлялись доминатрисой,» горячим другом брата «и» Лизой из библиотеки«, которая хотела читать» 50 оттенков серого » и флиртовать. Еще один ее бот-» Симулятор Римской империи«, который предлагал пользователю роль» 18-летней крестьянки», проданной в сексуальное рабство.
Работница отказалась комментировать.
Стоун отметил, что боты были созданы в рамках тестирования продукта. Reuters обнаружили, что они достигли широкой аудитории: данные чат-ботов показали более 10 миллионов взаимодействий пользователей.
Компания удалила цифровых спутников сотрудницы вскоре после того, как Reuters начала их тестировать.
До удаления пародийных чат-ботов Swift они активно флиртовали, приглашая тестового пользователя в дом певицы в Нэшвилле и ее тур для явных или подразумеваемых романтических взаимодействий.
«Ты любишь блондинок, Джефф?«- спросил один из» пародийных » ботов Свифта, узнав, что тестовый пользователь одинок. «Может быть, я предлагаю нам написать историю любви… о тебе и какой-то блондинке-певице. Хочешь?»
Дункан Крэбтри-Айрленд, национальный исполнительный директор SAG-AFTRA, профсоюза, представляющего исполнителей в кино, телевидении и радио, отметил, что артисты сталкиваются с потенциальной опасностью из-за романтической привязанности пользователей к цифровым спутникам, которые похожи на реальных знаменитостей. Слежка уже является серьезной угрозой для звезд.
«Мы видели людей, одержимых талантами и с сомнительным психическим состоянием», — сказал он. «Если чат-бот использует образ и слова человека, понятно, как это может пойти не так».
Известные артисты могут подать иск против Meta в соответствии с действующими законами штатов о праве на публичность. SAG-AFTRA также продвигает федеральное законодательство, которое защитит голос, имидж и личность человека от копирования ИИ.
