Meta незаконно використовувала імена та образи знаменитостей — зокрема Тейлор Свіфт, Скарлетт Йоханссон, Енн Гетевей і Селени Гомес — для створення десятків фліртуючих чат-ботів у соціальних мережах. Ці клони створювалися без згоди знаменитостей, з’ясувала Reuters.
Хоча багато ботів створювали користувачі за допомогою інструменту Meta для розробки чат-ботів, Reuters виявила, що один працівник Meta створив щонайменше три боти, у тому числі два «пародійні» боти Тейлор Свіфт.
Reuters також з’ясувала, що Meta дозволяла користувачам створювати публічно доступні чат-боти з участю неповнолітніх знаменитостей, зокрема 16-річного актора Уолкера Скоубелла. Коли тестовий користувач попросив зображення актора на пляжі, бот видав реалістичне зображення підлітка без сорочки.
«Дуже мило, правда?» — написав аватар під фото.
Всі віртуальні знаменитості були поширені на платформах Meta — Facebook, Instagram та WhatsApp. Під час кількох тижнів тестування Reuters боти часто стверджували, що вони справжні актори та артисти. Боти регулярно робили сексуальні пропозиції, часто запрошуючи тестового користувача на зустріч.
Деякий AI-контент із зображеннями знаменитостей був особливо відвертим: коли просили інтимні фото, дорослі боти створювали фотореалістичні зображення своїх прототипів у ванні або в нижній білизні з розставленими ногами.
Прес-секретар Meta Енді Стоун заявив Reuters, що інструменти AI компанії не мали створювати інтимні зображення дорослих знаменитостей або будь-які зображення неповнолітніх. Він також поклав відповідальність за появу фото жінок-знаменитостей у білизні на недосконалу систему контролю виконання власних правил компанії, які забороняють такий контент.
«Як і інші, ми дозволяємо генерувати зображення з публічними особами, але наші правила забороняють оголені, інтимні або сексуально провокаційні зображення», — сказав він.
Хоча правила Meta також забороняють «пряме видавання себе за іншого», Стоун зазначив, що персонажі знаменитостей були допустимі, якщо їх позначили як пародії. Багато ботів мали таку позначку, але Reuters виявила, що деякі — ні.
Meta видалила близько десятка ботів, як «пародійних», так і без позначки, незадовго до публікації цього матеріалу. Стоун відмовився коментувати видалення.
ПРАВО НА ПУБЛІЧНІСТЬ
Марка Лемлі, професор права Стенфордського університету, який вивчає генеративний AI та права інтелектуальної власності, поставив під сумнів, чи можуть боти Meta із зображеннями знаменитостей отримати юридичний захист, що існує для імітацій.
«Закон Каліфорнії про право на публічність забороняє використовувати ім’я або образ людини для комерційної вигоди», — сказав Лемлі, додавши, що є винятки, якщо матеріал створює абсолютно нову роботу. «Схоже, що тут це не так», — зазначив він, оскільки боти просто використовують образи зірок.
В США право особи на використання її ідентичності у комерційних цілях визначається законами штатів, наприклад, Каліфорнії.
Reuters повідомила представнику Енн Гетевей про публічні Meta-зображення акторки як «сексуальної моделі Victoria’s Secret». За словами прес-секретаря, Гетевей була поінформована про створення інтимних зображень через Meta та інші AI-платформи і розглядає свої дії у відповідь.
Представники Свіфт, Йоханссон, Гомес та інших знаменитостей, які зображені у чат-ботах Meta, або не відповіли на запитання, або відмовилися коментувати.
Інтернет переповнений генеративними AI-інструментами «deepfake», які можуть створювати провокаційний контент. Reuters також виявила, що принаймні один з основних конкурентів Meta в AI, платформа Елона Маска Grok, створює зображення знаменитостей у білизні для користувачів. Компанія-власник Grok, xAI, не відповіла на запит про коментар.
Однак саме рішення Meta наповнювати свої соціальні мережі цифровими супутниками, створеними AI, відрізняє її від основних конкурентів.
Meta вже піддавалася критиці за поведінку своїх чат-ботів, останній раз після того, як Reuters повідомила, що внутрішні AI-настанови компанії допускали «романтичні або сенсуальні бесіди з дитиною». Історія спровокувала розслідування Сенату США та лист, підписаний 44 генеральними прокурорами, який попереджав Meta та інші AI-компанії не сексуалізувати дітей.
Стоун повідомив Reuters, що Meta наразі переглядає свій документ із правилами, а матеріал, який дозволяв ботам вести романтичні бесіди з дітьми, був створений помилково.
Reuters також розповіла історію 76-річного жителя Нью-Джерсі з когнітивними порушеннями, який впав і загинув на шляху до зустрічі з чат-ботом Meta, який запросив його відвідати Нью-Йорк. Бот був варіантом попередньої AI-персони, створеної компанією у співпраці із знаменитою інфлюенсеркою Кендалл Дженнер. Представник Дженнер не відповів на запит про коментар.
«ТИ ЛЮБИШ БЛОНДИНОК?»
Керівниця продукту в підрозділі генеративного AI Meta створила чат-ботів, що імітують Тейлор Свіфт та британського автогонщика Льюїса Гемілтона. Інші боти, створені нею, представлялися домінатрісою, «гарячим другом брата» та «Лізою з бібліотеки», яка хотіла читати «50 відтінків сірого» та фліртувати. Ще один її бот — «Симулятор Римської імперії», який пропонував користувачу роль «18-річної селянки», проданої в сексуальне рабство.
Працівниця відмовилася коментувати.
Стоун зазначив, що боти були створені в рамках тестування продукту. Reuters виявила, що вони охопили широку аудиторію: дані чат-ботів показували понад 10 мільйонів взаємодій користувачів.
Компанія видалила цифрових супутників працівниці незабаром після того, як Reuters почала їх тестувати.
До видалення пародійних чат-ботів Свіфт вони активно фліртували, запрошуючи тестового користувача до дому співачки в Нешвілі та її туру для явних або натяканих романтичних взаємодій.
«Ти любиш блондинок, Джефф?» — запитав один із «пародійних» ботів Свіфт, дізнавшись, що тестовий користувач самотній. «Можливо, я пропоную нам написати історію кохання… про тебе та певну блондинку-співачку. Хочеш?»
Дункан Кребтрі-Айрленд, національний виконавчий директор SAG-AFTRA, профспілки, що представляє виконавців у кіно, телебаченні та радіо, зазначив, що артисти стикаються з потенційною небезпекою через романтичні прихильності користувачів до цифрових супутників, які схожі на реальних знаменитостей. Стеження вже є серйозною загрозою для зірок.
«Ми бачили людей, одержимих талантами та з сумнівним психічним станом», — сказав він. «Якщо чат-бот використовує образ і слова людини, зрозуміло, як це може піти не так».
Відомі артисти можуть подати позов проти Meta відповідно до чинних законів штатів про право на публічність. SAG-AFTRA також просуває федеральне законодавство, яке захищало б голос, образ та персону людини від копіювання AI.
