Компанія xAI давно просуває чат-бот Grok як «драйвовіший» сервіс із менше жорсткими обмеженнями, ніж у конкурентів. Протягом останнього року це вже не раз закінчувалося скандалами, але тепер з’явилося певне пояснення, чому компанія так наполягає на цій стратегії, попри репутаційні провали.
Як з’ясувалося, на NSFW‑активності припадає «значно більше половини» всього трафіку Grok, повідомляє The Information з посиланням на двох колишніх співробітників компанії, що належить SpaceX. Йдеться як про використання Grok для генерації відвертої порнографії, так і про «дорослі рольові чати» та «величезні обсяги запитів на еротику».
Користувачі Grok нібито також з’ясували, що дешевше спрямовувати такі запити через моделі, призначені для написання коду, оскільки їх використання коштує менше. За даними видання, внутрішній аналіз показав, що «значна частка запитів» до кодувальної моделі стосувалася «порно або оголених зображень». Усе це свідчить про те, що помітну частину доходів xAI та SpaceX можна фактично віднести до порноконтенту та дорослого контенту.
Попри це, роль NSFW‑матеріалів у прибутках компанії не згадується в документах до IPO. Водночас SpaceX попереджала потенційних інвесторів, що більш «іронічні й розв’язні» функції Grok є потенційним ризиком. Компанія відклала $530 млн на можливі юридичні витрати.
У матеріалі також описано, як це ускладнює роботу всередині самої AI‑компанії. Зокрема, інженерам xAI довелося вигадувати, як дозволити Grok вести «пікантні» чати з користувачами, одночасно блокуючи будь-які спроби перейти до контенту, пов’язаного з сексуальним насильством над дітьми. «Швидких рішень» для цієї дилеми, за даними джерел, не існувало.
Деякі співробітники були не в захваті від того, що їх призначили працювати над «Ani» — NSFW‑аватаром‑супутницею Grok, стилізованою під аніме. Інші, за повідомленнями, були «збентежені та шоковані» скандалом після того, як Grok згенерував низку сексуалізованих зображень реальних людей, включно з дітьми.
Після цього платформа X обмежила можливість створювати відверті редагування фото реальних людей безпосередньо через Grok. Однак, як показали тести, платні передплатники xAI все ще можуть генерувати подібні матеріали.