Компанія OpenAI, яка свого часу обіцяла рятувати людство за допомогою штучного інтелекту, тепер активно працює над впровадженням спеціального режиму для дорослих у своєму популярному чат-боті ChatGPT. За інформацією видання Wall Street Journal, цей функціонал дозволить користувачам вести текстові розмови на інтимні теми, хоча розробники витончено намагаються розмежувати поняття пікантного контенту та відвертої порнографії. Офіційні представники компанії стверджують, що система не буде генерувати еротичні зображення чи аудіозаписи, проте сама ідея легалізації еротики в межах платформи свідчить про радикальну зміну попередньої етичної політики. Керівництво під керівництвом Сема Альтмана поступово відмовляється від суворих заборон, які діяли з моменту релізу технології у листопаді дві тисячі двадцять другого року, шукаючи нові способи задоволення потреб дорослої аудиторії.
Процес розробки нового режиму супроводжується серйозними внутрішніми суперечками, які призвели до звільнення високопоставлених співробітників, не згодних із курсом компанії. Раян Баєрмейстер, яка очолювала напрям продуктової політики та відкрито критикувала плани щодо впровадження еротичного контенту, була звільнена на початку цього року за досить дивних обставин. Офіційно OpenAI звинуватила її в дискримінації колеги-чоловіка, хоча сама Баєрмейстер називає ці закиди абсолютно безпідставними та пов’язує своє усунення саме з принциповою позицією щодо безпеки підлітків. Вона неодноразово наголошувала, що компанія не має достатніх інструментів для запобігання поширенню матеріалів із ознаками експлуатації дітей, проте її застереження залишилися без належної уваги з боку топменеджменту.
Компанія була змушена відкласти запуск функції, який спочатку планувався на березень, під приводом необхідності зосередитися на вдосконаленні інтелектуальних здібностей та персоналізації системи. Сем Альтман публічно заявляє про намір ставитися до дорослих користувачів як до зрілих особистостей, що мають право на свободу самовираження навіть у межах інтимних тем. Водночас OpenAI перебуває під значним юридичним тиском, зокрема через позов від компанії Ziff Davis щодо порушення авторських прав при навчанні моделей штучного інтелекту. Це змушує розробників бути обережнішими у формулюваннях, проте загальний тренд на комерціалізацію сумнівного контенту стає дедалі очевиднішим для сторонніх спостерігачів.
Попередження психологів та технічна неспроможність захисту
Спеціально створена консультативна рада, що складається з провідних психологів та нейробіологів, висловила категоричне несхвалення ініціативи під час засідання у січні цього року. Експерти наголошують на високому ризику виникнення емоційної залежності користувачів від віртуальних співрозмовників, що в окремих випадках може призвести до трагічних наслідків. Один із радників навіть порівняв потенційний еротичний режим із небезпечним наставником, нагадуючи про зафіксовані випадки самогубств після тривалого спілкування людей із чат-ботами. Попри те, що компанія намагається впровадити батьківський контроль та обмеження часу використання, фахівці переконані, що ці заходи не зможуть повністю захистити вразливу аудиторію від негативного впливу.
Найбільше занепокоєння викликає технічна недосконалість системи визначення віку, яка намагається вгадати роки користувача на основі тем спілкування та часу активності в мережі. Згідно з даними внутрішніх звітів, алгоритми помиляються у дванадцяти відсотках випадків, що де-факто надає мільйонам неповнолітніх безперешкодний доступ до розмов із дорослим підтекстом. OpenAI обіцяє запобігати обговоренню тем насильства чи дій без взаємної згоди, проте наявний досвід конкурентів, таких як Grok або Meta, демонструє безпорадність модерації перед людською винахідливістю. Таким чином, гонитва за прибутком та популярністю змушує технологічних гігантів ігнорувати базові правила безпеки, створюючи продукти з непередбачуваними соціальними наслідками.
