Компания OpenAI, которая в свое время обещала спасать человечество с помощью искусственного интеллекта, теперь активно работает над внедрением специального режима для взрослых в своем популярном чат-боте ChatGPT. По информации издания Wall Street Journal, данный функционал позволит пользователям вести текстовые разговоры на интимные темы, хотя разработчики изящно пытаются разграничить понятия пикантного контента и откровенной порнографии. Официальные представители компании утверждают, что система не будет генерировать эротические изображения или аудиозаписи, однако сама идея легализации эротики в рамках платформы свидетельствует о радикальном изменении предыдущей этической политики. Руководство под началом Сэма Альтмана постепенно отказывается от строгих запретов, действовавших с момента релиза технологии в ноябре две тысячи двадцать второго года, занимаясь поиском новых способов удовлетворения потребностей взрослой аудитории.
Процесс разработки нового режима сопровождается серьезными внутренними спорами, которые привели к увольнению высокопоставленных сотрудников, не согласных с курсом компании. Райан Байермейстер, возглавлявшая направление продуктовой политики и открыто критиковавшая планы по внедрению эротического контента, была уволена в начале этого года при достаточно странных обстоятельствах. Официально OpenAI обвинила ее в дискриминации коллеги-мужчины, хотя сама Байермейстер называет эти обвинения абсолютно беспочвенными и связывает свое устранение именно с принципиальной позицией относительно безопасности подростков. Она неоднократно подчеркивала, что компания не обладает достаточными инструментами для предотвращения распространения материалов с признаками эксплуатации детей, однако ее предостережения остались без должного внимания со стороны топ-менеджмента.
Компания была вынуждена отложить запуск функции, который изначально планировался на март, под предлогом необходимости сосредоточиться на совершенствовании интеллектуальных способностей и персонализации системы. Сэм Альтман публично заявляет о намерении относиться к взрослым пользователям как к зрелым личностям, имеющим право на свободу самовыражения даже в рамках интимных тем. В то же время OpenAI находится под значительным юридическим давлением, в частности из-за иска от компании Ziff Davis относительно нарушения авторских прав при обучении моделей искусственного интеллекта. Это заставляет разработчиков проявлять большую осторожность в формулировках, однако общая тенденция к коммерциализации сомнительного контента становится все более очевидной для сторонних наблюдателей.
Предупреждения психологов и техническая неспособность защиты
Специально созданный консультативный совет, состоящий из ведущих психологов и нейробиологов, выразил категорическое неодобрение инициативы во время заседания в январе этого года. Эксперты подчеркивают высокий риск возникновения эмоциональной зависимости пользователей от виртуальных собеседников, что в отдельных случаях может привести к трагическим последствиям. Один из советников даже сравнил потенциальный эротический режим с опасным наставником, напоминая о зафиксированных случаях самоубийств после длительного общения людей с чат-ботами. Несмотря на то, что компания пытается внедрить родительский контроль и ограничения времени использования, специалисты убеждены, что данные меры не смогут полностью защитить уязвимую аудиторию от негативного влияния.
Наибольшее беспокойство вызывает техническое несовершенство системы определения возраста, которая пытается угадать годы пользователя на основе тем общения и времени активности в сети. Согласно данным внутренних отчетов, алгоритмы ошибаются в двенадцати процентах случаев, что де-факто предоставляет миллионам несовершеннолетних беспрепятственный доступ к разговорам с взрослым подтекстом. OpenAI обещает предотвращать обсуждение тем насилия или действий без взаимного согласия, однако имеющийся опыт конкурентов, таких как Grok или Meta, демонстрирует беспомощность модерации перед человеческой изобретательностью. Таким образом, погоня за прибылью и популярностью заставляет технологических гигантов игнорировать базовые правила безопасности, создавая продукты с непредсказуемыми социальными последствиями.
