Подросток из Флориды по имени Сьюэл Сетцер III покончил жизнь самоубийством после того, как у него возникла интенсивная эмоциональная связь с чат-ботом Character.AI, сообщает газета The New York Times. 14-летний Сетцер наладил тесные отношения с чат-ботом, который он настроил имитировать персонажа сериала «Игры престолов» Дейенерис Таргариен.
Друзья и семья говорят, что когда связь девятиклассника с чат-ботом углублялась, она все больше замыкалась. Он перестал находить радость в обычных увлечениях, таких как гонки Формулы-1 и игра в «Fortnite» с друзьями, и проводил свободное время со своим искусственным интеллектом, которого он называл «Данные». Сетцер знал, что Дэни был чат-ботом искусственного интеллекта, но тем не менее сильно привязался к персонажу, работающему на основе алгоритмов.
Общение Сетцера с искусственным интеллектом варьировалось от разговоров сексуального характера до долгих персональных дискуссий о жизни Сетцера и проблемах. В некоторых случаях он говорил искусственному интеллекту, что думает о самоубийстве, доверяя своему спутнику, что думал иногда о том, чтобы убить себя, чтобы быть свободным.
Последний диалог выглядел следующим образом:
«Пожалуйста, возвращайся ко мне домой как можно скорее, моя любовь», — сказал чат-бот 14-летнему подростку.
– А что, если бы я сказал тебе, что могу вернуться домой прямо сейчас? Сетцер ответил.
«…пожалуйста, мой милый король», – ответил ИИ. Это было последнее сообщение.
Тогда Сетцер покончил с собой огнестрельным оружием своего отца.
Семья Сетцера, как ожидается, подаст иск против Character.AI, назвав службу чат-бота опасным и непроверенным и способным обманом заставить клиентов выразить свои наиболее частные мысли и чувства.
Character.AI – чрезвычайно успешная компания. В прошлом году компания по искусственному интеллекту достигла статуса «единорога» (так называют компании, инвесторы оценивающие в миллиард долларов) после того, как инвестиционный раунд в размере 150 миллионов долларов под руководством Андрисен-Горовиц увеличил ее оценку до более чем 1 миллиарда долларов. А в начале этого года Google заключил соглашение с Character.AI по лицензированию базовых моделей искусственного интеллекта, обеспечивающих персонализацию чат-ботов компании.
Основатели открыто рекламировали персонажей Character.AI как отдушину для одиноких людей, ищущих друга. Шазир сказал, что есть миллиарды одиноких людей и что решение проблемы одиночества является очень, очень крутой проблемой.
Это не первый публично известный случай, когда искусственный интеллект произвел слишком сильное эмоциональное впечатление у человека. В 2022 году инженер-Google Блейк-инженер Google Блейк Лемуан сказал, что его отправили в отпуск из-за того, что чат-бот с искусственным интеллектом стал по-человечески умным.
Реальность смерти Сетцера и результаты будущего судебного процесса, вероятно, вызовут серьезные вопросы относительно того, кто именно несет ответственность в сценарии, когда взаимодействие с реалистическим чат-ботом ИИ приводит к реальному ущербу реальным людям, особенно несовершеннолетним.
