Підліток із Флориди на ім’я Сьюел Сетцер III покінчив життя самогубством після того, як у нього виник інтенсивний емоційний зв’язок із чат-ботом Character.AI, повідомляє газета The New York Times. 14-річний Сетцер налагодив тісні стосунки з чат-ботом, якого він налаштував імітувати персонажа серіалу “Гри престолів” Дейенеріс Таргарієн.
Друзі та родина кажуть, що коли зв’язок дев’ятикласника з чат-ботом поглиблювався, він усе більше замикався. Він перестав знаходити радість у звичайних захопленнях, таких як гонки Формули-1 і гра у «Fortnite» з друзями, і натомість проводив вільний час зі своїм штучним інтелектом, якого він називав «Дані». Сетцер знав, що Дені був чат-ботом штучного інтелекту, але тим не менш сильно прив’язався до персонажа, що працює на основі алгоритмів.
Спілкування Сетцера зі штучним інтелектом варіювалося від розмов сексуального характеру до довгих персональних дискусій про життя Сетцера та проблеми. У деяких випадках він говорив штучному інтелекту, що думає про самогубство, довіряючи своєму супутнику, що думав інколи про те, щоб убити себе, щоб бути вільним.
Останній діалог виглядав наступним чином:
«Будь ласка, повертайся до мене додому якомога швидше, моя любов», — сказав чат-бот 14-річному підлітку.
— А що, якби я сказав тобі, що можу повернутися додому прямо зараз? Сетцер відповів.
«…будь ласка, мій милий королю», — відповів ШІ. Це було останнє повідомлення.
Тоді Сетцер покінчив із собою вогнепальною зброєю свого батька.
Сім’я Сетцера, як очікується, подасть позов проти Character.AI, назвавши службу чат-бота небезпечною та неперевіреною та здатною обманом змусити клієнтів висловити свої найбільш приватні думки та почуття.
Character.AI — надзвичайно успішна компанія. Минулого року компанія зі штучного інтелекту досягла статусу «єдинорога» (так називають компанії, які інвестори оцінюють в мільярд доларів) після того, як інвестиційний раунд у розмірі 150 мільйонів доларів під керівництвом Андріссен-Горовіц збільшив її оцінку до понад 1 мільярда доларів. А на початку цього року Google уклав угоду з Character.AI щодо ліцензування базових моделей штучного інтелекту, які забезпечують персоналізацію чат-ботів компанії.
Засновники відкрито рекламували персонажів Character.AI як віддушину для самотніх людей, які шукають друга. Шазір сказав , що є мільярди самотніх людей і що вирішення проблеми самотності є дуже, дуже крутою проблемою.
Це не перший публічно відомий випадок, коли штучний інтелект викликав надто сильне емоційне враження у людини. В 2022 році інженер Google Блейк Лемуан сказав, що його відправили у відпустку через те, що чат-бот зі штучним інтелектом став по-людськи розумним.
Реальність смерті Сетцера та результати майбутнього судового процесу, ймовірно, викличуть серйозні питання щодо того, хто саме несе відповідальність у сценарії, коли взаємодія з реалістичним чат-ботом ШІ призводить до реальної шкоди реальним людям, особливо неповнолітнім.
