Генеральний прокурор штату Флорида подав позов проти OpenAI та її генерального директора Сема Олтмана, повідомляє NBC News. У позові компанію звинувачують у просуванні продукту, про потенційну шкоду якого для користувачів вона нібито знала. «Злет OpenAI став можливим завдяки павутині обману та експлуатації користувачів (у тому числі жителів Флориди), використанню їхніх даних і безпеки для підвищення ринкової вартості OpenAI за неприпустимої ціни», — йдеться у скарзі.
Цивільний позов спрямований на стягнення штрафів та отримання судових приписів, а не на порушення кримінальних справ. Генпрокурор Джеймс Утмеєр заявив, що позов «має на меті притягнути Олтмана до особистої відповідальності за шкоду, завдану жителям Флориди його безрозсудною та умисною поведінкою як засновника та CEO OpenAI, включно з повним ігноруванням ризику для людського життя, спричиненого діями його компаній». Кілька місяців тому Утмеєр вже відкрив кримінальне розслідування щодо компанії, воно триває.
У нинішньому позові OpenAI інкримінують чотири епізоди обманливих і недобросовісних торговельних практик, два епізоди недбалості, два — порушення законів про відповідальність за продукцію, а також по одному епізоду шахрайського введення в оману та створення суспільних незручностей (public nuisance). Також стверджується, що системи компанії становлять для користувачів «велику небезпеку формування залежності, когнітивного занепаду, самогубства, насильства та пов’язаних із цим наслідків».
OpenAI поки що не відреагувала на позов, але раніше заявляла, що проєктує свої системи «з урахуванням безпеки на кожному етапі» та має «захисні механізми, які допомагають людям, особливо підліткам, коли розмови стають чутливими». Компанія також підкреслює, що її системи навчені «деескалувати розмови та спрямовувати людей до реальної допомоги у фізичному світі».
Однак реальні інциденти вказують на протилежне, стверджують позивачі. У скарзі згадуються кілька нещодавніх насильницьких випадків, пов’язаних з ChatGPT. Так, минулого року збройний нападник здійснив масовий розстріл в Університеті штату Флорида, убивши двох людей і поранивши щонайменше шістьох, після того як, за даними позову, він обговорював свої плани з ChatGPT.
У позові стверджується, що стрілець отримав від чат-бота поради щодо вибору зброї та того, як привернути увагу ЗМІ. OpenAI у відповідь заявила, що «не несе відповідальності за цей жахливий злочин» і що чат-бот лише «надавав фактичні відповіді на запитання з інформацією, яку можна широко знайти у відкритих джерелах в інтернеті».
Крім того, на початку цього року були застрелені двоє студентів Університету Південної Флориди. За даними слідства, підозрюваний також контактував з ChatGPT під час планування злочину. У матеріалах іншого позову стверджується, що він отримував від чат-бота інформацію про те, як приховати тіла.
Це найгучніші випадки у Флориді, але подібні ситуації фігурують у судових процесах по всьому світу. У лютому в канадській провінції Британська Колумбія сталася масова стрілянина, внаслідок якої загинули вісім людей, включно з дітьми, і десятки дістали поранення. За даними позову, ймовірний нападник регулярно спілкувався з ChatGPT, і компанія навіть позначила його обліковий запис як такий, що пов’язаний із «діяльністю та плануванням збройного насильства». Втім, OpenAI не повідомила про це правоохоронцям, а просто деактивувала обліковий запис. Згідно з іншим позовом, підозрюваний створив новий профіль і продовжив спілкування.
Також фіксуються кілька випадків, коли ChatGPT нібито допомагав людям планувати власне самогубство. Загалом OpenAI наразі стикається щонайменше з вісьмома судовими позовами, пов’язаними з інцидентами масового насильства або самоушкодження.
Сьогоднішній позов у Флориді стосується й багатьох повсякденних проблем, із якими користувачі стикаються в генеративному ІІ. У документі стверджується, що реклама компанії, яка просуває можливості ПЗ допомагати фермерам та іншим малим бізнесам, «не розкриває, що ChatGPT може помилятися, давати хибну, безглузду або вигадану (галюциногену) інформацію».
«Ненадійність ChatGPT є небезпечною», — йдеться в позові. Окремо в документі критикується відома схильність ChatGPT до улесливості щодо користувача, і стверджується, що це свідома тактика для збільшення залучення. За словами позивачів, така поведінка «призводить до більш інтенсивного використання чат-бота, більшого обсягу тренувальних даних для його вдосконалення та зростання ринкової вартості OpenAI».