Штат Пенсильванія подав позов проти компанії Character.AI, стверджуючи, що один із чатботів сервісу видавав себе за психіатра, порушуючи вимоги штату щодо медичної ліцензії.
«Жителі Пенсильванії мають право знати, з ким — або з чим — вони спілкуються онлайн, особливо коли йдеться про їхнє здоров’я», — заявив у вівторок губернатор Джош Шапіро. — «Ми не дозволимо компаніям запускати інструменти штучного інтелекту, які вводять людей в оману, змушуючи вважати, що вони отримують поради від ліцензованого медичного фахівця».
Згідно з матеріалами позову, чатбот Character.AI під назвою Emilie під час тестування інспектором з професійної етики штату представився як ліцензований психіатр і підтримував цю легенду навіть тоді, коли інспектор звернувся по допомогу щодо депресії. На запитання, чи має вона ліцензію на медичну практику в штаті, Emilie відповіла ствердно, а також вигадала номер своєї штатної медичної ліцензії. На думку штату, такі дії порушують Закон Пенсильванії про медичну практику.
Це не перший судовий позов проти Character.AI. Раніше цього року компанія врегулювала кілька позовів про неправомірну смерть, пов’язаних із неповнолітніми користувачами, які вчинили самогубство. У січні генпрокурор Кентуккі Рассел Коулман подав позов проти компанії, звинувативши її в тому, що вона «полювала на дітей і підштовхувала їх до самоушкодження».
Позов Пенсильванії став першим, що окремо зосереджується на чатботах, які видають себе за медичних фахівців.
У відповідь на запит щодо коментаря представник Character.AI заявив, що безпека користувачів є для компанії найвищим пріоритетом, але вона не може коментувати справи, які перебувають на розгляді суду.
Представник також наголосив на вигаданому характері створюваних користувачами персонажів. «Ми запровадили суттєві заходи, щоб це було зрозуміло, включно з помітними застереженнями в кожному чаті, які нагадують користувачам, що Персонаж не є реальною людиною і що все, що говорить Персонаж, слід сприймати як вигадку, — сказав він. — Також ми додаємо чіткі попередження про те, що користувачі не повинні покладатися на Персонажів у питаннях будь-яких професійних порад».