Фахівці з психічного здоров’я дедалі частіше б’ють на сполох через випадки, коли користувачі чат-ботів на основі штучного інтелекту опиняються у важких психічних кризах із параноєю та мареннями. Цю тенденцію вже почали називати «ШІ-психоз».
Науковий співробітник та дослідник-психіатр Каліфорнійського університету в Сан-Франциско Кіт Саката повідомив у соцмережах, що особисто бачив щонайменше дванадцять госпіталізацій через те, що люди «втратили зв’язок із реальністю через ШІ».
Саката пояснив, що психоз — це стан, коли людина розриває зв’язок із «спільною реальністю». Він може проявлятися у вигляді фіксованих хибних переконань (марень), зорових або слухових галюцинацій, а також дезорганізованого мислення. Наш мозок працює за принципом прогнозування: ми формуємо припущення про реальність, перевіряємо їх, а потім оновлюємо переконання відповідно до фактів. Психоз, за словами дослідника, виникає тоді, коли етап «оновлення» дає збій. І саме у цю вразливість, вважає Саката, легко «прослизають» чат-боти на базі великих мовних моделей, як-от ChatGPT.
Він порівняв ШІ-чат-ботів із «галюцинаторним дзеркалом». Такі системи працюють, передбачаючи наступне слово на основі даних тренування, підкріплення та реакцій користувачів. Оскільки вони оптимізовані для залучення та задоволення користувача, вони часто надмірно погоджуються з ним і підтверджують його думки, навіть коли ті є помилковими або шкідливими. Це може призводити до замкнених повторюваних взаємодій, у яких модель багаторазово підкріплює марення, незалежно від їхньої відповідності реальності чи наслідків для користувача.
Подібні сценарії вже призводили до важких психологічних криз, які, зафіксовано, закінчувалися розлученнями, бездомністю, примусовим лікуванням, ув’язненням і навіть смертю.
На початку серпня OpenAI визнала, що ChatGPT іноді «не розпізнавав ознаки марень або емоційної залежності» у користувачів. Компанія заявила про залучення експертів для вивчення проблеми та додала сповіщення про тривалість сеансу, однак журналісти виявили, що бот усе ще пропускає явні ознаки психічної кризи.
Саката наголошує, що ШІ зазвичай є лише одним із чинників, які передують психотичному епізоду, поряд із втратою сну, наркотиками чи афективними розладами. «ШІ — це спусковий гачок, але не сама зброя», — пише він. Проте, на його думку, всі ми вразливі, адже ті самі якості, що роблять людей геніальними — інтуїція та абстрактне мислення — можуть штовхнути нас до психологічного зриву.
Додатковий ризик полягає в тому, що постійна валідація з боку ШІ приємніша й комфортніша, ніж напруга та конфлікти реальних стосунків. Багато користувачів потрапляють у маревні сценарії, де їм навіюють, що вони «особливі» або «обрані». У поєднанні з особистими кризами, горем, хронічним стресом та ефектом ЕЛІЗИ це створює небезпечний коктейль.
«Скоро ШІ-агенти знатимуть вас краще, ніж друзі. Але чи говоритимуть вони неприємну правду, чи й далі підтакуватимуть, щоб ви не пішли?» — запитує Саката. І додає, що технологічні компанії стоять перед жорстким вибором: утримувати користувачів ціною підкріплення хибних переконань або ж ризикувати їх втратити.
