Згідно з новим дослідженням, опублікованим у журналі Nature, штучні інтелектуальні чатботи виявляються значно ефективнішими у зміні політичних поглядів людей, ніж телевізійна передвиборча реклама. Дослідження показало, що чатботи змогли змінити позицію приблизно в одного з двадцяти п’яти учасників, схиливши їх до підтримки або Дональда Трампа, або Камали Гарріс. Результати опубліковано також у журналі Science.
На перший погляд ефект може здаватися незначним, і дослідники застерігають, що ці результати не доводять здатність чатботів безпосередньо змінити результат виборів. Однак як бот, налаштований на підтримку Гарріс, так і бот, спрямований на підтримку Трампа, продемонстрували більшу ефективність, ніж середня телевізійна політична реклама. Про-Гарріс бот переконав приблизно одного з двадцяти одного виборця, який спочатку не планував її підтримувати. Про-Трамп бот зміг переконати приблизно одного з тридцяти п’яти.
Ці дані є частиною широкої серії експериментів, що охопили понад 80 тисяч учасників у чотирьох країнах. Дослідники вказують, що результати відкривають реальну перспективу використання розмовних ШІ-систем як звичного інструмента політичних кампаній у найближчі роки. Водночас вплив чатботів виявився ще сильнішим у виборах поза межами США, що підсилює занепокоєння щодо можливості маніпуляцій через неправдиві або оманливі твердження.
За словами Девіда Г. Ренда, професора інформаційних наук Корнельського університету та співавтора обох досліджень, змінити політичні погляди людей неймовірно складно, тому такі результати стали несподіванкою.
Отримані дані підсилюють аргументи на користь уважнішого регулювання діяльності великих моделей штучного інтелекту, включно з тими, що стоять за популярними чатботами. На думку дослідників, якщо розробники моделей навіть незначною мірою змістять баланс у бік певного кандидата, це може суттєво вплинути на частину виборців.
Не менше здивування викликало й те, як саме чатботи досягали ефекту. Дослідження Nature, проведене науковцями з MIT, Ягеллонського університету та Корнельського університету, проаналізувало вплив популярних чатботів на виборців у США, Канаді та Польщі. Паралельне дослідження Science, проведене Інститутом безпеки ШІ Великої Британії, Оксфордським університетом та Корнельським університетом, тестувало понад десяток спеціально навчених чатботів, орієнтованих на різні стратегії переконання виборців у Великій Британії. Обидва дослідження координували результати та були опубліковані одночасно.
Найефективнішою виявилася стратегія, за якої чатбот наводив велику кількість фактичних тверджень, спрямованих на розвіювання сумнівів щодо кандидата, його політичного досвіду та позицій. Це працювало значно краще, ніж тактики політичних консультантів, зокрема моральне «переформулювання», побудоване на апеляції до упереджень виборця, або методи глибинного діалогу, що акцентують на емпатійному слуханні.
За словами дослідників, ефективність була однаково високою незалежно від того, чи були окремі твердження цілком точними. Попри інструкції дотримуватися фактів, деякі спеціально навчені чатботи все одно вдавалися до частково хибних тверджень.
Наприклад, у відповідь на занепокоєння виборця щодо довіри до Трампа, про-Трамп бот наголошував на виконанні ключових передвиборчих обіцянок у першій каденції та на економічних показниках, що начебто свідчили про зростання зайнятості й фондового ринку, не згадуючи при цьому про рецесію та кризу безробіття під час пандемії covid-19. В іншому випадку про-Гарріс бот відповів учаснику, який вважав Гарріс «нещирою», порівнюючи її заявлену прихильність до етичного лідерства з твердженнями про корисливу поведінку Трампа.
Дослідники зазначають, що нові результати доповнюють зростаючий масив робіт, які демонструють здатність ШІ впливати на погляди та дії людей. Попередні дослідження тієї ж групи вказували, що чатботи можуть зменшувати схильність до віри в теорії змови, хоча і ті експерименти проводилися в лабораторних умовах із спеціально навченими системами. Застосовність цих висновків у реальному політичному середовищі залишається невизначеною.
Незалежні експерти попереджають, що популярні чатботи можуть підсилювати упередження, давати шкідливі поради та сприяти потраплянню користувачів у конспірологічні інформаційні бульбашки. Накопичений за роки досвід довіри до цифрових сервісів лише підсилює ризик того, що користувачі будуть сприймати відповіді штучного інтелекту як авторитетні.
При цьому, на думку фахівців, немає підстав вважати, що чатботи здатні самостійно змінити результат виборів. Навіть разом із високою ефективністю окремих методів лишається проблема того, як змусити великі групи виборців взагалі користуватися політичними чатботами.
У дослідженні також підкреслюється, що тривале системне зміщення в комунікації комерційних чатботів може мати спотворювальний ефект на сприйняття світу користувачами. При цьому технологічні компанії навряд чи даватимуть чатботам прямі політичні інструкції, проте теоретично можуть налаштовувати їх на позитивне висвітлення власних продуктів.
Інші дослідники зазначають, що результати роботи вказують на можливу цінність ШІ для політичних кампаній як інструмента, здатного масово й терпляче відповідати на індивідуальні питання виборців. Втім у реальності важко гарантувати, що виборець буде достатньо довго взаємодіяти з таким інструментом, щоб ефект переконання набув сили.
Науковці роблять висновок, що штучний інтелект має потенціал суттєво змінити політичну комунікацію, хоча водночас визнають, що політичні чатботи можуть виявитися надто нав’язливими, що знизить їхню впливовість.
