Согласно новому исследованию, опубликованному в журнале Nature, искусственные интеллектуальные чатботы оказываются значительно более эффективными в изменении политических взглядов людей, чем телевизионная предвыборная реклама. Исследование показало, что чатботы смогли изменить положение примерно у одного из двадцати пяти участников, склонив их к поддержке Дональда Трампа или Камалы Харрис. Результаты также опубликованы в журнале Science.
На первый взгляд эффект может показаться незначительным, и исследователи предупреждают, что эти результаты не доказывают способность чат-ботов напрямую изменять исход выборов. Однако и бот, настроенный на поддержку Харриса, и бот, нацеленный на поддержку Трампа, продемонстрировали большую эффективность, чем обычная телевизионная политическая реклама. Про-Харрис бот убедил примерно одного из двадцати одного избирателя, который изначально не планировал ее поддерживать. Про-Трамп бот смог убедить примерно одного из тридцати пяти.
Эти данные являются частью широкой серии экспериментов, охвативших более 80 тысяч участников в четырех странах. Исследователи отмечают, что результаты открывают реальную перспективу использования систем разговорного ИИ в качестве обычного инструмента политических кампаний в ближайшие годы. В то же время влияние чатботов оказалось еще сильнее на выборах за пределами США, что усиливает опасения по поводу возможности манипулирования ложными или вводящими в заблуждение утверждениями.
По словам Дэвида г. Рэнда, профессора информационных наук Корнельского университета и соавтора обоих исследований, изменить политические взгляды людей невероятно сложно, поэтому такие результаты стали неожиданностью.
Полученные данные усиливают аргументы в пользу более внимательного регулирования деятельности крупных моделей искусственного интеллекта, включая те, что стоят за популярными чатботами. По мнению исследователей, если разработчики моделей даже незначительно сместят баланс в сторону определенного кандидата, это может существенно повлиять на часть избирателей.
Не меньшее удивление вызвало и то, как именно чатботы достигали эффекта. Исследование Nature, проведенное учеными из Массачусетского технологического института, Ягеллонского университета и Корнельского университета, проанализировало влияние популярных чатботов на избирателей в США, Канаде и Польше. Параллельное исследование Science, проведенное институтом безопасности ИИ Великобритании, Оксфордским университетом и Корнельским университетом, проверило более десятка специально обученных чат-ботов, ориентированных на различные стратегии убеждения избирателей в Великобритании. Оба исследования координировали результаты и были опубликованы одновременно.
Самой эффективной оказалась стратегия, при которой чатбот приводил большое количество фактических утверждений, направленных на развеивание сомнений относительно кандидата, его политического опыта и позиций. Это работало значительно лучше, чем тактики политических консультантов, в частности моральное «переформулирование», построенное на апелляции к предубеждениям избирателя, или методы глубинного диалога, акцентирующие на эмпатическом слушании.
По словам исследователей, эффективность была одинаково высокой независимо от того, были ли отдельные утверждения полностью точными. Несмотря на инструкции придерживаться фактов, некоторые специально обученные чатботы все равно прибегали к частично ложным утверждениям.
Например, в ответ на беспокойство избирателя о доверии к Трампу, про-Трамп бот отмечал выполнение ключевых предвыборных обещаний в первой каденции и на экономических показателях, якобы свидетельствовавших о росте занятости и фондового рынка, не упоминая при этом о рецессии и кризисе безработицы во время пандемии covid-19. в противном случае о- Харрис бот ответил участнику, который считал Харрис» неискренней», сравнивая ее заявленную приверженность этическому лидерству с утверждениями о корыстном поведении Трампа.
Исследователи отмечают, что новые результаты дополняют растущий набор работ, демонстрирующих способность ИИ влиять на взгляды и действия людей. Предыдущие исследования той же группы показали, что чатботы могут уменьшить склонность верить в теории заговора, хотя эти эксперименты проводились в лабораторных условиях со специально обученными системами. Применимость этих выводов в реальной политической среде остается неопределенной.
Независимые эксперты предупреждают, что популярные чатботы могут усиливать предубеждения, давать вредные советы и способствовать попаданию пользователей в конспирологические Информационные пузыри. Накопленный за годы опыт доверия к цифровым сервисам лишь усиливает риск того, что пользователи будут воспринимать ответы искусственного интеллекта как авторитетные.
При этом, по мнению специалистов, нет оснований считать, что чатботы способны самостоятельно изменить исход выборов. Даже вместе с высокой эффективностью отдельных методов остается проблема того, как заставить большие группы избирателей вообще пользоваться политическими чатботами.
В исследовании также подчеркивается, что длительное системное смещение в коммуникации коммерческих чатботов может иметь искажающий эффект на восприятие мира пользователями. При этом технологические компании вряд ли будут давать чатботам прямые политические инструкции, однако теоретически могут настраивать их на положительное освещение собственных продуктов.
Другие исследователи отмечают, что результаты работы указывают на возможную ценность ИИ для политических кампаний как инструмента, способного массово и терпеливо отвечать на индивидуальные вопросы избирателей. Впрочем, в реальности трудно гарантировать, что избиратель будет достаточно долго взаимодействовать с таким инструментом, чтобы эффект убеждения обрел силу.
Ученые делают вывод, что искусственный интеллект может существенно изменить политическую коммуникацию, хотя в то же время признают, что политические чатботы могут оказаться слишком навязчивыми, что снизит их влиятельность.
