Социальные платформы, такие как Facebook и X, усиливают политическую и социальную поляризацию, но не создают ее. Недавнее исследование, проведенное в Амстердамском университете (Нидерланды), поместило ИИ-чат-ботов в простую социальную сеть для анализа их взаимодействия. Оказалось, что даже без влияния алгоритмов боты самостоятельно организуются по заданным политическим предпочтениям и формируют собственные «эхо-камеры».
В исследовании, предыдущая версия которого опубликована на arXiv, взяли 500 чатботов на базе большой языковой модели GPT-4o mini от OpenAI и предоставили им конкретные персоналии. Затем их выпустили в простую соцсеть без рекламы, алгоритмов рекомендуемого контента или лент с персонализированным выбором сообщений. Ботам было поручено взаимодействовать друг с другом и с доступным контентом. В пяти различных экспериментах, в которых боты предприняли 10 000 действий, выяснилось, что они в основном подписывались на пользователей с аналогичными политическими взглядами. Также наиболее политизированные сообщения получали наибольшее количество подписчиков и репостов.
Эти результаты неутешительны для человечества, ведь чатботы имитируют человеческое поведение. В то же время это не полностью независимо от алгоритмического влияния — боты тренировались на реальных человеческих взаимодействиях, сформированных десятилетиями онлайн поведения в мире, где доминируют алгоритмы. Они лишь воспроизводят уже искаженные «отравленные» версии нашей социальной среды, и неизвестно, как нам из этого выйти.
Чтобы противодействовать самопроизвольному расколу, исследователи попробовали разные подходы: хронологическую ленту, уменьшение значимости вирусного контента, сокрытие количества подписчиков и репостов, сокрытие профилей пользователей, а также усиление контента противоположных взглядов. Последний метод в предыдущем исследовании показал успех-он способствовал высокой вовлеченности и низкой токсичности на симулированной платформе. Однако ни один из этих методов не привел к существенным изменениям — изменение вовлеченности политических аккаунтов не превышало 6%. В симуляции со скрытыми биографиями политический раскол даже углубился, и экстремистские сообщения получили больше внимания.
Похоже, что сама структура социальных сетей может быть неприемлемой для людей, потому что она усиливает наши худшие инстинкты и поведение. Социальные сети-это своего рода Кривое зеркало человечества: они отражают нас, но в самой искаженной форме. Неизвестно, существуют ли достаточно мощные «линзы», чтобы исправить то, как мы видим друг друга онлайн.
