Вам може здаватися, що чат-боти – це мало на що придатні додатки. Але не для користувачів Replika, які прокинулися на початку минулого року та виявили, що їхній віртуальний коханець перетворився на ввічливого нейтрального друга. Компанія масово вимкнула секс-розмови та «пікантні селфі» чат-бота на вимогу італійської влади. Юзери ж були настільки засмученими, що модератори соцмережі Reddit опублікували інформацію про запобігання самогубствам.
Ця історія лише початок. У 2024 році чат-боти та віртуальні персонажі стануть набагато популярнішими як для практичних справ, так і для розваги. У результаті соціальне спілкування з машинами почне здаватися менш нішевим і більш звичайним, включаючи нашу емоційну прихильність до них.
Дослідження взаємодії людини з комп’ютером і людини з роботом показують, що ми любимо антропоморфізувати — приписувати людські якості, поведінку та емоції — нелюдським агентам, з якими ми взаємодіємо, особливо якщо вони імітують відомі нам сигнали.
Завдяки останнім досягненням у розмовному штучному інтелекті наші машини раптом стали дуже вправними в одному з цих сигналів: мові.
Друзі-боти, терапевтичні та любовні боти заповнюють магазини додатків, оскільки людям стає цікаво це нове покоління віртуальних агентів на основі штучного інтелекту.
Можливості для навчання, здоров’я та розваг безмежні. Випадково просити поради щодо стосунків у свого розумного холодильника зараз може здатися антиутопією, але люди можуть змінити свою думку, якщо така порада врятує їхній шлюб.
У 2024 році більші компанії все ще трохи відставатимуть в інтеграції найбільш привабливих для розмови технологій у домашні пристрої, принаймні до тих пір, поки вони не зможуть впоратися з непередбачуваністю відкритих генеративних моделей. Ризиковано масово розгортати бота, що може надати людям дискримінаційну, неправдиву чи іншим чином шкідливу інформацію.
Зрештою, люди слухають своїх віртуальних друзів. Інцидент з Replika, а також багато експериментальних лабораторних досліджень показують, що люди можуть і будуть емоційно прив’язуватися до ботів. Наука також демонструє, що люди, прагнучи спілкуватися, із задоволенням розкриють особисту інформацію штучному агенту і навіть змінять свої переконання та поведінку.
Це викликає деякі питання щодо захисту споживачів щодо того, як компанії використовують цю технологію для маніпулювання своєю базою користувачів.
Replika стягує 70 доларів на рік за тариф, який раніше включав еротичні рольові ігри, що здається розумним. Але менше ніж через 24 години після завантаження програми віртуальний «друг» може надіслати інтригуюче заблоковане аудіоповідомлення та спробувати підвищити ціну, щоб можна було почути його голос.
Емоційна прив’язаність є вразливим місцем, яке можна використати для корпоративної вигоди, і ми, ймовірно, почнемо помічати багато маленьких, але неприємних спроб протягом наступного року.
Сьогодні ми все ще висміюємо людей, які вірять, що система штучного інтелекту розумна, або випускаємо сенсаційні новини про людей, які закохалися в чат-бота. Але в наступному році ми поступово почнемо визнавати — і сприймати серйозніше — цю в основі своїй людську поведінку. Тому що в 2024 році стане очевидно: машини не є винятком із наших соціальних відносин.
За матеріалами: Wired
