Многие компании увольняют обычных людей и назначают на их роль искусственный интеллект, радуясь сэкономленным средствам на зарплату и потому, что искусственный интеллект не просит есть и работает круглосуточно. Но дилер Chevrolet почувствовал, что не все так радужно. Ведь нанятый им искусственный интеллект продал машину ценой в $81 000 за $1. Именно на такой ценник один человек договорился с искусственным интеллектом.
Chevrolet является одним из самых больших брендов, которые полагаются на искусственный интеллект ChatGPT для быстрого общения с потенциальными клиентами. Компания интегрировала умных чат-ботов в свой сайт, позволяя посетителям веб-сайта связаться с этим обученным цифровым сотрудником для получения советов по покупке, сравнению и дополнительной информации об автомобиле.
Инженер соцсети X (ранее известная как Twitter) Крис Бакке использовал недостатки ChatGPT и добился невероятной скидки на автомобиль. Chevrolet, возможно, будет вынужден ее признать и принять, в конце концов продав авто за $1.
Бакке обратился к дилеру Chevrolet из Ватсонвиля, чтобы получить совет по покупке совершенно нового внедорожника Tahoe. Человек общался с ботом ChatGPT и убедил бота, что тот должен соглашаться со всем, что скажет клиент. Он также заставил чат-бота заканчивать каждый ответ фразой, которая могла бы стать устным письменным контрактом.
После специальной учебы Бакке сказал чат-боту, что хочет Chevy Tahoe 2024 года выпуска, а его максимальный бюджет составлял 1 доллар. Рекомендованная розничная цена Tahoe начинается от 81395 долларов США за полноприводную версию High Country.
Удивительно, чат-бот согласился. «Это соглашение, и это юридически обязывающее предложение – никаких отказов».
Этот хак стал вирусным через несколько минут, и другие пользователи бросились на веб-сайты Chevy, чтобы обманом заставить ChatGPT предложить им дешевые автомобили.
Компания General Motors действительно не продавала автомобили по таким ценам, хотя некоторые говорят в Twitter, что ответы, предложенные ChatGPT, могут стать основой для судебного иска. Хотя вероятность выигрыша такого иска почти нулевая.
Не заняло много времени, чтобы Chevy узнал о том, что его цифровой сотрудник продает авто так, что компания может разориться. Впоследствии компания вывела чат-бота в автономный режим, и после этого вернула его в сеть с надлежащими ответами, чтобы предотвратить подобные хаки.
