Технологии клонирования голоса с помощью искусственного интеллекта достигли уровня, когда мошенники способны убедительно имитировать человеческие голоса, что делает их звонки чрезвычайно реалистичными. Исследования также показывают, что люди, к сожалению, не слишком хорошо различают синтетические и настоящие голоса, что создает значительную проблему для идентификации собеседника и меняет представление о достоверности слуховой информации.
Например, один пользователь платформы X поделился собственной историей. Он получил звонок от человека, представившегося его женой и сообщившего, что она забыла кошелек, и ей нужна кредитная карта для оплаты топлива. Однако настоящая жена в это время находилась дома вместе с ним, а также управляет электромобилем Tesla, который не требует бензина.
Голос собеседника звучал «на сто процентов как она», хотя и имел несколько странный, измененный темп речи. Пользователь отметил, что если бы его жены не было рядом и звонок не касался оплаты топлива, он мог бы стать жертвой мошенничества. Он продолжал разговор, пытаясь выяснить больше деталей, чувствуя полную растерянность во время общения.
По словам пользователя, звонок, вероятно, был «голосовым дипфейком» или фильтром, изменяющим голос в реальном времени, поскольку ответы были слишком быстрыми для генеративного искусственного интеллекта. Он выразил сожаление, что не подумал записать разговор. Этот случай наглядно демонстрирует, что эпоха, когда распознавание голоса было достаточным доказательством идентичности собеседника, завершилась.
Когда эта история получила распространение на платформе Reddit, некоторые пользователи сначала выразили сомнения в ее правдивости. Однако впоследствии появилось много людей, которые делились похожими случаями, что подтверждает рост масштабов подобного мошенничества. Один из пользователей рассказал, что неделю назад его тете и бабушке звонили мошенники, которые, выдавая себя за адвоката, утверждали, что он находится в тюрьме и нуждается в залоге.
Угроза голосового мошенничества с помощью искусственного интеллекта
Согласно исследованию под названием «Оценка возможностей моделей искусственного интеллекта по автоматизации голосовых фишинговых атак», опубликованному в 2026 году Фредом Хайдингом и его коллегами, был проведен опрос 4100 взрослых жителей США. Это исследование показало, что до 36,1 процента опрошенных заявили, что они готовы подчиниться или не уверены, подчинились бы ли мошенничеству «родственник в беде», управляемому искусственным интеллектом.
Важно отметить, что эта цифра отражает субъективную готовность людей к вероятному взаимодействию с мошенниками, а не фактическое количество лиц, которые были обмануты и передали деньги. Исследователи классифицируют этот показатель как меру восприимчивости к мошенничеству, а не как данные о фактическом поведении, что позволяет оценить потенциальный риск.
Дополнительно исследователи обнаружили, что убедительность сообщения играла большую роль в вероятности успеха мошенничества, чем степень реалистичности голоса, генерируемого искусственным интеллектом. Примечательно, что пользователи, регулярно взаимодействующие с искусственным интеллектом, оказались не лучше в распознавании синтетических голосов, чем те, кто не имеет такого опыта.
Хотя схема мошенничества, заключающаяся в выманивании денег под видом родственников, попавших в беду, давно известна, технологии искусственного интеллекта значительно усиливают ее опасность. В ситуации, когда голос мошенника звучит идентично голосу вашего близкого человека, возникает сложный вопрос: как можно с уверенностью проверить, кто именно находится на другом конце линии?
Меры защиты и будущие вызовы
Одним из эффективных способов противодействия этой угрозе является введение семейного кодового слова уже сегодня. Это не обязательно должна быть сложная фраза или слово; достаточно выбрать что-то, что известно только членам семьи, и что мошенник вряд ли сможет угадать или узнать из публичных источников в интернете.
Существует еще более простая мера предосторожности: стоит немедленно прервать подозрительный звонок и самостоятельно перезвонить лицу, которое якобы связывалось с вами, используя номер телефона, который вам уже известен. Если ваш сын, дочь, партнер или родители внезапно звонят с просьбой срочно предоставить деньги, не полагайтесь исключительно на соответствие голоса.
Случай с компанией Ferrari, связанный с технологией дипфейка, наглядно демонстрирует эффективность личной верификации. В 2024 году один из руководителей Ferrari получил сообщение, а затем и телефонный звонок от человека, имитировавшего генерального директора Бенедетто Винью. Обнаружив подозрение, руководитель спросил якобы Винью, какую книгу настоящий генеральный директор недавно ему рекомендовал. Собеседник не смог дать правильный ответ, и попытка обмана была раскрыта.
Семейное кодовое слово, по сути, выполняет аналогичную функцию подтверждения личности. Эта превентивная мера является чем-то, о чем стоит начать задумываться уже сегодня, если вы еще не предприняли подобных шагов для защиты своих близких от возможных мошеннических действий.
«Самое глубокое влияние искусственного интеллекта проявляется не на наших устройствах, а на нас самих», — отмечает Марк Бир, руководитель отдела потребителей в Malwarebytes. Он объясняет, что когда люди теряют способность доверять тому, что они видят, слышат или с кем общаются, ущерб выходит далеко за рамки отдельных мошеннических схем, затрагивая фундаментальные основы общества.
Опрос, проведенный компанией Malwarebytes и опубликованный в июне, выявил, что 85 процентов респондентов считают сложным отличить мошенничество от настоящих событий, тогда как в предыдущем году этот показатель составлял 66 процентов. Еще более показательно, что 88 процентов опрошенных отметили, что становится все труднее различать, какой контент в интернете является действительно человеческим или достоверным.
Эта проблема не ограничивается лишь слуховым восприятием. Сгенерированные искусственным интеллектом изображения и дипфейк-видео все чаще ставят под сомнение предположение о том, что личное видение или ощущение чего-либо является безусловным доказательством реальности события, что углубляет кризис доверия к цифровому контенту.
Раньше мы могли полагаться на знакомый голос как на убедительное доказательство личности, однако в 2026 году этого уже недостаточно. Технологии голосового искусственного интеллекта будут продолжать совершенствоваться и становиться более убедительными, поэтому наше поведение должно адаптироваться к этим изменениям. Важно уже сейчас договориться о кодовом слове с ближайшими людьми, а в случае неожиданного звонка с требованием денег – немедленно завершить разговор и перезвонить им самостоятельно.
