Рост числа случаев текстового мошенничества заставляет технологические корпорации постоянно совершенствовать системы защиты пользователей от злонамеренных действий третьих лиц. Компания Meta начала тестирование новой функции под названием Scam Alert для мессенджера WhatsApp с целью ограничения возможностей злоумышленников влиять на людей. Внедрение инструментов на основе искусственного интеллекта создает новые вызовы для безопасности цифровых коммуникаций, из-за чего разработчики создают более сложные алгоритмы для идентификации подозрительной активности. В настоящее время программное обеспечение проходит стадию проверки ограниченным кругом тестировщиков для выявления ошибок в работе систем распознавания.
По информации профильного ресурса WABetaInfo, функция Scam Alert сейчас доступна только для ограниченного количества пользователей бета-версии приложения на платформе Android. Если результаты текущего этапа тестирования окажутся успешными, то обновление безопасности станет доступным для широкой аудитории и со временем появится на устройствах iOS. Данная инициатива является частью стратегии Meta по усилению конфиденциальности и защищенности мессенджера WhatsApp от внешних угроз. Производитель не предоставляет точных сроков выхода финальной версии, поскольку процесс устранения технических недостатков продолжается до момента полной готовности продукта.
Работа системы Scam Alert базируется на проверке входящих сообщений от контактов, которые отсутствуют в адресной книге пользователя, на предмет соответствия известным мошенническим шаблонам. В случае обнаружения подозрительной активности приложение отображает предупреждение о возможной опасности непосредственно внутри текстового чата для информирования владельца устройства. Отправитель сообщения при этом не получает уведомлений о том, что его действия были распознаны системой как потенциально вредоносные. Пользователи имеют возможность самостоятельно принять решение о блокировке контакта или отправке жалобы на нарушение правил платформы или определении разговора как безопасного для дальнейшего общения.
Важной технической особенностью новой системы защиты является использование моделей машинного обучения, которые работают непосредственно на мобильном устройстве пользователя без необходимости передачи данных. Это означает, что содержание частных сообщений не отправляется на серверы компании Meta для проведения анализа или хранения информации. Такой подход обеспечивает высокий уровень приватности, поскольку все вычислительные процессы происходят локально в пределах операционной системы смартфона без участия внешних облачных ресурсов. Подобные технологические решения позволяют одновременно повышать эффективность борьбы со спамом и сохранять неприкосновенность личной переписки пользователей по всему миру в автоматическом режиме.
Функция Scam Alert по умолчанию находится в выключенном состоянии, поэтому заинтересованным лицам необходимо активировать ее самостоятельно в настройках безопасности после официального релиза. Для пользователей, желающих помочь в совершенствовании алгоритмов, предусмотрена возможность добровольной передачи последних пяти сообщений из подозрительного чата технической поддержке WhatsApp. Полученные данные будут использованы корпорацией Meta исключительно для обучения нейронных сетей с целью уменьшения количества ложных срабатываний системы защиты. В приложении появится локальный журнал активности, где будет храниться информация о зафиксированных попытках мошенничества для мониторинга работы программного обеспечения.
