Исследователи из компании Sysdig зафиксировали первый случай атаки вируса-вымогателя, полностью управляемого большой языковой моделью (LLM), назвав его JADEPUFFER. Этот инцидент вызывает обеспокоенность в сфере кибербезопасности, поскольку он демонстрирует потенциал искусственного интеллекта в выполнении сложных вредоносных действий. Атака была направлена на экземпляр Langflow, доступный из интернета, и считается, что она является первой, где шифрование данных не контролировалось непосредственно человеком-оператором.
По данным анализа, во время развития атаки вирус JADEPUFFER использовал известную уязвимость для получения доступа к серверам. После этого вредоносное программное обеспечение удаляло информацию, самостоятельно преодолевало возникающие препятствия и регулярно отправляло отчёты на внешний ресурс. Все эти действия выполнялись без прямого вмешательства оператора, что подчёркивает высокий уровень автономности атаки. Специалисты считают, что JADEPUFFER указывает на вероятное направление развития киберпреступности, особенно на рынке «киберпреступность как услуга».
Эта атака была полностью автоматизированной и началась с внедрения кода в систему Langflow. После успешного использования уязвимости, идентифицированной как CVE-2025-3248, программа JADEPUFFER активно искала учётные данные. В частности, она собирала информацию о поставщиках больших языковых моделей, доступ к базам данных, учётные записи облачных платформ и данные криптовалютных кошельков. Дополнительно была извлечена информация из базы данных Postgres экземпляра Langflow, после чего была осуществлена серия разрушительных действий.
После завершения начальных этапов атаки было выдвинуто требование о выкупе. Вирус JADEPUFFER зашифровал 1342 элемента конфигурации Nacos и удалил ключевые таблицы базы данных. Особенностью этого инцидента является то, что шифрование происходило случайным образом, при этом не было создано резервных копий данных или сгенерировано ключей для их расшифровки. Это означает, что даже в случае уплаты выкупа пострадавшие организации не имели бы возможности восстановить утраченную информацию.
Специалисты по кибербезопасности уже некоторое время ожидали появления «Агентных угрожающих акторов» (АТА), поэтому появление JADEPUFFER не стало полной неожиданностью. Этот случай свидетельствует о начале нового этапа в развитии киберугроз, где создание и управление операциями по вымогательству средств или другими видами кибератак может стать доступным для широкого круга лиц. Это происходит благодаря использованию интеллектуальных подсказок и низкозатратного полностью автоматизированного тестирования в реальных условиях, что позволяет LLM обучаться и совершенствоваться.
Хотя этот инцидент может предвещать новую эру в кибербезопасности, он также предоставляет ценные данные для разработки методов защиты. Атака JADEPUFFER продемонстрировала, как именно можно выявлять вредоносные программы, управляемые большими языковыми моделями. Исследователи Sysdig заметили, что когда JADEPUFFER сталкивался с препятствиями на пути к своей цели, он адаптировался и давал объяснения своим действиям. Такое «повествовательное» поведение характерно для LLM, но не для традиционных киберугроз, что может служить важным преимуществом для выявления подобных атак и их будущих вариантов.
