Простая атака может привести так, что автопилот направит автомобиль на встречную полосу. Это доказали исследователи лаборатории Tencent Keen Security Lab, которые продемонстрировали как на ходу перехватить контроль над автопилотом Tesla. В качестве жертвы выбрали улучшенный автопилот Model S 75.
Улучшенный автопилот Tesla Enhanced Autopilot поддерживает много функций, среди которых – выравнивание в полосе, самостоятельная парковка, самостоятельная смена полосы. Для своей работы он использует камеры, ультразвуковые сенсоры и радар, с помощью которых собирает информацию об объектах вокруг, ландшафт и тому подобное. Данные потом передаются в бортовые компьютеры, которые работают на основе технологий нейросетей и машинного обучения для принятия решений в реальном времени.
Исследователи из Tencent Keen Security Lab проанализировали, как реагирует нейросеть автомобиля Tesla при изменении окружающих параметров. Они открыли, что есть простой способ заставить электронный мозг выехать на встречную полосу. Для этого необходимо на дороге разместить три небольших наклейки. Для живых водителей эти наклейки будут едва заметными, но электронный водитель подумает, что текущая полоса отклоняется влево. В результате автопилот также направляет машину влево.
«Автопилот Tesla имеет высокую устойчивость к изменению полосы в необычных окружающих условиях – при слабом свете, дожде, снеге, пыли, – но она до сих пор некорректно обрабатывает наш тестовый сценарий, – говорят эксперты. – Этот тип атаки очень легко воплотить, материалы являются легкодоступными. Для принятия решения о смене полосы автопилот Tesla использует только компьютерное видение. Наши эксперименты показали, что эта архитектура несет большие риски».
Исследователи также смогли удаленно перехватить контроль над автопилотом Tesla, воспользовавшись уязвимостью в его компьютере. Благодаря этому они смогли управлять автомобилем удаленно через джойстик. Эта дыру закрыли в прошивке Tesla 2018.24.
