Недавний инцидент с роботокси компании Waymo, когда оно остановилось и сообщило полицию о присутствии огнестрельного оружия, поднимает важные вопросы относительно конфиденциальности и автономных транспортных средств. Двое подростков, находившихся в салоне Waymo, были арестованы полицией после того, как в автомобиле был найден заряженный пистолет, классифицированный как «призрачное оружие», что привело к обсуждению того, что записывают эти автомобили, как эти данные используются, и какой уровень приватности ожидают пассажиры.
Автомобили Waymo, оснащенные многочисленными камерами, уже неоднократно становились предметом дискуссий по поводу конфиденциальности и наблюдения, поскольку правоохранительные органы получали ордера на видеозаписи с них. Такие случаи, как получение полицией Лос-Анджелеса записи ДТП с помощью Waymo, а также акты вандализма в отношении роботокси во время протестов против иммиграционной службы, вызывают обеспокоенность по поводу возможного использования этих данных для идентификации и ареста участников.
В отличие от предыдущих ситуаций, когда полиция обращалась к Waymo после совершения преступления для получения записей, на этот раз робота самостоятельно определила подозрительный предмет и инициировала полицейское вмешательство. Представители Waymo объяснили, что внутренние камеры используются для обеспечения соблюдения условий обслуживания, включая обнаружение запрещенных предметов и поведения, с использованием автоматизированных технологий для идентификации потенциальных нарушений, таких как наличие огнестрельного оружия.
Компания Waymo не уточнила, как именно его автоматизированная система определяет наличие огнестрельного оружия, с какой уверенностью срабатывает система, какую роль играют люди между автоматическим оповещением и вызовом полиции, а также какие другие нарушения условий обслуживания могут привести к полицейскому реагированию. Этот случай демонстрирует, как беспилотный автомобиль, оборудованный камерами и искусственным интеллектом, может эскалировать ситуацию, связанную с его пассажирами, до уровня правоохранительного вмешательства.
Эксперты считают, что система Waymo, вероятно, предназначена для выявления разнообразного потенциально опасного оружия и поведения, не требуя абсолютной уверенности в обнаружении огнестрельного оружия, а скорее сигнализируя о напоминающих его объектах для дальнейшей проверки. Такой процесс может включать привлечение удаленного оператора для анализа ситуации, однако, как отмечают специалисты, компьютерные системы распознавания объектов никогда не являются 100% точными.
Это подчеркивает важность человеческого контроля и контекста, которого может не хватать удаленным операторам по сравнению с опытом человеческого водителя, находившегося в автомобиле на протяжении всей поездки. В отличие от человеческого водителя, который может общаться с пассажирами и оценивать ситуацию, удаленный работник может не иметь полного понимания контекста событий, поскольку внутренние микрофоны Waymo, как правило, активны только во время звонков в службу поддержки пассажиров.
Отсутствие человеческого водителя может создавать у пассажиров ошибочное чувство приватности, но присутствие камер и потенциальное вмешательство компании в реагирование на события означают, что автомобиль является постоянно мониторинговым пространством. Условия обслуживания Waymo запрещают пассажирам перевозить оружие или его подобие, а также создавать опасные условия и компания оставляет за собой право приостанавливать или прекращать доступ пассажира в случае нарушения этих правил.
Политика компании по камерам указывает на их использование для контроля за соблюдением правил в салоне и обеспечения безопасности, но не дает четкой информации о том, что автоматизированный мониторинг может стать основанием для вызова полиции. Представители правозащитных организаций считают, что потребители не должны догадываться о возможности такого реагирования, и эта информация должна быть четко раскрыта до начала поездки, поскольку это выходит за пределы их ожиданий.
Таким образом, инцидент с роботакси Waymo ставит фундаментальный вопрос о том, каким пространством является роботакси: безопасной поездкой с камерами, постоянно мониторинговым пространством или системой, которая может самостоятельно вызвать полицию на своих пассажиров. Этот вопрос становится все более актуальным по мере распространения автономных транспортных средств, постепенно интегрирующихся в нашу повседневную жизнь.
