Много лет назад инженеры технологических гигантов создали инструменты, позволяющие распознать любое лицо. Но разработчики, увидев, какую страшную технологию создали, побоялись ее выпускать из лаборатории. Ну и финансовые штрафы несколько помогли сдержать такого антиутопического монстра – Facebook пришлось заплатить $650 млн, чтобы устроить судебный иск против своей технологии распознавания лиц.
Однажды в начале 2017 года в штаб-квартире Facebook в Менло-Парке, штат Калифорния, инженер по имени Томмер Лейванд сидел в конференц-зале со смартфоном, стоявшим на краю его бейсболки. Мобильник был временно закреплен камерой наружу.
Абсурдная шапка-телефон, особенно некрутая версия будущего, содержала секретный инструмент, известный лишь небольшой группе сотрудников. То, что эта шапка могла сделать, было невероятным.
Несколько мужчин в комнате взволнованно смеялись и переговаривались друг через друга, как было запечатлено на видео, снятом в тот день, пока один из них не попросил тишины. В комнате утихло; демонстрация продолжалась.
Лейванд вернулся к сидевшему напротив человека. Линза камеры смартфона – круглая, черная, немигающая – рассматривала лицо перед собой. Через две секунды роботизированный женский голос объявил: «Зак Говард».
«Это я», — подтвердил инженер-механик Зак Говард.
Сотрудник, который видел демонстрацию технологии, подумал, что это была шутка. Но когда телефон начал правильно называть имена присутствующих в комнате, ему стало жутко, словно что-то вынырнуло из антиутопического фильма.
Шляпа-телефон, распознающая человека, была бы находкой для людей с проблемами зрения или слепотой, но это было рискованно. Предыдущее внедрение Facebook технологии распознавания лиц, чтобы помочь людям помечать друзей на фотографиях, вызвало возмущение со стороны защитников конфиденциальности и привело к коллективному иску в Иллинойсе в 2015 году, который в конечном счете обошелся компании в 650 миллионов долларов.
Спустя шесть лет компания, известная как Meta, не выпустила версию этого продукта и Лейванд отправился в Apple, чтобы работать над очками дополненной реальности Vision Pro.
В последние годы стартапы Clearview AI и PimEyes расширили границы того, что считалось возможным, выпустив системы поиска лиц в сочетании с миллионами фотографий из Интернета (PimEyes) или даже миллиардами фото (Clearview). С помощью этих инструментов, доступных полиции в случае Clearview AI и широкой публике в случае PimEyes, снимок кого-то можно использовать для поиска других онлайн-фотографий, на которых появляется это лицо, потенциально раскрывая имя, профили в социальных сетях. Или можно найти информацию, которую человек никогда не хотел бы обнародовать публично, например опасные фотографии.
То, что сделали эти стартапы, не являлось технологическим прорывом; это был нравственный сдвиг. Технические гиганты разработали технологию распознавать лица незнакомых людей много лет назад, но решили сдержать эту технологию, решив, что самая экстремальная версия – обозначение имени на лице незнакомца – слишком опасна, чтобы сделать ее широко доступной.
Теперь, когда табу нарушено, технология распознавания лица может стать повсеместной. Сейчас она используется полицией для раскрываемости преступлений, авторитарными правительствами для наблюдения за своими гражданами и предприятиями. Вскоре она может стать инструментом во всех наших руках, приложением на нашем телефоне – или в очках дополненной реальности – который положил начало миру, в котором каждый будет знать ваше имя.
Мы решили остановиться
Еще в 2011 году инженер Google рассказал, что работал над инструментом для поиска чьих-либо лиц в Google и показа других фотографий в интернете. Спустя несколько месяцев председатель правления Google Эрик Шмидт сказал в интервью, что Google «создал эту технологию, а мы ее скрыли».
«Насколько мне известно, это единственная технология, созданная Google, и, просмотрев ее, мы решили остановиться», — сказал Шмидт.
Намеренно или нет, технические гиганты также помогли сдержать технологию от общего обращения, захватив самые передовые предлагавшие ее стартапы.
В 2010 году Apple купила многообещающую шведскую компанию по распознаванию лиц под названием Polar Rose. В 2011 году Google приобрела американскую компанию по распознаванию лиц PittPatt, которая популярна среди федеральных агентств. А в 2012 году Facebook приобрёл израильскую компанию Face.com.
В любом случае новые владельцы закрыли услуги приобретенных компаний посторонним лицам. Тяжеловесы Кремниевой долины были де-факто привратниками того, как и будут ли использоваться технологии распознавания лиц.
Facebook, Google и Apple развернули технологию распознавания лиц способом, который они считали относительно безопасным: как инструмент безопасности для разблокирования смартфона, более эффективный способ обозначать знакомых друзей на фотографиях и организационный инструмент для классификации фотографий по лицам люди в них.
Однако за последние несколько лет созданное ограждение было растоптано меньшими, более агрессивными компаниями, такими как Clearview AI и PimEyes.
Понимание пути развития технологии распознавания лиц поможет нам ориентироваться в том, что будет с другими достижениями в области искусственного интеллекта, такими как инструменты создания изображений и текста. Право решать, что они могут, а что не могут делать, все больше будет определять кто-нибудь, кто хоть немного разбирается в технике, который может не обращать внимания на то, что широкая общественность считает приемлемым.
Стоя на плечах великанов
Как мы пришли к тому, что кто-то может заметить красивого человека на улице, а затем с помощью PimEyes попытаться узнать, кто он и где работает? Краткий ответ – это сочетание бесплатного кода, опубликованного в интернете огромного количества общедоступных фотографий и научные статьи, объясняющие, как это все объединить, а также плохое исполнение законов, регулирующих конфиденциальность.
Соучредитель Clearview AI Хоан Тон-Тат, возглавлявший технологическое развитие своей компании, не имел специального опыта в биометрии. До Clearview AI он делал викторины для Facebook, игры для iPhone и глупые приложения, такие как Trump Hair, чтобы сделать человека на фотографии с прической, как у Дональда Трампа.
В своем стремлении создать новаторскую и прибыльную программу Тон-Тат обратился к бесплатным онлайн-ресурсам, таким как OpenFace — «библиотека распознавания лиц», созданная группой из Университета Карнеги-Меллона. Библиотека кода была доступна на GitHub с предупреждением: «Пожалуйста, используйте ответственно!»
«Мы не поддерживаем использование этого проекта в программах, нарушающих конфиденциальность и безопасность, — говорится в заявлении. – Мы используем это, чтобы помочь пользователям с когнитивными нарушениями чувствовать и понимать окружающий мир».
Это была благородная просьба, но совершенно невыполнимая.
Тон-Тат запустил код OpenFace, но он не был идеальным, поэтому он продолжал искать, блуждать по академической литературе и хранилищам кода, пробуя то, чтобы увидеть, что работает.
«Я не смог бы этого сделать, если бы мне пришлось строить это с нуля, – сказал он, назвав некоторых исследователей, обладавших передовым компьютерным зрением и искусственным интеллектом, в том числе крестного отца искусственного интеллекта Джефри Хинтона. – Я стоял на плечах великанов».
Тон-пап все еще строится. Clearview разработала версию своего приложения, работающего с очками дополненной реальности, более полно сформированной реализацией шляпы от инженеров Facebook, созданного много лет назад.
Конец анонимности
Очки дополненной реальности за 999 долларов, изготовленные компанией под названием Vuzix, подключают пользователя к базе данных Clearview с 30 миллиардами лиц. Программа дополненной реальности Clearview, которая может идентифицировать кого-то на расстоянии до 3 метров, еще не общедоступна, но армейцы выделили финансирование для ее возможного использования на военных базах.
Meta (Facebook) годами работает над очками дополненной реальности. На внутренней встрече в начале 2021 года главный технический директор компании Эндрю Босуорт сказал, что хотел бы оснастить их возможностями распознавания лиц.
В записи внутренней встречи Босуорт сказал, что отказ от распознавания лица в очках дополненной реальности есть упущенной возможностью для улучшения человеческой памяти. Он рассказывал о знакомой многим ситуации, когда идешь на ужин и встречаешь знакомого, но не помнишь его имени.
«Мы могли бы наклеить на них маленькую табличку с именем, – сказал он в записи, коротко улыбнувшись. – Мы могли бы. У нас есть такая способность».
Но он выразил обеспокоенность по поводу законности предложения такого инструмента. Босуорт сказал, что распознавание лиц «чрезвычайно противоречиво» и что предоставление широкого доступа к нему является «дебатами, которые мы должны провести с общественностью».
Пока очки дополненной реальности Meta все еще разрабатываются, компания закрыла систему распознавания лиц в Facebook и удалила более одного миллиарда отпечатков лиц своих пользователей.
Вновь включить такую ??систему было бы достаточно просто. Пресс-секретарь Meta не исключил такую ??возможность на вопрос, может ли компания однажды включить распознавание лиц в свои очки дополненной реальности.
New York Times
