Багато років тому інженери технологічних гігантів створили інструменти, які дозволяли розпізнати будь-яке обличчя. Але розробники, побачивши, яку страшну технологію створили, побоялися її випускати з лабораторії. Ну і фінансові штрафи дещо допомогли стримати такого антиутопічного монстра: Facebook довелося заплатити $650 млн, щоб владнати судовий позов проти своєї технології розпізнавання облич.
Одного дня на початку 2017 року в штаб-квартирі Facebook у Менло-Парку, штат Каліфорнія, інженер на ім’я Томмер Лейванд сидів у конференц-залі зі смартфоном, який стояв на краю його бейсболки. Мобільник був тимчасово закріплений камерою назовні.
Абсурдна шапка-телефон, особливо некрута версія майбутнього, містила секретний інструмент, відомий лише невеликій групі співробітників. Те, що ця шапка могла зробити, було неймовірним.
Кілька чоловіків у кімнаті схвильовано сміялися та перемовляли один через одного, як було зафіксовано на відео, знятому того дня, доки один із них не попросив тиші. У кімнаті затихло; демонстрація тривала.
Лейванд повернувся до чоловіка, який сидів навпроти нього. Лінза камери смартфона — кругла, чорна, немигаюча — розглядала обличчя перед собою. Через дві секунди роботизований жіночий голос оголосив: «Зак Говард».
«Це я», — підтвердив інженер-механік Зак Говард.
Співробітник, який бачив демонстрацію технології, подумав, що це був жарт. Але коли телефон почав правильно називати імена присутніх у кімнаті, йому стало моторошно, наче щось виринуло із антиутопічного фільму.
Капелюх-телефон, що розпізнає людину, був би знахідкою для людей із проблемами зору чи сліпотою, але це було ризиковано. Попереднє впровадження Facebook технології розпізнавання облич, щоб допомогти людям позначати друзів на фотографіях, викликало обурення з боку захисників конфіденційності та призвело до колективного позову в Іллінойсі в 2015 році, який зрештою коштував компанії 650 мільйонів доларів.
Через шість років компанія, відома як Meta, не випустила версію цього продукту, і Лейванд відправився в Apple, щоб працювати над окулярами доповненої реальності Vision Pro.
В останні роки стартапи Clearview AI та PimEyes розширили межі того, що вважалося можливим, випустивши системи пошуку облич у поєднанні з мільйонами фотографій із інтернету (PimEyes) або навіть мільярдами фото (Clearview). За допомогою цих інструментів, доступних поліції у випадку Clearview AI і широкому загалу у випадку PimEyes, знімок когось можна використовувати для пошуку інших онлайн-фотографій, на яких з’являється це обличчя, потенційно розкриваючи ім’я, профілі в соціальних мережах. Або можна знайти інформацію, яку людина ніколи не хотіла б оприлюднювати публічно, як-от небезпечні фотографії.
Те, що зробили ці стартапи, не було технологічним проривом; це був етичний зсув. Технічні гіганти розробили технологію розпізнавати обличчя незнайомих людей багато років тому, але вирішили стримати цю технологію, вирішивши, що найекстремальніша версія — позначення імені на обличчі незнайомця — надто небезпечна, щоб зробити її широко доступною.
Тепер, коли табу порушено, технологія розпізнавання обличчя може стати повсюдною. Зараз вона використовується поліцією для розкриття злочинів, авторитарними урядами для спостереження за своїми громадянами та підприємствами. Незабаром вона може стати інструментом у всіх наших руках, додатком на нашому телефоні — або в окулярах доповненої реальності — який започаткує світ, в якому кожен знатиме ваше ім’я.
Ми вирішили зупинитися
Ще в 2011 році інженер Google розповів, що працював над інструментом для пошуку чиїхось облич у Google і показу інших фотографій в інтернеті. Кілька місяців потому голова правління Google Ерік Шмідт сказав в інтерв’ю, що Google «створив цю технологію, а ми її приховали».
«Наскільки мені відомо, це єдина технологія, створена Google, і, переглянувши її, ми вирішили зупинитися», — сказав пан Шмідт.
Навмисно чи ні, технічні гіганти також допомогли стримати технологію від загального обігу, захопивши найпередовіші стартапи, які її пропонували.
У 2010 році Apple купила багатообіцяючу шведську компанію з розпізнавання облич під назвою Polar Rose. У 2011 році Google придбав американську компанію з розпізнавання облич PittPatt, яка популярна серед федеральних агентств. А в 2012 році Facebook придбав ізраїльську компанію Face.com.
У кожному разі нові власники закрили послуги придбаних компаній стороннім особам. Важковаговики Кремнієвої долини були де-факто привратниками того, як і чи будуть використовуватися технології розпізнавання облич.
Facebook, Google і Apple розгорнули технологію розпізнавання облич у спосіб, який вони вважали відносно безпечним: як інструмент безпеки для розблокування смартфона, більш ефективний спосіб позначати знайомих друзів на фотографіях і організаційний інструмент для класифікації фотографій за обличчями люди в них.
Однак за останні кілька років створена огорожа була розтоптана меншими, більш агресивними компаніями, такими як Clearview AI та PimEyes.
Розуміння шляху розвитку технології розпізнавання облич допоможе нам орієнтуватися в тому, що буде з іншими досягненнями в області штучного інтелекту, такими як інструменти для створення зображень і тексту. Право вирішувати, що вони можуть, а що не можуть робити, дедалі більше визначатиме будь-хто, хто хоч трохи розбирається в техніці, який може не звертати уваги на те, що широка громадськість вважає прийнятним.
Стоячи на плечах велетнів
Як ми дійшли до того, що хтось може помітити красиву людину на вулиці, а потім за допомогою PimEyes спробувати дізнатися, хто вона і де працює? Коротка відповідь — це поєднання безкоштовного коду, опублікованої в інтернеті величезної кількості загальнодоступних фотографій та наукові статті, які пояснюють, як це все об’єднати, а також погане виконаня законів, що регулюють конфіденційність.
Співзасновник Clearview AI Хоан Тон-Тат, який очолював технологічний розвиток своєї компанії, не мав спеціального досвіду в біометрії. До Clearview AI він робив вікторини для Facebook, ігри для iPhone і дурні програми, такі як Trump Hair, щоб зробити людину на фотографії із зачіскою, як у Дональда Трампа.
У своєму прагненні створити новаторську та більш прибуткову програму Тон-Тат звернувся до безкоштовних онлайн-ресурсів, таких як OpenFace — «бібліотека розпізнавання облич», створена групою з Університету Карнегі-Меллона. Бібліотека коду була доступна на GitHub із попередженням: «Будь ласка, використовуйте відповідально!»
«Ми не підтримуємо використання цього проекту в програмах, які порушують конфіденційність і безпеку, — йдеться в заяві. – Ми використовуємо це, щоб допомогти користувачам з когнітивними порушеннями відчувати та розуміти навколишній світ».
Це було благородне прохання, але абсолютно нездійсненне.
Тон-Тат запустив код OpenFace, але він не був ідеальним, тож він продовжував шукати, блукати академічною літературою та сховищами коду, пробуючи те чи те, щоб побачити, що працює.
«Я не зміг би цього зробити, якби мені довелося будувати це з нуля, — сказав він, назвавши деяких дослідників, які володіли передовим комп’ютерним зором і штучним інтелектом, у тому числі хрещеного батька штучного інтелекту Джефрі Хінтона. – Я стояв на плечах велетнів».
Тон-Тат все ще будується. Clearview розробила версію свого додатка, яка працює з окулярами доповненої реальності, більш повно сформованою реалізацією капелюха від інженерів Facebook, створеного багато років тому.
Кінець анонімності
Окуляри доповненої реальності за 999 доларів, виготовлені компанією під назвою Vuzix, підключають користувача до бази даних Clearview із 30 мільярдами облич. Програма доповненої реальності Clearview, яка може ідентифікувати когось на відстані до 3 метрів, ще не є загальнодоступною, але армійці виділили фінансування для її можливого використання на військових базах.
Meta (Facebook) роками працює над власними окулярами доповненої реальності. На внутрішній зустрічі на початку 2021 року головний технічний директор компанії Ендрю Босуорт сказав, що він хотів би оснастити їх можливостями розпізнавання облич.
У записі внутрішньої зустрічі Босуорт сказав, що відмова від розпізнавання обличчя в окулярах доповненої реальності є втраченою можливістю для покращення людської пам’яті. Він розповідав про знайому багатьом ситуацію, коли йдеш на вечерю і зустрічаєш знайомого, але не пам’ятаєш його імені.
«Ми могли б наклеїти на них маленьку табличку з іменем, — сказав він у записі, коротко посміхнувшись. – Ми могли б. У нас є така здатність».
Але він висловив стурбованість щодо законності пропозиції такого інструменту. Босуорт сказав , що розпізнавання облич є «надзвичайно суперечливим» і що надання широкого доступу до нього є «дебатами, які ми повинні провести з громадськістю».
Поки окуляри доповненої реальності Meta все ще розробляються, компанія закрила систему розпізнавання облич у Facebook і видалила понад один мільярд відбитків облич своїх користувачів.
Знову включити таку систему було б досить легко. Прес-секретар Meta не виключив такої можливості на питання, чи може компанія одного разу включити розпізнавання облич у свої окуляри доповненої реальності.
За матеріалами: New York Times
