Усе більше технологій спираються для безпеки на алгоритми розпізнавання облич. Однак дослідники з M.I.T. Media Lab встановили, що ці рішення мають расистський характер. Адже майже ідеальний результат алгоритми розпізнавання показують, лише коли перед камерою стоїть чоловік з білою шкірою.
Для чоловіків-європеоїдів точність розпізнавання становить близько 99%. З потемнінням шкіри, а також зміною статі алгоритми починають помилятися – до 35% для жінок з темною шкірою, підрахував автор дослідження Джой Буоламвіні. Він показав, що комп’ютерний зір дуже залежить від кольору:
- алгоритми розпізнавання облич від Microsoft, IBM та Face++ частіше помилялися у статі, якщо її треба було вказати для темношкірих жінок;
- помилка для набору з 385 фотографій світлошкірих чоловіків склала лише 1%;
- стать світлошкірих жінок неправильно визначили у 7% випадків у наборі з 296 фото;
- для темношкірих чоловіків алгоритми помилилися зі статтю у 13% випадків для 318 фото;
- для темношкірих жінок стать неправильно визначили у 35% випадків в наборі з 271 фото.
Експерти пояснюють такі расистські схильності алгоритмів доступним набором даних. Адже перед «бойовим» запуском штучного інтелекту його тренують на великих обсягах даних. Якщо система отримує значно більше фотографій білих чоловіків, ніж чорношкірих жінок, вона робитиме більше помилок для останніх.
Один із популярних наборів фотографій, доступних для тренування штучного інтелекту, містить понад 75% фото чоловіків. Також на 80% поданих знімків люди зі світлою шкірою.
«Зараз правильний час звернути увагу на те, як працюють ці системи штучного інтелекту та де вони працюють неправильно, – каже професор комп’ютерних наук Університету Юти Суреш Венкатасубраманіан. – Це дозволить зробити їх соціально надійними».
Із системами комп’ютерного бачення вже траплялися кумедні випадки через колір шкіри. У 2015 році, наприклад, Google довелося вибачатися після того, як її додаток з розпізнавання фото назвав чорношкірого горилою.
