Все больше технологий опираются для безопасности на алгоритмы распознавания лиц. Однако исследователи из M. I. T. Media Lab установили, что эти решения носят расистский характер. Ведь почти идеальный результат алгоритмы распознавания показывают, только когда перед камерой стоит человек с белой кожей.

Для мужчин-европеоидов точность распознавания составляет около 99%. С потемнением кожи, а также сменой пола алгоритмы начинают ошибаться – до 35% для женщин с темной кожей, подсчитал автор исследования Джой Буоламвіні. Он показал, что компьютерное зрение очень зависит от цвета:

• алгоритмы распознавания лиц от Microsoft, IBM и Face++ чаще ошибались относительно пола, если его надо было указать для темнокожих женщин;
• ошибка для набора из 385 фотографий светлокожих мужчин составила лишь 1%;
• пол светлокожих женщин неправильно определили в 7% случаев в наборе из 296 фото;
• для темнокожих мужчин алгоритмы ошиблись с полом в 13% случаев для 318 фото;
• для темнокожих женщин пол неправильно определили в 35% случаев в наборе из 271 фото.

Эксперты объясняют такие расистские наклонности алгоритмов доступным набором данных. Ведь перед «боевым» запуском искусственного интеллекта его тренируют на больших объемах данных. Если система получает значительно больше фотографий белых мужчин, чем чернокожих женщин, она будет делать больше ошибок для последних.

Один из популярных наборов фотографий, доступных для тренировки искусственного интеллекта, содержит более 75% фото мужчин. Также на 80% представленных снимков люди со светлой кожей.

«Сейчас правильное время обратить внимание на то, как работают эти системы искусственного интеллекта и где они работают неправильно, – говорит профессор компьютерных наук Университета Юты Суреш Венкатасубраманиан. – Это позволит сделать их социально надежными».

С системами компьютерного видения уже случались забавные случаи из-за цвета кожи. В 2015 году, например, Google пришлось извиняться после того, как ее приложение по распознаванию фото назвало чернокожего гориллой.

Google является одним из главных игроков на рынке онлайновой рекламы в мире, и недавно компания получила шанс стать еще более могущественнее в этой сфере. Она получила власть решать, какая реклама является хорошей и какую она покажет, а какая, по ее мнению, является неприемлемой и подлежит блокированию. Эксперты уже предсказывают, что это может привести к существенным изменениям в интернете.Браузер Google Chrome, по последним оценкам, охватывает примерно 60% интернет-пользователей на ПК и мобильных устройствах. На днях он получил встроенный блокировщик рекламы, который обезопасит юзеров от надоедливых объявлений. Среди них – видеореклама с автовоспроизведением звука, всплывающие объявления с таймерами, «липучки», которые занимают большую часть экрана.

Подобная реклама стала плохой после недавнего принятия новых стандартов объявлений Коалицией за лучшую рекламу. Это группа интернет-компаний, рекламодателей и издателей, которые пытаются сделать объявления более подходящими для пользователей. Участником этой коалиции, например, является Бюро интерактивной рекламы, в который входит газета Washington Post.

Официальная цель Google – сделать Веб менее раздражительным. «Понятно, что надоедливая реклама унижает то, что мы любим в интернете», – говорит вице-президент Crome Рахул Роу-Човдури.

Опираясь на стандарты рекламы от Коалиции, поисковый гигант будет оценивать рекламу на веб-сайтах и определять ее как приемлемую или неприемлемую. Если веб-ресурс признали неприемлемым, у него будет 30 дней для наведения порядка в рекламе, которую он показывает. После этого необходимо будет снова пройти проверку. Иначе рекламу на сайте заблокирует встроенный в Chrome инструмент.

В Google говорят, что уже определили 1500 самых популярных интернет-сайтов, которые нарушают новопринятые стандарты приемлемой рекламы. Примерно 850 из них получили статус неприемлемых – они рискуют остаться без рекламных доходов в течение 30 дней.

Ситуация для издателей оказывается сложной, поскольку другие крупные рекламные площадки также делают условия для рекламы строже. Сегодня лидерами онлайнового рынка являются Google и Facebook, которые в 2017 году, по данным eMarketer, получили 60% рекламных доходов.

Apple в июне прошлого года также встроила инструменты блокировки рекламы в свой браузер Safari. Однако ее больше интересуют рекламодатели, которые следят за пользователями и собирают о них данные. По данным исполнительного директора компании Segment Питера Рейнхардта, после этих изменений заработок некоторых рекламодателей снизился на 20%.

Инициатива Google направлена на изменение внешнего вида веб-сайтов и их поведения. Убирая наиболее надоедливую рекламу, убеждены эксперты, поисковый гигант хочет убедить пользователей оставить ненавязчивые объявления. Ведь при использовании сторонних блокировщиков рекламы часто блокируется вообще вся реклама и трекеры слежения.

У Google нет цели освободить интернет от рекламы и слежки, ведь в прошлом году компания заработала на этом более $95 млрд. Критику вызывает образ, в который она встроила блокировщик рекламы в Chrome. Журналисты Wall Street Journal утверждают, что поисковый гигант принимал непосредственное участие в разработке новых стандартов приемлемой рекламы. Вице-президент компании News Media Alliance Пол Бойл говорит, что внедрение этих стандартов в Chrome превращает их из добровольной инициативы в закон.

Питер Рейнхардт считает, что появление блокировщика рекламы в Chrome станет толчком для новых тенденций в онлайновой рекламе. Она также усилит дуополию Google и Facebook. Для издателей и интернет-пользователей это означает большее распространение доступа к сайтам на основе подписки. Ведь издатели должны компенсировать падение рекламных доходов после уборки неприемлемой рекламы.

По материалам Washington Post