Если кредитный рейтинг казался чрезмерно инвазивным, то теперь технологии предлагают еще более глубокое вмешательство – оценку человека только по его внешнему виду.
Исследование, проведенное в Университете Пенсильвании и отмеченное изданием The Economist , было направлено на выяснение того, может ли искусственный интеллект определять уровень доверия к человеку, основываясь исключительно на анализе его черт лица.
Вопрос вызывает недоумение, однако эксперимент все же состоялся. Авторы работы опирались на предыдущие противоречивые исследования, которые предполагают, что черты характера можно обнаружить по внешним особенностям лица.
Несмотря на этическую сомнительность такой гипотезы, команда из Пенсильвании утверждает, что их система действительно может точно предсказывать определенные характеристики человека на основе искусственного анализа его изображения, в частности те, которые коррелируют с профессиональным и финансовым успехом – например, доверчивость или уважительность.
В ходе работы использовалась модель искусственного интеллекта, обученная на предыдущих исследованиях в сфере распознавания личностных черт по лицу. Система проанализировала пять основных характеристик-открытость, добросовестность, экстраверсию, доброжелательность и нейротизм. Материалом стали 96 000 фотографий выпускников программ MBA, взятых из профилей LinkedIn. Затем исследователи сопоставили выявленные черты с результатами карьеры этих людей и заявили, что между ними была обнаружена статистическая зависимость.
В частности, по утверждению авторов, алгоритм может обнаруживать связь между чертами лица и уровнем профессионального успеха. Так, экстраверсия оказалась «сильнейшим положительным предиктором» уровня оплаты труда, тогда как открытость, наоборот, ассоциировалась с более низкими доходами.
Саму идею использования алгоритма, который решает, получит ли человек работу, кредит или аренду автомобиля только по изображению лица, сложно назвать безопасной. Однако, как отмечает The Economist , в мире, где финансовый успех стал главным критерием оценки, корпорации имеют «мощную мотивацию» внедрять такие системы – при условии, что они не дискриминируют по признакам, защищенным законом.
На практике даже это уже не является серьезным препятствием. В Соединенных Штатах некоторые штаты уже применяют программное обеспечение на основе искусственного интеллекта для проверки водительских прав, что приводит к многочисленным проблемам для людей с отличительными чертами лица. В Великобритании полиция Лондона недавно сообщила о рекордном количестве арестов, достигнутых благодаря системе распознавания лиц, заявив о «лишь» 0,5 процента ложных совпадений – показатель, который на самом деле является тревожным.
Исследователи из Пенсильвании в своей статье предупреждают, что»массовое внедрение технологий распознавания лиц в будущем может побудить людей изменить свои изображения с помощью программного редактирования или даже прибегнуть к хирургическим вмешательствам, чтобы изменить внешний вид».
Пока неизвестно, решат ли технологические компании перенести это исследование из академической среды в реальную практику. Тем не менее, учитывая количество стартапов, которые возникают в последнее время, такое развитие событий представляется вполне возможным.
