Власть все больше опирается на алгоритмы для определения законопослушности граждан, но такое программное обеспечение не имеет высокой точности предсказания. По информации исследователей из колледжа Дартмута, подобные системы работают не лучше обычных прохожих, у которых спросили о вероятности правонарушений подопытного. Более того, неподготовленный прохожий дает более точный прогноз, хотя при этом требует в десятки раз меньше информации.
Эксперты оценили систему Correctional Offender Management Profiling for Alternative Sanctions (COMPAS). Ее создала компания Equivant, которая до этого называлась Northpointe. Эта программная система используется судами США для вынесения приговора, предоставляя отчет с прогнозом правового поведения подсудимого в будущем. С момента своего создания в 1998 году она уже оценила на рецидивизм более 1 млн человек.
Для своего анализа COMPAS собирает 137 фактов о подопытном. Для сравнения ученые пригласили 20 неподготовленных добровольцев, которым предоставляли лишь по 7 фактов о подопытных. Части добровольцев также оказывали лишь два факта – возраст и расу подсудимого.
В качестве данных для анализа были взяты записи 1000 правонарушителей, которые разделили на 20 групп по 50 человек в каждой. Оказалось, что толпа прохожих правильно предполагает вероятность будущих правонарушений указанного человека в 62,8%. Если прохожим дать воспользоваться «мудростью толпы», точность прогноза возрастает до 67%. COMPAS при этом демонстрирует уровень у 65,2%. Оба способа верно предсказали, что 692 подопытных из предоставленной группы 1000 человек совершат повторное правонарушение.
Оценка законопослушности существенно зависит от расы правонарушителя. Добровольцы и программные системы дают разные баллы для чернокожих и белых лиц. Неподготовленные прохожие считают в 68,2%, что чернокожие совершат повторное правонарушение. COMPAS оценивает риск в 67,6%. Для представителей белой расы добровольцы дают оценку в 64,9%, а COMPAS – у 65,7%.
