Algoritmo que predice el futuro de delincuentes no es más fiable que el ser humano

Pero se sospechaba que el sistema de esta herramienta informática favorecía a los ajusticiados blancos frente a los negros. Es por esto, que un grupo de investigadores liderado por la estudiante de informática de Dartmouth College, Julia Dressel, decidió sacarse las dudas y estudiaron la validez del sistema. El equipo encontró que el algoritmo no es más fiable que el ser humano.

Dressel consultó en la base de datos ProPublica, una colección de puntuaciones de COMPAS para 10 mil acusados que están en espera de juicio en el Condado de Broward, Florida, así como también sus registros de arresto para los próximos dos años.

De esos acusados eligió mil al azar y registró algunos datos de cada uno, como por ejemplo su edad, sexo y número de detenciones previas. Además reclutó a 400 personas mediante un servicio de crowdsourcing para encontrar voluntarios de investigación. Cada uno de ellos recibió perfiles de 50 acusados y tuvo que pronosticar si volverían a ser arrestados dentro de dos años.

Según la revista Science Advances, los humanos acertaron casi con la misma frecuencia que el algoritmo. Los humanos entre el 63% y el 67% de las veces, en comparación con el 65% del COMPAS.

Tanto los humanos como el sistema informático supusieron que habría más arrestos de personas negras, lo cual resultó incorrecto.

Por otra parte, los investigadores también compararon un algoritmo simple con COMPAS, que utiliza seis factores de un cuestionario de 137 puntos para evaluar el riesgo. El equipo creó su propio algoritmo con dos factores: la edad y el número de condenas anteriores. Los resultados de ambos sistemas fueron similares, con predicciones correctas el 67% de las veces.