La Justicia de Estados Unidos cuenta con un sofisticado software llamado COMPAS, que ayuda a los jueces a dictar sentencia, si alguien debe entrar a prisión, o salir en libertad condicional, o cuanto tiempo debe permanecer en la cárcel, según su puntuación de riesgo.
Pero se sospechaba que el sistema de esta herramienta informática favorecía a los ajusticiados blancos frente a los negros. Es por esto, que un grupo de investigadores liderado por la estudiante de informática de Dartmouth College, Julia Dressel, decidió sacarse las dudas y estudiaron la validez del sistema. El equipo encontró que el algoritmo no es más fiable que el ser humano.
Dressel consultó en la base de datos ProPublica, una colección de puntuaciones de COMPAS para 10 mil acusados que están en espera de juicio en el Condado de Broward, Florida, así como también sus registros de arresto para los próximos dos años.
De esos acusados eligió mil al azar y registró algunos datos de cada uno, como por ejemplo su edad, sexo y número de detenciones previas. Además reclutó a 400 personas mediante un servicio de crowdsourcing para encontrar voluntarios de investigación. Cada uno de ellos recibió perfiles de 50 acusados y tuvo que pronosticar si volverían a ser arrestados dentro de dos años.
Según la revista Science Advances, los humanos acertaron casi con la misma frecuencia que el algoritmo. Los humanos entre el 63% y el 67% de las veces, en comparación con el 65% del COMPAS.
Tanto los humanos como el sistema informático supusieron que habría más arrestos de personas negras, lo cual resultó incorrecto.
Por otra parte, los investigadores también compararon un algoritmo simple con COMPAS, que utiliza seis factores de un cuestionario de 137 puntos para evaluar el riesgo. El equipo creó su propio algoritmo con dos factores: la edad y el número de condenas anteriores. Los resultados de ambos sistemas fueron similares, con predicciones correctas el 67% de las veces.
Inicio de sesión
¿Todavía no tenés cuenta? Registrate ahora.
Para continuar con tu compra,
es necesario loguearse.
o iniciá sesión con tu cuenta de:
Disfrutá El Observador. Accedé a noticias desde cualquier dispositivo y recibí titulares por e-mail según los intereses que elijas.
Crear Cuenta
¿Ya tenés una cuenta? Iniciá sesión.
Gracias por registrarte.
Nombre
Contenido exclusivo de
Sé parte, pasá de informarte a formar tu opinión.
Si ya sos suscriptor Member, iniciá sesión acá