Tecnología > EEUU

Algoritmo que predice el futuro de delincuentes no es más fiable que el ser humano

Tanto la máquina como los humanos supusieron incorrectamente que habría más arrestos de personas negras que blancas
Tiempo de lectura: -'
18 de enero de 2018 a las 09:54

La Justicia de Estados Unidos cuenta con un sofisticado software llamado COMPAS, que ayuda a los jueces a dictar sentencia, si alguien debe entrar a prisión, o salir en libertad condicional, o cuanto tiempo debe permanecer en la cárcel, según su puntuación de riesgo.

Pero se sospechaba que el sistema de esta herramienta informática favorecía a los ajusticiados blancos frente a los negros. Es por esto, que un grupo de investigadores liderado por la estudiante de informática de Dartmouth College, Julia Dressel, decidió sacarse las dudas y estudiaron la validez del sistema. El equipo encontró que el algoritmo no es más fiable que el ser humano.

Dressel consultó en la base de datos ProPublica, una colección de puntuaciones de COMPAS para 10 mil acusados que están en espera de juicio en el Condado de Broward, Florida, así como también sus registros de arresto para los próximos dos años.

De esos acusados eligió mil al azar y registró algunos datos de cada uno, como por ejemplo su edad, sexo y número de detenciones previas. Además reclutó a 400 personas mediante un servicio de crowdsourcing para encontrar voluntarios de investigación. Cada uno de ellos recibió perfiles de 50 acusados y tuvo que pronosticar si volverían a ser arrestados dentro de dos años.

Según la revista Science Advances, los humanos acertaron casi con la misma frecuencia que el algoritmo. Los humanos entre el 63% y el 67% de las veces, en comparación con el 65% del COMPAS.

Tanto los humanos como el sistema informático supusieron que habría más arrestos de personas negras, lo cual resultó incorrecto.

Por otra parte, los investigadores también compararon un algoritmo simple con COMPAS, que utiliza seis factores de un cuestionario de 137 puntos para evaluar el riesgo. El equipo creó su propio algoritmo con dos factores: la edad y el número de condenas anteriores. Los resultados de ambos sistemas fueron similares, con predicciones correctas el 67% de las veces.

Comentarios

Registrate gratis y seguí navegando.

¿Ya estás registrado? iniciá sesión aquí.

Pasá de informarte a formar tu opinión.

Suscribite desde US$ 345 / mes

Elegí tu plan

Estás por alcanzar el límite de notas.

Suscribite ahora a

Te quedan 3 notas gratuitas.

Accedé ilimitado desde US$ 345 / mes

Esta es tu última nota gratuita.

Se parte de desde US$ 345 / mes

Alcanzaste el límite de notas gratuitas.

Elegí tu plan y accedé sin límites.

Ver planes

Contenido exclusivo de

Sé parte, pasá de informarte a formar tu opinión.

Si ya sos suscriptor Member, iniciá sesión acá

Cargando...