Tecnología > En EEUU
Primer caso de un hombre acusado de un robo por error por fallas del algoritmo de reconocimiento facial
Un error de un sistema de reconocimiento facial terminó con Robert Julian-Borchak Williams en la cárcel por el robo de cinco relojes valuados en US$ 3.800. La Policía de Michigan, Estados Unidos, se dio cuenta que no era él y lo liberaron.
El caso, divulgado por The New York Times este miércoles, fue el primero conocido de una persona arrestada de manera errónea tras ser identificada por un software de este tipo.
El robo se produjo en octubre de 2018. En enero, lo detuvieron en su casa ante la mirada de su esposa y sus dos hijas de dos y cinco años, que lloraban mientras subían al hombre de 42 años a un móvil policial. Una vez en la comisaría hombre fue enviado a una sala de interrogación, en donde le pusieron frente a él tres fotos: dos tomadas por la cámara de vigilancia de la tienda y una foto de su licencia de conducir. Él aseguraba que no se trataba de la persona involucrada. "Ese tipo no soy yo", dijo, según una crónica del portal NPR.org. Estuvo 30 horas en prisión.
La Policía terminó admitiendo que el software utilizado, llamado DatWorks Plus, había vinculado al hombre equivocado y no al rapiñero.
La Unión Estadounidense por las Libertades Civiles (ACLU, por su sigla en inglés), una ONG que vela por los derechos individuales de ciudadanos de ese país, pidió a la Policía de Michigan que dejara de utilizar ese software. La Policía de Detroit dijo que después del caso dispuso reglas nuevas. Entre ellas es que se usará la tecnología de reconocimiento facial solo para casos de crímenes violentos.
"El software de reconocimiento facial es una herramienta de investigación que se utiliza para generar pistas solamente. Se requiere trabajo de investigación adicional, pruebas que corroboren", dijo Nicole Kirkwood, comisario de la Policía de Michigan.
El software implementado se llamó DatWorks Plus. Era utilizado por la policía del estado de Michigan que logró identificar a Williams después de vincular la foto de su licencia de conducir con las imágenes de la cámara de vigilancia de la noche del robo.
Cuando los efectivos policiales compararon de manera presencial las imágenes de la cámara con la cara real de Williams se percataron de que habían fallado.
La Fiscalía del condado de Wayne pidió perdón al implicado explicando que "no compensa de ninguna manera las horas que pasó en la cárcel".
Hubo alusiones políticas al caso. Por ejemplo, del senador demócrata y ex candidato presidencial Bernie Sanders.
Robert Julian-Borchak Williams was wrongfully arrested because racist facial recognition technology misidentified him for a crime he did not commit.
— Bernie Sanders (@SenSanders) June 24, 2020
We can't allow this to happen again. It's time to ban facial recognition technology for policing.
https://t.co/T8mtCCAvkG
Este mes, Amazon , Microsoft e IBM informaron a la prensa que detendrían o pausarían sus ofertas de reconocimiento facial para la aplicación de la ley.
"No venderemos tecnología de reconocimiento facial a los departamentos de policía en Estados Unidos hasta que tengamos una ley nacional, basada en los derechos humanos, que regirá esta tecnología", dijo el presidente de Microsoft, Brad Smith.
