El reconocimiento facial de Amazon confunde a 28 congresistas con delincuentes

La compañía lanzó el sistema en mayo; sus prueban no tuvieron resultados exitosos

Tiempo de lectura: -'

27 de julio de 2018 a las 09:59

El sistema de reconocimiento facial podría convertirse en uno de los elementos claves en el sistema de seguridad de una ciudad. En China ya se usa hace años. Sin embargo, es una herramienta que todavía no funciona a la perfección.

Este sistema que permite reconocer a las personas por las características biométricas de los rostros ha sido evaluado en Estados Unidos y, en particular, La American Civil Liberties Union (ACLU) investigó el proceso de reconocimiento facial que usa Amazon.

Reconocimiento_facial2.jpg

La compañía estadounidense de comercio electrónico y servicios de computación usa un sistema que reconoce las características faciales de sus clientes denominado: Rekognition. La ACLU analizó cómo el sistema reconocía a los 535 miembros del congreso de Estados Unidos. Cuando comparó sus caras con 25.000 delincuentes, el sistema generó 28 falsos positivos.

Un sistema no seguro

Para ACLU este proceso de identificación de rostros podría traer graves problemas, ya que una falsa identificación podría costar la libertad a personas o incluso hasta la vida; en caso de que se esté buscando algún delincuente considerado peligroso.

Según la American Civil, el Congreso debería tomarse este aspecto en serio en tanto se quiera integrar el reconocimiento facial dentro del sistema de protección de la ciudadanía. Por tanto, la organización exhorta a que se promulgue una moratoria sobre su uso por parte de las fuerzas de seguridad.

El medio especializado The Verge se puso en contacto con la compañía y sus representantes indicaron que esos falsos positivos son resultados de una "calibración pobre". La ACLU aseguró que realizó esas pruebas con un umbral de confianza del 80%. Sin embargo desde Amazon recomendaron que ese umbral debería ser del 95% para escenarios en los que este sistema se use por parte de las fuerzas de seguridad.

La compañía anunció este sistema en mayo de 2018. Con un precio reducido, de apenas US$ 12 por mes para un solo departamento de Policía, comenzó hacer pruebas pilotos como parte de la oferta de servicios en la nube de Amazon Web Services.

Reconocimiento_facial_3


Desde la ACLU se señaló que la proporción de los falsos positivos fue mayor para las personas negras lo que siempre afecta a los sistemas de reconocimiento facial: 11 de 28 falsos positivos.

Estos resultados volvieron a activar el debate sobre cuán seguro son los sistemas de reconocimiento facial que, para algunos expertos, las pruebas llevadas a cabo podrían significar una amenaza a las libertades civiles dada su precisión. Tras las pruebas, tres congresistas firmaron una carta abierta dirigida a Jeff Bezos, CEO de Amazon, pidiendo una lista con las agencias de seguridad que usan esta tecnología; así como un pedido para limitar su uso en niños menores de 13 años.


Comentarios