El reconocimiento facial de Amazon confunde a 28 congresistas con delincuentes
La compañía lanzó el sistema en mayo; sus prueban no tuvieron resultados exitosos
Tiempo de lectura: -'
27 de julio de 2018 a las 09:59
Te quedan {{observador.articlesLeft}} notas gratuitas.
Accedé ilimitado desde US$ 3 45 / mes
El sistema de reconocimiento facial podría convertirse en uno de los elementos claves en el sistema de seguridad de una ciudad. En China ya se usa hace años. Sin embargo, es una herramienta que todavía no funciona a la perfección.
Este sistema que permite reconocer a las personas por las características biométricas de los rostros ha sido evaluado en Estados Unidos y, en particular, La American Civil Liberties Union (ACLU) investigó el proceso de reconocimiento facial que usa Amazon.
La compañía estadounidense de comercio electrónico y servicios de computación usa un sistema que reconoce las características faciales de sus clientes denominado: Rekognition. La ACLU analizó cómo el sistema reconocía a los 535 miembros del congreso de Estados Unidos. Cuando comparó sus caras con 25.000 delincuentes, el sistema generó 28 falsos positivos.
Un sistema no seguro
Para ACLU este proceso de identificación de rostros podría traer graves problemas, ya que una falsa identificación podría costar la libertad a personas o incluso hasta la vida; en caso de que se esté buscando algún delincuente considerado peligroso.
Según la American Civil, el Congreso debería tomarse este aspecto en serio en tanto se quiera integrar el reconocimiento facial dentro del sistema de protección de la ciudadanía. Por tanto, la organización exhorta a que se promulgue una moratoria sobre su uso por parte de las fuerzas de seguridad.
El medio especializado The Verge se puso en contacto con la compañía y sus representantes indicaron que esos falsos positivos son resultados de una "calibración pobre". La ACLU aseguró que realizó esas pruebas con un umbral de confianza del 80%. Sin embargo desde Amazon recomendaron que ese umbral debería ser del 95% para escenarios en los que este sistema se use por parte de las fuerzas de seguridad.
La compañía anunció este sistema en mayo de 2018. Con un precio reducido, de apenas US$ 12 por mes para un solo departamento de Policía, comenzó hacer pruebas pilotos como parte de la oferta de servicios en la nube de Amazon Web Services.
Desde la ACLU se señaló que la proporción de los falsos positivos fue mayor para las personas negras lo que siempre afecta a los sistemas de reconocimiento facial: 11 de 28 falsos positivos.
Estos resultados volvieron a activar el debate sobre cuán seguro son los sistemas de reconocimiento facial que, para algunos expertos, las pruebas llevadas a cabo podrían significar una amenaza a las libertades civiles dada su precisión. Tras las pruebas, tres congresistas firmaron una carta abierta dirigida a Jeff Bezos, CEO de Amazon, pidiendo una lista con las agencias de seguridad que usan esta tecnología; así como un pedido para limitar su uso en niños menores de 13 años.
Esta nota es exclusiva para suscriptores.
Accedé ahora y sin límites a toda la información.
¿Ya sos suscriptor?
iniciá sesión aquí
Alcanzaste el límite de notas gratuitas.
Accedé ahora y sin límites a toda la información.
Registrate gratis y seguí navegando.
¿Ya estás registrado? iniciá sesión aquí.
Para comentar debe iniciar sesión.