Tecnología > Tendencia en EEUU

El reconocimiento facial pasa a un nuevo frente: las escuelas

En Estados Unidos recurren a la tecnología en nombre de la seguridad pública, pero hay quienes se alarman por una invasión a la privacidad
Tiempo de lectura: -'
17 de febrero de 2020 a las 05:00

Jim Shultz hizo todo lo que pudo para evitar que la tecnología de reconocimiento facial entrara en las escuelas públicas de Lockport, una pequeña ciudad ubicada a 32 kilómetros de las cataratas del Niágara. En un grupo de Facebook llamado Lockportians, realizó publicaciones sobre el tema. Escribió un artículo de opinión en The New York Times. Presentó una petición ante el superintendente del distrito, donde su hija cursa el bachillerato.

Sin embargo, hace unas semanas, perdió. El distrito escolar de la ciudad de Lockport recurrió a la tecnología para monitorear a las personas que están en las propiedades de sus ocho escuelas, y se convirtió en el primer distrito de escuelas públicas en Nueva York, así como en uno de los primeros de la nación, en adoptar el reconocimiento facial.

Según Shultz, de 62 años, el distrito convirtió a nuestros hijos “en ratas de laboratorio de un experimento de alta tecnología sobre la invasión de la privacidad”.

La decisión enfatiza cómo se está propagando el reconocimiento facial en Estados Unidos y cómo se está desplegando por el país mediante nuevos mecanismos, aunque los funcionarios públicos recurren a la tecnología en nombre de la seguridad pública.

Algunas ciudades, como San Francisco y Somerville, Massachusetts, han impedido que sus gobiernos usen la tecnología, pero son las excepciones. Tan solo en el último año, más de 600 agencias de seguridad comenzaron a utilizar la tecnología de una empresa, Clearview AI. Los aeropuertos y otros lugares públicos, como el Madison Square Garden en Manhattan, también la han adoptado.

Las escuelas son un nuevo frente, y el debate que tuvo lugar en Lockport encapsula el furor en torno a la tecnología. Sus defensores la describen como una herramienta crucial para combatir el crimen, para evitar los tiroteos masivos y para detener a los depredadores sexuales. Robert LiPuma, el director de tecnología del distrito escolar de la ciudad de Lockport, señaló que creía que, si la tecnología hubiera estado instalada en el bachillerato Marjory Stoneman Douglas en Parkland, Florida, el ataque mortal de 2018 tal vez nunca habría ocurrido.

“Habría sido un alumno expulsado que hubiera estado en el sistema, y se supone que estas personas no deben estar en las instalaciones de la escuela”, comentó LiPuma. “Entró por una puerta abierta. En cuanto se coló, el sistema lo habría identificado”.

Sin embargo, los oponentes como Shultz aseguran que las inquietudes que provoca el reconocimiento facial —en específico las relacionadas con la privacidad, la precisión y los prejuicios raciales— son incluso más preocupantes cuando se trata de niños.

“Someter a niños de 5 años a esta tecnología no será seguro para nadie y no podemos permitir que una vigilancia invasiva se vuelva la norma en nuestros espacios públicos”, comentó Stefanie Coyle, consejera educativa de la Unión de Libertades Civiles de Nueva York. “Recordarle a la gente sus peores miedos es una táctica decepcionante, diseñada como distracción para no mencionar que este producto es discriminatorio, poco ético y no es seguro”.

En Lockport, ha habido un debate abierto durante casi dos años. En un inicio, el distrito escolar anunció sus planes para instalar un sistema de seguridad de reconocimiento facial, llamado Aegis, en marzo de 2018. El distrito gastó 1,4 millones de dólares para instalar la tecnología en 300 cámaras, con dinero que le había entregado el estado.

No obstante, en mayo pasado, cuando los administradores quisieron realizar una prueba, el Departamento Estatal de Educación les dijo que debían postergarla, en parte a causa de la creciente inquietud pública por la privacidad de los estudiantes. El estado quería que Lockport garantizara la protección adecuada de los datos de los alumnos y exigió una política que prohibía el uso de los datos de los estudiantes, incluidas sus fotos.

Para junio, los funcionarios de Lockport señalaron que habían ajustado sus políticas y comenzaron a probar partes del sistema. A finales de noviembre, el Departamento Estatal de Educación mencionó que la política corregida del distrito había abordado sus inquietudes. En enero, el comité escolar aprobó por unanimidad la última corrección de la política.

De acuerdo con LiPuma, cuando el sistema está encendido, el software observa los rostros captados por los cientos de cámaras y calcula si esas caras coinciden con una lista de “personas de interés” elaborada por los administradores escolares.

En esa lista se encuentran los agresores sexuales de la zona, gente que tiene prohibido observar estudiantes a causa de una orden de restricción, exempleados que se les prohibió visitar las escuelas y otras “amenazas creíbles” a juicio de las agencias de seguridad.

Si el software detecta a una persona de la lista, el sistema Aegis envía una alerta a uno de los catorce miembros del personal de seguridad que Lockport contrató de medio tiempo o tiempo completo, señaló LiPuma. Entonces, el monitor humano busca la fotografía de la persona en la base de datos para “confirmar” o “rechazar” que coincide con el individuo que captó la cámara.

Si el operador rechaza la coincidencia, se descarta la alerta. Si se confirma, se emite otra alerta a un puñado de administradores del distrito, quienes deciden qué acción se debe realizar.

La tecnología también llevará a cabo escaneos en busca de armas. El jefe del Departamento de Policía de Lockport, Steven Abbott, señaló que, si una persona monitoreando confirma que el Aegis detectó un arma, se emitirá una alerta automática a los administradores y al departamento de policía.

Si el sistema Aegis envía una alerta al departamento y la policía no pudiera ponerse en contacto con alguien de la escuela para confirmar la amenaza, “se trataría como una situación en desarrollo”.

Días después de que el distrito anunció que la tecnología había sido activada, algunos estudiantes mencionaron que les habían informado muy poco sobre el funcionamiento del sistema.

“No estoy segura de dónde están en la escuela, ni siquiera creo haberlas visto”, comentó Brooke Cox, una estudiante de 14 años que cursa el primer año en el bachillerato de Lockport. “No entiendo por completo por qué tenemos las cámaras. No me han dicho cuál es su objetivo”.

Otros, como Tina Ni, de 18 años, dijo que la nueva tecnología y la cobertura mediática de su escuela eran “geniales”.

Quienes critican la tecnología, entre ellos Shultz y la Unión de Libertades Civiles de Nueva York, señalan la creciente evidencia de prejuicios raciales en los sistemas de reconocimiento facial. En diciembre, el gobierno federal divulgó un estudio, uno de los más grandes de su tipo, donde se reveló que la mayoría de los sistemas de reconocimiento facial mostraban prejuicios, pues se equivocaban al identificar rostros de personas negras y asiáticas entre diez y cien veces más que caras de personas blancas. Otro estudio federal descubrió una tasa más alta de coincidencias equivocadas entre los niños.

En Lockport, los estudiantes negros son disciplinados de forma desproporcionada. En el año escolar 2015-2016, el 25 por ciento de los alumnos suspendidos en el distrito fueron negros aunque la matrícula de personas negras fuera de tan solo un 12 por ciento, de acuerdo con datos del Departamento de Educación federal.

LiPuma, el director de tecnología, comentó que creía que el sistema de Lockport era preciso. También dijo que en el futuro le gustaría a él, así como a otros funcionarios escolares, agregar a los estudiantes suspendidos a la lista de personas vigiladas, a pesar de la reciente directriz del Departamento Estatal de Educación que le exige a Lockport definir en su política que “nunca” usará el sistema “para crear o conservar los datos de los estudiantes”. En la última década, la mayoría de los tiroteos en las escuelas corrió a cargo de estudiantes, mencionó LiPuma.

“Como una persona dedicada a la tecnología, me frustra tener el potencial” de evitar un tiroteo en una escuela, opinó LiPuma. “Si algo sucede, no me hará sentir nada bien, pero no fue mi decisión. Esta recaerá en el departamento escolar del estado”.

Jayde McDonald, licenciada en Ciencias Políticas por la Universidad Estatal de Búfalo, fue una de los pocos estudiantes negros en las escuelas públicas de Lockport. McDonald comentó que consideraba demasiado riesgoso que la escuela instalara un sistema de reconocimiento facial capaz de llamar a la policía de forma automática.

“Debido a que los porcentajes de coincidencias falsas son tan altos, esto podría derivar en situaciones muy peligrosas y completamente evitables”, señaló McDonald.

McDonald agregó que creía que los policías iban a “hacer todo lo posible para detener a un sospechoso”, aunque esa persona fuera un joven estudiante en una escuela.

Quienes se oponen a la nueva tecnología depositan sus esperanzas en los abogados estatales. En abril, la asambleísta Monica Wallace, demócrata de Lancaster, presentó un proyecto de ley para obligar a Lockport a detener el uso del reconocimiento facial durante un año mientras el Departamento Estatal de Educación estudia la tecnología. El proyecto de ley fue aprobado sin mayores problemas en la Asamblea, pero no lo aceptó el Senado.

Wallace declaró que buscaría que la aprobación de la ley fuera una prioridad en esta nueva sesión legislativa.

“Todos queremos que nuestros hijos estén seguros en las escuelas”, comentó. “Pero hay mecanismos más probados y eficaces para hacerlo que son menos costosos”.

Jim Shultz, quien durante más de un año intentó informar al público sobre el plan para la implementación del reconocimiento facial en el distrito escolar de Lockport, en Lockport, Nueva York, 8 de enero de 2020. (Libby March/The New York Times)

Comentarios

Registrate gratis y seguí navegando.

¿Ya estás registrado? iniciá sesión aquí.

Pasá de informarte a formar tu opinión.

Suscribite desde US$ 345 / mes

Elegí tu plan

Estás por alcanzar el límite de notas.

Suscribite ahora a

Te quedan 3 notas gratuitas.

Accedé ilimitado desde US$ 345 / mes

Esta es tu última nota gratuita.

Se parte de desde US$ 345 / mes

Alcanzaste el límite de notas gratuitas.

Elegí tu plan y accedé sin límites.

Ver planes

Contenido exclusivo de

Sé parte, pasá de informarte a formar tu opinión.

Si ya sos suscriptor Member, iniciá sesión acá

Cargando...