Para evitar que los cuatro millones de usuarios y usuarias diarios del Metro de São Paulo sigan teniendo información sobre sus rostros recopilada, mapeada y monitoreada a través del reconocimiento facial, organizaciones de la sociedad civil y defensores/as públicos/as presentaron una Demanda Civil Pública este jueves (03/03/2022). Firman el documento la Defensoría Pública del Estado de São Paulo, la Defensoría Pública de la Nación, el Instituto Brasileño de Defensa del Consumidor (Idec), Intervozes - Colectivo Brasil de Comunicación Social, ARTÍCULO 19 Brasil y América del Sur y el Colectivo de Defensa de los Derechos Humanos – CADHu.
Las entidades advierten que el sistema de reconocimiento facial utilizado por la empresa Metro de SP no cumple con los requisitos legales previstos en la Ley General de Protección de Datos (LGPD), el Código de Defensa del Consumidor, el Código de Usuarios de Servicios Públicos, el Estatuto del Niño y Adolescente (ECA, por su sigla en portugués), la Constitución Federal y los tratados internacionales.
“El reconocimiento facial implementado por el metro obtiene un dato personal biométrico e insustituible, que es la información sobre nuestro rostro. Metro lo ha hecho violando prácticamente todas las leyes en la materia, desde la LGPD hasta el ECA, pasando por la Constitución y los tratados internacionales”, afirma Eloísa Machado, docente de la Fundación Getulio Vargas (FGV) y una de las abogadas que firman la demanda.
La Demanda Civil Pública es el resultado del análisis de los documentos presentados por Metro de São Paulo en el contexto de una demanda judicial anterior que exigió información sobre la implementación del proyecto que costó más de 50 millones de reales de recursos públicos y que, entre otras medidas, tenía la previsión de realizar reconocimiento facial de quienes utilizaran el medio de transporte.
“La ineficacia de la tecnología, agresiva e invasiva por su naturaleza, además de producir acciones discriminatorias contra los y las pasajeras, puede empeorar la ya precaria experiencia de los y las usuarias del transporte público, que puede tener su largo y agotador trayecto diario interrumpido por casos de 'falsos positivos', incluso generando más inseguridad para los y las usuarias”, dice Diogo Moyses, coordinador del programa de Derechos Digitales del Idec. “Sin información precisa, también es cuestionable la prioridad de gastar millones en monitoreos fallidos en lugar de invertir en la necesaria mejora y ampliación del sistema de transporte”, agrega Estela Guerrini, defensora pública y coordinadora del Centro Especializado de Protección al Consumidor de la Defensoría Pública del Estado.
Una parte central de la demanda señala que las tecnologías de reconocimiento facial aumentan exponencialmente el riesgo de discriminación contra las personas negras, no binarias y trans, ya que este tipo de tecnología es reconocidamente poco precisa y está inmersa en un contexto de racismo estructural. Incluso los mejores algoritmos tienen poca precisión a la hora de realizar el reconocimiento de personas negras y transgénero, que se ven más afectadas por falsos positivos y falsos negativos y están más expuestas a constreñimientos y violaciones de derechos.
“El resultado discriminatorio de la tecnología de reconocimiento facial es insoluble y refleja el sesgo presente en la propia base de datos que alimenta esta tecnología, ya que está diseñada y desarrollada por unos pocos hombres cis blancos de las multinacionales que controlan su venta al resto del mundo”, dice Isadora Brandão, defensora pública y coordinadora del Núcleo Especializado para la Defensa de la Diversidad y la Igualdad Racial de la Defensoría Pública del Estado. “La realización del reconocimiento facial de los usuarios del metro recolecta masivamente datos biométricos sin consentimiento, una medida desproporcionada que instala un sistema de vigilancia en masa. Se abre entonces un camino sin retorno hacia la normalización de una sociedad vigilada, cada vez más vulnerable a las inclinaciones autoritarias de los gobiernos que pasan a tener un control sin precedentes sobre la vida de los y las ciudadanas”, dice Pedro Ekman de Intervozes.
La demanda también cuestiona el uso de imágenes y la recolección y tratamiento de datos personales sensibles de niños, niñas y adolescentes, sin el consentimiento de los padres o tutores, en directa violación de lo que determina la LGPD, el ECA y la Constitución. “Además, como los niños crecen y sus rostros cambian rápidamente, se sabe que la posibilidad de acierto del sistema de reconocimiento facial de niños y niñas es pequeña, desmoronándose el argumento de que este sistema permitiría ubicar a niños y niñas desaparecidas”, añade Daniel Secco, defensor público y coordinador del Centro Especializado en Niñez y Adolescencia, de la Defensoría Pública del Estado.
Las organizaciones señalan que la iniciativa va en contra de las medidas de otros países, especialmente de Europa y EE.UU., que apuntan a una restricción al uso masivo de este tipo de tecnologías, por su carácter invasivo y su potencial de establecer un sistema de vigilancia y monitoreo de personas en espacios públicos. En los últimos años, empresas como Microsoft, IBM y Amazon también han informado que suspenderán la venta de soluciones de reconocimiento facial para uso policial, por posibles violaciones a los derechos humanos.
“Aunque existiera un compromiso de 'mejorar' el desempeño de estas herramientas, esto no sería suficiente para que su uso masivo sea seguro y compatible con los Derechos Humanos - en ese sentido, para que el reconocimiento facial se dé con mayor precisión, la población que transita en espacios monitoreados estaría aún más vulnerable a rastreos, por ejemplo. En determinados casos, esto puede incluso afectar al ejercicio del derecho a la protesta. De esta manera, es necesario que estos usos sean interrumpidos y prohibidos”, señala Sheila de Carvalho, coordinadora del Centro de Referencia Legal de Artículo 19 Brasil y América del Sur. “Es una demanda pionera que cuestiona el Poder Judicial acerca del uso de reconocimiento facial en lugares públicos y accesibles al público, tecnología que ha sido implementada de forma masiva e indiscriminada en todo Brasil”, concluye.
La demanda también exige que el Tribunal ordene a Metro de SP que deje de realizar inmediatamente el reconocimiento facial en sus instalaciones y, además, exige el pago de una compensación de al menos 42 millones de reales (monto previsto en el contrato para la implementación de esta tecnología) por los daños morales colectivos causados a sus pasajeros y pasajeras.