El reconocimiento facial chino llega a las puertas de la Unión Europea

La sombra del Gran Hermano que proyecta la polémica tecnología de reconocimiento facial ha llegado a las puertas de la UE. Un millar de cámaras de videovigilancia conectadas a un programa capaz de identificar rostros en tiempo real desarrollado por Huawei han sido desplegadas en los últimos meses en las calles de Belgrado. En Europa este tipo de sistemas ya eran utilizados por la policía de algunas zonas del Reino Unido. Pero hasta ahora no había constancia de que, como sucede en la capital de Serbia, se hubieran usado en cuestiones tan delicadas para la privacidad software y equipos procedentes de China, donde esta tecnología constituye uno de los pilares del férreo sistema de control social del régimen.

El Gobierno de Aleksandar Vučić, que cultiva unas buenas relaciones con China, empezó a trabajar en 2019 en este sistema de videovigilancia, bautizado como Safe City. Aunque el objetivo es instalar miles de dispositivos por la ciudad de Belgrado, por el momento se sabe que hay al menos un millar. La eurodiputada francesa Gwendoline Delbos-Corfield, del partido Europa Ecología Los Verdes, fue quien dio la voz de alarma hace dos semanas de que el sistema estaba listo para empezar a funcionar en un país candidato desde hace años a entrar en la UE.

El revuelo que causó su alerta, de la que posteriormente se hizo eco Financial Times, llevó a que hace unos días el Ejecutivo serbio dijera en sede parlamentaria que por el momento no se usaría la aplicación de reconocimiento facial. “Es un hecho que en la ciudad hay cada vez más cámaras. Sin embargo, hasta donde sabemos, no se están usando con la aplicación de reconocimiento facial, sino para su objetivo primario: monitorizar el tráfico y garantizar la seguridad ciudadana”, declaró Milan Marinović, comisario de la Agencia de Protección de Datos de Serbia.

En la Unión Europea hay actualmente una moratoria respecto a esta tecnología, muy cuestionada en Occidente por sus implicaciones en la privacidad de los ciudadanos, pero ampliamente usada en China. Estos sistemas permiten, por ejemplo, comparar automáticamente el rostro de una persona captado por una cámara con los registrados en un fichero de sospechosos y, en caso de coincidencia, lanzar una alerta para proceder a su detención. La propuesta de Reglamento europeo para la inteligencia artificial presentado por la Comisión Europea en abril, en trámites de aprobación, contempla la prohibición de su uso en espacios públicos, aunque se deja la puerta abierta a que se empleen con fines antiterroristas.

En Estados Unidos, el reconocimiento facial es una tecnología ampliamente utilizada por la policía, así como por instituciones federales como el FBI, la agencia de lucha antidrogas (DEA), los servicios de fronteras e inmigración y las fuerzas militares. Sin embargo, varias ciudades han prohibido o congelado su uso y grandes empresas como Amazon, IBM o Microsoft suspendieron la venta de este tipo de sistemas a la policía a raíz de las protestas por la muerte de George Floyd, asfixiado por un agente en Minneapolis el 25 de mayo de 2020. En la Cámara de Representantes hay registrada una iniciativa para regular estos sistemas a nivel federal, si bien hasta el momento no se ha traducido en nada concreto. La batalla legal iniciada en Detroit por Robert Williams, el primer caso conocido de detención irregular en el país por el uso defectuoso de un algoritmo de reconocimiento facial, podría desembocar en su prohibición por la vía judicial.

Un sistema confidencial

“El Ministerio del Interior ha llevado el asunto con una opacidad completa”, se queja por teléfono Djordje Krivokapic, cofundador de Share Foundation, una organización serbia en defensa de los derechos humanos en el entorno digital que ha seguido el despliegue del programa Safe City. “No respondieron a nuestras demandas, como que se llevara a cabo un debate público sobre el uso de esta tecnología, que se evaluara desde el punto de vista técnico antes de usarla ni que se nos dijera exactamente qué capacidades concretas tiene el sistema”. El sistema permite reconocer y encontrar a alguien a partir de una fotografía, por ejemplo la de un carnet de identidad, y saber dónde ha estado. Desde la organización sospechan que, además, el software podría incorporar utilidades más sofisticadas, como las que detectan patrones en la forma de andar de las personas.

La mayoría de la información que tiene Share Foundation acerca del sistema Safe City no procede de las autoridades serbias, sino de lo que ha ido publicando Huawei. “A diferencia del Gobierno [serbio], ellos querían hacerlo público para mostrar sus avances y probar que su tecnología de reconocimiento facial es capaz de entrar en Europa”, sostiene Krivokapic.

“¿Qué modelos algorítmicos se han usado? ¿Cuáles de ellos están activos? ¿Qué rasgos de comportamiento se están monitorizando? ¿Cómo se recogen los datos? ¿Durante cuánto tiempo se guardan y dónde? ¿Cuándo se borran, si es que eso sucede?”, se pregunta Slobodan Marković, asesor digital para el Programa de Naciones Unidas para el Desarrollo (PNUD), en un vídeo difundido por Share Foundation en el que varios expertos expresan su preocupación por el programa Safe City y la falta de información pública al respecto.

Desde la organización de Krivokapic han elaborado un mapa digital de Belgrado en el que salen ubicadas casi un millar de cámaras que han identificado ellos mismos con ayuda de la ciudadanía. También han promovido la recogida de firmas para que se retire el programa. “Lo encuentro terriblemente problemático, en tanto que viola las leyes serbias de privacidad y protección de datos”, comenta un profesor de la Universidad de Belgrado que ha secundado la petición y prefiere no dar su nombre.

“La normativa de protección de datos serbia tiene los mismos estándares que el Reglamento General de Protección de Datos (RGDP)”, explica Krivokapic en relación con la directiva europea. “Aún así, la policía siguió adelante”. “El derecho a la privacidad se verá erosionado, eso seguro”, señaló Marinović, de la Agencia de Protección de Datos. “Por eso es importante conocer las medidas que en este caso ponga en marcha el Ministerio del Interior para minimizar esos daños”.

China y el ‘tecnonacionalismo’

Los lazos que unen a Serbia y China son fuertes. Solo entre 2007 y 2017, la república balcánica recibió préstamos a bajo interés para desarrollar infraestructuras por valor de unos 3.000 millones de dólares (2.479 millones de euros). Esa financiación se ha usado, entre otras cosas, para desarrollar la línea de alta velocidad que conecta Belgrado con Budapest.

“China cada vez presiona más para que le compren sus tecnologías en Europa, y busca siempre los puntos débiles en la cadena”, apunta Andrés Ortega, analista e investigador asociado del Real Instituto Elcano. “En este momento los Balcanes lo son: no acaban de incorporarse a la UE, están necesitados de dinero, de inversión en infraestructuras y de tecnología”. Con el despliegue de un sistema de reconocimiento facial en Belgrado, opina Ortega, el gigante asiático se dispone a influir en las puertas de Europa en un tema que afecta directamente a nuestro concepto de democracia liberal.

Serbia entra en los planes de la llamada Ruta de la Seda digital, uno de los ejes de la política exterior china. Pekín firma acuerdos con países en los que concede préstamos a muy bajo interés y a largo plazo y se compromete a invertir en infraestructuras. A esas citas suele acudir de la mano de las grandes empresas chinas, y el componente digital suele estar presente. “Huawei y otras grandes corporaciones chinas tienen más experiencia internacional que muchas de las big tech estadounidenses”, indica Andrea G. Rodríguez, investigadora en tecnologías emergentes en Cidob (Barcelona Centre for International Affairs). En el despliegue del 5G, por ejemplo, Huawei no tiene rival. “China exporta sus tecnologías, gana presencia internacional y las empresas recopilan los datos de la población donde se usa para mejorar sus propios sistemas, en este caso algoritmos de reconocimiento facial, de manera que sus productos se van perfeccionando y volviendo más exportables”.

Siempre queda la duda de si China también usa la tecnología que exporta para espiar sobre el terreno. Así lo creía Donald Trump, que vetó a la propia Huawei. Pero no es el único. “El rechazo a la tecnología china por miedo a que tenga una puerta trasera y comunique sus datos al sistema está también en la Administración Biden y ha ido creciendo en los países europeos”, sostiene Ortega. “Pero nuestra dependencia de la tecnología china ya es muy alta, primero porque es mejor y segundo porque es más barata que la europea”.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.