Algoritmos para vigilarnos

La sugerencia de instalar cámaras en los colegios para prevenir abusos sexuales ha causado cierta sorpresa y alguna inquietud entre quienes temen el poder controlador de las nuevas tecnologías. Pero una medida como esta sería considerada tímida por parte de las autoridades chinas, que en 2015 lanzaron el programa SkyNet con el que se vanaglorian de poder identificar a cualquier ciudadano en apenas segundos. China va años luz por delante de Europa y EE UU en el manejo de técnicas de vigilancia integral para garantizar la seguridad.

El programa combina una extensísima red de millones de cámaras con algoritmos centralizados capaces de relacionar imágenes y datos de millones de personas al momento. Las cámaras están dotadas de programas de reconocimiento facial y machine-learning y cada ciudad compite por aplicarlo de la forma más extensa posible. La policía de Wuhan asegura haber reducido los robos un 30% y la de Shanghái presume de haber detenido a 6.000 sospechosos en un año gracias a SkyNet. La ciudad de Shanghái es tan entusiasta del sistema que lo utiliza también para hacer cumplir el nuevo programa inteligente de residuos urbanos, con premio para quienes reciclan bien y persecución a quienes lo hacen mal.

El reconocimiento facial es la base de futuros desarrollos que incluyen, a partir de 2020, un sistema de crédito social que premiará la buena conducta y castigará a quienes infrinjan las leyes o el decoro. El programa Shangay Honesta es la avanzadilla. De momento es de registro voluntario y sirve para puntuar la conducta de los ciudadanos: cuanto mejor se portan, más beneficios sociales consiguen. Y al revés.

La serie británica Black Mirror es una distopía que muestra la cara oscura de las nuevas tecnologías. El primer capítulo de la tercera temporada se titula Nosedive (caída en picado) y muestra las consecuencias de un programa social en el que las personas pueden calificar y ser calificadas de uno a cinco puntos en cada una de sus interacciones. De esa puntuación depende la vivienda, el trabajo o los servicios a los que pueden acceder. La búsqueda de la máxima puntuación eleva notablemente la hipocresía social y condena a una rápida caída a quienes no se adaptan. En China eso ya no es una distopía. Con el agravante de que allí, quien puntúa es el Gran Hermano del Estado.