La sociedad cuantificada

Inundados por el entusiasmo generalizado y a menudo acrítico por lo tecnológico, no siempre es fácil encontrar espacios de debate sobre cómo las nuevas tecnologías y los datos impactan en procesos existentes. En una rara excepción, en 2015 algunos de los fondos filantrópicos más importantes del mundo, como la Ford Foundation, la Open Society Foundation y el Media Democracy Fund se aliaron para financiar 12 proyectos en 10 países para explorar las consecuencias de la sociedad cuantificada y el impacto de los algoritmos en las sociedades abiertas. Los informes finales, que abordan temas tan dispares como las ciudades y las tarjetas inteligentes, el control de fronteras, la discriminación laboral y en la prestación de servicios, el uso de algoritmos para asignar escuela o el uso de datos en la crisis del ébola, proporcionan una lectura fascinante y una privilegiada exploración crítica del impacto de las tecnologías.

En el caso del ébola en Guinea, Sierra Leona y Liberia, los autores revelan cómo a pesar de la extendida creencia de que la disponibilidad de datos en tiempo real (geolocalización de teléfonos móviles, sobre todo) es determinante para mejorar la gestión de emergencias y proporcionar un mejor servicio a los afectados, la realidad ofrece un panorama más complejo. El estudio subraya, por ejemplo, el riesgo de olvidar las zonas rurales menos conectadas, o la dificultad de incorporar volúmenes masivos de datos que pueden ser de baja calidad en un contexto ya de por sí complicado, en el que solamente la coordinación de servicios civiles, militares y voluntarios, nacionales e internacionales, es un reto del que a menudo se apoderan el caos y la improvisación.

En Polonia, la Fundación Panoptykon estudia el sistema de clasificación de las personas desempleadas que desde 2014 utiliza tres grandes categorías para determinar a qué servicios y prestaciones tiene acceso cada una. El sistema, parte de un proceso de modernización de la administración pública, cubre a 1,5 millones de personas, a quienes se les asigna una puntuación que determina su empleabilidad y acceso a coberturas. El informe señala la falta de transparencia de estos procesos, así como la incapacidad de los sistemas informáticos y los algoritmos para procesar experiencias vitales complejas y tomar decisiones que escapen a los prejuicios de los diseñadores del sistema. Al final, los objetivos y la práctica del sistema se encuentran muy alejados. Los derechos de las personas a quién se pretende servir no sólo aparecen desdibujados, sino que se ven a menudo vulnerados de maneras sólo posibles por la intervención de los algoritmos.

En el estudio sobre las ciudades inteligentes, Privacy International explora las vulnerabilidades de las conexiones WiFi públicas, exponiendo la facilidad con la que éstas pueden ser intervenidas (hackeadas) por cualquier persona con los conocimientos suficientes. Este riesgo se extiende de los teléfonos móviles y los ordenadores portátiles hasta cualquier sensor (de temperatura, humedad, imagen, datos, etcétera) equipado con radio WiFi, revelando un escenario de alto riesgo para toda la información que circula por las redes de la ciudad conectada.

Al desvelar la falta de control de los datos, el informe se pregunta para quién, para qué y a quién beneficia la smart city que genera infraestructuras que no sabe proteger. En unos de los estudios relacionados, relevante para una ciudad como Barcelona que pronto adoptará tarjetas inteligentes (la T-mobilitat) en el transporte público, las autoras estudian el caso de la Vos Card en Argentina, el volumen de datos personales requerido para contratarla, su capacidad para registrar todas las actividades (movimientos, transacciones) realizadas por la ciudadanía y la indeterminación del contrato suscrito, que no limita en ningún caso el traspaso a entidades privadas de los datos recogidos y su posible uso posterior para tomar decisiones sobre personas específicas.

Al exponer la intensidad con la que los artilugios y políticas de la sociedad cuantificada recogen y utilizan datos para realizar estudios, comercializar información personal o tomar decisiones sobre cómo o dónde intervenir, o a quién proporcionar servicios, los textos alertan sobre la falta de conocimiento y control sobre las tripas de la sociedad cuantificada. Gracias a esta pequeña iniciativa de diferentes fundaciones, parece que la pelota empieza a rodar, y apunta a la oportunidad —¡y necesidad!— de superar la visión de la tecnología como un emocionante síntoma del progreso para empezar a incorporar en nuestra comprensión de la sociedad las formas en que la toma de decisiones tecnológica y la cuantificación altera todo lo que nos rodea.

Gemma Galdon Clavell es doctora en Políticas Públicas.