Ciudadanos sin rostro

En estos días de guerra y conflicto es fácil encontrar artículos y estudios que hablan del potencial deshumanizador de la tecnología. Por ejemplo, no son pocos los ex operadores de vehículos aéreos no tripulados (los famosos drones) que han hablado sobre cómo la guerra remota convierte a las personas sobre el terreno en figuras de un videojuego, y la muerte en una prueba más (sin sangre, sin familias) para pasar de pantalla. Pero el objetivo de este artículo no es denunciar procesos lejanos, sino acercarlos. Porque a menor escala, este efecto deshumanizador y distorsionador de la tecnología puede acabar siendo otra de las inesperadas consecuencias de la ciudad inteligente. Me explico.

El desarrollo tecnológico de los últimos años nos permite plantear la posibilidad de contar con datos sobre un sinnúmero de procesos. Escáneres, sensores, cámaras, tarjetas RFID, contadores, redes sociales y wearables nos permiten generar datos sobre dónde estamos, cómo caminamos, qué compramos, qué opinamos y cómo dormimos. Toda esta información la ponemos a disposición de proveedores de servicios, amigos, conocidos y, también, gobiernos. Los representantes públicos pueden contar con datos en tiempo real sobre los ciudadanos cuyos problemas deben resolver. Las nuevas tecnologías, pues, plantean la posibilidad de un mayor conocimiento de cuáles son las necesidades de la ciudadanía, y a la vez pueden proporcionar innovadoras formas de abordarlos.

No obstante, existe un riesgo. Que las innovaciones tecnológicas teorizadas como herramientas para acercar a representantes y representados acaben en la práctica contribuyendo a un mayor alejamiento, al confundir al ciudadano con los datos que genera. Igual que convertimos las guerras en videojuegos, podemos acabar convirtiendo la democracia en un ejercicio de interpretación de datos agregados. Guerras sin sangre, ciudadanos sin rostro.

¿Nos vemos reflejados en la imagen creada a partir de la agregación de los datos capturados sobre nosotros por múltiples dispositivos? ¿Nuestros datos nos representan? Muchos proveedores de servicios han establecido ya que sí, que a partir de esta agregación de datos personales puede definirse un doble de nuestra persona construido a base de datos. Así, actividades triviales como revisar nuestro perfil en redes sociales, comprar la comida con la tarjeta cliente, reservar un vuelo por Internet o pasar por delante de una cámara o un escáner de teléfonos inteligentes van dando forma a este perfil que pretende representarnos y que será el que utilizarán algunas empresas para ofrecernos productos que encajen con nuestra forma de vida.

¿Podemos construir la democracia del futuro en base a caricaturas de los ciudadanos?

De la misma forma, a los representantes públicos este escenario les ofrece la oportunidad de alegar un mayor conocimiento de la ciudadanía… sin la necesidad de acercarse a los ciudadanos, en lo que constituye una vuelta de tuerca más del despotismo de los datos: “Todo por el pueblo, con los datos del pueblo, pero sin el pueblo”. En los ámbitos en los que la intervención tecnológica está más desarrollada, como en los conflictos bélicos o en la prestación de ciertos servicios, se advierten diferentes tipos de disfunción que deberían servir de aviso para navegantes. Por una parte, este factor deshumanizador que se percibe al alejar la realidad de la guerra del que provocan las bajas, y que puede ponerse en referencia a la frialdad de una base de datos de activos bancarios en comparación con la amarga realidad de los desahucios. La compasión y la empatía no viajan bien por las hojas de excel ni las representaciones digitales del campo de batalla.

Pero lo más perturbador no es el extremo deshumanizador, sino el elemento de distorsión que introducen estos dobles sobre los que se toman las decisiones. Más que un reflejo fiel de quiénes somos, nuestros dobles de datos son a menudo una caricatura grotesca. Basta con fijarse en cómo empresas como Facebook o Amazon procesan nuestros datos y nos ofrecen aquello que esperan o prevén que deseamos en forma de anuncios personalizados. Aunque es cierto que estas empresas tienen acceso a datos importantes y reveladores sobre nuestras actividades, ni Amazon sabe distinguir qué libros compramos para nosotros y cuáles son para regalar, ni Facebook entiende si cuando nos relacionamos tanto con ese amigo lo hacemos porque somos realmente amigos, porque le estamos acosando o porque sus opiniones nos sacan tanto de quicio que nos vemos en la irrefrenable necesidad de apostillarle cada comentario. Los matices del deseo, de las fobias, las filias o los favores, como la sangre de las guerras, se pierden al convertirnos en perfiles de datos.

Al final, la sociedad de los datos se basa en una abstracción. Una abstracción que en su extremo deshumaniza pero que en su cotidianidad distorsiona hasta la caricatura. ¿Podemos construir la democracia del futuro en base a caricaturas de los ciudadanos? Es cierto que la promesa es que el proceso de recogida y análisis de datos se vayan perfeccionando hasta el punto de ser capaces de recoger esos matices. Pero también lo es que los sueños tecnológicos de nuestra especie avanzan mucho más rápido que la realidad, y que en la actual deriva tecnologizante, podemos acabar confundiendo el medio con el fin. El perfil de datos con el ciudadano.

Gemma Galdon Clavell es doctora en Políticas Públicas