Digitalizar es vigilar

Las grandes tecnológicas quieren seguir creciendo, porque las empresas que no van de subida van de bajada, y nadie quiere ir de bajada. Pero han sido tan exitosas y son tan gigantescas, que no es fácil encontrar sitio hacia donde crecer. Como Alicia en el País de las Maravillas, atrapada en la casa del conejo después de haber crecido demasiado, las tecnológicas tienen los brazos y las piernas saliéndoseles por las ventanas y la chimenea de la casa de la democracia.

Una posibilidad para crecer aún más es intentar atraer nuevos clientes. ¿Pero cómo encontrar un público nuevo cuando la gran mayoría de los adultos con acceso a internet en el mundo entero ya son tus usuarios? Una opción, que Facebook está persiguiendo sin escrúpulos, es concentrarse en niños cada vez más pequeños. El nuevo grupo de interés para la tecnológica son niños de seis a nueve años. Si por la empresa fuera, todo bebé nacería con cuenta de Facebook. Esta opción es limitada, porque tarde o temprano se captará a todos los niños vulnerables a ser expuestos a su tecnología, y también tiene sus riesgos. Hay varias investigaciones a Facebook e Instagram en Estados Unidos por haber causado daños a menores a sabiendas. ¿Y hacia dónde se crece entonces?

Otra posibilidad es digitalizar cada vez más aspectos del mundo. A pesar del rápido avance de las tecnologías digitales, la mayor parte de nuestra realidad sigue siendo analógica, aún después de la pandemia del coronavirus. La mayoría de nuestras compras no son por internet. La mayoría de los lectores prefieren libros en papel. Son analógicos muchos de nuestros espacios urbanos, nuestras casas, nuestra ropa, muchas de nuestras conversaciones, nuestras percepciones, nuestros pensamientos y nuestros seres queridos.

Los gigantes tecnológicos comparten el deseo de digitalizar el mundo porque es una forma fácil de ganar terreno, de agrandar la casa. Todo lo analógico es un recurso en potencia. Algo que se puede convertir en datos para luego comercializar. Por eso Facebook ha sacado unas nuevas gafas con Ray-Ban que tienen micrófonos y cámara. Más captura de datos. Por eso el nuevo sistema operativo del iPhone puede digitalizar texto y números desde una imagen, puede escanear edificios para que sean reconocidos en la aplicación de mapas, tiene algoritmos que pueden identificar objetos en un vídeo en tiempo real, y hace posible convertir fotos en modelos tridimensionales para usarse en la realidad virtual. Por eso Microsoft está proponiendo una plataforma que crea avatares tridimensionales para tener reuniones más interactivas. Y por eso Facebook —perdón, Meta— está insistiendo en su metaverso.

Los titanes tecnológicos nos aseguran que sus nuevas invenciones respetarán nuestra privacidad, por supuesto. Lo que omiten es lo que llamo la ley de hierro de la digitalización: digitalizar es vigilar. No existe tal cosa como una digitalización sin vigilancia. El acto mismo de convertir en datos lo que no lo era es una forma de vigilancia. Digitalizar implica crear un registro, poner etiquetas a las cosas para que sea más fácil encontrarlas y seguirlas. Digitalizar equivale a hacer rastreable aquello que no lo era. ¿Y qué es rastrear, si no vigilar?

Hace unas semanas tuve una conversación con un par de ingenieros que no concebían que pudiera haber un problema de privacidad por digitalizar el mundo. Demasiada gente entusiasta de la tecnología digital está bajo la impresión, tan conveniente como equivocada, de que si las personas consienten a la recolección de datos, y si el procesamiento de datos sucede dentro de nuestro propio teléfono u ordenador, no hay ningún problema de privacidad.

Primero: no existe consentimiento informado en la recolección de datos. El consentimiento que damos ni es consentimiento, porque no es verdaderamente voluntario, ni es informado, porque nadie tiene ni idea de dónde pueden acabar esos datos y qué inferencias pueden sugerir en el futuro. Segundo: la creación de datos es moralmente problemática en sí misma. Los datos no son fenómenos naturales, como setas que vamos encontrando por el bosque. Los datos los creamos, y ese acto de creación conlleva una responsabilidad moral y un deber de cuidado hacia los sujetos de datos.

¿Qué problema de privacidad puede haber si los datos están en el teléfono de cada usuario?, me pregunta el ingeniero, asumiendo que los usuarios tienen control sobre sus teléfonos, e ignorando los muchos ejemplos que muestran lo contrario.

En el mejor de los casos, nuestros teléfonos tienen vida propia. Tienen habilidades autónomas, como la capacidad de mandar datos a terceros sin que nos demos cuenta, y la mayoría de nosotros tiene poca idea de cómo funcionan. Además, todo teléfono conectado a internet es hackeable. ¿Y qué hay de los maltratadores que están aprovechando las tecnologías para controlar a sus parejas e hijos? Si un maltratador te fuerza a compartir tu contraseña, esos datos que ha creado tu teléfono sin que tú se lo pidas (dónde has estado, a quién has llamado, etcétera) pueden jugar en tu contra. ¿Y qué pasa cuando un agente de aduanas te pide en la frontera de Estados Unidos que desbloquees el teléfono? ¿O si te lo pide la policía? ¿Y quién te puede garantizar que una aseguradora no te pedirá acceso a esos datos en el futuro? Tan pronto como los datos personales han sido creados y guardados, hay un riesgo de privacidad para el sujeto de datos.

Por supuesto, pedir a las empresas tecnológicas que no digitalicen el mundo es como pedir a los constructores que hagan el favor de no pavimentar los espacios naturales. A menos que la sociedad ponga límites legales, nadie hace caso. Por eso los gobiernos establecen áreas protegidas cuando se trata de construir.

Necesitamos áreas protegidas similares cuando se trata de la vigilancia. Está en la naturaleza de las empresas tecnológicas convertir lo analógico en digital. Pero convertir todo en un espía potencial es una amenaza para la libertad y la democracia. La vigilancia conduce a sociedades de control, lo que a su vez conduce a la disminución de la libertad. Cuando sabemos que nos vigilan, nos autocensuramos, y cuando otros saben demasiado sobre nosotros, pueden predecir, influir y manipular nuestro comportamiento.

Hay algunos datos que es mejor no crear. Hay datos que es mejor no tener. Hay algunas experiencias de las que nunca debería quedar registro.

Me gustaría tener un teléfono que no creara datos sin que se lo pida, o que los borrara poco tiempo después de haberlos creado. Quiero un teléfono sin reconocimiento facial, en el que la cámara y los micrófonos se puedan desactivar mecánicamente, por ejemplo.

Hace poco más de una década, disfrutar de la tecnología digital era un lujo. Cada vez más, el lujo es poder disfrutar de espacio y tiempo lejos de la tecnología digital. Por eso las élites de Silicon Valley crían a sus hijos sin pantallas. Hace falta defender el mundo analógico. Si dejamos que la realidad virtual prolifere sin límites, la vigilancia será igualmente ilimitada. Solo con rastrear tu mirada, las empresas podrían reconocer tu identidad, tu etnicidad, tus emociones, aspectos de tu salud mental y física, y más. Si queremos mantener nuestras democracias y libertad en la era digital, más nos vale poner límites a aquello que se digitaliza.