Trevor Paglen, el artista que mira donde no podemos ver: de las cárceles secretas de la CIA a las imágenes que alimentan la inteligencia artificial

En un futuro no muy lejano, ya no se desplegará en su pantalla un artículo como este que tiene delante, una pieza idéntica, con las mismas palabras e iguales imágenes para el lector de Madrid y para el de Buenos Aires. Pronto, la inteligencia artificial producirá contenido específico para el individuo concreto, una persona con su nombre y apellidos, su metro setenta y cinco centímetros de altura, jugadora amateur de balonmano y con un marcado interés por los temas relacionados con la ciencia. Si hace unos años l...

En un futuro no muy lejano, ya no se desplegará en su pantalla un artículo como este que tiene delante, una pieza idéntica, con las mismas palabras e iguales imágenes para el lector de Madrid y para el de Buenos Aires. Pronto, la inteligencia artificial producirá contenido específico para el individuo concreto, una persona con su nombre y apellidos, su metro setenta y cinco centímetros de altura, jugadora amateur de balonmano y con un marcado interés por los temas relacionados con la ciencia. Si hace unos años la mayor parte de aplicaciones de la visión informática (que enseña a las máquinas a comprender las imágenes tal y como hacemos los humanos) y la inteligencia artificial consistían “en recolectar algún tipo de dato para procesarlos con el fin de extraer valor de ellos, como entender algo de tu personalidad para venderte algo o instalar un sistema de cámaras para dirigir un dron o un coche, ahora, con la IA generativa, no se trata solo de reunir información para hacer algo con ella, sino de producir imágenes, textos y materiales destinados al consumo de las personas”.

Quien advierte de este giro en la vertiginosa evolución de la IA es el creador estadounidense Trevor Paglen, que lleva años investigando en la intersección donde se cruzan el arte y la tecnología. “Puede que a ti te guste el color azul y a mí el verde, de modo que para ti se generará una imagen adjunta al artículo diseñada para atraer tus gustos y preferencias”, explica el artista conceptual frente a un pincho de tortilla en la terraza de Matadero Madrid, donde el pasado jueves día 1 impartió una charla titulada Machine Visions, sobre el origen de la IA, y donde tiene una instalación de vídeo visitable hasta el 25 de febrero. “Y eso es solo lo básico”, subraya. “Los tipos de medios que ganan tracción en internet son aquellos específicamente diseñados para tirar de nuestras emociones y manipularnos, y creo que la IA generativa abre un mundo de posibilidades que hará que los algoritmos de Facebook y TikTok parezcan poca cosa en comparación. Y eso es algo que me preocupa”, agrega, para más tarde rematar: “Hay una teoría de la conspiración que se ha vuelto muy popular en la última década, que dice que vivimos en una simulación, que nada es real y que todo se manipula, y a veces pienso que eso es verdad”.

Nacido y criado en distintas bases estadounidenses y formado como geógrafo, Paglen comenzó su trayectoria artística enfocado en las imágenes relacionadas con el aparato militar: ha fotografiado lugares y paisajes secretos supuestamente inexistentes, cables submarinos, sistemas de vigilancia, drones y satélites… En otras palabras, se ha dedicado a hacer visible aquello que suele resultar invisible para nuestros ojos, mirando a los sistemas que nos miran. “Empecé con las operaciones de la CIA durante la Guerra contra el terrorismo: intentaba comprender cómo funcionaban y dónde se encontraban las cárceles secretas que la CIA tenía por el mundo”, explica. “De ahí pasé a trabajar con drones, y pasé mucho tiempo trabajando con Laura Poitras [directora de documentales como Citizenfour, sobre el denunciante Edward Snowden] en cuestiones relacionadas con la Agencia Nacional de Seguridad de EE UU [NSA por sus siglas en inglés] y con el hecho de que internet se estaba convirtiendo en una herramienta de vigilancia masiva. Pero después de un tiempo me di cuenta de que existe algo mucho mayor que la NSA que se llama Google, se llama Amazon, se llama Microsoft”.

Behold These Glorious Times! (¡contemplad estos tiempos gloriosos!), la instalación de Paglen en Matadero Madrid, propone una inmersión en los sistemas de inteligencia artificial que utilizan la visión informática (computer vision), entrenados a base de cascadas de imágenes a las que los humanos no tenemos acceso, porque están creadas por ordenadores para el consumo de los propios ordenadores. De nuevo, la paradoja de lo visible que no se puede ver. Pero también las imágenes como lenguaje y como medio de manipulación de masas, ahora fragmentadas en 8.000 millones de personas.

Creada en 2017 (es decir, que podría considerarse ya un “dinosaurio” en términos de la evolución de la IA), esta pieza de vídeo está basada en modelos capaces de reconocer diferentes tipos de flores. Con un sinfín de imágenes que van sucediéndose una tras otra, poco a poco flujo visual “se va haciendo cada vez más personal y extraño”. El sistema empieza a ver imágenes de objetos domésticos y caras hasta llegar a imágenes íntimas de personas con sus hijos, o en sus habitaciones. “La instalación cuenta la historia de una especie de agregado en la tecnología, un salto desde el punto en que esta se concibe como un medio para clasificar cosas hasta que se convierte en algo diseñado para extraer algún tipo de valor del hecho de mirar los momentos más íntimos de tu vida”.

Paglen se toma su tiempo para responder a las preguntas. Se detiene, reflexiona y dispara. Al fin y al cabo, habla de temas enormemente complejos, conceptos que se escurren entre los dedos de la mayoría de los mortales que atravesamos nuestras vidas inmersos hasta el cuello en la tecnología, pero que somos al mismo tiempo profundamente ignorantes de su funcionamiento y sus consecuencias. Con la ley, se dice que su desconocimiento no exime de su cumplimiento, pero en el caso de la inteligencia artificial Paglen cree que, por mucho que cada uno de nosotros alimente incesantemente a la bestia con todo tipo de fotografías, vídeos e informaciones personales, no debemos cargar con la responsabilidad del (mal) uso que las grandes corporaciones hacen de ello.

“Los modelos están entrenados con datos del pasado, que la gente subió a internet cuando todavía no había IA, de modo que ¿es justo que estas empresas viajen atrás en el tiempo y te digan que diste tu consentimiento para algo que entonces ni siquiera existía?”, se pregunta Paglen. “Y esta es una cuestión que atañe a todo lo relacionado con las tecnologías basadas en la nube, porque normalmente tú haces las cosas en un contexto, y este contexto puede cambiar en el futuro”.

Podría decirse que ese mismo concepto, el de contexto, constituye uno de los pilares maestros que sustentan la práctica artística del estadounidense, que trabaja a caballo entre Nueva York y Berlín (aunque la semana pasada se encontraba de viaje por medio mundo, de Madrid a Texas). “Las cosas no suceden en el vacío”, recalca. “Es decir, aquello que se nos pide que creamos o percibamos siempre viene de algún tipo de interés económico o político, y estos tienden a ser bastante reaccionarios”. Aunque los humanos se encuentran detrás de la inteligencia artificial, es importante saber quiénes son concretamente esos humanos y qué es exactamente lo que buscan. De ahí la importancia de investigar, compartir, sensibilizar. En este caso, con el arte como vehículo. “Pienso que es muy valioso mirar el mundo desde el mayor número de perspectivas posible”, apunta Paglen. “Porque creo que posiblemente esa es la mejor manera que tenemos para llegar a algo que se acerque a la verdad. Y para mí, el arte puede ser de enorme ayuda para conseguirlo”.