Humanos cantando con Inteligencias Artificiales

“Es que no es el futuro, es que ya es el presente”, dice el tecnoescéptico Evgeny Morozov sobre la Inteligencia Artificial (IA) y el acelerón tecnológico. En efecto, resulta difícil hablar del futuro porque no pinta demasiado bien o porque llega demasiado rápido: ya está aquí. El pensador Morozov (Bielorrusia, 1984) se ha encontrado con la música electrónica Holly Herndon (Estados Unidos, 1980) para charlar sobre las diferentes facetas que nos muestra la IA. Fue este sábado en la segunda edición del festival Tentacular, dedicado a la cultura digital en Matadero Madrid.

Más información

Morozov: “Si no estás en Facebook, la NSA probablemente sospeche”

La singularidad tecnológica llega a la música: ¿tragedia o bendición?

Herndon se ha doctorado recientemente por la Universidad de Standford en estudios sobre música generada por ordenador y, de hecho, su nuevo disco, PROTO, realizado con la colaboración de Mat Dryhurst (también presente en Matadero), empuja las fronteras de lo que la música electrónica puede hacer. Si en música parecemos haber llegado al final de la historia y adolecemos de esa retromanía que popularizó el crítico Simon Reynols, Herndon demuestra que es posible mirar más allá.

Hay quien dice que su nuevo trabajo es el primero de una nueva época. “Hay miedo a que la IA nos sustituya”, explica Herndon, “pero en este trabajo la IA nos acompaña, canta con nosotros”. Para ello los artistas han entrenado a una IA llamada Spawn, algo así como prole, como si esta fuera un hijo al que enseñan a cantar por medio de técnicas de Machine Learning. Y siempre manteniendo la labor de composición en el lado humano. “Se trata de una forma más humana de utilizar la IA; una IA hecha por las personas y no por las corporaciones”, opina la artista. La cosa plantea sus dilemas: “Dentro de unos años podremos recrear la voz de Aretha Franklin”, explica. El dilema consiste en si deberíamos hacer algo con ella, probablemente algo que Franklin no aprobaría. Eso sin contar las posibilidades de crear falsas noticias y falsos testimonios utilizando voces o incluso rostros de otras personas.

¿Nos sustituirá la IA? ¿Es peligrosa como han dicho gurús como Bill Gates o Elon Musk? “Eso es solo una estrategia publicitaria”, explica Morozov, autor de libros como El desengaño de Internet (Destino) o La locura del solucionismo tecnológico (Clave Intelectual), “hay dos debates en torno a la IA. Uno es de política económica: ¿quién controla los datos? ¿Cuáles son las implicaciones políticas de que Estados Unidos y China controlen esta área? El otro trata sobre ética de las máquinas. Gente con Gates o Musk, Silicon Valley, quieren que el primer debate no tenga lugar, y lanzan esos mensajes distractores a la prensa, más relacionados con el segundo”. Al pensador, bromea, le preocupa más ser destruido por Gates o Musk que por una IA autónoma.

Una de las obsesiones de Mozorov es que se entienda que el problema de lo digital, de lo tecnológico, no es un problema digital ni tecnológico, sino político y económico. Vaya, que los desafíos no los provocan tanto los gadgets, las aplicaciones, etc., sino las relaciones de poder y el uso que se hace de la tecnología por medio de los gobiernos o las grandes corporaciones. Lo que puede abocarnos a un futuro ciberpunk. “La tecnología no avanza por un camino prefijado, depende de factores como el acceso a recursos, a fondos, las luchas de poder”, dice el pensador. “Ahora el único modo que se plantea para el desarrollo es el de las grandes compañías y que haya más y más start ups y emprendedores, como si no hubiera línea alternativa. Nadie piensa en cómo integrar la tecnología en un proyecto social y político, da igual quién gane las elecciones”.

El transhumanismo o la llamada Singularidad Tecnológica, ese momento (hipotéticamente cercano según el ingeniero de Google Ray Kurzweil) en el que las máquinas superen a los humanos es otra nube o esperanza en el horizonte. “Todo esto me parece más una secta religiosa, y me preocupa en el mismo sentido que me preocupa la Cienciología”, dice Morozov con sorna, “hay gente que se preocupa por cosas extrañas y oscuras, antihumanistas… tal vez necesiten ayuda. Estas cosas deberían ser estudiada como mitología”.

Los problemas, pues, son otros. “A lo largo del tiempo ha habido luchas y demandas en torno a los salarios, en torno a prevenir el cambio climático… todavía no se han emprendido las demandas sociales en torno a los datos”, explica, “la gente tiene que pedir compensaciones a aquellos que se han hecho ricos con sus datos”.

“La música puede ser un medio para que la gente se interese por estas cuestiones” opina Herndon, que piensa que la tecnología también podría plantear futuros más luminosos. “Quizás sea porque empecé mi educación musical en una iglesia de Tennessee, en un ambiente muy motivador, pero creo nuestros espectáculos lo tecnológico acompaña a lo humano, que está siempre en el centro, y se crean ambientes también muy emotivos”.