“Facebook y Apple podrán tener el control que la KGB nunca tuvo sobre los ciudadanos”

Un coche autónomo está a punto de atropellar a cinco peatones. ¿Qué debe hacer? ¿Echarse a un lado y matar a su dueño para minimizar las bajas humanas, o salvarle la vida a su pasajero y arrollar a los paseantes? ¿Cómo debería programarse el ordenador del automóvil? Dilemas éticos como este preocupan a Yuval Noah Harari (Israel, 1976), profesor de Historia de la Universidad Hebrea de Jerusalén y uno de los pensadores de referencia en la actualidad. Su primer libro, Sapiens, una breve historia de la humanidad, se convirtió en un fenómeno editorial recomendado por Barack Obama y Mark Zuckerberg. En su segundo libro, Homo Deus (Debate), va más allá y advierte de los riesgos de la inteligencia artificial, el big data y los algoritmos que permiten complejas predicciones matemáticas.

Harari describe un futuro en el que una élite humana cada vez más poderosa gracias a la tecnología se distancia de la masa hasta convertirse en una nueva especie con capacidades nunca vistas. Un mundo, controlado por máquinas y corporaciones tecnológicas, que abandona a su suerte a los humanos que considera inútiles. No se asusten: Harari puntualiza en una entrevista en Madrid que no es tarde para cambiar el porvenir.

Pregunta. Zuckerberg recomendó este verano su primer ensayo. ¿Cree que pasará lo mismo con el segundo?

Respuesta. Es cierto que este libro es más desafiante, porque cuestiona opiniones y prácticas de Silicon Valley. Pero no es un libro contra Silicon Valley, sino sobre la revolución de los ordenadores e Internet. Es lo más importante que está pasando ahora y lo hemos dejado en manos de unas pocas empresas. Permitir que Facebook y Amazon moldeen el futuro de la humanidad tiene peligros inherentes. No porque representen el mal, sino porque tienen su propia visión limitada del mundo, sus propios intereses y no representan a nadie, nadie les votó. La mayoría de partidos y Gobiernos no tienen una visión seria del futuro de la humanidad.

“Hay que convencer a los políticos de que la inteligencia artificial no es ciencia ficción”

P. En Silicon Valley prometen cambiar el mundo, hacerlo mejor. No parece un propósito amenazador.

R. Es que hay que reconocer que tienen razón. Lo que se hace allí influirá más que cualquier otra cosa en el siglo XXI. Los políticos han perdido el contacto con la realidad. Donald Trump afirma que los chinos les quitarán el trabajo a los estadounidenses, pero serán los robots. Hay que convencer a los políticos de que la inteligencia artificial no es una fantasía de ciencia-ficción.

P. Algunos expertos dicen que los trabajos que desaparecerán serán sustituidos simplemente por otros.

R. No tenemos ninguna garantía de que los trabajos que se creen sean suficientes para cubrir los que se destruyan. Tampoco está claro que los humanos sean capaces de realizar esos nuevos trabajos mejor que la inteligencia artificial. Y, aun así, un tercer problema es cuántos tendrán la habilidad necesaria para reciclarse.

“Estamos cediendo el control de nuestras vidas a los algoritmos”

P. ¿Qué pasará con esa masa de gente expulsada del mercado laboral?

R. Si las fuerzas del mercado siguen tomando las decisiones más importantes, es muy posible que una élite acapare el poder y lo use para ascender a una nueva categoría, de Homo sapiens a homo deus, una especie de superhumanos. Y la mayoría de la población, una nueva clase formada por gente prescindible, se quedará atrás. Esto ya está pasando. Los ejércitos más avanzados ya no reclutan a miles de soldados, sino a un pequeño número de militares cualificados, apoyados por drones, robots y técnicas de ciberguerra. Para el ejército, muchos soldados son ya innecesarios. La ingeniería genética y la inteligencia artificial pueden ser utilizadas para crear tipos de sociedades muy diferentes y deberíamos empezar a discutir qué sociedad queremos crear. Todavía podemos elegir.

P. Los algoritmos son cada vez más importantes. ¿Con qué consecuencias?

R. Uno de los grandes peligros es que nos conocen cada vez mejor y confiamos en ellos para que elijan por nosotros, desde cosas sencillas, como qué noticias leer, hasta importantes, como nuestra salud. Perdemos el control de nuestras vidas y se lo cedemos a los algoritmos. Es cierto que, muchas veces, cederlo es positivo. Por ejemplo, Angelina Jolie se hizo una prueba de ADN y encontró una mutación en un gen que, según el algoritmo, le daba una posibilidad del 87% de desarrollar un cáncer de mama. En ese momento no estaba enferma, se sentía perfectamente bien. Pero se sometió a una doble mastectomía. Y creo que hizo bien. El potencial de la tecnología es increíble. El reto es saber usarlo, porque también hay un lado oscuro. Si confiamos en los algoritmos porque nos aconsejan bien, cada vez les damos más poder y control sobre nuestras vidas y pueden empezar a manipularnos incluso de forma no intencionada.

P. A mucha gente no le importa ceder sus datos.

R. Nuestros datos personales son nuestro mayor activo. Adónde vas, qué compras, y por encima de todo tus datos biométricos, tu ADN, tu presión arterial… Pero la gente se lo cede a Amazon, Facebook y Google a cambio del correo electrónico, las redes sociales y los vídeos de gatitos. Estas compañías acumulan una gran cantidad de datos y analizarlos les permite comprender a la sociedad, al mundo, mejor que nadie. Facebook puede, teóricamente, decidir las elecciones en EE UU. Una de las informaciones más valiosas hoy día es quiénes son los votantes indecisos. Esa información la tiene Facebook. No todos estamos en la red social, es cierto, pero mucha gente sí, y la compañía podría intentar averiguar quiénes son esos indecisos e incluso qué debería decirles el candidato para convencerlos de que le voten. Facebook tiene este poder porque la gente le regala su información.

P. ¿Es el fin del libre albedrío?

“Es muy posible que una nueva clase de superhumanos monopolice el poder en el futuro”

R. El cerebro es tan complejo que ni el KGB soviético, espiando a todas horas a los ciudadanos, era capaz de entender a la gente o predecir sus gustos y deseos. En cierto sentido, eso nos hace libres. Pero en el siglo XXI estamos adquiriendo más conocimientos biológicos y los ordenadores tienen más poder. Así que lo que el KGB era incapaz de controlar, Facebook o Apple podrán hacerlo en… ¿10, 20 o 30 años? Podrían monitorizar tu cuerpo con sensores biométricos, recoger estos datos y, con algoritmos sofisticados, analizarlos y saber exactamente quién eres, tu personalidad, qué te gusta, qué responderías a una cuestión. Cuando una entidad externa te entiende mejor que tú mismo, ya no hay libre albedrío.

P. Mucha gente pensará que usted es un tecnófobo más…

R. En el libro hablo más de los riesgos que de las ventajas de la tecnología, porque creo que es responsabilidad de pensadores, historiadores y filósofos advertir de los peligros y tratar de buscar soluciones. Ya se encargarán los ingenieros y los empresarios de resaltar las ventajas. Es importante que nos conozcamos a nosotros mismos y averigüemos qué queremos en la vida. Creo que así podremos usar la tecnología de forma más sensata y alcanzar nuestros propios objetivos.