Frankenstein en el siglo XXI

Nunca pudo imaginar la genial Mary Shelley la huella que iba a dejar aquella novela que escribió para ganar una apuesta: Frankenstein o el moderno Prometeo. El marco no podía ser más apropiado. Verano de 1816, una reunión de amigos, poetas por más señas, en Villa Diodati (Suiza). Lord Byron lanza a sus compañeros el desafío de escribir durante la noche un relato de terror. Los interpelados eran nada menos que el matrimonio Shelley, John Polidori y el propio Byron. Es verdad que solo Polidori logró concluir su novela, pero esa noche nació el mito del Prometeo moderno gracias a la única mujer del grupo. El relato es desde entonces bien conocido: el estudiante Frankenstein crea vida a partir de la materia inerte, reúne piezas de cadáveres y pronuncia ese fiat que parece reservado solo a Dios, valiéndose ahora de la electricidad.

Es verdad que la ambición de crear seres vivos a partir de la materia inerte ha sido un elemento común a diversas culturas, como la sumeria, china, judía, cristiana, musulmana, y que en esos casos los relatos venían envueltos en historias de terror. Por eso, no es extraño que en el siglo XXI, con el nacimiento de la inteligencia artificial (IA), se hable de frankenfobia para designar el temor a las máquinas supuestamente inteligentes que pueden dañar a los seres humanos. Un temor totalmente infundado, porque la IA es un conjunto de instrumentos que pueden ser muy valiosos si los manejamos desde un marco de principios éticos. Bueno sería que una ética de la IA aprendiera el verdadero mensaje de Mary Shelley: la gran tragedia del monstruo es que su creador le ha infundido una aspiración a la felicidad imposible de alcanzar, porque a la vez lo ha hecho único y no puede encontrar a un semejante con el que compartir la vida.

Cabría preguntar si en el siglo XXI, pese al florecimiento de la conectividad, no ha quedado preterida la comunicación. Conectarse no es comunicarse. El incremento de la soledad por el encapsulamiento en las plataformas, el aumento de las enfermedades mentales por el aislamiento son nuevas patologías. Y en la ética política, la imposibilidad de construir un “nosotros” desde el que tomar las decisiones conjuntamente dificulta la formación de sociedades democráticas, en las que los afectados por las nuevas tecnologías deberían ser también los protagonistas de las decisiones, con ayuda de los expertos.

La buena noticia es que han proliferado los principios éticos para la IA desde la Conferencia de Asilomar de 2017 con el objetivo de intentar que sea diseñada para el bien. Hasta el punto de que, según el Inventario global de directrices éticas sobre IA de Algorithm Watch, en 2020 había ya más de 160 principios propuestos, nacionales, internacionales, supranacionales y globales. La noticia no tan buena es que esos principios se enfrentan a la dificultad moral de descubrir orientaciones éticas interculturales, teniendo en cuenta la diversidad de culturas en un mundo globalizado, y al escollo técnico de incorporarlas en los sistemas inteligentes de forma que actúen éticamente. ¿Qué “leyes éticas” es preciso o conveniente incorporar en sus programas, que podrían aprender mediante el machine learning?

Son cuestiones esenciales, porque las empresas que producen las tecnociencias ya no se contentan con adaptar el medio a nuestras necesidades y deseos, sino que se afanan por adaptar nuestras necesidades y deseos al medio, al entorno creado para que se desarrollen mejor las IA. Una clara muestra de que las tecnociencias no son neutrales, porque están en manos de quienes se disputan el poder económico y político. El problema no es el monstruo de Frankenstein.

A mediados del siglo pasado, los representantes de la primera generación de la Escuela de Fráncfort, Adorno y Horkheimer, denunciaron el eclipse de la razón, producido “gracias” al triunfo de la racionalidad instrumental, que entiende de medios pero es incapaz de ponerse de acuerdo en valores últimos desde los que entenderse y organizar la vida conjuntamente. La segunda generación, sobre todo Habermas, en estrecha conexión con Apel, sacó a la luz la realidad de la razón comunicativa, que nos permite superar el imperio de la razón instrumental y organizar el mundo desde el “nosotros” de los seres humanos, desde la intersubjetividad que nos constituye. Como bien decía Hölderlin, “somos un diálogo”, y la imposibilidad de ejercerlo con un semejante era la tragedia del monstruo de Frankenstein. En ese diálogo no pueden entrar las IA, incapaces de comunicarse desde un trasfondo de intersubjetividad del que carecen.

Pero, si el diálogo entre las personas de diversas culturas fuera posible, ¿hacia dónde querríamos ir en este mundo global e intercultural? ¿Hay alguna meta común?

Sí, la hay: la aspiración a construir la paz está presente en todas ellas.

En 1948, la Declaración Universal de Derechos Humanos señaló el objetivo común de construir la paz tras la dolorosa experiencia de guerras inmisericordes. Construirla sigue siendo la tarea conjunta, que no es una utopía, un no lugar, sino una idea regulativa, en el sentido kantiano, que sirve como orientación para la acción y como crítica para la situación presente. Porque desde un punto de vista teórico no podemos asegurar que llegaremos a una sociedad mundial pacífica, pero tampoco negarlo. Y cuando la razón teórica no puede garantizar una cosa u otra, la razón moral lanza su veto irrevocable: “No debe haber guerra, porque esa no es la forma en que los hombres deben resolver su derecho”. Lograr una paz justa es la meta común de la humanidad, un ideal presente en muy distintas culturas.

Bueno sería que Netanyahu recordara el versículo de Isaías: “¡Qué alegres son los pies del mensajero que anuncia la paz!”. Poner fin a la guerra y aceptar los dos Estados sería el camino.

Ojalá Putin releyera el pacifismo militante de Tolstói, porque hay un tiempo de guerra indeseable que debe desembocar en la añorada paz. O aplicara a Zelenski las palabras sanadoras de Dostoievski a favor de los que han sido humillados y ofendidos.

Trump se empeña en hacer grande América por el camino equivocado, la está empequeñeciendo, cuando cuenta con infinidad de clásicos como Thoreau.

Por su parte, la Unión Europea debería recordar tradiciones como la del Defensor pacis, de Marsilio de Padua, pero no menos La paz perpetua kantiana, que propone alcanzarla construyendo Estados de derecho democráticos en el nivel mundial entre los que se creen lazos éticos y jurídicos. Apoyar a Zelenski para lograr una paz justa que no le impida entrar en la OTAN y en la UE es ahora la tarea de los que trabajan por la paz.

También trabajar por la paz es lo que propone Xi Jinping verbalmente en el discurso pronunciado con ocasión del 80º aniversario de la rendición de Japón. Solo que las palabras son muy sufridas y es imposible construir la paz cerrando filas con dictadores como Putin o Kim-Jong-un. Pero el hecho de emplearlas muestra que valores como la paz son los que pueden exhibirse en público, porque la humanidad los desea.

En esa línea, España debería recuperar aquel espíritu de la Transición que alumbró una etapa ética y próspera, una democracia de calidad, un Estado de derecho sólido, capaz de ser un eslabón en el camino mundial hacia la paz.