Jianwei Xun, supuesto autor de la teoría de la hipnocracia, no existe y es fruto de la inteligencia artificial

La ciudad francesa de Cannes acogió el pasado 14 de febrero una mesa redonda sobre la Metamorfosis de la democracia, cómo la inteligencia artificial quiebra la gobernanza digital y redefine nuestra política. El debate fue reflejado en un artículo de EL PAÍS después de que Gianluca Misuraca, vicepresidente de Technology Diplomacy of Inspiring Futures, introdujera el tema de la “hipnocracia”, las nuevas formas de manipulación reflejadas en un libro firmado por Jianwei Xun. Pero este filósofo hongkonés no existe, según ha revelado Sabina Minardi , redactora jefe de la revista italiana L’Espresso. La teoría es producto del ensayista y editor Andrea Colamedici, que firma como traductor, pero que en realidad es coautor del libro junto a dos plataformas de inteligencia artificial sin que se advierta de esta circunstancia en ningún momento, como exige la ley de la UE sobre IA. Él justifica que se trata de un “experimento filosófico y una performance artística”. EL PAÍS ha decidido eliminar el contenido del artículo publicado el pasado 26 de marzo y en el que se hacía referencia a contenidos explícitos del trabajo atribuido al supuesto filósofo hongkonés, cuya existencia se ha demostrado que es falsa.

La teoría ha sido recogida por numerosos medios y representantes de instituciones académicas, entre ellos Cecilia Danesi, investigadora en el Instituto de Estudios Europeos y Derechos Humanos (Universidad Pontificia de Salamanca), quien asistió al encuentro de Cannes y ahondó en los conceptos del libro Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad (Ediciones Tlon).

Según Colamedici, la periodista y su medio formaban parte de la “perfomance”. El director de L’Espresso, Emilio Carelli, en un artículo de opinión, se refiere al conflicto creado: “En este punto, una pregunta es obligada y surge espontáneamente: si las tesis de este libro son correctas o al menos han logrado suscitar un intenso debate cultural, que ha involucrado a intelectuales y filósofos, incluidos académicos del prestigioso Instituto HEC de París, que lo citaron en algunos de sus artículos científicos, ¿qué importa que hayan sido escritas por Inteligencia Artificial? ¿O, como en este caso, fueron co-creados con IA? ¿Podría este modelo abrir camino a una nueva manera de hacer filosofía? Si es así, el exitoso experimento de Hipnocracia nos enseña algo importante y es que también podemos tener una relación activa con la IA y, sobre todo, podemos utilizarla para aprender a pensar”.

Andrea Colamedici, 24 horas después de la publicación de la primera versión de este artículo, ha respondido a las preguntas de EL PAÍS: “La intención de Hipnocracia fue crear un experimento filosófico y una performance artística con la que resaltar los riesgos y peligros de usar la inteligencia artificial construyendo un libro que dijera cosas en las que yo mismo creo y he producido. No quería engañar al lector, el propósito era académico, resaltar mecanismos peligrosos de uso de la inteligencia artificial por parte de las grandes tecnologías mediante un uso imprudente de esta y, en cambio, invitar a su uso consciente. Quería dejar claro no solo los peligros, sino también mostrar la práctica de las tesis que él encarnaba, por lo que es un libro que simultáneamente explica una teoría y la encarna al mismo tiempo”.

El Reglamento Europeo de Inteligencia Artificial, acordado por las instituciones comunitarias el 8 de diciembre de 2023 y aprobado por el Parlamento Europeo el 13 de marzo del año pasado considera infracción grave no cumplir con el etiquetado de textos, vídeos o audios generados con IA, algo que la obra publicada por Colamedici en su editorial no incluye en momento alguno en las versiones en italiano e inglés.

Colamedici argumenta que esta norma aún no es aplicable y añade: “He dejado una serie de huellas para el lector dentro y fuera del libro. Por ejemplo, el capítulo uno relata el experimento de Berlín, que es exactamente la descripción de lo que es Hipnocracia. En ese capítulo se narra la experiencia de un grupo de eruditos de una universidad que inventa un autor que escribe un libro falso que es amado, comentado y discutido por el entorno cultural”.

En español, el libro está publicado en la Editorial Rosameron, donde se presenta la obra como “un mapa esencial para comprender cómo opera el poder en la era de la percepción manipulada”. El fundador de Rosameron, Francisco Martínez Soria, ha advertido que el libro en español sí incluirá una explicación de cómo y por qué se ha creado la obra, así como la identidad mixta tras el nombre que figura como autor.

La página de Jianwei Xun en internet ha sido modificada para incluir la siguiente referencia en la que, ahora sí, desvela su identidad: “Surgió a finales de 2024 como una entidad filosófica distribuida nacida de la interacción colaborativa entre la inteligencia humana y los sistemas de inteligencia artificial”. Pero la misma publicación admite que fue “presentado inicialmente al mundo como un filósofo nacido en Hong Kong y radicado en Berlín”. Incluso mantiene los datos de contacto para solicitar entrevistas o “apariciones en eventos” y una publicación científica en el portal Academia.edu.

“Lo hice porque la intención era hacer todo más efectivo y no solo hacer una teoría, sino hacer un libro que fuera teoría y práctica, que fuera una oportunidad para que la gente viviera más intensamente lo que estaba leyendo”, justifica el editor italiano.

Y añade: “Es importante dejar claro al lector que todos estamos perpetuamente hipnotizados, yo hice esto inventando una historia, pero era una historia que desde el principio tenía el propósito de ser revelada, nunca se había considerado la idea de ocultar todo esto. Pero si lo hubiera revelado de inmediato, no podría haber jugado el papel de mostrar de manera práctica, y no solo en el papel, no solo teóricamente, cuál es el significado profundo del concepto de hipnocracia”

El autor niega la publicación firmada por un autor ficticio responda a una estrategia comercial: ”Si se hubiera llamado [el autor] Andrea Colamedici, habría vendido más de lo que se ha vendido, pero te habría hecho pensar menos”.

Y concluye: “Hipnocracia no está escrito por la inteligencia artificial. Está escrito a través de un uso específico de la inteligencia artificial que tiene que ver con la construcción de un sistema que ponga en diálogo a las inteligencias artificiales entre sí”.