Primeros datos sobre la manipulación de masas por IA

[Esta pieza es una versión de uno de los envíos de la newsletter semanal de Tendencias de EL PAÍS, que sale todos los martes. Si quiere suscribirse, puede hacerlo a través de este enlace].

La universidad Clemson, una institución pública de Carolina del Sur fundada en el siglo XIX, tiene un centro de análisis de medios de comunicación (Media Forensics Hub) que emplea técnicas avanzadas para entender el impacto de las redes en la sociedad y la política.

En colaboración con la BBC británica, reveló en 2023 que la página de noticias DCWeekly.org era parte de una operación rusa de manipulación de masas durante la guerra de Ucrania.

La web propagaba historias falsas sobre Ucrania y su presidente, Volodímir Zelenski, a través de las redes sociales y una serie de medios convencionales africanos, turcos, indios y egipcios. Pero su principal diana eran los lectores estadounidenses, y de hecho DCWeekly aseguraba estar basada en Estados Unidos. Sus periodistas eran tan ficticios como las informaciones que firmaban. Y, por supuesto, utilizaban inteligencia artificial (IA) para elaborar sus artículos.

DCWeekly tuvo un notable éxito y logró diseminar una docena de informaciones rigurosamente falsas sobre la corrupción del gobierno ucranio. Por ejemplo, el cuento de que Zelensky había comprado varios yates de lujo se extendió como fuego por la paja a través de decenas de miles de usuarios hasta llegar a los congresistas de Washington, algunos de los cuales se lo tragaron con patatas.

La clave del éxito, según publican ahora los investigadores de Clemson, fue que DCWeekly integraba en sus mensajes fragmentos de contenido robados de otras fuentes. Esa práctica va tejiendo una estructura de nexos que, por ficticia que sea, le da a la mentira una textura que imita al mundo real, con muchos vínculos y referencias cruzadas, como las huellas que deja en la nieve el paso de un fantasma. Los intoxicadores se van haciendo cada vez más sofisticados.

Los investigadores de Clemson saben hurgar en los robots, y han visto que algunos artículos de DCWeekly fueron generados con notas como esta: “El tono del artículo [debe ser] crítico con la posición de los Estados Unidos de apoyar la guerra en Ucrania y adoptar un tono cínico al tratar del Gobierno norteamericano, la OTAN o los políticos del país”. O también animaban al robot a “favorecer a los republicanos y a Trump y retratar a los demócratas y a Biden bajo una luz negativa”.

Los modelos de IA generativa (large language models, LLM) hacen bastante bien estas cosas, y varias otras. Mentir no es una tarea de alto nivel intelectual, y el robot la imita con facilidad. Y tragarse la trola tampoco exige unas facultades mentales extraordinarias, como debería ser ya evidente a estas alturas.

La intoxicación de la opinión pública es seguramente tan vieja como la humanidad misma, aunque sin duda se exacerbaría con la invención de la escritura cuneiforme en Mesopotamia. Buena parte del debate sobre la IA generativa se ha centrado en si supone un estímulo para la propagación maliciosa de mentiras, y hasta qué punto lo supone. De investigar esta cuestión debería depender la acción social y política contra esa tendencia indeseable. De ahí el interés de la investigación de Clemson.

Sus conclusiones nos dicen, primero, que las herramientas de IA generativa, como el célebre ChatGPT (que fue lo que utilizó DCWeekly en su versión 3) facilitan la generación de grandes cantidades de desinformación. Segundo, que se puede averiguar cuándo una web empieza a usar la IA generativa por el mero incremento explosivo y alcance amplio de los artículos de cualquier sitio web.

‌Tercero y más importante, los artículos generados con IA generativa son tan persuasivos y tienen un efecto tan permanente como los elaborados de forma artesanal. No es que esto sea mucho decir, porque a las personas más formadas no les seducen ni los unos ni los otros, pero ten en cuenta que no todo el mundo tiene un doctorado en filosofía y letras. Estos mensajes no van dirigidos a los sociólogos ni a los politólogos, sino a las capas más incultas y crédulas de la población. Ahí es donde la IA hace daño.

Para las personas bien informadas, por otro lado, la IA puede suponer una herramienta valiosa. Su utilidad en la investigación científica está fuera de toda duda, y ha recibido tres premios Nobel en la última concesión. Su aplicación a la educación augura grandes ventajas, y así lo empiezan a entender algunos maestros y profesoras. La atención médica también se beneficiará, sobre todo en las zonas y países más deficitarios en ella. Quizá el reto sea estorbar todo lo posible a los intoxicadores mientras estimulamos los usos virtuosos.

Tendencias es un proyecto de EL PAÍS, con el que el diario aspira a abrir una conversación permanente sobre los grandes retos de futuro que afronta nuestra sociedad. La iniciativa está patrocinada por Abertis, Enagás, EY, GroupM, Iberdrola, Iberia, Mapfre, la Organización de Estados Iberoamericanos (OEI), Redeia, y Santander y el partner estratégico Oliver Wyman.

Puedes apuntarte aquí para recibir la newsletter semanal de EL PAÍS Tendencias, todos los martes, de la mano del periodista Javier Sampedro.