La IA acelera y perfecciona la desinformación en África, mientras pierde capacidad para combatirla

Un bulo sobre el robo de genitales masculinos que se extendió de manera simultánea en cuentas falsas de redes sociales, medios de comunicación digitales y conversaciones cotidianas logró crear un pánico colectivo en países como Nigeria, Chad y República Centroafricana a finales de 2024. El bulo, que lleva años circulando por el continente, se hizo esta vez mucho más creíble porque se distribuía de forma intencionada por distintos canales digitales a gran velocidad. La mentira, sin embargo, no quedó en la anécdota: un medio digital de Malí tergiversó aún más la historia al señalar a Francia como responsable de un plan para “robar la virilidad” a los hombres africanos para “extraer la hormona de la masculinidad” y llevarla a Francia para combatir “el declive de la actividad sexual” y la disminución de la población. Unas semanas después, fact-checkers desmintieron la información y confirmaron que formaba parte de una estrategia de manipulación antioccidental dirigida por países extranjeros.

Este es solo uno de los ejemplos de cómo los agentes de la desinformación y la manipulación nacionales e internacionales en África se valen de nuevas tecnologías para generar y distribuir contenidos falsos. Lo hacen, además, en un continente con un terreno fértil para difusión de bulos por la poca financiación para los medios de comunicación y de fact-checking, la desconfianza hacia los periodistas y la debilidad de los sistemas democráticos.

Karen Allen, directora de la firma especializada en investigación periodística Karen Allen International e investigadora del impacto de la IA en la desinformación, alerta de que aunque África trata de ponerse al día en legislación sobre desinformación, control de la IA y educación digital, no está del todo preparada para enfrentar la magnitud del reto. “Estamos viendo el uso de vídeos descontextualizados como una muestra de cheapfakes [contenido audiovisual falso creado con tecnologías sencillas y económicas]. Y, además, África está empezando el camino de las deepfakes [información falsa más sofisticada e indetectable] generada con IA, especialmente en época de elecciones o en contextos de golpes de Estado”, describe Allen a EL PAÍS en una entrevista en Madrid, donde este jueves participó en una jornada sobre desinformación en África, en el marco del V Encuentro de Periodistas África - España organizado por Casa África y el Ministerio de Asuntos Exteriores de España. “La amenaza”, añade la experta, “tiene más que ver con la difusión a gran escala. Ahora se usan herramientas de IA para tomar un contenido falso, traducirlo a 50 idiomas diferentes y distribuirlo a tal escala y velocidad que se hace casi imposible refutarlo”.

Fuentes de la Unión Europea que monitorean la desinformación y la injerencia exterior en África coinciden con Allen en que la verdadera amenaza de la IA no es su capacidad de crear contenido, sino la rapidez con la que lo replica. Según estas fuentes, una de las tendencias que la IA podrá potenciar en algunos años en el continente es el cross checking, un tipo de contenido que se replica en distintas plataformas y sitios web para hacerlo parecer veraz. “La pregunta es si los periodistas vamos a poder usar la IA para contrarrestar sus efectos. Creo que debemos empezar a prepararnos y aprender a trabajar con ella”, agrega una experta que pidió no publicar su nombre.

Los métodos son múltiples. Van desde crear avatares que simulan ser periodistas reales, pero que dan mensajes manipulados; pagar a influencers locales para insertar mensajes en redes sociales en épocas electorales o utilizar la IA para generar audios, vídeos e imágenes falsas y distribuirlos rápidamente por distintos canales. Adicionalmente, según las fuentes de la UE, los agentes de manipulación cada vez logran adaptarse mejor a los contextos locales de los países africanos. “El uso de la IA [en desinformación] no ha llegado a su máximo potencial. Pero ya hay mensajes de alerta”, dice una de sus expertas.

Un estudio de la Fundación Konrad Adenauer publicado recientemente, del que Karen Allen es coautora, alerta de que desde enero de 2023 han aumentado los registros de contenidos de audio y vídeo falsos en países con agitación política, como Burkina Faso, Malí y Sudán, o en contextos electorales en Nigeria, Sudáfrica y Kenia. El estudio advierte también de que los bulos son mucho más peligrosos en entornos de fragilidad democrática, donde el acceso a fuentes tradicionales de información, que permitan contrastar las noticias, es limitado.

Los bulos generados con nuevas herramientas tecnológicas son, además, un reto en un continente en plena expansión digital. Hace una década, solo el 16% de la población en África Subsahariana era usuaria de internet; ahora, el uso ha escalado a un 37%, según datos del Banco Mundial. Sin embargo, alertan Allen y otros expertos, la alfabetización digital no ha penetrado de forma paralela en el continente. “La información es poder, y quizá la información sobre la IA también sea más poderosa para el futuro”, resalta Allen.

Los recortes a los verificadores de contenido

Sankoré Labs, una iniciativa de formación digital en Malí liderada por la periodista digital y activista Fatouma Harber, ofrecía servicios de verificación de información y de formación a periodistas para reconocer contenidos falsos. Sin embargo, la retirada de Malí de sus principales financiadores ha detenido sus proyectos. “Nos habíamos beneficiado de formación y del refuerzo de capacidades de nuestro equipo en el ámbito de la desinformación. También nos habían proporcionado herramientas para verificar imágenes y vídeo”, recuerda Harber en conversación con este diario, “pero Malí ya no colabora con Francia y toda la financiación francesa se ha ido. Después del retiro de CFI [la Corporación Financiera Internacional, del Banco Mundial] y la AFD [la Agencia Francesa de Desarrollo], vino la salida de USAID [la agencia de EE UU para el desarrollo]”. Sankoré Labs aún opera en Malí, pero con muchos menos recursos que aún facilitan otros países europeos como Dinamarca.

Esto es un problema en el Sahel, donde los agentes de desinformación aprovechan cada vez más las herramientas digitales para distribuir contenidos falsos. Harber, por ejemplo, explica que con la IA ya se generan vídeos falsos con narraciones en Bambara, el idioma oficial de Malí, y en otras lenguas nacionales. “Esto les permite llegar a más gente y ser más convincentes. Porque en el país la información se transmite en las lenguas locales, antes que en el francés”, explica Harber, que menciona también la proliferación de influencers que se valen de Facebook y transmisiones en vivo por redes para manipular audiencias. “El problema también”, añade la periodista, “es que no hay fuentes oficiales que desmientan la información”.

Los recortes de USAID también están dejando a Liberia sin suficiente músculo periodístico y de verificación de información, de acuerdo con Rita Jlogbe, expresidenta de la Red de Periodistas de Investigación de Liberia (LIJN). Allí, los medios dependían de subvenciones y becas de grandes donantes, entre los que estaba EE UU, para financiarse a falta de publicidad u otros apoyos nacionales. “Ahora que USAID se ha ido, los periodistas capacitados están dejando la profesión por otros sectores. Algunos se están convirtiendo en funcionarios, y otros se dedican a las relaciones públicas”. Local Voices Liberia, que opera una red de verificación de información en el país, fue una de las afectadas. Antes, trabajaba en las 15 provincias del país, y ahora han visto reducido su alcance. Otros programas de capacitación a reporteros de radios comunitarias y de entrega de materiales y equipos para trabajar también se han visto interrumpidos.