Facebook prohíbe los ‘deepfakes’ de cara a las próximas elecciones en EE UU

Facebook sigue tratando de limitar fronteras entre las verdades y las mentiras de cara a las elecciones de este año en Estados Unidos, y pone la mirada en los llamados deepfakes, vídeos falsos hiperrealistas que utilizan técnicas de inteligencia artificial para editar los rasgos físicos de una persona y confundirla con otra. 

En una actualización de políticas anunciada el lunes por la noche, la vicepresidenta de gestión de políticas globales de la red social, Monika Bickert, aseguró que tomará una posición más estricta sobre el contenido manipulado de los medios de aquí en adelante, eliminando el contenido que ha sido editado o sintetizado "de manera que no son evidentes para una persona promedio". Bickert, sin embargo, matizó que las ediciones de calidad o cortes y empalmes en vídeos que simplemente reducen o cambian el orden de las palabras no están cubiertas por la prohibición, ni tampoco el contenido paródico o satírico. El material será retirado si es "producto de inteligencia artificial o de aprendizaje automático que superpone o reemplaza contenido en un vídeo, haciéndolo parecer auténtico", dice Bickert. 

Más información

Los ‘deepfakes’ complican la lucha contra las noticias falsas

Para ello, van a investigar todo contenido generado a partir de herramientas de IA y cuentas falsas además de trabajar conjuntamente con instituciones, gobiernos y empresas para descubrir a las personas detrás de estos contenidos. A partir de ahora Facebook eliminará cualquier contenido que haya sido editado o sintetizado, pero no por motivos de mejora de calidad de audio e imagen, de manera que el vídeo generado pueda llegar a hacer a una persona creer que lo que se dice en él es cierto.

También se eliminarán los vídeos creados a partir de IA o aprendizaje automático que se fusionen, reemplacen o superpongan a otro vídeo para hacerlo parecer auténtico. 

La compañía ya estaba trabajando en la identificación de deepfakes desde septiembre de 2019 con su programa Deep Fake Detection Challenge que ha unido a personas de todo el mundo en la búsqueda de contenidos manipulados. Además, se han unido a Reuters para crear un curso de entrenamiento que ayude a los periodistas a identificar noticias falsas.