Inteligencia artificial para elevar la calidad del debate digital

EL PAÍS ha comenzado a aplicar inteligencia artificial a la gestión de los comentarios de sus lectores digitales. En colaboración con Google, ha desarrollado una herramienta en español que ayuda a detectar comentarios ofensivos, amenazas o expresiones de acoso, favoreciendo su filtrado.  El objetivo es elevar la calidad del debate que se produce a través de esos comentarios e incentivar la conversación entre los lectores dentro de las plataformas de EL PAÍS. Esta tecnología, denominada Perspective, está disponible, de forma gratuita, para cualquier medio digital en lengua española.

Google desarrolló Perspective para facilitar la tarea a los moderadores de comentarios. Lo hizo en inglés y con la ayuda de The New York Times. EL PAÍS ha sido ahora el socio para entrenar la herramienta en español. El equipo de Producto del diario ha trabajado durante el último año junto a los ingenieros de Google para que el sistema aprenda a diferenciar la agresividad verbal frente a la legítima discrepancia y crítica de los lectores.

“Con esta solución queremos contribuir no solo a simplificar la gestión de la moderación de los comentarios, sino sobre todo a mejorar la calidad de la conversación. Esperamos que esto redunde de manera muy positiva en la implicación de los lectores”, explica Noemí Ramírez, directora general de Producto y Cliente de PRISA Noticias.

Cuando un lector escriba un comentario a una noticia, recibirá un mensaje si el sistema de inteligencia artificial interpreta que está violando el código de conducta de la comunidad. El usuario puede decidir entonces si aun así quiere compartir el comentario, o si prefiere reescribirlo. Si se decanta por enviarlo, el equipo de moderadores de EL PAÍS recibirá el texto y se encargará de decidir si lo acepta o lo elimina.

“Podemos entrenar algoritmos que aprenden de manera automática a detectar patrones y reconocer lo que constituye un comentario tóxico basado en ejemplos anteriores que han sido moderados por humanos”, explica Patricia Georgiou, jefa de Asociaciones y desarrollo de negocio de la incubadora tecnológica Jigsaw, desarrolladora de Perspective.

Georgiou enfatiza que “asociarse con un editor importante como EL PAÍS, que se preocupa por su audiencia y desea proporcionar un espacio público para las discusiones entre sus lectores y periodistas, tiene un valor incalculable”.

Con 75 millones de lectores digitales el pasado mes de octubre, según datos internos, EL PAÍS recibe 12.000 comentarios de media cada día, un número similar al que reciben otros grandes periódicos internacionales de referencia. Gestionar este altísimo volumen de participación se ha convertido durante los últimos años en uno de los grandes desafíos para los medios de calidad en Internet. “Resulta muy estimulante comprobar el resultado de las alianzas entre las empresas tecnológicas y la industria de la información en la resolución de problemas reales”, concluye Ramírez.