Inteligencia artificial al servicio de la protección al menor

Guardio es un sistema que analiza los mensajes en redes sociales para detectar situaciones de ciberacoso. El análisis del lenguaje natural y el aprendizaje automatizado o machine learning permiten la detección temprana de casos de ciberacoso. El funcionamiento es sencillo, una vez que las cuentas de redes sociales se enlazan, el sistema analiza de forma automática las conversaciones. Los padres solo reciben una alerta cuando el sistema detecta riesgo de acoso. 

• ¿De quién hablamos? 

Su fundador es Pablo Elosúa, un licenciado en ADE por la Universidad Complutense con experiencia en el universo startups. "Este es mi tercer proyecto", explica a EL PAÍS RETINA. "Todas han sido empresas tecnológicas, aunque ninguna tiene nada que ver con las otras". La primera de todas fue Ivive, un portal inmobiliario. "Empezamos en 2003 y aunque internet estaba desarrollado las promotoras vendían con proyectos en papel". El estallido de la burbuja dio al traste con la compañía. Turno para el siguiente proyecto. 

"Monté otra historia que no tenía nada que ver: Yunait". Su modelo de negocio, agrupar todas las ofertas tipo Groupon y así los usuarios podía decidir qué tipos de oferta quería recibir. "El negocio fue bien hasta que dejó de ir bien", lo que ha llevado a la práctica desaparición del sector de los cupones. "Afortunadamente, tuve suerte de venderla a la danesa Bownty. 

Lo siguiente fue el ciberacoso y la protección en redes sociales. "Los padres dan un móvil a los hijos cada vez antes, y creemos que hay pocas herramientas de control, apenas controles parentales que lo que hacen es bloquear la navegación de los niños. Y lo mismo con aplicaciones. Pero para niños un poco más mayores, el meollo está en la redes sociales".

• Cómo funciona

El funcionamiento es sencillo. Una vez que las cuentas de redes sociales se enlazan, el sistema analiza de forma automática las conversaciones gracias a sistemas de machine learning y análisis de lenguaje natural de Watson, el sistema de computación cognitiva de IBM. Los padres solo reciben una alerta cuando se detecta riesgo de acoso.

"Una vez que el padre haya hablado con su hijo y le haya comentado lo que hace Guardio, el sistema se pone a analizar conversaciones, y cuando detecta algún patrón de bullying le manda un mensaje al padre". Elosúa destaca que el progenitor no va a poder leer una conversación de su hijo a no ser que contenga un peligro.  

El sistema funciona desde la web guardio.tech, por lo que no hace falta descargarse ninguna aplicación. Actualmente Guardio da soporte a WhatsApp e Instagram, e irá añadiendo paulatinamente otras redes sociales.

• ¿Por qué nos interesa? 

Guardio se acogió hace más de un año al Global Entrepreneur Program de IBM, lo que le permite usar de forma gratuita Watson, la potente herramienta de IBM. Pablo Elosúa destaca que han comenzado por el ciberacoso porque es un problema más extendido que, por ejemplo, los abusos a menores. "Pero observamos un gran potencial para otros problemas como la anorexia en los cuales también se pueden detectar patrones reconocibles. Es muy interesante que la tecnología pueda resolver el problema". 

Guardio, hasta la fecha, se ha financiado enteramente con recursos propios. Por ahora analiza 2.000 mensajes diarios, sin haber detectado casos de ciberacoso (y sin falsos positivos).