Combatiendo el odio en Internet

Google siempre ha tenido un objetivo esencial desde su nacimiento hace menos de dos décadas: llevar la innovación tecnológica y el desarrollo de productos y servicios más allá, para contribuir a reducir barreras, acortar brechas y unir a miles de millones de personas. YouTube, por ejemplo, ha maravillado al mundo por demostrar ser una plataforma accesible, abierta, una fuerza para impulsar la creatividad, el aprendizaje y el acceso a la información: la han utilizado miles de activistas en todo el mundo para impulsar verdaderos cambios sociales que marcan una época.

Sin embargo, por desgracia, y como ha ocurrido siempre con cualquier avance tecnológico en la historia de la Humanidad, hemos podido comprobar que también personas con malas intenciones han explotado esa disponibilidad y transparencia para confundir, manipular, abusar o incluso para hacer daño. Es cierto que, afortunadamente, es una minoría la que protagoniza este tipo de comportamientos, pero somos conscientes de que esa minoría ha utilizado estas herramientas tecnológicas, en ocasiones, para promover la división, fomentar el odio, la violencia o a fomentar causas radicalizadas.

En Google estamos comprometidos en redoblar nuestros esfuerzos y hacer todo lo que esté a nuestro alcance para garantizar que nuestras plataformas no se utilizan con el fin de promover este tipo de conductas inaceptables. Abordar la amenaza planteada por la violencia es un desafío crítico para todos nosotros. Llevamos trabajando concienzudamente para erradicarla durante varios años, con un enfoque integral y global. Tenemos un firme compromiso por ser parte de la solución y así queremos demostrarlo y creo que lo estamos consiguiendo.

En Google estamos comprometidos en redoblar nuestros esfuerzos y hacer todo lo que esté a nuestro alcance para garantizar que nuestras plataformas no se utilizan con el fin de promover este tipo de conductas inaceptables.

Un buen ejemplo del trabajo que estamos haciendo en la lucha contra el discurso del odio y la radicalización en nuestras plataformas es el que estamos llevamos a cabo en YouTube para proteger a nuestra comunidad frente a contenidos extremistas o violentos.

Mediante el uso de nuevos sistemas computacionales como el aprendizaje automático, hemos conseguido eliminar más de 150.000 vídeos con contenido violento y extremista, lo que representa casi cinco veces más vídeos de los que los revisores expertos podían detectar de forma manual. En la actualidad, un 98% de los vídeos que eliminamos son detectados por esta tecnología y casi la mitad de ellos se eliminan dentro de dos horas. 

Desde que comenzamos a usar aprendizaje automático en Junio del año pasado, hemos revisado y detectado contenidos que podrían haber precisado para su valoración la intervención de 180.000 personas trabajando 40 horas a la semana. Dada su efectividad, hoy estamos aplicando esta tecnología en otros campos como la seguridad de los menores y la incitación al odio. 

Una causa de todos

Decía Nelson Mandela que "nadie nace odiando a otra persona por el color de su piel, o su origen, o su religión". Y es ahí, precisamente, donde está la clave de la amenaza del discurso del odio: en la educación y la concienciación.

Es por ello que, adicionalmente a todos los recursos tecnológicos que estamos poniendo al servicio de la comunidad de YouTube, a finales de octubre de 2017 pusimos en marcha en España la iniciativa “Somos Más contra el odio y el radicalismo violento”, un proyecto para formar a más de 28.000 jóvenes de entre 14 a 20 años, a través de talleres en escuelas y centros de todo el país, en la importancia de utilizar un discurso integrador y del buen uso de las plataformas digitales.

La iniciativa contempla además la realización de una campaña de difusión en la que participan de forma activa conocidos creadores de YouTube que producen contenido y que están ayudando a amplificar mensajes positivos para paliar el discurso del odio en Internet, una campaña que fue presentada esta semana.  

El proyecto es el resultado del trabajo realizado conjuntamente con el Gobierno de España, la Red Aware (Alliance of Women Against Radicalization and Extremism), FESP-UGT (a través de Aula Intercultural) y la ONG Jóvenes y Desarrollo. 

Somos conscientes de que queda camino por recorrer y que no va a ser una tarea fácil. Los promotores del odio, la violencia, los extremistas y los terroristas buscan atacar y erosionar no sólo nuestra seguridad, sino también nuestros valores y nuestra sociedad. Pero estamos convencidos de que el uso de tecnología de vanguardia junto con esfuerzos colectivos en pos de la educación y la concienciación representan un paso adelante para avanzar en la dirección correcta.

Francisco Ruiz Antón es director de Políticas Públicas de Google España y Portugal