Cómo aprovechan los pedófilos las sugerencias de Youtube

La mayoría de padres se sienten tranquilos cuando se acercan con sus hijos a un parque infantil. Son conscientes de que se trata de un espacio concebido para que se lo pasen bien y estén seguros. Las preocupaciones suelen aumentar cuando dejan a los menores delante de un dispositivo electrónico: internet no es un parque infantil. Normalmente, percibimos los riesgos de las páginas maliciosas y los perfiles anónimos, pero, en ocasiones, la amenaza se puede presentar en plataformas que conocemos bastante mejor.

Un equipo de investigadores del Centro Berkman Klein para Internet y la Sociedad de Harvard ha descubierto que el sistema de recomendaciones automatizado de Youtube puede mostrar vídeos de niños preadolescentes con poca ropa a usuarios que consumen vídeos de contenido sexual, tal y como refleja un reportaje de The New York Times publicado esta semana.

Una de las cuestiones más inquietantes que percibieron los investigadores es que los espectadores no tienen por qué buscar contenidos en los que aparecen niños para que Youtube le termine sugiriendo que los consuma. Según explicaron al periódico estadounidense, una persona que busca vídeos de contenido erótico puede ir encontrando entre sus recomendaciones publicaciones más extrañas en las que se pone un énfasis preocupante en la juventud.

Más información

Por qué en internet no es oro todo lo que reluce

Los sistemas de recomendación te van a conocer como si te hubieran parido

Para confirmar sus sospechas, los investigadores crearon un servidor en Brasil que abría vídeos y seguía las recomendaciones que le daba la plataforma. Partiendo de contenidos sobre mujeres que hablan de sexo, fueron derivando hacia vídeos de mujeres en ropa interior. Algunas de las siguientes sugerencias mostraban a mujeres posando con ropa de niños y, a partir de ahí, vieron que la plataforma recomendaba vídeos de niños con poca ropa, principalmente de Europa del Este y Latinoamérica.

“Por sí solo, cada vídeo puede ser perfectamente inocente, una película casera, por ejemplo, hecha por un niño. Cualquier marco revelador es fugaz y, en apariencia, accidental. Pero, agrupados, sus características compartidas se vuelven inconfundibles”, señala el artículo.

Algunos estudios han bautizado el fenómeno que podría esconderse detrás de estas recomendaciones como el efecto de la madriguera de conejo. Sostienen que la plataforma conduce a sus espectadores a vídeos con temáticas cada vez más extremas para seducirles y conseguir que consuman más contenido. Un ejemplo sería si después de ver un vídeo con las mejores jugadas de un partido de fútbol, Youtube nos sugiriera otro sobre peleas en el terreno de juego. O si después de ver uno sobre carreras de coches, nos recomendara otro de accidentes en el circuito. La compañía niega rotundamente que exista un interés comercial en impulsar a sus usuarios hacia contenido extremista.

Por sí solo, cada vídeo puede ser inocente. Agrupados, sus características se vuelven inconfundibles

El sistema de recomendaciones de Youtube funciona gracias a algoritmos de inteligencia artificial que aprenden del uso que hacen los usuarios. Poco se sabe acerca de los parámetros que tienen en cuenta para decidir qué recomiendan a cada consumidor y del peso que otorgan a cada uno. No obstante, fuentes de la plataforma reconocen que esta funcionalidad genera el 70% de sus visitas.

A pesar de la gravedad de la situación, la multinacional ha decidido no desactivar las recomendaciones relativas a vídeos de menores. Técnicamente es posible, ya que pueden detectar estos contenidos de manera automática, pero consideran que eliminar por completo las recomendaciones en estos vídeos perjudicaría a los creadores que dependen de ellas para incrementar su tráfico. En su lugar, prometieron limitar aquellas que consideren que ponen en riesgo a los niños.

Hace cuatro meses, varios medios de comunicación alertaron de la existencia de una red de depredadores sexuales que recurría a la sección de comentarios de los vídeos de la plataforma para compartir estos contenidos con otros pedófilos. La reacción de Youtube fue inmediata: en pocos días, deshabilitaron los comentarios en un buen número de vídeos en los que aparecían menores.