Algoritmos y misoginia: así acceden los adolescentes latinoamericanos

“Estaba en su habitación, creíamos que estaba a salvo. Qué daño podría causar ahí”. Si vieron la serie Adolescencia, la serie de Netflix en la que Jamie, un chico de 13 años asesina a una compañera del colegio azuzado por el consumo de contenidos misóginos en línea, recordarán como una puñalada esa frase que pronunciaron sus padres mientras se fustigaban y lloraban: ¿Debimos haber hecho más?”.

Pero las preguntas que desató la serie van más allá de los padres y llegan hasta las plataformas que diseñan los caminos para que la información aterrice en las pantallas de los adolescentes. Eso plantean una serie de investigaciones, la última de ellas un monitoreo de dos meses hecho en Brasil, que muestra las formas sutiles en los que el algoritmo ayuda a construir un universo machista y de violencia.

Los hallazgos brasileños confirman estudios como los del University College London y la Universidad de Kent que ya habían dicho que “los algoritmos utilizados por las plataformas de redes sociales están amplificando rápidamente contenido misógino extremo, que está pasando “de las pantallas de los adolescentes a los patios escolares”, donde se ha normalizado.

El caso más reciente ocurrido en México es una muestra de ese paso a las escuelas. A finales de septiembre, Lex Ashton, un joven de 19 años llegó al colegio y apuñaló a un estudiante de 16. Ashton, se supo después hacía parte de un enorme grupo de incels (’célibes involuntarios’, que culpan y atacan a las mujeres por no querer mantener relaciones con ellos). En ese foro, que integran 82.000 personas, sus integrantes se quejan de rechazo y frustración en las relaciones afectivas. “Habemos incels que ni amigas hemos tenido, la conversación más larga que he tenido con una chica en toda mi vida ha sido de un minuto. Mi presencia les incomoda, les da asco y me rechazan”, decía uno. Mientras otro afirmaba: “no tengo pareja porque no puedo, pero no me esfuerzo porque no tengo solvencia económica”.

Ese tipo de ideas sobre el estatus económico o el físico, frases como “mujeres de alto valor” u “hombres de alto valor”, aparecen cada vez más en redes sociales y podcasts que se potencian entre ellos. Basta ingresar unos minutos en TikTok para llenarse la cabeza con videos donde se escuchan frases que parecen hechas del pasado: “los hombres se suelen fijar en las mujeres que tienen belleza, fertilidad y juventud. Ellas se fijan en el físico y la seguridad en el largo plazo”, pronunciadas por supuestos gurús de masculinidad; o ver videos que se activan sin pedirlo con declaraciones como “la mujer solo tiene dos profesiones: ser mamá o ser prepago”, dichas por un expolicía que es viral entre los jóvenes.

Esta última cuenta apareció frecuentemente en el monitoreo que hicieron dos medios de Brasil. Núcleo y la Revista AzMina, dos portales de investigación en tecnología y género, crearon dos perfiles ficticios en TikTok: el de João, nacido en 2009, y el de Kaio, nacido en 2010 e interactuaron durante dos meses en la plataforma. Las dos cuentas de personajes de 14 y 15 años comenzaron recibiendo videos inocuos sobre tecnología y comida. “A medida que interactuaban con publicaciones motivacionales y religiosas, comenzaron a ser expuestos a contenidos de extrema derecha, desinformación política y discursos que refuerzan estereotipos de género”, explica la investigación.

La información que llegó a estos adolescentes ficticios fue también sobre evasión de impuestos, exaltando a figuras como Neymar y promoviendo iglesias evangélicas, mezcladas con publicaciones de motivación y autoayuda, seguidas por contenidos policiales. Ahí, dice la investigación, es cuando comenzaron a aparecer videos sobre “cómo ser hombres de valor” para “merecer mujeres de valor” y otros en los que se habla abiertamente mal de las mujeres que tienen vida sexual activa, no cocinan o no son sumisas. “No espero amor de mi mujer. Solo espero que me honre y me obedezca”, o “la capacidad de una mujer de ser fiel se reduce con cada hombre que la toca”, se ve en el perfil de Amoedo, uno de los que más se repitieron entre los adolescentes de Brasil.

Nucleo y AzMina señalan que, a pesar de las protecciones declaradas por TikTok, como la configuración de perfiles privados para menores de 16 años, su monitoreo evidenció fallas en las políticas de seguridad de la plataforma y lograron, por ejemplo, quitar sin dificultades la configuración de perfil privado. Aunque admiten que no hay evidencias de que el algoritmo de TikTok priorice esos contenidos, señalan que “su simple recomendación ya viola las directrices de la plataforma de protección a niños y adolescentes”.

Así se conectan los adolescentes

La enorme conexión de adolescentes a esta plataforma aumenta el debate. No se conocen datos oficiales de número de usuarios, pero Statista calcula que son 136 millones de personas conectadas a esta plataforma en América Latina (la plataforma solo permite crear cuentas a partir de los 13 años). Solo en Brasil tiene 91 millones de usuarios. De acuerdo con la encuesta TIC Kids Online Brasil 2024, entre la población de 9 a 17 años en Brasil, el 93% accede a internet y el 50% usa TikTok todos los días. Además, en el grupo de entrevistados de 11 a 17 años, el 22% reportó pasar menos tiempo con la familia, amigos o haciendo las tareas escolares debido al uso excesivo de internet.

Safernet Brasil, una ONG que trabaja sobre el uso responsable de Internet, indica también que TikTok está entre los 10 dominios en línea más denunciados en el mundo por violencia o discriminación contra mujeres desde 2020, ocupando el primer lugar en 2021 y 2022.

En Argentina, donde acaba de publicarse la Kids Online, los datos hablan de un uso generalizado por niños, niñas y adolescentes. El 80% utiliza redes sociales todos o casi todos los días. TikTok, YouTube e Instagram son las más utilizadas. El este país, los más pequeños, de entre 9 a 11 años usan más YouTube, mientras el grupo de 12 a 14 la preferida es TikTok, que es también la más vista por mujeres en esas edades.

El estudio, titulado, Niñas, niños y adolescentes conectados, también analizó el “acceso a contenidos potencialmente negativos” específicamente entre los adolescentes de 12 y 17 años y encontró “que aproximadamente dos tercios afirmó haber visto contenidos sobre diferentes “formas de adelgazar, perder peso, o ser más flaco/a” en páginas o publicaciones online (67%), así como también sobre “maneras de ganar plata fácilmente en Internet” (64%)”. A su vez, algo más de la mitad destacó haberse visto expuesta/o a “mensajes discriminatorios contra otras personas o grupos de personas, por ejemplo: por su color de piel, su país de origen o su religión” (55%); “imágenes sangrientas o violentas” (53%) y de “personas que cuentan sus experiencias con el consumo de alcohol, marihuana u otras drogas” (52%)”.

Rubén Garrido, historiador y docente de escuelas populares en Buenos Aires, cuenta que lo ve cada día con sus estudiantes de 14 años. Primero, contenido sobre las típicas dudas de adolescentes, consejos sobre cómo ligar, información sobre alimentación o ejercicio mezclada contenidos seudocientíficos: influencers que hablan de la testosterona, que dicen sin sustento alguno que dejar de comer soja porque esta los “convierte en mujeres”. “Ese discurso les va calando”.

Después, dice y confirma los hallazgos de Brasil, empiezan a aparecer videos sobre “el valor de la mujer”. “Y como la masculinidad actual está muy huérfana de referentes, estos consumos se enganchan con modelos que presentan una “masculinidad triunfante”, explicada desde un biologicismo de conceptos como “alfa” y “beta”, y la supuesta valía de los hombres”, dice.

Recientemente, tras un triple femicidio ocurrido en Buenos Aires, cuyas víctimas fueron torturadas, evidenció cómo esos discursos de redes se mezclan con la vida real. “Me decían que las víctimas “no tenían valía” (porque una de ellas era trabajadora sexual) o que se lo buscaron”, contó. “Trataban de analizar desde su realidad, pero muy atravesada por la información seleccionada y resaltada en las redes. Interpretan la realidad concreta a través de esos discursos en los que la valía se mide por la cantidad de relaciones sexuales o por parámetros que consumen en videos y reels”. El resultado, además, es la normalización y la insensibilización frente a ciertas violencias.

Así funciona la ‘manósfera’

En Colombia, la Fundación Karisma, una organización que promueve los derechos humanos y la justicia social en contextos digitales, viene analizando los discursos machistas en Internet desde 2014. Tuvo el Alerta Machitroll, una campaña que usaba el humor para evidenciar los discursos misóginos. Catalina Moreno, co- directora de Karisma, dice que a la luz de las plataformas y los cambios que ha tenido Internet en estos años, hace falta investigar con detalle cómo funciona la “manósfera”, preguntarnos qué pasa por la cabeza de los jóvenes que se reúnen para compartir discursos anti-mujeres en redes sociales y también en plataformas como Reddit, Twitch o Discord.

“Si observamos el contenido, notamos que los materiales que se vuelven virales suelen ser provocadores, y entre ellos hay muchos de carácter misógino”, dice. Los estudios más recientes sobre la manósfera- agrega-muestran que hay chicos muy jóvenes que llegan a estos espacios desde la soledad, a veces incluso con buenas intenciones, pero los discursos sensacionalistas y el algoritmo los atrapan. Moreno plantea que hacen falta también promover nuevos acuerdos para las relaciones sexoafectivas y menciona al Sexting School, que tiene Karisma, un espacio con materiales, tips y reflexiones sobre la exploración de la sexualidad y el uso informado de tecnologías.

La responsabilidad de las plataformas

La investigación de Reino Unido Safer Scrolling- cuyo monitoreo fue de siete días- mostró que el contenido tóxico se entrega a los adolescentes a través de entretenimiento y que el mayor problema ocurre en el feed Para Ti. Además de visualizar mil videos durante esos días, los investigadores entrevistaron a jóvenes que consumen y producen contenido radical en línea para ayudar a crear una serie de arquetipos de adolescentes varones que podrían ser vulnerables a la radicalización. Abrieron cuentas en TikTok para cada arquetipo y comenzaron a buscar contenido sobre masculinidad o soledad.

La conclusión es que después de solo cinco días de uso de TikTok hubo un aumento de cuatro veces en el nivel de contenido misógino que se mostraba en la página “Para ti”, con información que incluía objetivación, acoso sexual o descrédito hacia las mujeres. Al comienzo, igual que en el monitoreo de Brasil, el contenido coincidía con el arquetipo, pero después de iba convirtiendo en extremo. “De este modo, materiales tóxicos, de odio o misóginos son impulsados hacia los jóvenes, explotando< las vulnerabilidades existentes de los adolescentes. Los chicos que sufren de mala salud mental, acoso escolar o ansiedades sobre su futuro están en un riesgo mayor”, indicaron los investigadores

A través de su regional en Latinoamérica, Tik Tok respondió que su enfoque de moderación combina tecnología con revisión humana, con un equipo integrado por 40.000 personas que se capacitan periódicamente para detectar “mejor las conductas de odio en desarrollo, símbolos, términos y estereotipos ofensivos”.

Informó que la moderación se hace en varias etapas de moderación, que incluyen la subida del video y nuevas comprobaciones a partir de quejas de la comunidad o del aumento de popularidad del contenido y que solo entre enero y marzo de 2025, eliminaron “más contenido infractor que nunca: se eliminó más del 87 % de los videos y se interrumpieron más de 19 millones de transmisiones en vivo, un 50 % más con respecto al trimestre anterior”.

Para el caso de Colombia, México y Brasil, dijo la plataforma a este diario, se eliminaron más de 10 millones de videos; más del 99 % del contenido infractor se eliminó antes de que alguien lo denunciara, y más del 90 % se eliminó antes de conseguir visualizaciones.

En Brasil, durante 2024, la Autoridad Nacional de Protección de Datos (ANPD) abrió un proceso administrativo contra TikTok por la funcionalidad de feed sin registro, que permite a los usuarios ver videos sin crear un perfil. La ANPD identificó que esta característica podría exponer a niños y adolescentes a contenidos inapropiados y violar la Ley General de Protección de Datos Personales.

La plataforma afirmó que este diario que en el primer trimestre de 2025 se eliminaron más de 21 millones de cuentas que se identificó pertenecían a menores de 13 años. También, que las cuentas de personas entre 13 y 15 años son privadas por defecto y tienen múltiples funciones deshabilitadas para su seguridad y las de los jóvenes de 16 a 17 años no pueden hacer transmisiones en vivo ni recibir regalos, que en todos los casos promueven el uso de la Sincronización Familiar, y que las notificaciones para los menores de edad están deshabilitadas por la noche.

TikTok afirma que están trabajando en “nuevas funciones para crear un entorno seguro y positivo, donde los adolescentes puedan expresarse y descubrir contenido de manera responsable”. Una de ellas llamada “Administrar Temas”, donde se personaliza la frecuencia con la que se recomienda en tu feed contenido relacionado con más de 10 temas populares, desde artes creativas, viajes, naturaleza y deportes.