Cuanto más joven, mejor usuario

Imaginemos que queremos crear desde cero un gran, enorme negocio. ¿Por dónde empezar? Primero convendría aparcar convicciones éticas para buscar el equivalente actual al lejano oeste, es decir, una tierra prometida aún en construcción donde las oportunidades abunden y las fronteras de la ley se confundan. Podríamos rentabilizar las necesidades humanas básicas como el techo o la comida, aunque existe en ello demasiada competencia: lo digital es más barato y su alcance, universal. Abusar de la naturaleza adictiva humana nunca falla. Pero esta vez habría que elegir un público objetivo amplio y no muy capaz de resistirse, es decir, aquel con un lóbulo frontal aún inmaduro. Después, como en un mal sueño, detectaríamos gracias a los datos que ellos mismos nos proporcionen cada una de sus debilidades e inseguridades, y las usaríamos para retenerlos.

Este octubre, varios estados de Estados Unidos han interpuesto una demanda contra TikTok, empresa a la que acusan de enganchar de forma deliberada a los menores utilizando técnicas adictivas. La demanda imita la iniciada el año pasado contra Meta, propietaria de Facebook e Instagram, por perjudicar a sabiendas la salud mental de niños y adolescentes. La radio pública estadounidense NPR tuvo acceso a detalles reveladores gracias a comunicaciones internas de la empresa incluidas en la investigación. Por ejemplo, en TikTok saben que una persona suele tardar unos 260 vídeos (35 minutos) en formar un hábito, después del cual es muy probable engancharse. O que se tardan unos 30 minutos en perfilar a un usuario, asignándole una burbuja de filtro que puede ser peligrosa: en una prueba, uno de sus trabajadores tardó 20 minutos en caer en una espiral de contenidos nocivos sobre la depresión que, escribió, le afectaron en su vida fuera de la red.

Un documento interno afirmaba que cuanto más joven es el usuario “mejor rendimiento” les proporciona, y otro, que “los menores no tienen función ejecutiva para controlar su tiempo de pantalla”. El algoritmo, dicen, está diseñado para favorecer a la gente guapa. Conocen también que el uso compulsivo de su aplicación es perjudicial y que “se relaciona con la pérdida de habilidades analíticas, formación de memorias, pensamiento contextual, profundidad conversacional, empatía y aumento de la ansiedad”, además de interferir de forma negativa con el sueño, las responsabilidades en el trabajo o la escuela y la conexión con los seres queridos.

Los hechos apuntan a una especie de incompetencia deliberada que favorece al negocio: las cuentas de menores no se eliminan diligentemente, los filtros de moderación tampoco funcionan bien y permiten encontrar contenidos teóricamente prohibidos, algunas medidas de control que no son eficaces se mantienen porque blanquean su reputación ante la prensa. Según NPR, las tasas de “error” en la moderación de contenidos sobre pedofilia son enormes, llegando al 100%, por ejemplo, en la categoría “fetichización de menores”. Un jefe de proyecto dijo en un chat una frase reveladora sobre su fin último: “Nuestro objetivo no es reducir el tiempo de estancia”.

Una cosa es sospechar que las redes son un problema para los más jóvenes, y otra, escuchar cómo y por qué. También este mes hemos visto en el programa de televisión Salvados a Arturo Béjar, exjefe de ingenieros en Meta y uno de los principales testigos de la causa en su contra, que tomó conciencia de la gravedad del abuso en la plataforma a través de su hija. “Es el acoso sexual más grande de la historia de la humanidad”, dijo, y acusó a sus directivos de no importarle en absoluto. El programa, en dos partes, incluyó también entrevistas con moderadoras de Meta en Barcelona que explicaron cómo habían llegado a desarrollar trastorno de estrés postraumático debido a su trabajo. No ahorraron detalles sobre las decapitaciones, mutilaciones y ejecuciones que veían a diario, tampoco sobre pederastia, asesinatos, violaciones, parricidios, atentados y suicidios en directo. Junto a una veintena de compañeros, han querellado a la subcontrata que les empleó, que también trabaja con TikTok. El abogado que les representa insistió durante la emisión en que los pormenores, que no me atrevo a reproducir aquí, eran necesarios para dar una idea de la dimensión de los hechos.

La negrura no solo afecta a los moderadores humanos. Según otro estudio interno filtrado de TikTok, vídeos de autolesiones fueron reproducidos 75.000 veces antes de llegar a ellos. En cuanto se hizo con la propiedad de X, Elon Musk desinvirtió en el control de contenidos, con resultados evidentes para unos usuarios que creían participar en una red más civilizada. Podríamos resumir todo lo anterior así: las redes desbordan violencia y no termina de ser contenida porque va contra el negocio; los menores son las principales víctimas; la sociedad que los sobreprotegió está descubriendo espantada que corren peligro en su propia habitación, cuando la puerta está cerrada y tienen el móvil en la mano.

A no ser que las demandas, el creciente número de estudios que alertan del problema y la consiguiente toma de conciencia política y ciudadana lo impidan, no parece que las tecnológicas estén dispuestas a hacerse cargo de sus actos por voluntad propia, más bien al contrario. En su reciente giro hacia posiciones más libertarias, Mark Zuckerberg ha lamentado haberse doblegado al poder del Gobierno Biden durante la pandemia de covid-19, cuando llegó a eliminar publicaciones, y ha dicho que hoy no tomaría las mismas decisiones. Nadie se ha disparado jamás en Bolsa explicando a sus inversores que su prioridad consiste en achicar un problema muy grave y muy caro, el de sus propios hijos, que les desborda. Vender la promesa de que la inteligencia artificial alargará la vida del capitalismo suena mejor.

La situación me recuerda al viejo chiste: “Si debes algo de dinero al banco, el problema es tuyo; pero si le debes mucho dinero, el problema es del banco”. Las tecnológicas han creado un problema tan grande que ahora ya no es suyo, es de todos. Es, de hecho, uno de los grandes retos de la sociedad global. Quizá incluso estemos exigiéndoles demasiado: cómo pedir a unas simples empresas, aunque sean las mayores y más poderosas del mundo, que se hagan cargo de las inconmensurables consecuencias de haber conectado lo bueno y lo malo de todos los seres humanos. Tampoco sé hasta qué punto los gobiernos pueden intervenir, aunque sí que deben intentarlo. El Congreso, a propuesta del PSOE, comenzó a debatir este martes cómo regular las redes sociales para proteger a los jóvenes. Sugieren recomendar la posesión de un móvil solo a partir de los 14, y de cuentas en redes, desde los 16.

Sobre la crisis de salud mental juvenil existen dos corrientes. Una culpa fundamentalmente a los móviles con conexión a internet, centrándose sobre todo en los efectos nocivos del exceso de tiempo de pantalla y la comparación propia con el éxito ajeno. La otra insiste en que, además de los factores tecnológicos, niños y adolescentes no son ajenos a los cambios ambientales, sociales, económicos y políticos del momento. En España, según un reciente estudio de la Fundación Cotec, un tercio del alumnado ha sufrido acoso: al trasladarse al ámbito digital esta violencia se intensifica. El 60% de los jóvenes con dificultades económicas habían sido diagnosticados con algún trastorno de salud mental en 2023; aquellos sin preocupaciones materiales, “solo” en un 37%. Es curioso como minusvaloramos y a la vez sobreestimamos el problema de las redes; cómo acotamos la preocupación por la salud mental a jóvenes y niños cuando el trauma de una generación lo es de todas las demás. Cuando crece y se reproduce con ella a lo largo de los años, mancha todo durante décadas con una película invisible muy difícil de borrar.