Un estudio señala los peligros que supone la IA para la salud mental de niños y adolescentes

La sociedad puede volver a caer con la inteligencia artificial (IA) en el error que se cometió con las redes sociales y con internet en general, según advierte hoy The Lancet: cuando comiencen a estudiarse de forma científica sus efectos, principalmente en la salud mental de los menores, y a actuar en función de las evidencias, los jóvenes ya habrán adoptado la nueva tecnología. “Si no aprendemos de las experiencias pasadas, es posible que nos encontremos en una situación similar dentro de diez años (…), absorbidos por otro ciclo de pánico mediático y sin lograr que la IA sea segura y beneficiosa para los niños y adolescentes”, advierte Karen L Mansfield, psicóloga investigadora de la Universidad de Oxford en la publicación científica, la misma que desentraña, también hoy, uno de esos riesgos ya asentados: uno de cada 12 niños es víctima de abusos o explotación sexual cada año en el mundo.

“En internet puedes encontrar todo lo malo que puedas imaginar, el tráfico de cualquier tipo de cosas. Ya existía antes de internet, pero esta ha sido una plataforma de impulso y difusión global”, explica Jorge B., conocido en la red como @NoobInTheNet, quien comenzó a adentrarse con tan solo 12 años en las entrañas de la web. Gracias a la supervisión de sus padres y a la guía inicial de la empresa de ciberseguridad Kaspersky, pudo eludir los caminos más oscuros. Ahora tiene 21 años y trabaja en el área informática de una multinacional aseguradora.

Y lo más grave es que esas puertas al daño para niños y adolescentes no es inaccesible, sino todo lo contrario, según explica Jorge B. “Lo peor que te puedes encontrar en internet no está en una red profunda difícil de encontrar. La mejor forma de esconder algo es dejarlo a la vista de todo el mundo. Lo vas a encontrar en la superficie en el lugar y el momento más inadecuado”, comenta en relación con la infancia y la juventud, cuando, según sus palabras, “se carece de una mochila con algo de experiencia y cierta madurez tecnológica”.

Lo peor que te puedes encontrar en internet no está en una red profunda difícil de encontrar. La mejor forma de esconder algo es dejarlo a la vista de todo el mundo

Jorge B., @NoobInTheNet

El joven especialista destaca entre los peligros más habituales de la IA la suplantación de identidad mediante contenidos falsos, una práctica con niñas y jóvenes como diana prevalente. La investigación de Mansfield señala más ejemplos, en especial, los que tienen una incidencia directa con la salud mental. En este sentido, identifica como potencialmente dañinas “las funciones similares a las humanas”, como los agentes de IA, o “producir imágenes y contenidos de vídeo lo suficientemente convincentes como para ser indistinguibles del contenido auténtico [deepfakes y la desinformación], lo que podría influir en las emociones y el comportamiento de los niños”. La psicóloga señala también “los sistemas de recomendación de contenido y herramientas de diagnóstico en línea para la depresión, la ansiedad o los trastornos alimentarios, que se utilizan cada vez más para el autodiagnóstico”.

“Con una IA similar a la humana que mejora o modera las interacciones en línea, la gama de beneficios y daños potenciales para los niños y adolescentes es más diversa de lo que nunca han sido las redes sociales y los juegos en línea por sí solos”, advierte Mansfield.

A una conclusión similar llega Marc Rivero, Lead Security Researcher de Kaspersky y ajeno al estudio: “La inteligencia artificial está transformando la experiencia digital de niños y adolescentes, pero también puede tener un impacto negativo en su salud mental y emocional. Al personalizar los contenidos que ven y sugerir interacciones, la IA puede exponerlos a materiales inadecuados o grupos online que promuevan actividades ilegales. Estas influencias pueden aumentar la ansiedad, el aislamiento o incluso llevarlos a comportamientos de riesgo en el entorno digital. Por ello, es clave proteger a los menores mediante la educación digital temprana, el uso de herramientas de supervisión adecuadas, como controles parentales, y el establecimiento de un diálogo abierto con los niños para enseñarles a navegar de forma segura y responsable en el mundo digital”.

Al personalizar los contenidos que ven y sugerir interacciones, la IA puede exponer a niños y adolescentes a materiales inadecuados o grupos online que promuevan actividades ilegales

Marc Rivero, Lead Security Researcher de Kaspersky

La advertencia de Rivero y de los investigadores de Oxford es especialmente relevante porque, según el informe de Kaspersky Estar en línea: niños y padres en Internet, “la mayoría de los niños tiene acceso a la tecnología desde una edad temprana: casi la mitad de los menores españoles (47%) tiene su primer contacto con un dispositivo conectado a internet antes de cumplir los 7 años, el 24,5% de los padres y madres españoles nunca habla con sus hijos sobre los peligros del entorno digital y un 75% reconoce que su hijo no tenía las nociones suficientes para hacer un uso seguro de la red”.

Todos los especialistas consultados coinciden en tres claves: formación, información e investigación para que el acceso a los recursos de la IA se haga con las mayores defensas posibles. Sin estas, las regulaciones posteriores o las prohibiciones de uso de la tecnología son ineficaces.

Abusos de menores

Así lo ha demostrado una de las peores lacras de la red, donde las normas y límites no han impedido que uno de cada 12 niños en el mundo sufra explotación o abuso sexual en el mundo durante un año. Es la conclusión de una investigación encabezada por Deborah Fry, profesora de Investigación sobre la Protección de la Infancia en la Universidad de Edimburgo, que también publica hoy The Lancet.

Al igual que el estudio de Oxford, este trabajo también señala el peligro de la irrupción de la IA. “Las tecnologías emergentes basadas en avances tanto en hardware [equipos] como en software [programas] están utilizando décadas de investigación en IA. Las formas en que los jóvenes interactúan con ella cambian constantemente y muchos expertos predicen una IA similar a la humana en esta década”, advierte Fry en la investigación.

El equipo de la especialista en protección de la infancia señala la limitación de las investigaciones basadas en tiempos de uso de las pantallas o en las redes sociales. También recela de las medidas vinculadas con estos dos aspectos: “Los límites de tiempo [de navegación] y de edad [para acceder a aplicaciones] alejan la responsabilidad de la necesidad de regular el contenido dañino, poniendo la responsabilidad en cambio en los padres y tutores o en la integración masiva de tecnologías de estimación de edad no probadas, que se ha considerado que presentan riesgos para la privacidad y la seguridad”.

Los investigadores señalan también la falta de datos uniformes y homogéneos para abordar un problema global. De hecho, ni siquiera hay unidad de criterio en la consideración de abusos y delitos sexuales a través de internet.