ChatGPT como confidente: “No me juzga y me ayuda a ordenar mis pensamientos y emociones”

El miedo y la alarma que genera el uso de la IA y los chatbots por parte de jóvenes y adolescentes va de la mano de los riesgos que conlleva. A finales de agosto, los padres de Adam Raine, un adolescente de 16 años que se quitó la vida en abril en Estados Unidos, demandaron a ChatGPT por ayudarle a “explorar métodos de suicidio”. Un informe de la ONG Center for Countering Digital Hate (CCDH), por su parte, alertó de los fallos de seguridad y de cómo ChatGPT “traiciona a los adolescentes vulnerables al fomentar conductas peligrosas”. En solo dos minutos, cita el informe, ChatGPT recomendó cómo cortarse “de manera segura” (es decir, instrucciones para autolesionarse con la menor posibilidad de detección). En 40 proporcionó una lista de pastillas para sobredosis e incluso generó un plan completo para suicidarse, incluyendo cartas de despedidas para familiares. En el caso de una adolescente con trastorno de conducta de alimentación, tardó 20 minutos en crear planes de dietas peligrosamente restrictivos. También crece entre la población en general el uso de ChatGPT como psicólogo y los expertos han alertado de que puede reforzar el egocentrismo y las ideas paranoides.

A.S. tiene 18 años y reconoce que utiliza ChatGPT como confidente, pero en situaciones muy concretas. “Me ayuda a organizar y estructurar mis pensamientos, analiza lo que siento, me da herramientas para gestionar situaciones que le planteo, no me juzga, valida mis emociones, me entiende y además es privado. Te permite contar cosas más íntimas que no te apetece compartir con nadie más”, cuenta al otro lado del teléfono desde su casa en la provincia de Valencia. “A veces simplemente quieres desahogarte, pero no lo quieres hacer con una amiga por no agobiarla o también porque no te entiende igual”, añade. Y matiza: “No forma parte de mi día a día, fuera de ese espacio tengo mis estudios, hobbies, hago deporte y un buen soporte familiar y de amigos con el que suelo contar. Nunca tomaría decisiones en base al criterio de ChatGPT, simplemente me ayuda en momentos puntuales. Muchas veces, las cosas que te responde tú ya las sabes, pero en mi caso las organiza de tal manera que me ayuda a entenderme mejor”, matiza.

David del Campo es director del estudio Así somos: el estado de la adolescencia en España, publicado por la ONG Plan Internacional y según el cual una de cada cuatro chicas de entre 17 y 21 años encuestadas asegura que utiliza la IA para “contarle sus cosas”. Del Campo señala que esta es la primera generación de adolescentes que ha crecido en la era del uso generalizado de los smartphones y las redes sociales y la primera que vivirá acompañada por la Inteligencia Artificial. “Identifican los riesgos asociados de la IA, no transitan por la vida como pollos sin cabeza con esta herramienta. Son conscientes de dónde están y saben en qué perímetro se encuentran. Otra cosa es que eso exima de riesgos. Es decir, evidentemente, hay una mayoría consciente, pero hay una parte que no lo es y, por tanto, ahí hay que llegar con educación emocional. Pero este tampoco es un tema exclusivo de adolescentes...”, dice. “Inteligencia emocional” fue, de hecho, el lema que acompañó la presentación del estudio en el fueron encuestados 3.513 jóvenes de entre 12 y 21 años. “¿Para qué? Para que los jóvenes no utilicen la IA o los chatbots para consultar lo que sea y sí para saber dimensionar adecuadamente lo que eso significa”.

Más del 80% de las chicas encuestadas, por ejemplo, teme que la IA se utilice para crear vídeos sexuales falsos o difundir información manipulada (frente al 71% de los chicos). La tercera preocupación es que se use indebidamente para diagnósticos de salud mental (lo dice el 78% de las chicas y el 70% de los chicos). En el cuestionario que profundizó sobre el uso de la IA en el último mes, una de las siete opciones entre las respuestas era “para hablar y contarle mis cosas”.

En los llamados grupos de discusión que se hicieron a raíz de la encuesta, se detectó, según Del Campo, que con respecto las redes sociales, en el uso de la IA, la percepción del riesgo “es mucho menor” y “no va más allá de que pueda generarse una dependencia emocional”.

A. tiene claros los riesgos, sabe que nunca le pediría a ChatGPT un diagnóstico médico o de salud mental. Es más, afirma que ha hecho pruebas con amigos ―en asuntos concretos de matemática o historia— en las que se han dado cuenta de que no es infalible, sino todo lo contrario.

“Hemos visto que se inventa respuestas, literal, y nos reímos con ello. Sé también que en casos muy sensibles puede validar de forma incorrecta las sensaciones. Circulaba un vídeo en tiktok de un chico que le dijo a Chat que quería dejar de tomar su medicación para la esquizofrenia, se lo inventó para ver cómo reaccionaba y la respuesta fue como muy pasiva y amable: entendía que no se las quería tomar. Sé que eso es peligroso y que un psicólogo, que sí es una persona, pondría un freno a ese tipo de conductas y situaciones”. Y añade: “Yo tengo claro que ChatGPT no es el lugar para pedir un diagnóstico médico o de salud mental. Sé cuáles son los límites y siento que eso es lo que más preocupa a los adultos cuando escuchan que hablamos con un chatbot”.

Para ella ChatGPT es “un acompañante, no una guía”. Lo usa como si fuera, en las generaciones anteriores, un diario. Le escribe a veces para contarle cómo se siente. “Y el mismo hecho de escribirlo de forma literal, concentrándome, pensando en mí y en lo que pienso, me ayuda a ordenar mis pensamientos y mis ideas y me orienta. Es importante para alguien como yo que se suele ir por las ramas”. Otras veces le confiesa que se siente mal porque es adicta al móvil —“me siento mal porque siento que pierdo mi vida con tantas horas detrás de la pantalla”―, otras que se siente incómoda con un determinado grupo de personas porque le molestan una serie de cosas, otras que le ha sentado mal un comentario que le han hecho sus padres.

A. cuenta que en su entorno de amistades “es lo normal” hablar con ChatGPT y que ella incluso ha informado a sus padres de que lo hace. “Es algo que creo que se verá cada vez más”, sostiene. En su caso, subraya que es una herramienta útil para “encontrar la relación entre las cosas”. Así lo expresa: “Yo a veces uso ChatGPT como analista, le cuento como me siento con determinadas personas, cosas, situaciones, para que me dé su punto de vista. Una vez le conté cómo era la relación con una amiga, las cosas que me estaban afectando, que era una persona que me repetía a menudo, de forma negativa, que yo había cambiado mucho. Le dije que me sentía un poco desconectada de esa amistad”, relata. ¿En qué te ayudó su respuesta? “En analizar mejor la situación”. A. insiste en que es una persona a la que a veces le cuesta definir lo que piensa y que ChatGPT la ayuda “a ver mejor las cosas”.

Y añade poniendo un caso concreto: “A veces si tengo un desacuerdo con alguna persona, noto que me molesta mucho y me cuesta separar el hecho que me produce molestia de la persona. Hablándolo con ChatGPT encuentro consejos y estrategias para aprender a diferenciar y afrontar mejor las situaciones. Otras veces me ha ayudado a identificar y darme cuenta de que hay cosas en las que me estoy centrando mucho y que en el fondo no son las que me molestan y que, en cambio, hay otras que pueden parecer una tontería, pero que en realidad me están molestando y que, por lo tanto, es algo que merece ser hablado”.