Un estudiante de Princeton desarrolla una herramienta para detectar el uso de ChatGPT en un texto

Cuando Edward Tian, estudiante de último curso en la Universidad de Princeton (Nueva Jersey, Estados Unidos), volvió a casa en las vacaciones de Navidad, ChatGPT ya monopolizaba conversaciones y debates en todo el mundo. OpenAI, una compañía que investiga con inteligencia artificial (IA), había lanzado el 30 de noviembre ChatGPT, un chatbot o programa informático con el que ...

Cuando Edward Tian, estudiante de último curso en la Universidad de Princeton (Nueva Jersey, Estados Unidos), volvió a casa en las vacaciones de Navidad, ChatGPT ya monopolizaba conversaciones y debates en todo el mundo. OpenAI, una compañía que investiga con inteligencia artificial (IA), había lanzado el 30 de noviembre ChatGPT, un chatbot o programa informático con el que se puede mantener una conversación y que ya forma parte del día a día de muchos que lo han podido probar (cuando no se encuentra colapsado por la enorme demanda). Entre las polémicas que surgieron con este lanzamiento, la que se refiere a que los estudiantes pueden redactar ensayos o incluso una obra de ficción solo con proponerle un tema al programa o haciéndole unas cuantas preguntas es de las más comentadas.

Haciendo uso de la propia arquitectura de ChatGPT, Tian diseñó durante sus días de descanso GPTZero, una herramienta que permite detectar si un texto ha sido elaborado con inteligencia artificial, como recoge la publicación NewScientist. En algunas pruebas realizadas, el modelo alcanza un 98% de precisión. “Tuvimos más de 35.000 profesores en la lista de espera mientras trabajábamos en la versión personalizada para educadores”. Esa versión se lanzó el 14 de febrero, pero, hasta entonces, estuvo disponible una versión beta de libre acceso (es decir, que no es necesario registrarse para probarla), que sigue disponible todavía.

En esa versión de prueba se puede comprobar cómo la herramienta evalúa cuán probable es que un texto haya sido elaborado por la inteligencia artificial y cuánto varía esa probabilidad a lo largo del escrito, porque lo producido por una persona contiene fragmentos que podrían parecer haber sido elaborados por una inteligencia artificial y otros que no, mientras que lo generado por la inteligencia artificial es más constante.

La motivación de Edward Tian para desarrollar la contrapartida de ChatGPT surgió, según relata, de que “estas tecnologías son muy innovadoras, pero, al lanzarlas al mundo, hay mucho potencial para el abuso, así que hay que construir defensas al mismo tiempo, no meses o años más tarde”. “No esperaba en absoluto que se hiciera viral”, asegura. De hecho, el sitio web que utilizó para albergar GPTZero enseguida le proporcionó recursos gratuitos, tras convertirse en la aplicación más popular de la plataforma.

Cuando, durante las Navidades, visitó su antiguo instituto, la profesora de inglés de Tian le trasladó su percepción de que todos los alumnos están utilizando ChatGPT. Por eso, y por los comentarios que le han llegado, es consciente de que su herramienta se ha convertido en un alivio para los profesores: “Muchos dicen que es reconfortante saber que GPTZero existe. Aunque no lo estén usando, les resulta tranquilizador saber que está ahí”.

Plagio digital

Cristóbal Fernández Muñoz, vicedecano de Comunicación y Relaciones Institucionales de la Facultad de Ciencias de la Información de la Universidad Complutense de Madrid, explica que en el ámbito académico están siguiendo muy de cerca lo que ocurre con ChatGPT: “El plagio digital debido a la inteligencia artificial es algo especialmente preocupante en ámbitos como el educativo, donde la originalidad es un valor irremplazable”.

En la Universidad Complutense, por ejemplo, llevan años utilizando un programa de detección de plagio llamado Turnitin, que se encuentra incorporado en el campus virtual y que incluso los alumnos pueden utilizarlo al entregar trabajos, de forma que ven el porcentaje de posible plagio y los fragmentos sospechosos. “GPTZero es un proyecto muy interesante, seguramente veremos muchos más en la misma línea, como Turnitin, que en 2023 incorporará más funcionalidades de detección de escritura con IA, incluidas aquellas que reconocen el uso de ChatGPT”, señala el profesor.

Al preguntarle a Edward Tian con qué reacciones se ha encontrado por parte de otros estudiantes, dice esperar que no estén enfadados, y asegura no pretender que a raíz de su herramienta el asunto se convierta en una batalla de profesores contra alumnos. “De hecho, pertenezco al equipo de los estudiantes. Yo mismo utilizo ChatGPT para mis clases de codificación y creo que los estudiantes deben tener acceso a estas tecnologías y usarlas porque es nuestro futuro. Creo que GPTZero se está alejando del blanco y del negro, y está siendo una herramienta que sirve para iniciar la conversación entre los alumnos y los maestros”. Su objetivo es que estas tecnologías se utilicen de forma responsable y no como un arma secreta, ni por parte del alumno ni del profesor.

“En el ámbito educativo, no será extraño que proliferen pruebas alternativas para evitar textos generados automáticamente, como las realizadas en tiempo real con dispositivos que carezcan de esta tecnología o exámenes presenciales orales y escritos manualmente. Sin embargo, esto no quiere decir que estemos en contra del uso de estas tecnologías. En determinados casos, hay espacio para ellas si se usan siempre de manera ética. Siempre que sea utilizada con responsabilidad, la inteligencia artificial tiene el potencial de apoyar y mejorar el proceso de aprendizaje”, insiste Cristóbal Fernández.

La desarrolladora de ChatGPT, OpenAI, también lanzó a finales de enero una herramienta para indicar si un texto ha sido escrito con inteligencia artificial, pero, en este caso, lo que hace es clasificar la posibilidad entre muy improbable, improbable, posible o probable. La propia compañía reconoce que “no es del todo confiable”. En las pruebas que ha realizado la empresa, la herramienta acertó que los textos habían sido escritos por la inteligencia artificial en un 26% de los casos, mientras que en un 9% de las ocasiones etiquetó como elaborados por inteligencia artificial textos redactados por personas. Aun así, insiste en que, cuanto más largo sea el escrito, más mejora el mecanismo.

OpenAI ya ha empezado a trabajar en una marca de agua que ayude a identificar los textos que han sido producidos por su ChatGPT, pero, según los expertos en criptografía, aunque se ponga en marcha, habrá quien encuentre alternativas. Además, GPTZero y los modelos similares que surjan solo podrán seguir funcionando si OpenAI continúa proporcionando acceso libre a sus modelos de inteligencia artificial. De hecho, ahora mismo, la herramienta de Tian funciona con una versión previa a la última de ChatGPT, por lo que algunos expertos advierten que, si el modelo de OpenAI se actualiza para convertirlo en algo distinto, podría extraer resultados inexactos.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.