Paula Gordaliza, matemática: “Los algoritmos no funcionan solos. Quien los utiliza debe saber qué están haciendo y por qué se toman estas decisiones”

Paula Gordaliza (Valladolid, 29 años) usa la matemática para intentar que la sociedad sea un poco más justa. La joven investigadora, galardonada con el premio Vicent Caselles otorgados anualmente por la Real Sociedad Matemática Española (RSME) y la Fundación BBVA, ha desarrollado un sistema para corregir el sesgo de los algoritmos de la inteligencia artificial (IA), capaces de formular predicciones más precisas que una persona experta. “El problema es que no siempre estas decisiones son socialmente responsables”, explica Gordaliza en una videollamada. Investigadora en el Basque Center for Applied Mathematics en Bilbao y profesora asociada en la Universidad Pública de Navarra, empezó a estudiar una forma para eliminar los sesgos algoritmos durante su doctorado en la Universidad de Toulouse en cotutela internacional con la Universidad de Valladolid, cuando la IA aún no se encontraba bajo la lupa de reguladores y de la opinión pública. “Las cosas han evolucionado muy rápido durante estos últimos cinco años. Ahora más que nunca es importante trabajar en los efectos que la inteligencia artificial tiene en la vida de la gente”, asegura la investigadora.

Pregunta. ¿Usa mucho la inteligencia artificial en su trabajo?

Respuesta. Me gusta recordar que yo, antes de todo, soy matemática, y lo que hago es investigación en matemáticas. Mi trabajo consiste en la fundamentación de las bases teóricas que se necesitan para desarrollar cualquier tecnología, en particular la inteligencia artificial. Entonces yo me ocupo más bien de estudiar problemas matemáticos y cómo, una vez resueltas estas cuestiones desde el punto de vista teórico, se pueden aplicar a problemas reales. En mi caso, se habla del aprendizaje automático y la equidad algorítmica, que están englobados en el campo de la inteligencia artificial.

P. ¿Cómo se relacionan las matemáticas y la inteligencia artificial?

R. Las matemáticas están detrás de todos los avances científicos y tecnológicos, y en estos últimos años la IA es la forma de avance más de moda. Lo que hace la matemática es establecer las bases teóricas para llegar a resolver los problemas a los que nos enfrentamos, que en el caso de mi investigación serían los sesgos algorítmicos de la inteligencia artificial.

P. ¿Qué es un sesgo algorítmico?

R. Es algo complejo de explicar, porque son palabras que se han utilizado tanto, se le han dado muchos significados dependiendo del contexto. En estadística, algo sesgado es algo que no se comporta como lo esperado. Mientras que, si nos vamos al ámbito de la inteligencia artificial, donde se emplea mucho esta palabra, se refiere más a las inclinaciones o a los prejuicios en favor o en contra de un colectivo o de un individuo sobre la base de determinadas características, como el género o el color de piel. Quizás es esto que contribuye a que los algoritmos provocan miedo y desconfianza en la gente.

P. ¿A qué se debe?

R. Estamos asistiendo a un uso generalizado de los sistemas de inteligencia artificial, en particular de los algoritmos, y esto se está viendo en aspectos que afectan directamente a la vida de las personas. La concesión de créditos, en la selección del personal para un trabajo o en el ámbito clínico, para decidir a quién aplicar un tratamiento o hacer un diagnóstico. Hay muchos más ejemplos, pero estos quizás son los más comunes. Y claro, el hecho de que los algoritmos puedan decidir sobre estas cuestiones genera temores y desasosiego en la población. Esto sucederá mientras no reciban garantías de que estos algoritmos son justos, son confiables y son interpretables.

P. ¿Qué se puede hacer para que desaparezca este miedo?

R. Aquí es donde se ve la importancia de la matemática, que nos sirve para entender cómo están funcionando los algoritmos y que es la herramienta para abrir la caja negra de la inteligencia artificial. Es importante que llegue el mensaje de que los algoritmos no funcionan solos, que quien los utiliza sabe qué están haciendo y por qué se están tomando estas decisiones. Esto ayudaría mucho a reducir la desconfianza que la gente le tiene.

R. Ha hablado de prejuicios y discriminaciones. ¿Los algoritmos son racistas?

P. Los algoritmos no son racistas, ni machistas. Los algoritmos aprenden de datos. El aprendizaje automático es una forma de inteligencia artificial que es capaz de hacer predicciones y de establecer conexiones a partir de bases de datos enormes, que es capaz de gestionar a gran velocidad. El problema viene cuando estos datos no son de calidad. Por eso es fundamental apostar por tener bases de datos de calidad y que no estén sesgadas con respecto a variables que pueden conllevar información sensible, como la raza, el género, las discapacidades, la orientación sexual o cualquier otra información que pueda ser susceptible de discriminación.

P. De esto va su investigación.

R. La idea era tratar de crear dos subgrupos de población, por ejemplo, de hombres y mujeres, que fueran lo más parecidos posible en el resto de características. De esta forma, intenté borrar la información del género para que los algoritmos no sean capaces de aprender sobre el género de las personas y se queden con la información que les proporciona el resto de la base de datos.

P. La sociedad ha mejorado cuando se habla de discriminación. ¿Por qué siguen existiendo tantos sesgos?

R. No es un problema de la sociedad. Al final se está utilizando una herramienta que aprende de datos históricos y esos están sesgados, así es como el algoritmo lo aprende. Lo que habría que hacer para avanzar es fomentar la investigación, porque se trata de un asunto del conocimiento y la frontera del conocimiento es cada vez más compleja. Si queremos mejorar, se necesitan equipos multidisciplinares formados por matemáticos, estadísticos, informáticos y más profesionales que aporten su parte a la causa. Se necesitan todos los puntos de vista, no solamente la mirada matemática, que también necesitaría mejorar mucho.

P. ¿De qué forma?

R. Seguramente habría que fomentar la carrera académica e investigadora, para tener una investigación de calidad centrada exclusivamente en inteligencia artificial, pero con bases matemáticas muy sólidas que aseguren que lo que se está haciendo con los algoritmos sea confiable, seguro y justo. Para lograr esto, es necesario que haya una motivación para que los jóvenes se sientan atraídos por esta carrera, lo cual en estos tiempos es bastante difícil. Es importante mejorar las condiciones de esta profesión, sobre todo en las primeras etapas. Antes con 30 años ya eras profesor titular, mientras que ahora, con 29, todavía voy a empezar en la plaza de ayudante.

P. ¿Cuándo habla de motivación se refiere a recursos económicos?

R. En parte, pero hay también otros factores a tener en cuenta. Por ejemplo, sentir que vas avanzando en tu carrera y que vas consiguiendo plazas cada vez más relevantes. Sentirse valorados es fundamental para quedarse en España y seguir intentándolo.

P. Usted ha hecho el doctorado en Francia. ¿Cree que en el extranjero hay más posibilidades?

R. Hay muchas posibilidades, pero también en España. Las matemáticas que se hacen aquí y la investigación que hay es de gran calidad. Yo ya he pasado por esta experiencia de vivir en el extranjero y estoy segura de que a lo largo de mi carrera también se me presentarán otras oportunidades para hacer estudios internacionales, lo cual es indudablemente algo que da gran valor a tu carrera y que proporciona mucha proyección. Pero mi objetivo final es quedarme en España, donde la investigación, al menos en mi campo, está avanzando mucho, y la importancia que está ganando la inteligencia artificial nos va a dar mucho en lo que trabajar.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.