La Politècnica de València lanza el primer observatorio universitario de IA y diversidad en España

La Universitat Politècnica de València es la primera institución académica de España en contar con un observatorio específico sobre Inteligencia Artificial (IA) y diversidad. Así lo ha asegurado este miércoles la directora del proyecto, Nuria Lloret, tras la firma del convenio de colaboración. El objetivo es “tener un espacio para reflexionar sobre el uso de la IA y el problema de los sesgos en la diversidad”, ha explicado la catedrática a EL PAÍS en referencia a los sesgos de género, raciales o de edad. El observatorio, además de recopilar datos, contará con un think thank —un centro de ideas— con expertos internacionales en ética y diversidad donde se debatirá cómo reducir estos sesgos.

El observatorio empezó a funcionar en mayo, aunque hasta ahora no ha hecho pública su actividad. La semana que viene empezará una comprobación o testeo sobre los sesgos que existen en la IA. Tres asociaciones se ocuparán de esta investigación: la Asociación de Mujeres Empresarias y Profesionales (EVAP), la Fundación Diversidad y Women in IA, una entidad internacional de mujeres que trabajan con esta tecnología. “La Fundación Diversidad tiene mucho interés en el uso de la IA para recursos humanos. Cuando se filtran currículums, hay que controlar el sesgo que tienen las herramientas”. Lloret ha advertido de que la IA “parte de contenidos ya existentes en internet y que de entrada tienen un sesgo. Tenemos muchos focos: hay sesgos de raza, de diversidad funcional...”.

Aunque el convenio se ha firmado este miércoles, los primeros trabajos comenzaron hace cuatro meses con la fase de análisis y de recopilación de normativa internacional sobre la IA. “Según los datos que recopilemos ofreceremos unas propuestas u otras”, ha señalado Lloret. Probablemente en un futuro harán un ranking de las herramientas IA que están más adaptadas a los temas de diversidad. La página web estará disponible la semana que viene.

La idea del observatorio nació en una charla con la consultoría de movilidad y transformación digital, Ineco, a la que fue invitada Lloret. Esta empresa público-privada, que trabaja con empresas estatales relacionadas con la movilidad como Adif, Renfe o Aena, ha puesto los 17.000 euros de la puesta en marcha del proyecto. Tanto el presidente de Ineco, Sergio Vázquez, como Lloret, confían en que surjan otros patrocinadores para que el proyecto crezca. Esta colaboración ha hecho que la movilidad sea una pata importante del observatorio.

“Los servicios de movilidad como metro, cercanías, uber o taxi, cada vez basarán más sus sistemas en tratamiento de datos, para programar sus frecuencias, por ejemplo”, ha advertido Vázquez. Y ha señalado que “esos sistemas pueden estar sesgados. La movilidad de las mujeres está más ligada a los cuidados. Hay que detectar cómo se construyen esos sesgos en los algoritmos”.

El presidente de Ineco, ha destacado a EL PAÍS que “Valencia es un polo de atracción importante de talento y la Politécnica, una universidad de referencia”. “La Comunidad Valenciana tiene un buen ecosistema de universidades, empresas y una inversión pública potente. La región tiene una imagen de modernidad diferente a la que tenía hace 10 años”, ha concluido.