El premio Fronteras del Conocimiento reconoce el desarrollo de sistemas de inteligencia artificial transparentes

La inteligencia artificial ha progresado notablemente en los últimos 10 años. Tanto que, por extraño que parezca, los ingenieros a menudo no saben cómo toman las decisiones los algoritmos de algunos de estos sistemas (el deep learning o aprendizaje profundo). El premio Fundación BBVA Fronteras del Conocimiento en la categoría de Tecnologías de la Información y Comunicación reconoció este miércoles el trabajo del ingeniero Judea Pearl, una de las personas que más han contribuido a la trazabilidad de los sistemas de inteligencia artificial.

Este profesor estadounidense de 85 años nacido en Tel Aviv, mundialmente conocido en su disciplina, desarrolló un lenguaje matemático “primero para los conceptos de razonamiento probabilístico y después para inferir relaciones causales por medio de datos observados y ordenados”, señala el jurado, aportando así “una base moderna a la inteligencia artificial”.

Una de las grandes cuestiones a las que se enfrentaban los científicos en los años ochenta era cómo podían afrontar sus modelos la incertidumbre. La respuesta de Pearl fue la estadística. En un mundo en el que todo está interconectado hace falta orientar a las máquinas para que no empiecen de cero cada vez que se enfrenten a un problema, de la misma forma que los humanos desarrollamos los prejuicios o a priori que nos guían en nuestras acciones. Si el suelo está mojado y llevamos suela plana es probable, pensamos automáticamente, que podamos resbalar si no andamos con cuidado. Si detrás de un seto oímos un rugido, quizás haya un tigre.

Pearl llevó este razonamiento a las máquinas de la mano de las llamadas redes bayesianas. “Se representan en un grafo las variables por nodos, de manera que solo aparezcan los arcos que en realidad tienen cierta relevancia en términos probabilísticos”, explica Pedro Larrañaga, catedrático de Inteligencia Artificial en la Universidad Politécnica de Madrid (UPM). Es decir, eliminas de la ecuación todo un conjunto de situaciones que se consideran muy improbables que sucedan (por ejemplo, que el rugido provenga de un caracol).

“El sistema propuesto por Pearl es capaz de elaborar a partir de datos esa estructura de interdependencia condicional, entre los nodos. Es decir, te quedas con la esencia del problema”, continúa Larrañaga. Pearl creó una escuela de investigadores en los años ochenta que rápidamente se fue distribuyendo por todo el mundo y que en los noventa colaboró mucho con Microsoft, la empresa más avanzada de la época. Su modelo fue asumido por la ciencia e integrado en los principales proyectos de investigación de la disciplina.

Derribar las cajas negras

La investigación relacionada con la inteligencia artificial dio un vuelco importante en 2015. Desde ese año, las redes neuronales, que emplean algoritmos de aprendizaje profundo (deep learning), dominan los principales avances producidos en la disciplina. Estas técnicas consisten no en programar al ordenador exactamente con lo que queremos que haga, sino mostrarle las reglas del juego y dejar que el sistema se entrene con una serie de bases de datos para que él mismo diseñe sus estrategias para cumplir ciertos objetivos.

El problema de esta aproximación es que nadie sabe cómo razonan (si se puede usar ese término) los algoritmos: es imposible interpretar cómo han resuelto el problema, solo vemos que lo han hecho. “Frente a ello está la línea que considera que la interpretabilidad debe estar en la base de la inteligencia artificial, y ahí nos situamos quienes trabajamos con las redes bayesianas de Pearl”, explica Pedro Larrañaga, catedrático de Inteligencia Artificial en la Universidad Politécnica de Madrid (UPM).

Los métodos de Pearl se enseñan hoy en todas las facultades de Informática y sus libros “han inspirado avances trascendentales en la comprensión del razonamiento y el pensamiento”, destaca el jurado. Su “amplio y profundo impacto” se percibe en multitud de áreas y aplicaciones, como “en el desarrollo de ensayos clínicos médicos no sesgados y eficaces, en la psicología, la robótica y la biología”, añade.

El jurado de esta categoría ha estado presidido por Joos Vandewalle, presidente de honor de la Real Academia Flamenca de Ciencias y Artes de Bélgica y catedrático emérito del Departamento de Ingeniería Eléctrica de la Universidad Católica de Lovaina (Bélgica); y ha contado como secretario con Ron Ho, director de Ingeniería de Silicio en Meta (Estados Unidos). Los vocales han sido Regina Barzilay, Distinguished Professor de Inteligencia Artificial y Salud en la Escuela de Ingeniería del Instituto Tecnológico de Massachusetts (Estados Unidos); Georg Gottlob, catedrático de Informática en la Universidad de Oxford (Reino Unido) y en la Universidad Tecnológica de Viena (Austria); Oussama Khatib, catedrático de Ciencias de la Computación y director del Laboratorio de Robótica en la Universidad de Stanford (Estados Unidos); Rudolf Kruse, catedrático emérito en la Facultad de Ciencias de la Computación de la Universidad Otto von Guericke de Magdeburgo (Alemania); y Mario Piattini, catedrático de Lenguajes y Sistemas Informáticos de la Universidad de Castilla-La Mancha (España).

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.