Por qué la IA no puede crear conocimiento científico nuevo

En su obra Reflexiones del lenguaje, publicada en 1975, Noam Chomsky afirma que los niños aprenden a hablar no solo imitando lo que oyen, sino construyendo una teoría a partir de información escasa y desordenada. Según el lingüista, un niño infiere conocimiento que va mucho más allá de lo que ha escuchado y eso le permite producir oraciones nuevas, sin relación directa con sus experiencias previas. Es decir, no solo reproduce patrones, sino que crea conocimiento original.

Para los investigadores Teppo Felin, de la Universidad Estatal de Utah y Matthias Holweg, de la Universidad de Oxford, este es el punto central que diferencia el aprendizaje y razonamiento humanos de la inteligencia artificial (IA). En su ensayo académico Theory Is All You Need: AI, Human Cognition, and Causal Reasoning (La teoría es todo lo que necesitas: IA, cognición humana y razonamiento causal, es castellano), publicado a finales de 2024 en la revista académica Strategy Science, los autores califican la generación de lenguaje de la IA como una “predicción basada en datos retrospectiva e imitativa”, mientras que la cognición humana es “prospectiva y se basa en la teoría”.

“Hay investigadores que han analizado cómo los bebés procesan su entorno. Y resulta que no solo absorben datos, sino que constantemente hacen conjeturas o plantean hipótesis. Si se me cae la taza de la mesa, aprendo algo sobre el mundo que me rodea. Y resulta que ese es precisamente el quid de la cuestión: la capacidad para formular conjeturas, querer experimentar o plantear hipótesis”, explica el coautor Felin, de 52 años, por videollamada desde Utah.

El investigador, que además es fundador del Instituto de Estudios Interdisciplinarios de la Universidad Estatal de Utah, afirma que uno de sus objetivos es “desmontar todo el bombo publicitario que se le da a la IA” y destacar cómo la mente humana es única en su razonamiento causal y teórico. El ensayo resalta cómo la mente no es un procesador de información y que los humanos no solo predicen el mundo, sino que intervienen en él y lo transforman. Esto, para los autores, desmonta las analogías mente-máquina.

Galileo y los hermanos Wright

Para mostrar las limitaciones de los modelos de lenguaje, Felin y Holweg plantean el ejemplo de cómo una IA entrenada con todo el “corpus predominante” hasta 1633 negaría el modelo heliocéntrico de Galileo Galilei. Esto es lo que los autores denominan “asimetría entre datos y creencias”, es decir, que mientras que la IA dará por cierto algo si la mayoría de los textos lo afirman, los humanos pueden creer en algo que contradiga a los datos.

Esta asimetría es lo que permite que la cognición humana pueda formar creencias que inicialmente pueden parecer delirantes o contrarias al conocimiento existente, pero que eventualmente pueden conducir a nuevos descubrimientos.

Felin afirma que los grandes modelos de lenguaje son, por ahora, traductores o reformuladores que reflejan patrones del pasado. “En la época de Galileo, los datos indicaban que la Tierra no se movía. Y si miras a tu alrededor, ves que la Tierra no se mueve y que el sol parece desplazarse de este a oeste. Por lo tanto, una IA con límite en 1633 dará ese modelo por correcto”, añade.

Para contrastar, los autores usan el ejemplo de los hermanos Wright y de cómo, en el siglo XIX, los científicos consideraban imposible que los objetos más pesados que el aire volaran. Pero mientras el consenso científico descartaba el vuelo humano, los hermanos Wright llevaron a cabo experimentos para resolver los problemas de sustentación, propulsión y dirección que mostraron que sí era posible volar.

“En entornos inciertos, solo el pensamiento teórico humano tiene la ventaja porque la creatividad depende de teorías que desafían los datos y no de algoritmos. La IA extrapola datos del pasado para decir lo que va a pasar en el futuro, pero eso solo funciona cuando el entorno no cambia y no hay incertidumbre”, sostiene Felin.

El mundo no es una base de datos

Para Felin, el razonamiento humano, a pesar de sus limitaciones, es lo único que puede reflejar con precisión un mundo que “cambia constantemente”. “Los seres humanos podemos procesar una cantidad limitada de datos, somos parciales y tomamos malas decisiones, pero resulta que vivimos en un entorno muy dinámico y la IA no tiene forma de lidiar con ello”, explica el investigador.

Además, el autor hace hincapié en que todos los días las personas deben tomar decisiones sin datos. “En cierto sentido, hemos dado demasiada importancia a los datos porque no siempre tenemos los datos correctos delante de nosotros. Entonces hay que pensar en cómo obtener esos datos y eso es lo que lleva a la creatividad”, continúa.

Felin también advierte contra el “pánico” que algunos especialistas han propiciado con respecto a la IA. En el ensayo, por ejemplo, citan el ejemplo de Geoffrey Hinton, el llamado “padre de la IA” y galardonado con el premio Turing en 2018, quien especuló sobre la posibilidad de que los modelos de lenguaje eventualmente pudieran mostrar formas de inteligencia o conciencia. Los autores rechazan esta visión y argumentan que equiparar la mente a estos dispositivos computacionales es “conceptualmente erróneo y filosóficamente reductivo”.

El académico finlandés sostiene que la IA es una “ola tecnológica con limitaciones, especialmente en áreas que requieren verdadera creatividad, formulación de problemas y toma de decisiones estratégicas con visión de futuro”. Felin compara a los modelos de lenguaje con “una especie de Wikipedia dinámica” y es enfático en que hay que ver a la IA “tal y como es: estadísticas y aprendizaje automático en acción, sin nada místico detrás”.

Tendencias es un proyecto de EL PAÍS, con el que el diario aspira a abrir una conversación permanente sobre los grandes retos de futuro que afronta nuestra sociedad. La iniciativa está patrocinada por Abertis, Enagás, EY, Iberdrola, Iberia, Mapfre, Novartis, la Organización de Estados Iberoamericanos (OEI), Redeia, y Santander, WPP Media y el partner estratégico Oliver Wyman.

Puedes apuntarte aquí para recibir la newsletter semanal de EL PAÍS Tendencias, todos los martes, de la mano del periodista Javier Sampedro.