No confiemos ciegamente en los algoritmos: son más frágiles de lo que aparentan

Hace tiempo que la mirada científica ha dejado de ser la del naturalista que recorría bosques y cordilleras en busca de nuevas especies y se ha encerrado en el laboratorio, obturando su experiencia sensible y asumiendo la sequedad de algoritmos, ondas de probabilidad y tablas estadísticas. Con el desarrollo tecnológico, nuestras ventanas se han ido reduciendo paulatinamente a pantallas, tanto en el trabajo como en el ocio. Y aunque la distopía tecnológica es tan antigua como el cine, las plataformas digitales siguen recordándonos que es posible enamorarse de un replicante, de la voz de una aplicación o superar el abismo de la muerte subiendo la conciencia al ciberespacio. La convivencia con la máquina es ya inevitable y ha entrado de lleno en nuestras vidas. De ahí que resulte imprescindible entender cabalmente el sentido del conocimiento mediante la inteligencia artificial y el análisis de datos.

Más información

Los algoritmos buenos y tontos que mueven el mundo

El primer paso en esa dirección supone asumir que las ciencias son numerosas y variadas, como muchas y variadas son las culturas científicas y sus métodos. Cada ciencia vive en su propio mito, en cierto sentido ciego pero eficaz. Un mito que siempre podrá inspirar a algunos y hacer partidarios. Los historiadores de la ciencia lo saben bien. Cada disciplina erige una narrativa y una racionalidad propias, un cuento que la comunidad se repite a sí misma y hay tantas racionalidades como ciencias. Aunque las ciencias trabajen unas junto a otras, no cohabitan ni comparten techo o cimientos, pero tampoco se escandalizan ante las diferentes perspectivas de sus miradas. Existe un pacto no escrito que básicamente consiste en no meterse en el terreno ajeno. Un acuerdo permite la micro-especialización.

La división del trabajo científico, tan útil para el capitalismo moderno, es pésima para el humanismo

Los científicos sabemos poco de lo que ocurre en otros campos y, aunque son frecuentes los proyectos multidisciplinares, al final cada uno acaba haciendo su parte del trabajo y entiende poco de lo que hacen los demás. La división del trabajo, tan útil para el desarrollo del capitalismo moderno, supone un desastre para el humanismo. Esta situación esconde un hecho fundamental: los presupuestos básicos de una disciplina pueden ser un disparate en otra. Un ejemplo: considerar las variables de un sistema como dependientes o aisladas, decide tanto la metodología como la interpretación de los resultados. En la microbiología y la ecología se supone que la dependencia entre las variables dota de potencia al sistema, ya se trate de competencia o cooperación, de bacterias o animales. En la neurociencia siguen existiendo variables aisladas, y se atribuye a cada región del cerebro una función cognitiva diferente (una situación que afortunadamente empieza a cambiar). En psicología las variables se han considerado tradicionalmente de un modo aislado y hablar de la interacción entre memoria y atención, sería una excentricidad.

En la literatura científica es frecuente que las revistas impongan las llamadas “buenas prácticas”, un modo de superar la imposibilidad de replicar estudios entre laboratorios. Para ello se utilizan rigurosos y potentes métodos de análisis de datos que son específicos de cada campo. El investigador, ante la presión de publicar y conseguir financiación, acepta esas condiciones para evitar resistencias en la evaluación de su trabajo. Es más, para facilitar la “buena práctica”, se crean programas de análisis que funcionan como cajas negras y proporcionan la gráfica final. Hace pocos años un escándalo salpicó estos métodos, al detectar un error en uno de los algoritmos, que invalidó miles de artículos científicos, aunque no fueron retirados de las publicaciones.

Con la invención del cálculo infinitesimal e integral se desató en Europa la fiebre del análisis

Con la invención del cálculo infinitesimal e integral se desató en Europa (y luego en el resto del mundo) la fiebre del análisis. Básicamente consistía en explicar lo complejo mediante lo simple. Este hábito no sólo permitió el dominio de lo cuantitativo, sino que hizo posible la construcción de la objetividad. De aquellos mimbres vienen estos cestos y el método científico consiste hoy en un conjunto de algoritmos elegidos por ciertas universidades. Su facilidad de uso y la velocidad de computación multiplican el número de artículos al año, haciendo imposible que nadie pueda estar al tanto de todos. El problema añadido es que dichas cajas negras alejan al investigador de su propia investigación. No sabe muy bien qué hace y, sobre todo, propicia una confianza irresponsable en los algoritmos, como si ellos fueran el criterio de verdad. Cualquiera que haya programado algoritmos podrá reconocer su fragilidad. Se toman numerosas y arriesgadas decisiones, sobre los parámetros a seleccionar y las variables en juego, sobre las relaciones que registrará el sistema (que encubre la imposibilidad de medir una ausencia de relación). En el interior del algoritmo habitan las dudas y prejuicios del programador, y lo que en principio podría ser comprometido o sesgado, se hace pasar por descomprometido y neutral. El algoritmo lo ejecuta un procesador pero lo programa una persona.

La máquina enfría sus pasiones, las neutraliza, y los resultados adquieren el aire de un análisis desapasionado. A ello se añaden otras cuestiones cruciales. Priman las cualidades primarias respecto a las secundarias (distinción ya de por sí arbitraria), se tiende a asociar la correlación con la causalidad, se impone linealidad y mecanicismo a lo que de hecho es dinámico, y se extrema la precaución con la estadística final ante datos inmanejablemente heterogéneos o escasos por razones económicas y de tiempo. Pero no todo es negativo en este proceso. La inteligencia artificial permite recordar que las relaciones entre variables pueden ser más complejas que una simple correlación lineal. Que no se haya encontrado relación no significa que no exista, sino que a día de hoy no se puede estimar.

La objetividad es un acuerdo entre comunidades científicas, pero no hay un único mapa de la realidad

Hace pocos años, la idea de acabar con el cerebrocentrismo ponía nerviosos a los investigadores. La revista Nature publicó en 2016 una polémica portada donde se decía: “Las enfermedades complejas se complican”, haciendo alusión a la relación de otras vísceras en alteraciones atribuidas de forma exclusiva a la degeneración neuronal. Con ello se reconocía la dificultad de localizar la enfermedad y se le quitaba el disfraz al reduccionismo que dominaba las ciencias cognitivas. Pero los investigadores recibían dicha incertidumbre con temor, sintiéndose huérfanos del esquema que tanto había permitido avanzar la disciplina. Ahora que las publicaciones han alcanzado una masa crítica suficiente, y se han establecido los métodos con los que debemos proceder en los laboratorios ante el nuevo paradigma, se ha aceptado el desafío. Ahora se admite que las bacterias del intestino influyen en nuestro estado de ánimo, que la respiración modula nuestras emociones o que el corazón es una puerta a la percepción. El siguiente paso será considerar la mente como uno más entre los sentidos.

La construcción de la objetividad es un proceso de carácter convencional, un acuerdo entre diferentes comunidades científicas. En ese acuerdo se discrimina qué es un laboratorio y qué no lo es, y se eligen las ventanas (teorías) a través de las cuales observar la realidad. Pero no hay un único mapa de la realidad. Si lo hubiera, sería como el que imaginó Borges y con el que soñaron los cartógrafos chinos. Un mapa tan extenso y detallado que ocupaba todo el territorio y que era imposible manejar. Hoy día podemos encontrar materialistas acérrimos en la biología molecular y subjetivistas radicales en la mecánica cuántica. Unificarlos en un todo coherente es más un deseo de los educadores que una posibilidad real. Siempre que se plantea una querella entre dos narrativas, ya sea la mítica o la científica, se yerra. Se trata de un falso dilema.

Concluimos. El conocimiento de las otras ciencias no debería llevar a un intento de unificación ni a la ambición de formular leyes universales. Conocer las otras ciencias es aceptar pluralidad y contradicciones. “Si todas las cosas fueran iguales, no existirían todas las cosas” (Non Essent amnia, si Essent aequalia). No existe una visión científica del mundo, pero eso no es una fatalidad, al contrario, debería ser motivo de celebración. La ciencia no es una empresa uniforme, son muchas y heterogéneas y hay mucho que aprender en ellas, pero también en las humanidades, los mitos y las tradiciones antiguas que han sobrevivido a las embestidas de la globalización. El algoritmo trabaja en la uniformización del pensamiento y ese es el gran peligro. La pregunta es si es posible combinar todos esos enfoques.

Juan Arnau es filósofo y astrónomo. Su últimos libro es ‘Upanishads’ (Ed. Atalanta). Nazareth Castellanos es Física teórica y doctora en Medicina.