Algoritmo: ángel o demonio

En una reciente visita al Museo de la Diáspora en Tel Aviv tuve oportunidad de asistir a un intercambio de opiniones sobre quién ha sido el judío que más ha influido en la historia de la economía mundial. Sin duda Karl Marx, espetó al oír la pregunta una joven intelectual intelectual progresista, seguidora por lo demás de la causa del sionismo, antes de verse sorprendida por la anotación de la responsable de lanzar la interrogante:

­—El que más ha influido se llama Mark Zuckerberg.

Me sorprendió la naturalidad con que esta observación nos adentraba en la dialéctica acerca de la conformación de la nueva cultura y la elaboración del conocimiento universal como consecuencia de haber instalado la computación digital en el corazón de nuestras vidas. Dos libros de reciente aparición, y de génesis inevitablemente norteamericana, abundan en este debate desde perspectivas diferentes y, en cierta medida, opuestas. Se trata por un lado de la obra de Cathy O’Neil Armas de destrucción matemática, sobre la que ya informó hace unos meses el suplemento Materia de EL PAÍS, y del otro, del ensayo de Ed Finn titulado La búsqueda del algoritmo.

O’Neil es una experta matemática que trabajó en la banca de inversión como especialista en análisis financiero antes de incorporarse al movimiento Occupy Wall Street. Ha terminado por denunciar el mundo de alienación e injusticia que en su opinión está produciendo el uso masivo de los llamados big data en la toma de decisiones que afectan a las personas y a las comunidades que las integran. Ed Finn, por su parte, es un profesor de la Universidad de Arizona que se esfuerza en analizar el impacto creativo de la ingeniería computacional en la cultura de nuestro tiempo; entendiendo por cultura desde las recomendaciones de Netflix a sus usuarios hasta la implementación de las criptomonedas que desafían a los sistemas de pago garantizados por los bancos centrales.

El libro de O’Neil es una descripción pormenorizada de los efectos de la aplicación de patrones y perfiles informatizados a la hora de seleccionar candidatos a un empleo, identificar potenciales delincuentes o terroristas, evaluar el profesorado de una escuela o conceder una hipoteca. Todas estas decisiones son tomadas de manera cada vez más compulsiva y acelerada por las máquinas, mediante algoritmos sofisticados y en función de nuestros datos personales, recolectados gracias al uso que hacemos de los teléfonos inteligentes. La opinión de la autora sobre la fiabilidad del conocimiento supuestamente científico u objetivo que dichos algoritmos generan es muy crítica. Ella misma confiesa que no se encuentra entre las filas de los predicadores de las virtudes del big data y se alinea claramente en la defensa de las víctimas del lado oscuro del sistema.

Frente al pesimismo beligerante de O’Neil se alza el voluntarismo ético de Finn. Claramente se muestra partidario del algoritmo

Frente al pesimismo beligerante de O’Neil se alza el voluntarismo ético de Finn. Aunque asegura que su obra no supone una teoría en favor o en contra del algoritmo, claramente se muestra partidario de él. Lo considera arraigado “no solo a la lógica matemática, sino a las tradiciones filosóficas de la cibernética, la consciencia y la magia del lenguaje de los símbolos”. Según él, lejos de construir un arsenal de armas de destrucción matemática, los big data y el corazón del sistema que los anima, el algoritmo, contribuyen a la búsqueda del conocimiento universal que “refleja y nutre nuestro eterno apetito por el autoconocimiento y la conciencia colectiva”. Se lo proponga o no el autor, la obra de Finn es la defensa de la civilización digital como un nuevo humanismo, de acuerdo con la suposición de varios investigadores de que en realidad los procesos culturales tradicionales responden a la misma lógica de los sistemas computacionales, por lo que son duplicables matemáticamente. Aplicando dicho criterio no tardaremos en ver cómo los ordenadores son capaces de simular con precisión los resultados de unas próximas elecciones generales o el futuro de las acciones del mercado. De modo que acabaremos por preguntarnos si las elecciones mismas, o las transacciones en los corros, son en realidad necesarias.

Pese a situarse en posiciones morales completamente opuestas, las obras que comentamos coinciden en abundantes ejemplos respecto al uso de las posibilidades predictivas del manejo de los big data. O’Neil advierte del empleo del reconocimiento facial, de manera masiva, por las fuerzas de seguridad de varias ciudades americanas para desarrollar programas predictivos de actos de delincuencia. La policía de Chicago ganó un concurso del Instituto Nacional de Justicia con un proyecto basado en la teoría de que la propagación del crimen sigue un determinado patrón, igual que la de una epidemia. De modo que se podría predecir computacionalmente y, por tanto, evitar. No estamos muy lejos de la ficción de Minority Report, aquella película en la que la previsión de los delitos permitía detener a los probables criminales antes de que los cometieran. Ya sucede algo parecido en la concesión de visados con arreglo a la aplicación de perfiles informáticos a quienes los solicitan. Finn va incluso más allá al explicar cómo Netflix utiliza las capacidades de los algoritmos para modelar el proceso creativo. El problema mayor se suscitará cuando dichos algoritmos “pasen de modelar a construir estructuras culturales”. En ese momento la creación de valor y su atribución a los respectivos procesos tendrá las mismas características en la emisión de criptomonedas que en los intercambios culturales, incluido el periodístico.

Para quienes se interesen en los efectos, destructivos o creativos, de la invasión de los algoritmos en nuestras vidas, ambas obras suponen un caudal de información y análisis sustancial. La lectura de Finn es más optimista, pero también más compleja y oscura que la de O’Neil, quizá porque también lo es su escritura, o al menos la traducción de la misma. Por último, si el lector quiere completar su visión de las amenazas y oportunidades concretas que la convergencia compu­tacional supone para nuestro entorno, puede acogerse a la lectura del libro The Four, de Scott Galloway, sobre la generación de oligopolios mundiales basados en la acumulación de big data por parte de unos pocos señores dueños del algoritmo, ángel o demonio de nuestra civilización. Quizá concluya entonces que efectivamente Mark Zuckerberg, y no Karl Marx, es el judío más influyente en la historia de la economía mundial. Por mucho que él mismo no acabe de enterarse.

Armas de destrucción matemática. Cathy O’Neil. Traducción de Violeta Arranz. Capitán Swing, 2018. 296 páginas. 19 euros

La búsqueda del algoritmo. Ed Finn. Traducción de Héctor Castells. Alpha Decay, 2018. 371 páginas. 26,90 euros