“Hay algoritmos que no controlamos tomando decisiones”

Los algoritmos que utiliza la NSA (la Agencia de Seguridad Nacional de EE UU) deciden si usted es un terrorista en potencia; los modelos robotizados de inversión en Bolsa dirigen los ahorros de millones de personas y los patrones de Amazon escogen qué libros lee el mundo. "Es imposible controlar lo que no se entiende. Por eso es necesario comprenderlos. Como profesionales, como ciudadanos y, sobre todo, como seres humanos comprometidos en la persecución de la felicidad", reflexiona Pedro Domingos (Lisboa, 1965), profesor en la Universidad de Washing­ton. Desde su departamento de informática e ingeniería impulsa una revolución del pensamiento en este enrevesado universo de ecuaciones y programación. Un laberinto al que ha buscado salida en The Master Algorithm (Basic Books, 2015), el algoritmo maestro. ¿La plegaria atendida a los retos tecnológicos de nuestro tiempo?

Pregunta. ¿Qué es el algoritmo maestro?

Respuesta. El algoritmo maestro es capaz de aprender cualquier conocimiento a partir de los datos. Tradicionalmente las computadoras debían programarlas los seres humanos con un algoritmo que explicara paso por paso qué hacer, ya fuera jugar al ajedrez o volar un avión. Lo que resulta nuevo y revolucionario es que el machine learning [una rama de la inteligencia artificial que toma decisiones e interpreta datos basándose en patrones] permite a los ordenadores autoprogramarse aprendiendo de los datos. De esta forma, el mismo algoritmo puede jugar al ajedrez, volar un avión y hacer una infinita variedad de cosas según de dónde procedan los datos con los que aprende.

P. ¿Los algoritmos contribuyen a curar el cáncer?

R. Sí. De hecho, ya están ayudando. Nuestro conocimiento actual del cáncer se basa sobre todo en el uso de algoritmos para procesar y analizar gran cantidad de datos, como sucede con los secuenciadores de ADN. Mirando al futuro, la manera con la que curaremos el cáncer no será recurriendo a un fármaco milagroso, porque no existe (cada cáncer es diferente), sino con un sistema de machine learning que predice qué medicamento es mejor para cada paciente según, por ejemplo, su historial médico.

P. ¿Pueden los algoritmos generar discriminación?

R. Desde luego. Pero tenemos la tendencia a ver discriminación en los algoritmos cuando no existe ninguna. Resulta importante distinguir entre algoritmos programados y algoritmos que aprenden solos (learning). Los primeros son producto de la gente que los escribe, y pueden heredar cualquiera de sus prejuicios. Mientras que los segundos son matemáticamente incapaces de discriminar por raza o género. Porque ni siquiera saben que existen esos conceptos. Algunos piensan que todos los algoritmos son mágicamente objetivos solo porque son matemáticas. Pero eso es una ilusión.

P. ¿Todos estos patrones numéricos producen paro?

R. Los algoritmos pueden hacer que algunos trabajos desaparezcan, sin embargo, también crean nuevos puestos. Millones de personas viven de las aplicaciones, una ocupación que hace una década ni siquiera existía. Pero el mayor impacto de los algoritmos en el empleo será un cambio en cómo están diseñados los puestos de trabajo. No desaparecerán, sin embargo, las partes más rutinarias estarán a cargo de algoritmos, dejando libertad a las personas para que se centren en tareas de mayor valor.

P. ¿Dejar las decisiones económicas en manos de los algoritmos es un riesgo?

R. Sí, pero también hay muchos riesgos cuando las decisiones las toman seres humanos. Otra cuestión clave es quién controla los algoritmos. Si son los Gobiernos o las empresas servirán a sus propósitos; si son los ciudadanos y los consumidores servirán a los suyos. La gente no es consciente de cuántas decisiones importantes que les afectan las están tomando algoritmos que no controlan. Esto tiene que cambiar.