Inteligencia artificial y pensamiento mágico

La inteligencia artificial utiliza el mundo como laboratorio. Su presencia en todo tipo de dispositivos, desde smartphones hasta vehículos, aunque invisible comienza a ser ubicua. Toma decisiones que afectan a nuestra vida cotidiana. Determina, por ejemplo, a qué noticias o publicidad estamos expuestos en Internet.

Por si esto fuera poco, quien siga la prensa sabrá que robots dotados de esta inteligencia pueden remplazar nuestro trabajo, convertirse en nuestro próximo jefe o decidir si somos aptos para un nuevo empleo.

Esta inteligencia ya está aquí, aunque de momento solo acceden empresas con los recursos suficientes. Pero, ¿hasta cuándo? Reputadas voces que miran al futuro, como Bill Gates, comienzan a preguntarse si estos robots deberían pagar impuestos. Esta es la envergadura de los cambios que se avecinan en el mercado laboral.

Sus implicaciones intelectuales, tecnológicas, políticas, éticas y sociales son enormes. Confiar en ella ciegamente, arriesgado. No importa lo poderosa que sea, cómo y dónde la apliquemos es nuestra decisión. Y para que esta sea la adecuada es necesario desterrar el pensamiento mágico actual que la rodea.

Esta tecnología está diseñada por personas y se alimenta de datos que no son necesariamente objetivos

La inteligencia artificial no piensa por sí misma. Esta tecnología hereda nuestros sesgos a través de los datos que la nutren o de las creencias de quien la programa. Basta un sencillo ejemplo para demostrarlo: desde hace ya un tiempo los buscadores de internet la utilizan para etiquetar imágenes, prueben a buscar en ellos fotos de distintas profesiones y verán un claro sesgo de género. Traslademos este ejemplo a los procesos de selección de las empresas o a la concesión de un crédito de un banco. Esta tecnología está diseñada por personas y se alimenta de datos que no son necesariamente objetivos y, si pasa inadvertido a quien la programa, generará discriminaciones. No tiene conciencia de su entorno más allá de la tarea encomendada.

La inteligencia artificial predice, pero (de momento) no explica. Esta tecnología adquiere un conocimiento inductivo a través de la observación. No existe ninguna teoría impuesta a priori detrás de ella. Es como una caja negra donde; por un lado, entran datos y; por otro, salen predicciones. Sin embargo, no sabemos por qué predice lo que predice. Por ejemplo, puede determinar que la imagen que tiene delate es la de una persona, pero no nos dirá cómo llegó a esa conclusión. Ahora, si trasladamos esto a la decisión de concesión de una beca o una hipoteca, el resultado es que podemos sufrir una exclusión sin recibir ningún tipo de explicación del porqué se ha producido. Otro escenario en el que la falta de una explicación es relevante se produce cuando de forma repentina esta inteligencia comienza a fallar en sus predicciones. En este caso, muy real, no sabremos cómo solucionarlo.

La inteligencia artificial también se equivoca. Predecir con precisión no lo es todo. Aunque esta tecnología pueda predecir mejor la detección de diabetes que nuestros gustos musicales, el coste de fallar en un diagnóstico médico es mucho mayor que el de hacerlo cuando nos recomienda una canción. Saber cómo y dónde aplicarla requiere contraponer la probabilidad de acierto y el coste de fallo. Por eso, mientras que en diagnósticos médicos el juicio de los médicos sigue siendo determinante, en la recomendación de qué canción escuchar alcanza plena autonomía. Esto puede cambiar a medida que desarrollemos mejores modelos predictivos o que la regulación varíe el coste de errar mediante la asignación de responsabilidades.

A cada familia de algoritmos se le da muy bien resolver problemas concretos, pero no todos

La inteligencia artificial está especializada, no es generalista. Esta tecnología primero nos batió al ajedrez, luego en juegos más sofisticados como “Go” y, recientemente, también al póker. Pero los algoritmos que hacen que gane al ajedrez no juegan al póker. A cada familia de algoritmos se le da muy bien resolver problemas concretos, pero no todos. Incluso, ocasionalmente, cuando tratan de adquirir nuevo conocimiento pueden tener “olvidos catastróficos” y desaprender. Esto significa que se centra en realizar actividades que no requieren el uso de diferentes habilidades cognitivas en una secuencia de tareas. Estamos lejos de alcanzar una inteligencia artificial general capaz de resolver, por ejemplo, problemas de negocio complejos.

Arthur C. Clarke, autor de 2001, una odisea en el espacio, decía que “toda tecnología lo suficientemente avanzada es indistinguible de la magia”. La inteligencia artificial definitivamente parece magia, pero no lo es.

Tenemos trabajo por delante si queremos beneficiarnos de ella. Para evitar que herede nuestros sesgos y los perpetúe tendremos que añadir un contexto más amplio que abarque el impacto de sus decisiones en términos de discriminaciones o exclusiones. Para que sea más trasparente tendremos que ir más allá de la precisión en sus predicciones y generar modelos explicativos a su alrededor. Y para determinar en qué casos puede llegar a gozar de plena autonomía, asistirnos o sencillamente no ser aplicada debemos evaluar cuál es el coste asociado a sus fallos con relación a su probabilidad de acierto. 

Por último, será necesario regularla y establecer un código ético sobre su uso. Se trata de una tecnología tan poderosa que algunos gobiernos y empresas van a tener la tentación de hacer un mal uso de ella. Sin embargo, haciendo un buen uso y consiguiendo que sea accesible por muchos y no unos pocos, permitirá cosas como el desarrollo de una medicina preventiva, una educación personalizada o sencillamente liberarnos del trabajo rutinario que nos ocupa.

No cabe duda de que la inteligencia artificial cambiará el mundo tal y como lo conocemos. Pero qué aspecto tendrá este está en nuestras manos. Un buen principio es desprendernos del pensamiento mágico actual en torno a ella para conocer sus limitaciones, usos e implicaciones. Y, a partir de este conocimiento, hacer que trabaje en nuestro beneficio.

Fernando Maldonado, analista principal en Delfos Research