Una ética urgente

Sin ayuda de la Inteligencia Artificial (IA) nunca habríamos podido convertir la Tierra en un telescopio gigante para contemplar un agujero negro por primera vez en la historia. Las máquinas nos hacen mejores, procesando los datos y llegando a conclusiones más rápido. Pero no son infalibles: aprenden de los datos que les mostramos, y estos a veces son parciales. Por ejemplo, en EE UU se ha probado que los programas de la policía para evaluar el riesgo delictivo de la población discriminan a los afroamericanos porque amplifican la selección presente en los datos. Amazon acaba de retirar su algo...

Sin ayuda de la Inteligencia Artificial (IA) nunca habríamos podido convertir la Tierra en un telescopio gigante para contemplar un agujero negro por primera vez en la historia. Las máquinas nos hacen mejores, procesando los datos y llegando a conclusiones más rápido. Pero no son infalibles: aprenden de los datos que les mostramos, y estos a veces son parciales. Por ejemplo, en EE UU se ha probado que los programas de la policía para evaluar el riesgo delictivo de la población discriminan a los afroamericanos porque amplifican la selección presente en los datos. Amazon acaba de retirar su algoritmo de contratación de personal porque, al ser la mayoría de sus empleados varones, concluyó que lo mejor para la empresa era fichar a hombres. Si cada vez delegamos más decisiones en máquinas, ¿cómo asegurarnos de que hacen lo correcto?

La Unión Europea ha lanzado un marco ético para la Inteligencia Artificial. Medio centenar de expertos llevan meses trabajando para evitar sesgos, crear un marco común y convertirse en referente mundial de ordenadores pensantes que respeten los derechos humanos y las leyes de privacidad. Y de paso atraer inversión pública y privada, que falta hace. Hace tiempo que Bruselas asumió que no podía competir con EE UU ni con China en inversión, volumen de datos o atracción de talento. Es valiente al defender un nicho: valores que generen confianza. ¿Buenismo? ¿Se puede ser líder en Inteligencia Artificial ética sin ser líder en Inteligencia Artificial? Algunos desarrolladores ven directrices vagas, pero en todo caso necesarias. Existe la sensación de que en Europa se legisla aunque no se sepa muy bien sobre qué. Hay algoritmos fáciles de entender porque son pasos definidos en un orden concreto, pero otros más complejos, como las llamadas redes neuronales, no se pueden explicar del todo.

Y mientras otros inventan. A toda velocidad adelantan las empresas chinas y americanas. EE UU en cabeza, con los mejores laboratorios financiados por Google y Facebook e inversores que arriesgan. Allí la IA es parte de la estrategia de seguridad nacional, igual que en China. Pekín, todavía a medio camino respecto a Washington, es líder en acceso a los datos de su población gracias al reconocimiento facial. En dos años esperan tener 400 millones de cámaras en todo el país para recolectar datos. La privacidad es un debate incipiente, pero de momento las empresas se benefician de una legislación laxa: la consigna es convertirse en líderes mundiales en IA en 2030.

Los humanos no hemos perdido el control ante las máquinas. Pero puede llegar un momento en el que la IA dé un salto cualitativo y tome decisiones en base a un comportamiento que ha desarrollado sola, de forma distinta a como fue programada. Urge tener preparada la venda por si aparece la herida.

@anafuentesf