Broncano: “Hay que imponer normas políticas a la inteligencia artificial”

La ciencia siempre ha estado presente en la vida de Fernando Broncano (Linares de Riofrío, Salamanca, 1954). Fue en los 80, al poco de finalizar la tesis doctoral, cuando se percató de que tenía que profundizar en cómo se desarrollaba la tecnología para conocer todas sus implicaciones en la vida moderna. El resultado de sus inquietudes le ha llevado a afirmar que la historia de la humanidad es el producto de los entornos técnicos. “Así llegué a la relación entre tecnología y humanismo. Ahora no veo ninguna diferencia entre ingeniería y humanidades”, afirma durante la entrevista.

¿Por qué consideras que hay que unir la tecnología con las humanidades?

Los artefactos de la ingeniería son objetos culturales. Uno no puede diseñar nada sin pensar en el usuario, sin tener en cuenta tanto su condición como la sociedad en la que se desenvuelve. Un buen ingeniero ha de ser también buen sociólogo y humanista. En la ciencia se puede ser especulativo, pero quien fabrique un coche autónomo debe pensar quién va en su interior. No debe resultarnos extraño que la ingeniería contemporánea requiera de un diagnóstico previo de cómo somos.

¿Y la sociedad cómo puede influir en el desarrollo tecnológico?

Antes de la Revolución Industrial se veía que los males y los bienes llovían del cielo. El destino de los humanos lo miraban como si estuviera escrito ya previamente. Esto ha ocurrido ahora con la técnica. El entorno tecnológico ha asumido características casi religiosas. En nuestro imaginario, las catástrofes son tecnologías. La sociedad moderna tiene como un sentido de impotencia. Evidentemente, nuestro entorno es masivamente técnico; pero los artefactos no van a tomar el poder de nada. Su desarrollo depende de la gestión que hagamos de ellos.

¿Cuál sería la forma idónea de superar este determinismo?

El determinismo tiene dos facetas: el desastre y el adaptarse a lo que va surgiendo, como si careciéramos de una capacidad para plantear cómo será la técnica del futuro. Los nuevos productos parece que haya que consumirlos sin más, como si no tuvieran normas. Hay que imponer constricciones políticas, morales y éticas a la inteligencia artificial, por ejemplo. Como ciudadanos necesitamos leyes para un nuevo parque técnico, para comenzar a legislar cómo no queremos que sean las máquinas.

¿La ciudadanía es consciente de cómo manejar las nuevas tecnologías?

Tenemos un problema de cultura técnica. Existe un déficit tanto en la sociedad como en los políticos y el aparato judicial. Falta comprender cómo se relacionan unos artefactos con otros. Por ejemplo, surge Facebook y nos despreocupamos de cómo funcionan sus algoritmos. Las empresas crean unas tecnologías tan robustas que las personas las utilizan sin necesidad de aprender previamente nada sobre su manejo. ¿El peligro? Que tendamos a creer que no podamos hacer nada al respecto.

Falta comprender cómo se relacionan unos artefactos con otros. Por ejemplo, surge Facebook y nos despreocupamos de cómo funcionan sus algoritmos”

¿La sociedad juega a lo que quieren las grandes tecnológicas?

Pongamos el ejemplo de Google. Parece que haya límites legales para intervenir en sus algoritmos. De hecho, ni deja que se conozcan. Esto genera una conciencia de que no se puede hacer nada porque no lo entendemos y, de la misma forma, resulta complicado imponer unas condiciones de uso. La sociedad democrática debe alcanzar el diseño de la ingeniería. Ahora es como un territorio salvaje, como el lejano Oeste, que es alegal. Es el momento de imponer por parte de las grandes instituciones, como el Parlamento Europeo, reglas de conducta a los grandes sistemas tecnológicos. El problema es que las grandes multinacionales, probablemente, no estén interesadas en que lo público entre a controlar su negocio.

¿En qué ámbitos podría mejorarse la legislación vigente?

En la inteligencia artificial. Ya hay robots que deciden si vamos a tener una hipoteca o si te contratan en una empresa. Hay un déficit de normativa al respecto. Aquí no hay responsabilidades porque la ley no ha entrado en ello. Más aún, varias crisis bursátiles han surgido por errores de la inteligencia artificial porque sobrerreaccionaron a los movimientos de determinados valores.

¿Los políticos están a la altura de los grandes cambios propiciados por la tecnología?

Este es un gran problema. Un peligro terrible para todos. Los llamados gurús llegan a foros como el de Davos, explican a los políticos que estamos inmersos en la cuarta revolución industrial y estos se vuelven a casa pensando que no pueden hacer nada. Creo que no han llegado a valorar todo lo que pueden corregir y cambiar. Estamos dentro de un gran cambio de paradigma tecnológico, pero hay mucho por desarrollar. Crearía un panel jurídico, moral y político para abordar esta tendencia.

¿Se puede frenar la velocidad de crecimiento de este paradigma tecnológico?

Si nos fijamos en las historias de vida de algunos artefactos, como los smartphones o los ordenadores, su evolución es más plástica a los deseos de la gente y a sus intereses de lo que pueda parecer. Tenemos productos con determinados diseños en función de cómo reacciona la gente. Es decir, el mercado es sensible a lo que quiere el público. Tenemos más influencia en la técnica de lo que pensamos. Diferente resulta que no queramos diseñar, por ejemplo, un botón que apague todos los móviles que hay en una sala.

¿Estamos a tiempo de cambiar el futuro que se atisba en el medio plazo?

Estoy convencido de que vamos hacia grandes tecnologías. Sería iluso pensar que vamos a volver hacia atrás. La potencialidad de las tecnologías contemporáneas es de destrucción y justo lo contrario, de convertir la tierra en un parque autosostenible. ¡Podríamos revertir hasta el cambio climático! Tenemos que fomentar la conciencia de que debemos controlar moral y políticamente los diseños de la técnica del futuro. No atisbo cerca el fin del mundo, sino una conciencia de necesidad de control de los macrosistemas ingenieriles. Plantar cara a Facebook o Amazon no es cosa de los particulares, sino de un acuerdo que decida que estas nuevas formas de economía han de someterse a nuestro entorno.

Más información

Zhu: “La inteligencia artificial va a redefinir lo que supone ser humano”

“A la inteligencia artificial le falta sentido común”