“La revolución tecnológica necesita ética o nos esclavizará”

La segunda fase de la revolución ciberespacial ya está aquí. Definida por la inteligencia artificial, la computación cuántica y el 5G, promete reescribir el futuro como ninguna otra combinación de tecnologías ha logrado hasta ahora, pero también someternos a una nueva era de inseguridad y falta de derechos y libertades si no se introducen nuevas reglas. Es la teoría expresada hoy por un grupo de expertos en inteligencia artificial, ciberseguridad y derechos humanos reunidos en el Congreso Mundial de Tecnologías de la Información (WCIT, por sus siglas en inglés) en Ereván, la capital de Armenia. El encuentro está organizado por la Alianza de Empresas de Tecnologías de la información y Servicios (WITSA, por sus siglas en inglés), que reúne a las asociaciones tecnológicas de 83 países y que celebra este evento cada año, desde hace 40. El primero, en 1978, se realizó en Barcelona.

La charla inaugural de este congreso, que durará tres días, la ofreció Richard Clarke, que fue asesor de seguridad nacional de los presidentes estadounidenses George W. Bush y Bill Clinton. Clarke aseguró que los cambios producidos por la revolución de las tecnologías de la información son más profundos que los generados por la revolución industrial, “algo que ahora tenemos claro pero que hace 30 años no era tan obvio”, aseguró, ante una audiencia de unas 3.000 personas de 70 países, que han pagado una media de 400 dólares por asistir a este evento.

Clarke ha explicado que el presidente Clinton le pidió durante su mandato que recorriera el país preguntando a los responsables de las grandes empresas qué futuro traería la tecnología. “Ni Bill Gates [fundador de Microsoft] ni Larry Ellison [fundador de Oracle] pudieron responderme a esa pregunta. Fue el presidente de una empresa de ferrocarriles, con más de 100 años de historia, quien lo hizo, al decirme: ‘No somos ya una empresa de ferrocarriles, somos una empresa de tecnología que hace trenes’”.

El aprendizaje automático de las máquinas, la computación cuántica y el 5G y el internet de las cosas combinadas ofrecen grandes oportunidades, pero también tienen enormes riesgos

El experto en ciberseguridad ha asegurado que el momento clave en el que el mundo se dio cuenta de que, efectivamente, todos dependemos de forma casi patológica de la tecnología fue en 2017, cuando Rusia dirigió a Ucrania un ciberataque que paralizó el país en cuestión de minutos y, después, afectó al resto del planeta. “Se produjeron más de 1.000 millones de pérdidas en un solo día, en todo el mundo; eso demostró a los directivos de todos los lugares que somos todos empleados de empresas tecnológicas que, además, hacen algo más”.

Ahora estamos, según Clarke, en una segunda fase de la revolución tecnológica, protagonizada por tres nuevas tecnologías: el aprendizaje automático de las máquinas (maching learning), la computación cuántica y, en tercer lugar, el 5G y el internet de las cosas. Las tres combinadas ofrecen grandes oportunidades, aseguró, pero también tienen enormes riesgos. “La revolución tecnológica necesita ética o nos esclavizará”, dijo.

El experto explica, por ejemplo, cómo las máquinas “están tomando decisiones que no sabemos cómo ni por qué se están tomando”, y que tienen sesgos que pueden perpetuar el racismo y el sexismo. “Necesitamos, en machine learning, en la computación cuántica y en el 5G, introducir la ética y los estándares morales para asegurarnos de que somos nosotros, y no ellas [las máquinas], los que tenemos el control”, dice.

En Rusia se usa la tecnología con fines políticos y China utiliza el reconocimiento facial para controlar a los suyos y puntuarles Richard Clarke, exasesor de seguridad nacional

Clarke citó otras tecnologías, como la revolución biotecnológica y genética que, combinadas con las otras tres, pueden crear un mundo totalmente inseguro en el que los ataques DOS [denegación de servicio, que paralizan webs] sean mayores que nunca o en el que, por ejemplo, las máquinas de hospitales que mantienen a personas con vida estén conectadas directamente al ciberespacio y se puedan controlar. También habló de un mundo distópico, que ya estamos contemplando, en el que los gobiernos controlan a sus ciudadanos; “en Rusia se usa la tecnología con fines políticos, y China utiliza el reconocimiento facial para controlar a los suyos y puntuarles”. El experto cree que necesitamos “normas internacionales” que protejan los derechos humanos y libertades, y explica: “Todas estas tecnologías hacen el mundo más interesante, pero también más frágil. Dependemos de ellas y no podemos volver atrás. Si los sistemas fallan, son atacados o eliminados, toda nuestra civilización se detiene, nuestras economías se paralizan. Somos dependientes como lo fueron los conquistadores españoles que llegaron a una nueva tierra y no pudieron volver atrás, y si no podemos hacer que esta nueva tierra funcione con seguridad y justicia, tampoco nosotros podremos volver atrás”.

Clarke concluyó su intervención dirigiéndose a los asistentes: “Les desafío a ustedes, como expertos, a que averigüen qué mundo quieren: uno donde la tecnología es inmoral y no hay normas internacionales que lo eviten, o uno donde usamos la tecnología para una humanidad mejor. Averigüen qué camino quieren seguir, elijan y, cuando lo sepan, actuén”.

La rebelión de las máquinas

Un panel de expertos en inteligencia artificial siguió a Clarke en su presentación en este evento, al que EL PAÍS acude invitado por la organización. Y la mayoría coincidieron en sus conclusiones. “El progreso tecnológico es siempre una bendición para las mentes preparadas pero una maldición para las que no lo están”, resumió Narayana Murthi, fundador de Infosys. Daniel Hulme, experto en inteligencia artificial y fundador de Satalia, es muy pesimista: “En los próximos 10 años todos los trabajos se redefinirán, y no estamos preparados, no estamos re-entrenando a nuestros trabajadores para que sean capaces de afrontar ese futuro. Y como tenemos compañías que solo quieren hacer dinero a corto plazo eso no va a cambiar”, aseguró.

Christopher Markou, de la Universidad de Cambridge, se mostró de acuerdo: “Solemos pensar en el cambio que la automatización del trabajo tendrá en las factorías pero también cambiará muchos trabajos de mayor valor añadido. Se crearán más, pero ¿serán suficientes?”, se preguntó.

El progreso tecnológico es siempre una bendición para las mentes preparadas pero una maldición para las que no lo están Narayana Murthi, fundador de Infosys

Los expertos también se mostraron pesimistas y preocupados por la ética de la inteligencia artificial. Hulme se mostró especialmente crítico con la responsabilidad de grandes compañías como Facebook o Google, más preocupadas por “su beneficio a corto plazo”, dijo, que por los efectos de sus tecnologías sobre el conjunto de la humanidad, y propuso una solución: obligarlas a convertirse en plataformas abiertas “en las que cada persona pague dos dólares al año por usarlas” y así, con más de 2.000 millones de ingresos garantizados, estas empresas podrían centrarse en la ética de sus soluciones más que en sus beneficios.

El periodista, escritor y artista James Bridle fue incluso más allá: “Lo único que ha impedido que las empresas nacidas de la revolución industrial hayan destruido planeta es la legislación. Google y Facebook lo saben, y por eso son los mayores donantes políticos en Estados Unidos”. Bridle propone añadir una nueva norma a las leyes de la robótica de Asimov: los robots deben explicar sus acciones a los humanos, porque “no entendemos cómo funcionan”.

La abogada armenia Ashkhen Kazaryan fue la única que se mostró en contra de una regulación a la inteligencia artificial: “Es problemático tratar de regular el futuro de la inteligencia artificial si no sabemos cómo será. En 1963, la revista Life publicó que la tecnología nos dejaría a todos sin trabajo y eso no sucedió”. Se mostró partidaria de “castigar [a las grandes tecnológicas] si hacen algo mal”, pero no de “intervenirlas previamente”. “Yo nací en la URSS, un modelo que también quería regular para el bien común, y no funcionó demasiado bien”, concluyó.