Nostalgia del espía compasivo

En la película alemana La vida de los otros, de 2006, un agente de la Stasi trabaja en la escucha de las conversaciones de un dramaturgo, sospechoso de disidencia, que tiene un piso en el Berlín oriental de los ochenta, un micrófono oculto y una relación con una actriz. De tanto seguir a la pareja, el espía se engancha a su vida como a una telenovela. Se emociona con ellos, ríe con ellos, llora cuando lloran ellos.

No creo que empatizaran así los empleados de Amazon que escuchaban conversaciones domésticas a través del altavoz inteligente Alexa. La empresa alegó que ese trabajo era puntual y anónimo, sin más objetivo que mejorar la comprensión de las órdenes. No consta que en Google Home haya alguien al otro lado, pero sí que almacenan grabaciones. También te escucha tu móvil, y no lo piensas. Por eso a veces salta Siri por sorpresa creyendo que le pedías algo.

El siguiente paso hacia el Gran Hermano es más inquietante: el reconocimiento facial. Cuenta Javier Espinosa, periodista español en China, que su hija de ocho años ya pasa un control de su rostro para subir al autobús escolar. Qué no harán con los más creciditos. En un instituto de secundaria de Hangzhou, las cámaras miden el nivel de concentración de los alumnos, que se indica en una pantalla en el aula. Gracias a la falta total de garantías para la privacidad, Pekín domina una tecnología que emplea para perseguir disidentes o multar al que se salta un semáforo. En el lado contrario, San Francisco ha prohibido el reconocimiento facial en espacios públicos por la presión de defensores de los derechos civiles.

Ya vivimos rodeados de cámaras, pero por ahora son tontas. Cuando sean todas inteligentes, se acabó el anonimato en la calle. Se entiende el uso del sistema para, por ejemplo, localizar a terroristas en fuga. No que se siga a cualquier vecino, que sus datos puedan recopilarse y, el colmo, venderse a empresas.

Hay más: el sistema falla mucho. No aleatoriamente, no, sino que reproduce prejuicios humanos. La joven congresista Alexandria Ocasio-Cortez demostró en una comisión parlamentaria de EE UU que los sistemas de reconocimiento facial, diseñados casi siempre por hombres blancos, tienden más al error con la población negra, con los hispanos y, de forma clamorosa, con los transexuales. Los más vulnerables tienen más que temer. Alguien con rasgos latinos, por ejemplo, tendrá más papeletas para una deportación.

Según avanza la trama de La vida de los otros, el agente Gerd Wiesler, alias HGW XX/7, siente más complicidad con sus vigilados. Los encubre, hace desaparecer pruebas contra ellos. Un espía humano puede sentir compasión. Una inteligencia artificial nunca lo hará.

Más información

El líder y yo (y nadie en medio)

Silicon Valley ya no es tan ‘cool’: gigantes de internet bajo asedio

En la Transición no había Twitter