A Hoan Ton-That no le importa la Convención de Ginebra

Ya es historia antigua cómo hemos dejado crecer sin control a los grandes titanes de los datos bajo el mantra incuestionable de que el desarrollo tecnológico no solo es bueno, sino que es un imperativo categórico. Se nos presenta la tecnología como un hecho de Dios, un tsunami que nos anega sin remisión, y no como lo que en muchas ocasiones es: la última ocurrencia de un adolescente prologado al que le han dado tanto dinero para llevar adelante su idea que cree que todo lo que la encorseta es algo caduco que ha de morir por el mero hecho de que se oponga a su voluntad. Siglos de evolución de derechos y de luchas para obtenerlos finiquitados por la pataleta de un fundador.

Tal vez sea este el caso de Hoan Ton-That, informático australiano, modelo, descendiente por parte de padre de la familia real vietnamita — o eso dice él en su propio perfil — y fundador de Clairview IA, una de las aplicaciones más controvertidas (y ya es decir) de los últimos años. Clairview se presenta como una base de datos de imágenes recopiladas sin consentimiento alguno de sus titulares, que usa un algoritmo de inteligencia artificial “libre de sesgos” y que permite a las fuerzas de seguridad encontrar con precisión cualquier rostro entre los tres mil millones de imágenes que ha recabado de la Internet pública. Si te han hecho alguna vez una foto y la han subido a Facebook, si la has facilitado para aquella conferencia que diste en Cuenca o alguien te ha grabado en el auditorio en el que estabas, tu cara está sin duda en la base de datos de Clairview.

Como todas las tecnológicas diseñadas desde el desprecio a los principios éticos y a la legalidad aplicable, nos la venden con el mantra de que solo se usa para el bien, incluso para el bien supremo de proteger a la sociedad de la escoria que se dedica a la trata de personas y a los delitos contra los niños ¿Quién no podría estar de acuerdo con tan noble motivo conseguido con los medios erróneos? El pensador Jeremy Bentham me diría que esta herramienta crea más felicidad social de la que destruye, y que los individuos afectados bien destruidos están.

Pero como todo modelo que desconoce la dignidad humana y los principios y derechos que emanan de ella, Clairview no se limita a luchar contra el mal más perverso, sino que permite un uso banal muy peligroso: identificar a casi cualquier humano que pisa la superficie terrestre. Basta con tomar una foto a alguien con quien nos cruzamos por la calle y compararla con la base de datos obtenida de Facebook, YouTube, Venmo o cualquier sitio web para saber quién es. Es el paraíso de los acosadores. Además, permite que las fuerzas del orden que la usan en EE UU lo hagan sin el más mínimo control público y sin transparencia, lo que será también de enorme alegría a los que vivan felices en estados policiales. Dudo mucho que ningún estado se hubiera atrevido a hacer nada semejante, pero si se lo brinda la colaboración público-privada ya es harina de otro costal.

Y aquí viene otro uso inesperado de Clearview, como instrumento de guerra. Hemos leído que ejército ucraniano se está poniendo en contacto con las madres de los soldados rusos muertos a quienes identifican mediante la herramienta de reconocimiento facial de Clearview AI. El IT Army ucraniano, una fuerza voluntaria de activistas y piratas informáticos, ha realizado más de 8.600 búsquedas y ha comunicado a las familias de 582 rusos que sus hijos, esposos o padres habían muerto. En algunos casos, incluso enviaron fotos de los cadáveres rusos.

Es innegable que los ucranianos no han inventado el uso de los muertos durante un conflicto como un arma de guerra más — y, reconozcámoslo, si esta práctica la hubiera llevado a cabo el ejército de Putin todo el mundo habría puesto el grito en el cielo —, pero la dignidad humana no se acaba cuando morimos ni cuando luchamos del lado equivocado, o al menos así se reconoce en nuestro sistema legal. Parece contraintuitivo esperar humanidad en una guerra, la expresión máxima de la barbarie humana, o que la misma se rija por normas encaminadas a limitar el sufrimiento, pero estas existen y se han visto trastocadas, como todo, por la aparición de las tecnologías de la información y por su abuso.

Tras siglos de guerras salvajes en el territorio europeo, el derecho de guerra humanitario, por sorprendente que parezca, trae la civilización y las reglas a los conflictos armados, lo que debemos a Henry Dunant, quien tuvo la mala fortuna de estar en la ciudad italiana de Solferino el mismo día en que los ejércitos austriaco y franco-piamontés decidieron usarla como campo de batalla. La lucha duró solo nueve horas, pero les dio tiempo a dejar tras de sí más de 5.000 muertos, 23.319 heridos y 11.560 prisioneros o desaparecidos. El tamaño de la tragedia fue tal que, a la vista de que los propios contendientes carecían de la capacidad de hacer frente a tanta devastación, el propio Dunant organizó un grupo de voluntarios formado por mujeres de manera mayoritaria y montó hospitales de campaña donde se atendía a los heridos por igual, con independencia del bando al que perteneciesen. Esa batalla y la profunda impresión que causaron en Dunant fueron el germen de la Cruz Roja y de las cuatro Convenciones de Ginebra que regulan el trato de los heridos, pero también de los muertos en combate.

Así, en situaciones de conflicto armado internacional y no internacional, los muertos deben ser respetados y protegidos. Las partes deberán registrar toda la información disponible antes de la inhumación de los muertos con miras a la posterior identificación de los cadáveres o los restos. Y, si identificar a los fallecidos es una obligación de los contendientes, como me podrían contestar las autoridades ucranianas, la notificación del hecho de su fallecimiento no puede usarse como arma de desestabilización del contrario, por mucho que apetezca hacerlo. Los Convenios de Ginebra de 1949 y sus dos Protocolos adicionales de 1977 establecen que siendo la identificación una “obligación de medios” que exige a las partes hacer todos los esfuerzos posibles y utilizar todos los medios de que dispongan a tal fin, deberán, sin embargo, preparar y enviar la una a la otra los certificados de defunción o las listas de los muertos debidamente autenticadas y que contengan todos los detalles necesarios para la identificación de las personas fallecidas siendo cada Estado el que notifique sus propios muertos.

La diferencia entre la civilización y la barbarie radica en el derecho, en esas reglas que sostienen los pactos sociales y, con todos sus defectos, los articulan y hacen posible la convivencia pacífica, incluso la dignidad en la guerra. Esas normas que tanto fastidian a nuestros Hoan Ton-Thats y que han venido para quedarse.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.