Coches equipados con ‘¿a-quién-matamos?’ de serie
El primer accidente letal de un coche sin conductor abre el debate sobre qué criterios éticos incluir en el algoritmo del vehículo
Elegir a quién matar era hasta ahora una potestad casi exclusiva de asesinos y escritores. Concretamente estos, pongamos Agatha Christie o Conan Doyle, podían teorizar con más argumentos que aquellos sobre la idoneidad de que fuera una soltera, un viudo, un millonario o un vagabundo la víctima que diera el pistoletazo de salida a un intenso armazón de tramas y culpables. No bromearemos con los de verdad.
Ahora, sin embargo, a ambos gremios se le suma otro que debate hasta qué punto aplicar códigos deontológicos a la lógica que puede aprender un coche de conducción automática pa...
Elegir a quién matar era hasta ahora una potestad casi exclusiva de asesinos y escritores. Concretamente estos, pongamos Agatha Christie o Conan Doyle, podían teorizar con más argumentos que aquellos sobre la idoneidad de que fuera una soltera, un viudo, un millonario o un vagabundo la víctima que diera el pistoletazo de salida a un intenso armazón de tramas y culpables. No bromearemos con los de verdad.
Ahora, sin embargo, a ambos gremios se le suma otro que debate hasta qué punto aplicar códigos deontológicos a la lógica que puede aprender un coche de conducción automática para tomar las decisiones adecuadas si se enfrenta a varias alternativas letales. ¿Mejor matar a izquierda o a derecha si tiene que salir de la calzada? ¿Matar a tres peatones que circulan por la acera o estrellarse con el dueño, porque es solo uno, contra un muro? ¿Introducir la ética y los principios en su algoritmo de piloto o dejarle que actúe por su cuenta?
La conducción automática goza de enormes defensores por la seguridad que ofrece su método sofisticado que combina la programación de ordenador, cámaras, sensores y radar. El conductor, digamos, no se emborracha, ni se duerme ni entretiene con el WhatsApp. Pero la muerte en Florida de Joshua Brown, un pionero en el uso y la defensa de estos coches cuyo Tesla se empotró contra un camión con remolque que le precedía y que giró repentinamente, ha arrojado dudas sobre una innovación que cambiará la industria del automóvil vertiginosamente en el mundo.
Las contingencias que pueden ocurrir conduciendo son impredecibles y eso, reaccionar a lo que no estaba programado, no es tan fácil de codificar. El ser humano sabe improvisar, y no siempre, pero ¿la máquina? En una reciente encuesta de Science sobre qué principios hay que incorporar a estos coches, la mayoría de los que participaron contestaron que, ante una situación de peligro con víctimas en todas las opciones posibles, el coche debe elegir matar al menor número posible de personas aunque muera su conductor. El mal menor. Problema: ¿comprarías un coche que va a elegir matarte a ti por salvar a unos extraños? Y otro problema: ¿debe tener en cuenta si las presuntas víctimas son ancianos, jóvenes, trabajadores, parados, drogadictos o enfermos del corazón? ¿Y quién decide los criterios?
El camino de la información es hoy casi infinito, y la programación moral de una máquina puede resultar, así, eugenésica. También pasa con los drones.
Debates viejos para tecnologías nuevas que hacen añorar los tiempos en que estos temas eran solo para la ficción. Los Diez negritos y por qué todos tenían razones para ser culpables era más entretenido e inocuo que todo esto. Mientras, cabe esperar que los coches incorporen el dispositivo ¿a-quién-matamos? de serie con la suficiente flexibilidad para que, al menos, a ninguno de nosotros nos mate. Ninguno es ninguno.