El dilema de los coches autónomos

¿Qué elegirá el coche? ¿Atropellar a un peatón o chocar el vehículo poniendo en peligro la vida de los que van dentro? Es una de las preguntas que se oyen habitualmente cuando hablamos de los vehículos autónomos y su inteligencia artificial. 

La respuesta es que nunca se debería llegar a esa situación. Es necesario trabajar con un enfoque de sistema seguro, que no permita llegar a situaciones donde se plantee el dilema de tener que elegir entre dos vidas humanas. Probablemente, el coche tendría que haber ido más despacio, a una velocidad que le permitiese frenar dentro del campo de visibilidad existente, si está cerca de un colegio incluso más lento, y precisamente por su capacidad de analizar millones de datos casi instantáneamente, debería haber tenido en cuenta si la calzada estaba mojada, el estado de los neumáticos, el peso exacto del coche, la situación de otros vehículos y sus velocidades, las características de la calle o carretera… y el coche irá “aprendiendo” con la experiencia, como lo hacemos los humanos pero mucho más rápido.

Asociar los vehículos autónomos a situaciones peligrosas es un error que podemos pagar caro

El sistema seguro debería evitar la gran mayoría de los dilemas en los que haya que elegir entre vidas humanas, pero ¿qué pasará con los raros casos que queden? Aclaremos primero que asociar los vehículos autónomos a situaciones peligrosas es un error que podemos pagar caro. La predicción es que los vehículos autónomos reducirán los accidentes en un 90%, es decir que pasaríamos de 1.830 muertos por año en las carreteras en España (fuente DGT 2017), a 183 muertos por año, o mejor dicho, salvaríamos 1.647 vidas por año y miles de heridos y discapacitados permanentes, un gran progreso que firmaríamos todos.

Pero también está claro que los coches autónomos no acabarán con todos los accidentes, ni el sistema seguro con todas las situaciones en las que haya que decidir entre vidas humanas, así que la pregunta sobre cómo “decidirá” el coche es legítima. Algunos dicen que lo resolverá el mercado, es decir, que se protegerá a los ocupantes del vehículo porque ¿quién compraría un vehículo programado para matarte? Otros dicen —sobre todo en países anglosajones— que lo decidirán las aseguradoras. Es evidente que ni el marcado, ni las aseguradoras, ni los constructores de automóviles deberían tomar esas decisiones. Los gobiernos, en su ejercicio de representación ciudadana, deberían reglamentar sobre estos temas, y confirmar con la sociedad en su conjunto las respuestas que damos a esas preguntas.

Es urgente que los Gobiernos establezcan unas pautas y un marco claro para el desarrollo de estos vehículos

Alemania es, hasta la fecha, el único país que ha regulado sobre la ética en las decisiones de los vehículos autónomos. En una guía publicada el año pasado, el Gobierno alemán asentó algunos principios básicos para la programación de la inteligencia artificial en los vehículos. Por ejemplo, que la vida humana está por encima de cualquier valor económico, es decir, si el vehículo debe elegir entre matar a una persona o causar daños por millones de euros, debe privilegiar la vida. Anotemos que la Ley 35/2015 prevé entre 15.000 y 90.000 euros a cada familiar por fallecimiento en accidente vial en España. La reglamentación alemana igualmente establece que no se puede privilegiar a una persona frente a otra, ni por sexo, raza, edad o capacidades físicas o mentales. Las indemnizaciones por fallecimiento o incapacidades en España sí tienen en cuenta la edad de la víctima.

Los vehículos y programas informáticos que dentro de unos años tomarán decisiones sobre nuestras vidas se están desarrollando ahora mismo. Es urgente que los Gobiernos, apoyándose en comités de expertos en ética, programación e industriales, establezcan unas pautas y un marco claro para el desarrollo de estos vehículos.

Mientras esperamos a los coches inteligentes que pueden evitar la mayoría de los accidentes de tráfico, recordemos que actualmente el 80% de los accidentes están causados por errores humanos, y que si estos no pueden evitarse, sí pueden mitigarse reduciendo la velocidad, no conduciendo después de haber bebido, ni cansado… Si mi coche actual me dice a qué velocidad circulo y sé cuál es el límite ¿por qué no utilizo mi inteligencia para respetarlo? Si sé que he bebido o que estoy cansado ¿por qué no me niego a conducir? Esperando a la inteligencia artificial, utilicemos la nuestra y evitemos desgracias.

Miguel Caso Flórez es director técnico de la Asociación Mundial de la Carretera.