Cómo las matemáticas pueden ayudar a mejorar la seguridad del coche autónomo

Investigadores de la Universidad de Washington descubrieron en 2017 la forma de confundir al sistema de vehículos autónomos al poner pegatinas a las señales de tráfico. Al añadirle a una señal de stop las palabras love y hate, el coche la interpretaba como una de velocidad máxima 45 millas por hora —unos 70 kilómetros por hora—. Este tipo de coches también han sufrido diferentes ataques de hackers en los últimos años con los que se ha llegado a controlar de forma remota el aire acondicionado, el audio o el limpiaparabrisas. E incluso a detener el motor. Hacer los algoritmos de aprendizaje automático más robustos frente a ese tipo de ataques es uno de los objetivos del proyecto Trustonomy.

Esta iniciativa, que ha recibido 3,9 millones de euros del programa H2020 de la Unión Europea y durará tres años, tiene como objetivo crear aceptación y confianza en la movilidad autónoma. “Los coches cada vez tienen más hardware y software y como cualquier sistema son hackeables. Pero hay que poner barreras”, explica David Ríos, participante en el proyecto. Este investigador del Instituto de Ciencias Matemáticas y director de la Cátedra AXA-ICMAT en Análisis de Riesgos Adversarios se encargará de producir modelos de análisis de riesgo que permitan predecir y responder ante los peligros específicos vinculados a la conducción autónoma. En el proyecto participan, además del ICMAT, otras 15 organizaciones de Italia, Polonia, Francia, Finlandia, Reino Unido, Grecia, Chipre y Luxemburgo.

“Los algoritmos de visión son atacables en el sentido de que se pueden cambiar ligeramente las imágenes que capturan las cámaras u otra información que tomen los sensores y confundirlos”, afirma Ríos, que también es miembro de la Real Academia de Ciencias Exactas, Físicas y Naturales. Pone como ejemplo una escena hipotética en la que varias personas cruzan por delante de un coche. Aunque el vehículo debería frenar, sería posible confundir a esos algoritmos de modo que esas personas se desvanezcan y hacer que el coche, en lugar de pararse, accelere: “Puedes pensar en estos coches como armas”. Ríos sostiene que los usuarios también podrían tener problemas de privacidad: “Imagina que se capturan datos de cuáles son tus movimientos o dónde vives”.

El proyecto Trustonomy tiene dos partes. La primera consiste en realizar un análisis los riesgos y oportunidades que se abren con la llegada del coche autónomo. “Una vez hecho el análisis, las matemáticas ayudan a hacer los algoritmos de procesamiento de la información, predicción y toma de decisiones de los coches más robustos”, afirma. Además, se realizarán diferentes pruebas con coches y camiones autónomos.

Para estudiar todos los riesgos, se desarrollarán modelos de aprendizaje automático, basados principalmente en estadística bayesiana y teoría de juegos. Estos métodos, según Ríos, permiten dar respuestas más seguras ante situaciones no esperadas y de incertidumbre y hacer predicciones de cómo se van a desenvolver otros agentes del entorno del vehículo como las personas, animales u otros coches.

Esta iniciativa, que ha recibido 3,9 millones de euros del programa H2020 de la Unión Europea y durará tres años, tiene como objetivo crear aceptación y confianza en la movilidad autónoma

Pese a los peligros mencionados, el coche autónomo también promete traer consigo numerosas ventajas. El investigador subraya que podrían reducir los accidentes, las emisiones de dióxido de carbono y los atascos. En definitiva, supondrían “mucho tiempo ganado como individuos y como sociedad”. Estos vehículos, según sostiene, serían especialmente útiles para personas que no pueden conducir. Por ejemplo, “las personas mayores o los niños tendrían un método para ir al médico o a recoger medicinas”.

Esto solo ocurrirá cuando el coche autónomo no necesite llevar un humano dentro que tome los mandos en caso de una emergencia. Los vehículos autónomos se diferencian en seis categorías —del 0 al 5—. Mientras que los del nivel 0 dependen totalmente del conductor, el nivel 5 supone la conducción totalmente autónoma sin intervención humana. Hasta el momento, se han realizado sobre todo pruebas con los coches de hasta el nivel 4, en el que solo se requiere la conducción humana en casos de falta de visibilidad o ante un fallo del sistema.

Ríos explica que también hay coches plenamente autónomos que ya han recorrido cientos de kilómetros”: “Tecnológicamente es posible, pero han sido probados por pocas empresas y productores. Hay que acumular más experiencia respecto a esta tecnología para que se generalice y la sociedad la conozca mejor”. La conducción totalmente autónoma a nivel global se conseguirá en un plazo de entre 15 y 20 años, según el investigador. “Durante ese tiempo coexistirán en la carretera los vehículos totalmente autónomos, los semiautónomos y los no autónomos. Los coches autónomos tendrán que conocer cuáles son los modelos de actuación de los conductores humanos”, afirma.

Impacto en la economía

En el proyecto también se modelizará el impacto de la conducción autónoma en el empleo y la economía. Con la llegada del coche autónomo, desaparecerán algunas profesiones y surgirán otras, según Ríos: “Puede que la profesión de taxista desaparezca y en su lugar haya una compañía de coches autónomos que te ayuden a desplazarte sin necesidad de conductor”. También cambiará el sentido de propiedad porque “deja de tener sentido tener un coche propio”. “Lo que haré será coger un coche autónomo que me lleve de casa al trabajo. Luego ese coche lo utilizarán otras personas”.

También es posible que cambien los seguros del coche. El investigador señala que al haber menos accidentes, es posible que las pólizas bajen. Además, sostiene que la responsabilidad en el caso de que se produzca un choque se desplazará y plantea la siguiente pregunta: “Si se produce un accidente, ¿es responsable el diseñador del coche, el creador de los algoritmos, el programador de los algoritmos...?”.

La toma de decisiones por parte del vehículo en situaciones de emergencia es precisamente otro de los retos a afrontar. El proyecto propondrá mejoras en los algoritmos que dirigen la conducción autónoma. “El coche ejecuta elecciones sencillas: frenar, acelerar o cambiar su dirección, pero tiene que evaluar las consecuencias de esas decisiones”, explica Ríos. Los algoritmos identifican la posición y estado del coche y de todos los agentes que están a su alrededor, predicen su evolución en el tiempo y toman decisiones, minimizando los riesgos. De cara a un futuro, Ríos señala que es importante desarrollar “modelos predictivos más rápidos, que permitan tomar decisiones éticas, y que integren el comportamiento de los otros”. Los vehículos podrían hacer dichas predicciones “adaptadas a unas normas sociales o unos gustos personales”. “Vamos a tener que codificar una serie de valores, evaluaciones o utilidades para las distintas consecuencias. No todos tenemos los mismos valores sociales y hay muchas ideologías. Es una cuestión muy difícil de resolver que también discutiremos”, concluye.