Matemáticas para afrontar los retos de los coches autónomos

En estos primeros días de este año 2020 ha comenzado a circular en fase de pruebas un pequeño minibús autónomo en el campus de la Universidad Autónoma de Madrid, en el que se ubica nuestro Instituto. Como decía la canción, el futuro ya está aquí. Los vehículos autónomos son una de las mayores innovaciones tecnológicas que veremos acontecer: junto con la electrificación de vehículos y una modificación profunda en el concepto de su propiedad, conformarán un futuro en el que deberíamos esperar menos accidentes, menos contaminación, menos tiempo de viaje perdido y un aumento en la capacidad de desplazamiento de ciertos colectivos, como el de las personas mayores.

Sin embargo, traerán también inconvenientes y nuevos retos que la sociedad en su conjunto tendrá que abordar. Así, es probable que algunos oficios desaparezcan, incluyendo, por ejemplo, el de taxista, a pesar de las muy probables huelgas que harán pequeñas las que se produjeron el año pasado. En este contexto vehicular tan diferente al actual, también tendrán que redefinir su modelo de negocio las compañías de seguros. Deberán aprovecharse al máximo las oportunidades y mitigar sus inconvenientes, para así aumentar la confianza de la sociedad sobre esta tecnología disruptiva. La Unión Europea ya está realizando esfuerzos en esta dirección, financiando proyectos como TRUSTONOMY, en el que participamos los autores de este artículo. En este marco, son especialmente relevantes algunas herramientas relacionadas con tres áreas de las matemáticas: el análisis de riesgos clásico, y dos líneas de investigación novedosas: el aprendizaje automático adversario y el análisis de riesgos adversarios.

Los algoritmos que controlan los vehículos se basan en modelos de aprendizaje automático profundo, fundamentalmente en redes neuronales convolutivas, recurrentes y de aprendizaje por refuerzo. A través de estos procesan la información captada por sensores en el coche sobre la escena de tráfico y toman las decisiones pertinentes. Pese a los grandes avances conseguidos en este campo, esta tecnología aún presenta riesgos, que deben ser considerados y, en la medida de lo posible, mitigados.

Por ejemplo, varios investigadores han mostrado que es fácil confundir a los clasificadores automáticos empleados para reconocer una escena de conducción y así, inducir al fallo de la toma de decisiones del sistema. Basta con alterar las imágenes hábilmente de forma que, aunque nuestros ojos identifiquen sin dificultad a personas en la escena, los algoritmos correspondientes no las perciban. Así, donde un conductor humano frenaría ante la presencia de peatones, el vehículo autónomo seguiría su marcha, produciendo un accidente.

Basta con alterar las imágenes para que, aunque nuestros ojos identifiquen sin dificultad a personas en una escena, los algoritmos correspondientes no las perciban

Para evitar estos incidentes, resulta necesario desarrollar algoritmos de clasificación robustos frente a ataques, lo que ha dado lugar al campo de investigación relativamente reciente del aprendizaje automático adversario, que desarrolla modelos y algoritmos de machine learning que tienen en cuenta la posible presencia de personas u otros algoritmo con objetivos maliciosos.

Por otro lado, también son necesarios modelos de predicción de riesgos que avisen al conductor en situaciones de peligro, cuando este todavía tenga un cierto control sobre el vehículo. Lógicamente, la implantación de la conducción automática no será instantánea y se irán introduciendo modificaciones en los vehículos de manera gradual desde el nivel 0 (sin ninguna automatización) al nivel 5 (el vehículo completamente autónomo). Algunos modelos ya existentes en el mercado alcanzan el nivel 3, en el que el coche conduce de forma automática, excepto en algunos casos en los que debe intervenir el conductor. Estos sistemas monitorizan de forma continua el estado del conductor y de la ruta y, en función de ellos, evalúan si es mejor que siga operando el piloto automático o el humano. En el segundo caso, se envía una petición de intervención al mismo. Para tomar estas decisiones de forma efectiva y con suficiente antelación, es esencial disponer de sofisticados modelos de predicción de riesgos.

Para evitar incidentes, resulta necesario desarrollar algoritmos de clasificación robustos frente a ataques

Además, en este periodo de transición será imprescindible disponer de mecanismos de coexistencia entre vehículos autónomos y no autónomos. Cuando todos son autónomos, la coordinación es razonablemente sencilla: todos ellos se comunicarán y será posible pasar a un modo de coordinación de grupo, utilizando métodos de teoría de juegos cooperativos y sistemas multiagente de aprendizaje por refuerzo. Sin embargo, en un grupo heterogéneo no es posible la comunicación con los vehículos estándar (aunque sí su detección), con lo que los sistemas de vehículos autónomos deberán predecir la evolución de los estándar para tomar las decisiones adecuadas, un problema en el que resulta adecuado el uso del análisis de riesgos adversarios.

Entre otras, todas estas herramientas matemáticas serán clave para adecuar la implantación de esta tecnología que, probablemente, cambie el mundo tal y como lo conocemos.

Alex Kosgodagan es investigador postdoctoral en el ICMAT asociado al proyecto Trustonomy. David Ríos dirige la cátedra AXA-ICMAT de Análisis de Riesgos Adversarios en el ICMAT y es Numerario de la Real Academia de Ciencias Exactas, Físicas y Naturales.

Café y Teoremas es una sección dedicada a las matemáticas y al entorno en el que se crean, coordinado por el Instituto de Ciencias Matemáticas (ICMAT), en la que los investigadores y miembros del centro describen los últimos avances de esta disciplina, comparten puntos de encuentro entre las matemáticas y otras expresiones sociales y culturales y recuerdan a quienes marcaron su desarrollo y supieron transformar café en teoremas. El nombre evoca la definición del matemático húngaro Alfred Rényi: "Un matemático es una máquina que transforma café en teoremas".

Edición y coordinación: Ágata Timón (ICMAT).

Puedes seguir a Materia en Facebook, Twitter, Instagram o suscribirte aquí a nuestra newsletter