Debemos estudiar la inteligencia artificial igual que investigamos a animales salvajes
Iyad Rahwan propone estudiar el comportamiento de la inteligencia artificial como hemos hecho hasta ahora con el de los animales
Cuando un algoritmo se mea fuera del tiesto, lo normal es que sea motivo de sorpresa. No esperamos que incurran en injusticias asignando hipotecas o detectando extremismos. Nada en su desarrollo nos hace sospechar que van a meter la pata en los mercados financieros. Tampoco contamos con que echen leña al fuego de la desinformación en redes. Pero van y lo hacen. El problema puede estar en el código, en los datos que le entrenaron, en algún punto de su cadena de decisiones, pero sin verles en acción -y sobre todo, sin verles meter la pata- es difícil anticiparlo.
¿Entonces qué hacemos? La propuesta de Iyad Rahwan, director del Center for Humans and Machines del Instituto Max Planck para el desarrollo humano, es estudiar su comportamiento en estado salvaje, como haríamos con los animales. "La razón por la que me gusta el término comportamiento es que enfatiza que lo más importante es lo observable, por encima de las características no visibles de estos agentes", explica en una entrevista con Quanta Magazine.
En su opinión, los ingenieros responsables de diseñar estos sistemas se encargan en cierto sentido de construir sus cuerpos y cerebros, y aunque estudian su comportamiento, lo hacen de un modo muy limitado. El punto de partida para suplir estas carencias es buscar relaciones entre las máquinas inteligentes y el reino animal. "Tal vez hay lecciones en la naturaleza que nos habrían ayudado no solo a diseñar soluciones, sino también a detectar los problemas un poco antes", razona.
- Viejos conocidos
Este no sería el primer encuentro entre la inteligencia artificial y la naturaleza. El reino animal ha sido desde hace décadas una fuente clave de inspiración para el desarrollo de nuevos algoritmos. Las hormigas son un ejemplo clásico. Su comportamiento, clave en la organización de sus colonias, inspiró a Marco Dorigo en el desarrollo de lo que se conoce como algoritmos de optimización de colonia de hormigas. En la versión que inventó la madre naturaleza, la clave son las feromonas que estos insectos dejan a su paso: el tiempo de recorrido es más largo allí donde el rastro es más leve, por lo que las hormigas descartan poco a poco las rutas más extensas para optar por aquellas donde las feromonas son más fácilmente detectables.
La adaptación que encontró Dorigo se emplea en diseño de rutas para vehículos, planificación de aterrizajes de aviones, detección de bordes en imágenes, minería de datos, trazado de trayectorias seguras para barcos e incluso análisis de largas secuencias de ADN.
Desde milimétricas hormigas hasta ballenas jorobadas. La red de burbujas que emplean estas últimas para acorralar a sus presas también se ha traducido en un algoritmo que ha encontrado aplicaciones en una larga lista de campos: monitorización de paneles fotovoltaicos, planificación del flujo de trabajo en obras, reconocimiento de caracteres escritos a mano...
- Nuevos comportamientos
La propuesta de Rahwan es seguir aplicando nuestros conocimientos sobre el comportamiento animal pasada la fase de ideación del algoritmo. "Imagina que el sistema que los vehículos autónomos usan para comunicarse y minimizar los atascos interactúa con el algoritmo de aprendizaje reforzado del coche para optimizar su propio comportamiento y causa un patrón de coordinación que no había sido previamente programado. Puedo imaginar a un ecólogo diciendo: "Oh, esto lo conozco, he visto este tipo de especie de abejas actuar así".
Pero esta identificación de patrones animales en el comportamiento de las máquinas inteligentes sería solo el principio. Según avance el campo, sería de esperar que emergieran nuevos comportamientos, inéditos también en la naturaleza. "Con el tiempo, desarrollaríamos alguna teoría sobre cómo cambian y tal vez también una idea de cómo se nutren unos de otros", explica.
Desde su punto de vista, las motivaciones que nos llevan a estudiar el comportamiento animal no son tan distintas de las que justificarían hacer lo propio con los algoritmos: "Parte de ello es pura curiosidad, por supuesto. Pero, como sociedad, también apoyamos la ciencia porque queremos entender las mecánicas que rigen el mundo y usar esta comprensión para predecir tales fenómenos". Y con las máquinas, más de lo mismo. "Prometen incrementar nuestra productividad económica y mejorar nuestras vidas, pero mucha gente teme lo que pueden llegar a hacer", añade.
En este contexto, conocerlas como conocemos a las hormigas y las ballenas jorobadas nos permitirá saber cómo avanza su desarrollo, si es necesario regularlas, cómo debería hacerse efectiva esta regulación... "Veo el estudio del comportamiento de las máquinas como la tarea que complementa el más amplio cometido de la sociedad de prosperar con ellas".
