Regina Barzilay: “Tenemos que aprender a vivir en un mundo en el que la tecnología toma decisiones que no podemos supervisar”

En 2017, el científico del MIT Max Tegmark publicó Vida 3.0, un libro en el que reconocía las posiblidades de la inteligencia artificial para mejorar la existencia humana, pero advertía sobre los grandes riesgos que entrañaba si no se desarrollaba correctamente. “Hay una gran presión económica para hacer obsoletos a los humanos”, decía entonces a este periódico. Una parte importante de la revolución de las máquinas inteligentes que pedía vigilar Tegmark se está produciendo, precisamente, en el MIT, en Boston, y allí, una de sus líderes es Regina Barzilay (Chisinau, Moldavia, 52 años). Barzilay, que se mudó con sus padres a Israel en los años noventa, cuando la caída de la Unión Soviética inundó el país de los judíos de talento inmigrante, cree que a veces se habla demasiado de los riesgos de la inteligencia artificial y no de sus posibilidades, no para hacer obsoletos a los humanos, sino para ayudarles a ser mejores.

Barzilay, que la semana pasada participó en Madrid en la reunión anual de GEICAM, el grupo español de investigación en cáncer de mama, tiene una experiencia personal que le hizo muy consciente de las limitaciones humanas. En 2014 fue diagnosticada con cáncer de mama. Entonces, como muchas pacientes tras una noticia que le llenó de miedo e incertidumbre, pensó en por qué su problema no se había detectado antes. La investigadora decidió entonces aprovechar su experiencia enseñando a los ordenadores a aprender para desarrollar una tecnología que les permita analizar las imágenes que surgen de las mamografías y detectar, mucho antes de lo que sería posible para el ojo humano, pautas que indiquen que algo puede ir mal.

“Hay un énfasis excesivo en los riesgos de esta tecnología, pero si observas los sistemas sanitarios de todo el mundo, no suelen incluirla. Solo está en algunos hospitales donde se hace investigación”, explica, durante una entrevista realizada en Madrid. “Es como hablar de los peligros que tiene una casa en Marte cuando nadie está construyendo casas en Marte. El peligro de la inteligencia artificial está en retrasar su aplicación a la medicina, porque hay mucha gente que sufre por el cuidado insuficiente, por los errores médicos o los elevados costes de la sanidad”, remata.

Pregunta. Dice su colega Tegmark que la inteligencia artificial tiene muchas posibilidades, pero precisamente por eso, también hay muchas cosas que pueden ir mal.

Respuesta. Sucede con cualquier tecnología. Por un lado, hay cosas que puede hacer la inteligencia artificial que no pueden hacer los humanos. Ahí el problema está en que ningún experto puede comprobar si lo que ha hecho la máquina está bien. E incluso si la máquina hace bien la tarea en el 95% de los casos, hay un 5% de error que podemos tardar mucho tiempo en detectar. Un ejemplo es lo que pasó con Anne Hathaway, la actriz, y Berkshire Hathaway, el fondo del inversor Warren Buffet. Un bloguero del Huffington Post vio que, durante muchos años, cada vez que la actriz Anne Hathaway aparecía en los medios, las acciones de Berkshire Hathaway subían porque el robot trader se confundía. El problema es que siguió pasando durante mucho tiempo hasta que alguien se dio cuenta. Y esos errores pueden suceder en sanidad.

Hay un caso muy famoso descrito por colegas de Berkeley. En el sistema para seleccionar a los pacientes que llegan a los hospitales en EE UU, para ver si estás muy enfermo y necesitas un cuidado especial o puedes volver a casa a seguir con tu vida, observaron que si introduces la misma información de dos personas que están en la misma situación, pero de razas diferentes, el sistema evaluaría como más enfermo a la blanca que a la negra. Y había una razón que tenía que ver con la forma en que se había entrenado al sistema. Para decidir quién estaba más enfermo, habían metido entre otros valores el coste de los tratamientos que recibía. En EE UU, si estás muy enfermo, recibes tratamientos muy caros, y esto hacía que se etiquetase como más enfermos a los que habían recibido esos tratamientos. Pero por cuestiones socioeconómicas, algunos afroamericanos no habían recibido los tratamientos que necesitaban. Así que durante su aprendizaje, el sistema integró este sesgo también y fueron necesarios años para darse cuenta del problema. Lo que quiero decir es que tenemos sistemas que ya son más listos que nosotros y nuestra capacidad para ver si están haciendo algo mal es mínima. Tenemos que aprender a vivir en este mundo en el que la tecnología toma muchas decisiones que no podemos supervisar.

“El peligro de la inteligencia artificial está en retrasar su aplicación a la medicina”

P. ¿Qué puede aportar la inteligencia artificial a la medicina?

R. Si hoy vas al médico, como una persona sana, y preguntas cuál es el riesgo de tener una enfermedad determinada, el médico no te lo va a saber decir. Puede saber cómo estás ahora, pero no te puede decir la probabilidad de desarrollar una enfermedad. Eso nos deja en un estado de desprotección, porque no sabemos lo que va a venir, y ahí la máquina nos puede ayudar. La pregunta no es si la máquina es perfecta, la pregunta es si puede aportarnos capacidades distintas de las de los humanos.

La mayoría de diagnósticos de cáncer se hacen hoy a través de imágenes y la única respuesta que puede ofrecer un médico es si tienes cáncer hoy. Pero sabemos que hace falta mucho tiempo para desarrollar cáncer. Así que, aunque el paciente llegue hoy y no observes rastros de cáncer, y en una revisión un año después lo veas, seguramente hubiese señales ya la primera vez y se pasaron por alto. De hecho, hay estudios que muestran que en más del 30% de las mujeres diagnosticadas, el cáncer, incluso para el ojo humano, era visible un año antes. Así que hay un retraso significativo entre el momento en que se desarrolla el cáncer y el momento en que se detecta. Lo que las máquinas pueden hacer es detectar esas pautas sutiles en los cambios en los tejidos y adelantar el diagnóstico.

P. ¿Qué aspectos de la inteligencia artificial están perfeccionando?

R. Cuando miras a los algoritmos de aprendizaje para las máquinas, lo que más preocupa a la gente es la precisión en el test. Eso es algo muy importante, pero en aplicaciones críticas, como las de medicina, también es importante que, cuando se les hace una pregunta, las máquinas puedan decir: eso no lo sé. Es como cuando vas en tu coche, que no sabes exactamente cómo funciona, pero si tienes un piloto rojo sabes que lo tienes que llevar al garaje. Sorprendentemente, los modelos de aprendizaje de las máquinas no tienen esta capacidad de avisarnos de que hay que corregir algo. Muchas veces pecan de exceso de confianza. Así que es necesario añadir soluciones tecnológicas para resolverlo.

“Hay estudios que muestran que en más del 30% de las mujeres diagnosticadas, el cáncer, incluso para el ojo humano, era visible un año antes”

P. ¿Cómo puede mejorar el tratamiento ese adelanto en el diagnóstico?

R. En primer lugar, la inteligencia artificial puede servir como un aviso para después hacer un estudio más a fondo. Por ejemplo, una resonancia magnética tiene más resolución que una mamografía, pero es mucho más cara y hay una capacidad más limitada para hacerlas. Y en segundo lugar, hay fármacos preventivos que son una opción.

Otro ejemplo de lo que puede aportar está en el cáncer de pulmón, que es de algún modo aún más horrible que el de mama, porque al menos en el de mama hay cribado. En pulmón, solo se hace cribado para gente que fuma mucho, al menos en EE UU. Y las tasas de supervivencia son muy bajas, principalmente porque esos tumores se diagnostican cuando ya se están extendiendo y no los puedes controlar. Y están apareciendo cada vez más tumores en personas que no fuman. Lo que se podría hacer es incluir cribados también a esa gente que no fuma, aunque no fuese con la frecuencia de las mamografías o de las que se hacen a los fumadores. Podríamos decir, estos pacientes no tienen riesgo, no necesitan volver, pero detectaríamos a muchos que sí tienen riesgo y podrían requerir un seguimiento parecido al de los fumadores.

P. ¿Esta tecnología puede ayudar a hacer más asequibles los tratamientos para el cáncer?

R. Creo que si miramos a la evaluación de riesgo, por ejemplo, reducirá mucho el coste del cuidado, porque para hacer este cribado no necesitas un equipamiento extra. La mayor parte del coste en cáncer viene del tratamiento de los cánceres más avanzados, porque los fármacos y los cuidados son muy caros. Así que, si detectas el cáncer antes, puedes aplicar tratamientos más cortos y menos costosos.

Y también, ahora para los cribados tenemos unas políticas generales, con recomendaciones por edades y para todo el mundo igual, pero la verdad es que hay muchas mujeres que no necesitan hacerse la mamografía todos los años o incluso cada dos años, porque tienen un riesgo muy bajo. El modelo puede calcular un régimen de vigilancia específico para ti y eso permitiría ser mucho más eficientes con el presupuesto que tenemos para cribados en toda la población que teniendo la misma política para todo el mundo.

P. Además de aplicar la inteligencia artificial, ustedes la utilizan para descubrir nuevos fármacos.

R. No creo que la inteligencia artificial vaya a sustituir a los humanos en la búsqueda de fármacos, pero ayuda en todas las etapas. Hemos desarrollado tecnologías que las grandes farmacéuticas utilizan en ciertos aspectos de su trabajo. Ahora, cuando tienes una molécula y quieres ver si es tóxica o si tiene propiedades antibacterianas, necesitas fabricarla y después hacer los test necesarios y gastar mucho dinero. Pero hay miles de millones de moléculas y no puedes fabricarlas todas para ponerlas a prueba. Como resultado, estamos limitados a una pequeña proporción de ellas. Los modelos te pueden ayudar a probar en ordenadores la molécula y ver si tiene las propiedades que buscas, antibacterianas, por ejemplo. Así se desarrolló un antibiótico muy potente, la halicina, que funciona contra muchos patógenos resistentes a otros antibióticos.

P. ¿Cree que la inteligencia artificial acabará por sustituir a los médicos o a los investigadores?

R. La inteligencia artificial puede ser un apoyo para mejorar el trabajo de médicos o investigadores. Es como los ordenadores en los setenta o los ochenta. La gente dejó de escribir en papel, pero los ordenadores no sustituyeron a los profesionales, solo les hizo más efectivos.

Puedes seguir a EL PAÍS Salud y Bienestar en Facebook, Twitter e Instagram.