“Alexa, ¡reforma los servicios sociales!”

Nota a los lectores: EL PAÍS ofrece en abierto la sección Planeta Futuro por su aportación informativa diaria y global sobre la Agenda 2030, la erradicación de la pobreza y la desigualdad, y el progreso de los países en desarrollo. Si quieres apoyar nuestro periodismo, suscríbete aquí.

El otro día Alexa –el conocido asistente virtual de Amazon– me recordó que tenía que comprar más vitaminas. Luego, al entrar a mi perfil de Facebook, me aparecieron tres avisos con opciones de nuevos multivitamínicos. La información que las empresas tecnológicas concentran sobre nosotros es su principal activo, la forma en la que incrementan sus ventas y sus márgenes. Amazon y Facebook se adelantan a nuestras necesidades al estudiar nuestro comportamiento.

Este uso comercial de la información que generamos nos resulta ya familiar. Pero, ¿cómo sería el mundo con una Alexa capaz de predecir qué políticas públicas pueden ayudar a mejorar los servicios sociales de América Latina y el Caribe? Imagínense si en enero pasado, basada en información entonces disponible, Alexa hubiese sugerido incrementar la compra de tests y respiradores. La región habría quizás enfrentado la pandemia con proyecciones más optimistas.

Este escenario no es ni tan futurista ni tan utópico. Algunas experiencias ya están cruzando instrumentos como la inteligencia artificial y los algoritmos con las políticas públicas. Este cruce tiene algo de choque de mundos: lo novedoso y lo de siempre, lo singular y lo universal, lo privado y lo público. ¿Qué pasa cuando ambos mundos se encuentran?

Pensemos por ejemplo en la comunidad educativa. Una escuela es una máquina compleja. Listemos partes interesadas: alumnos, docentes y directivos; padres, empleados y vecinos; funcionarios escolares, frecuentemente de diferentes niveles del Gobierno: supervisores, rectores, secretarios, ministros. Hasta ahora, las experiencias más sonadas de uso de algoritmos e inteligencia artificial en el mundo educativo han sido fallidas. Años atrás, los intentos de hacer más eficiente la evaluación de docentes mediante algoritmos en la ciudad de Washington y en Chicago han llevado a resultados pobres e injustos, y han despertado el natural rechazo de la comunidad educativa. Los docentes no sabían cómo se los evaluaba y no podían mejorar; los padres y alumnos se quejaban porque maestros que tenían en alta estima eran desplazados sin razón aparente.

Las experiencias fallidas no deben llevarnos a descartar sin embargo la herramienta. El campo de la salud nos provee de un caso exitoso sobre el poder de la tecnología para mejorar nuestros servicios sociales. Es un caso latinoamericano: el robot Laura, un desarrollo brasileño, usa inteligencia artificial y datos en tiempo real para predecir infecciones hospitalarias. Así, reduce la mortalidad en un 25%, de acuerdo con la compañía.

El robot Laura, un desarrollo brasileño, usa inteligencia artificial y datos en tiempo real para predecir infecciones hospitalarias. Así, reduce la mortalidad en un 25%

La inteligencia artificial es ya una realidad que se integra en nuestras vidas. La pregunta para los responsables de políticas es cómo utilizarla a favor de la ciudadanía. Asistimos a un giro novedoso y radical. Hasta ahora, nuestras políticas públicas habían sido eminentemente reactivas. Hoy, ya es posible que se anticipen, como muestra el caso del robot Laura.

Por supuesto, el potencial de estas herramientas no debe impedirnos calibrar también sus riesgos. Uno de ellos es la privacidad. Amazon y Facebook saben más de nosotros que nuestros propios padres o que la persona con quien compartimos la cama. Así como la explotación de esta información en manos privadas debería estar regulada en favor de los usuarios, también debería estarlo cuando quienes la aprovechan son los Gobiernos.

Otro problema son los sesgos. La tecnología es imparcial; no así su creación, uso y aplicación. Detrás de un algoritmo hay alguien que programa. Los datos que usa pueden ser materia prima contaminada por disparidades preexistentes, que el algoritmo reproduce en muchos casos sin darse cuenta. Para peor, los algoritmos funcionan como cajas negras: sabemos qué entra y qué sale, pero desconocemos cuánto pasa en el medio.

Tal vez nunca sea deseable que Alexa reforme nuestros servicios sociales con un simple pedido, porque para hacerlo es necesario incluir la voz de sus muchas partes interesadas, que puede ser contradictoria y contrapuesta. Pero abrazar la lógica predictiva que surge de la combinación de inteligencia artificial y algoritmos puede ser una solución a muchos problemas acuciantes de América Latina si tomamos los recaudos necesarios.

Marcelo Cabrol es gerente del Sector Social del Banco Interamericano de Desarrollo (BID).

Puedes seguir a PLANETA FUTURO en Twitter, Facebook e Instagram, y suscribirte aquí a nuestra ‘newsletter’.