El trazo de las líneas rojas de la IA

Es el pasado jueves. Es Barcelona. Es el estudio Toresky. Casi al principio de L’Eixample. La ciudad moderna que trazó con inmenso talento el urbanista Ildefons Cerdà (1815-1876). Toca hablar de inteligencia artificial (IA) y ética. Pero antes, toca cerrar los ojos y pensar. Hay 10.000 billones de planetas y estrellas. Ante esta cifra sobrecogedora, ¿cuál es la posibilidad de que una estrella ordinaria como el Sol vaya acompañada de un planeta habitado? ¿Por qué somos nosotros los afortunados, medio escondidos en un rincón olvidado del cosmos? Si estas inteligencias supieran hallar una respuesta habrían encontrado, seguro, el sentido de la vida. No es el caso. Ni lo será. Retina busca la derivada ética. Quizá infrecuente en este espacio. ¿Construir una IA responsable es, además de un bien común, una oportunidad de negocio para las empresas? Este particular telescopio apunta también hacia lo local, el territorio, la comunidad autónoma o el país. Decida cada cual. Ya lo saben: es jueves y estamos en Barcelona, en Cataluña, en la casa de la SER, mientras hablamos de “estar” desafiando estos tiempos.

El debate es eso que ahora los expertos llaman transversal. La semántica deja sus frases, que habrá que explicar. “La ética es una condición humana, y la IA no lo es”. “Es una función matemática que da una respuesta”. “La sociedad no es ética tampoco lo pueden ser estas tecnologías de vanguardia”. “El objetivo es que mejoren la vida de los ciudadanos, esa es una línea roja que no se puede traspasar”. “La normativa no está reñida con la innovación”.

Estas frases que caen en cascada enmarcan este evento que organiza Retina con Santander como impulsor, Google como socio anual y con la colaboración de HP. Y puesto que el periodismo exige un título, este bien podría ser: IA responsable, ¿puede la ética ser una ventaja competitiva?

Regresemos a las calles de Ildefons Cerdá. Un experto en este espacio del cambio de las urbes es Michael Donaldson, director general de BIT Habitat del Ayuntamiento de Barcelona. Tiene mucho trabajo o muchos retos; cada cual, de nuevo, que escoja. Donaldson lo hace con sinceridad frente a decenas de preguntas y contestaciones superpuestas al mismo tiempo. “En las ciudades cada vez tenemos mayores problemas, o nuevos, como el cambio climático, que hace 25 años apenas era una preocupación; la brecha digital, la movilidad sostenible, la energía, la soberanía tecnológica, y no estamos del todo preparados porque las administraciones, las estructuras, responden al siglo XIX”, reflexiona.

Pero si algo sabe hacer el ser humano desde hace 400.000 generaciones es resolver desafíos. Posee un don para innovar. “La clave es solucionar problemas relevantes de una manera responsable”, apunta Donaldson. “Estos retos cada vez más complejos precisan de soluciones también complejas. Porque buscar respuestas simples a interrogantes difíciles nos conduce muy cerca del populismo”, advierte.

Hay un retorno a esa primera declaración. El Ayuntamiento de Barcelona, algo lógico, no es experto en tecnologías de vanguardia. Pero el conocimiento que se crea debe ser aprovechado por el ciudadano. Pese a todo hay “criterios innegociables”, subraya Donaldson. Están o deberían habitar el pensamiento colectivo: la no discriminación ética; la identidad digital; la privacidad de los datos y con ellos los derechos a la salud, a la educación, al trabajo. “Es ahí donde podemos aportar valor añadido de cara al bien común”, ahonda el experto.

Lo intentan con la misma fuerza que la gravedad une las mareas y la Luna. Durante el verano de la pandemia (2020) usaron drones para mantener la distancia social. Podían conocer en tiempo real cuántas personas había en las playas e informar a los responsables. Los aparatos volaban a gran altura, con lo que las imágenes carecían de calidad y se mantenía el anonimato. Aun así, hubo quejas.

Una mirada al futuro

Por suerte, la pandemia es pasado. Ahora trabajan en mejorar la velocidad de los transportes públicos. La relación entre la distancia y el tiempo. Captan las incidencias para que los carriles especiales vayan a mejor ritmo. Utilizan cámaras de IA y saben quién está autorizado o no; aunque son filmaciones de alta precisión, borran de forma automática a las personas. La velocidad queda disminuida a matrículas. “Además tenemos un protocolo que nos ayuda a discernir cuándo existe un alto riesgo; entonces se activan medidas extras de garantía —sobre todo si hablamos de datos personales—, y en temas de servicios sociales”, describe Donaldson. La ecuación también indica el tiempo. Existe una estrategia para que los funcionarios tengan automatizados una serie de procesos y puedan dedicarse a tareas de valor añadido y no a las más administrativas. El potencial resulta enorme. Y también la sensibilidad: la población vulnerable o los derechos sociales.

En el Consistorio barcelonés defienden además esa capacidad que tiene la IA para cambiar el espacio público y convertirlo, paradójicamente, en más humano. Otra analogía que a veces olvidamos. La fortuna de existir. La probabilidad de encontrarnos cerca de un planeta habitable es de 1033 (un uno seguido de 33 ceros). El cosmos es casi todo vacío helado. Hay que aprender a disfrutar de nuestras ciudades y sus propuestas. Las urbes se mueven hacia un lugar híbrido, analógico y digital. Incluso se podría sumar la variable de los eventos. Un maratón, un concierto. Recuerden la nada cotidiana que nos rodea ahí fuera.

Usos culturales

Hasta ahora no se había contado, pero a unos cien metros de esta sala el Ayuntamiento de Barcelona experimentará con música e IA. Una instalación que generará melodías a partir de los datos de los ciudadanos. Los patrones de movimiento serán como notas musicales y la ciudad una partitura. Estará activo —durante un tiempo— las 24 horas del día; habrá ritmos programados. Quizá suene a Mozart, quizá a su Réquiem. “Queremos que la gente entienda que la IA no está sólo al alcance de ciertos sectores sino que forma parte de nuestra vida”, reflexiona Michael Donaldson. Por eso pertenecen a una red de ciudades que agrupa a más de 60 urbes o tienen una plataforma (Decidim) de código abierto donde la ciudadanía puede informarse e incluso votar a través de una página compartida por más de 300 entidades públicas internacionales. “La Administración debe estar muy cerca de las personas”, concluye. De nuevo, el valor del espacio en nuestra ecuación.

Ahora toca hablar de las cosas de siempre: del valor de ser amable; de la necesidad de arreglarse con las dudas, y de cómo llenamos los huecos que llevamos dentro. O sea, tal y como formula Jaime García Cantero, director de Retina: ¿Cómo se entiende esa ecuación entre ética e IA? “Empezaría por decir que la ética es una cualidad intrínsicamente humana, y en tanto que humana pertenece a las personas”, señala Irene Unceta, profesora de la escuela de negocios Esade. “No creo que tenga sentido una IA artificial ética, y hacerlo contribuye a un cierto abuso del lenguaje, o caer en la antropomorfización tecnológica. O sea, atribuirle propiedades que no le pertenecen”, razona.

La ética para Unceta suena transversal, debe estar en todos los momentos del proceso. Se explica con varias preguntas. Algunas suenan así. ¿Para qué estoy haciendo esto? ¿Qué quiero conseguir? ¿Cómo procesaré el dato? ¿Qué cara va a tener este modelo? ¿De qué manera interactuará con el usuario? Nadie puede ponerse de acuerdo en qué es la ética. Depende de contextos y culturas. Pero en el proceso se podrían plantear las cuestiones adecuadas. “Lo importante es cómo lo diseñas”, recalca. Escribamos. Cuando piensas, ¿este sistema respeta la privacidad de las personas? No te lo puedes cuestionar al final —asume la experta—, sino pensarlo en los comienzos. Si entra en conflicto con la privacidad quizá se pueda plantear una alternativa. Pero de nuevo hay que regresar al principio. La gobernanza es saber qué pregunta tengo que hacer y a quién.

En este viaje falta la autonomía: si enciendes una plataforma, ¿es el algoritmo quién acierta lo que te gusta o te gusta todo lo que él acierta? La frase supera la tautología. Por partes. La autonomía es la capacidad —sostiene la docente de Esade— de alinearse con principios y valores. Uno es la autenticidad o el autoconocimiento. “La IA puede afectar cuando me plantea determinados estereotipos”, alerta Unceta. También la agencia. Cuál es la intencionalidad en la toma de decisiones. Lo más evidente es el scroll infinito. El triángulo lo cierra la autoridad. Una vez que el usuario sabe lo que quiere hacer, ¿resulta posible o no? “En muchas ocasiones la IA restringe nuestro marco de actuación”, cuestiona Unceta. “Hay que pensar en cómo diseñar tecnologías desde esas tres dimensiones”.

Jaume Miralles: “Todo esto es muy nuevo, si una empresa necesita algo aquí estamos para ayudar”

Casi acaba de estrenar el cargo: director general de Inteligencia Artificial, Eficiencia y Datos en la Administración de la Generalitat de Catalunya. El Govern ha creado una dirección general que definirá la inteligencia artificial (IA), los datos y la innovación. Su mirada quizá sea más local. Miralles lo deja claro: la “IA no decidirá: serán las personas”. Sobre todo en esas situaciones íntimas, tal vez más pequeñas, “pero es una línea roja. Y se automatizarán las tareas que la sociedad acepte”. Esto pertenece al contrato social. Hay bastantes desafíos. Uno es la transversalidad. Los Mossos d'Esquadra, los hospitales, las escuelas, entre otros, tienen una cierta necesidad de proporcionar información a los ciudadanos. “El primer reto es unificar con el fin de que sea una IA responsable también en su uso”, añade Miralles. “Todo esto es muy nuevo; si una empresa quiere contrastar, validar o necesita una opinión, aquí estamos para ayudar”.

También, y es una novedad, se trabaja en un buscador tipo Google conectado a la Administración. Hacer un trámite y saber en el momento si resulta válido o no. O rellenar un formulario solo con la voz. Existen multitud de opciones, “pero la idea base es facilitar la vida de los ciudadanos”. El nuevo responsable ya situó la línea roja. Y añade (procede del sector privado) una observación muy valiosa: “Fijaos que la IA como máquina que se entrena en base a patrones funciona muy bien con los casos mayoritarios y patina con los minoritarios. Las minorías suelen ser los extremos más vulnerables. La clave es que esas situaciones se detecten desde el principio y, directamente, no vayan a la IA sino a las personas”, explica Miralles. Ocurre igual con las leyes; se redactan pensando en las situaciones más comunes. Difícil será aterrizar el concepto de IA responsable. Hay conciencia pero falta perfilar la metodología de trabajo. El filósofo francés Gilles Deleuze (1925-1995), mucho antes de hablar de IA, defendía que lo no numerable es el refugio de las minorías. Miralles está construyendo una inteligencia más local y que “alucine” menos porque tiene el conocimiento específico que necesitan para ese fin. “Controlo el corpus, controlo la tarea”, asume. Y en una foto que no cesa de moverse existen más soluciones que las que ofrecen los hiperescalares. Pese a ello está convencido de la incipiente colaboración público-privada. Primeras tardes con la IA, retocando el título de Juan Marsé (1933-2000).