Barcelona se compromete a usar la inteligencia artificial de manera ética

El Ayuntamiento quiere crear un registro público de algoritmos

Vista general del Paseo Marítimo de la Barceloneta.
Vista general del Paseo Marítimo de la Barceloneta.Enric Fontcuberta (EFE)

El Ayuntamiento de Barcelona pondrá en marcha veinte medidas para garantizar que los algoritmos de inteligencia artificial (IA) que utiliza y los que vendrán en el futuro funcionen con un “compromiso ético” hacia los ciudadanos. La Comisión de Innovación Digital debatirá este miércoles un documento que prevé la creación de un registro público de algoritmos, gracias al que los ciudadanos podrán consultar cómo toman las decisiones los programas informáticos municipales. El texto incluye también la puesta en marcha de un comité asesor externo y un estudio para determinar cuáles son los procesos administrativos que se pueden ver beneficiados por la IA.

El uso de la inteligencia artificial en el Ayuntamiento es aún “incipiente”, pero ya cuenta con algunas pruebas piloto en la ciudad, como el procesamiento de los datos que captan las cámaras térmicas en las playas. “Han permitido garantizar el cumplimiento de las restricciones de aforo vinculadas a la covid”, recoge el documento de la medida. Otro caso es el de la clasificación automática de quejas y sugerencias enviadas por los ciudadanos en el buzón electrónico del Consistorio.

El debate público de la medida municipal coincide con el día en que que la Comisión Europea tiene previsto anunciar su estrategia para regular la inteligencia artificial para garantizar la privacidad de los ciudadanos. Otro riesgo de los sistemas de aprendizaje automáticos son la toma de decisiones con “sesgos sociales (de género, raza, renta…)”, alerta el Consistorio, que solo contempla el uso de la IA de manera que sirva para mejorar la gestión de políticas públicas, en línea con la idea del “humanismo tecnológico”.

Más información
La UE pone límites a la inteligencia artificial pero se olvida de las armas autónomas

Las actuaciones que plantea el Ayuntamiento se quieren desplegar antes de 2023. Que un humano supervise los algoritmos, que los ciudadanos tengan acceso al código de los programas y un programa de formación interna a los empleados municipales son otros puntos del informe.

El texto también explica que el Ayuntamiento promoverá la creación del Observatorio Internacional de Inteligencia Artificial Urbana, con la colaboración del think tank CIDOB.

Lo que más afecta es lo que sucede más cerca. Para no perderte nada, suscríbete.
Suscríbete

Sobre la firma

Jordi Pueyo Busquets

Es periodista en la redacción de Cataluña y escribe sobre economía, innovación y tecnología. Antes de llegar a EL PAÍS, pasó por ACN, TV3, 324.cat, Bloomberg TV y Cadena Ser. Ha dado clases de redacción en inglés en la UPF y de redes sociales en la UOC. Es licenciado en Periodismo, Ingeniería Informática y máster en Innovación y Calidad Televisivas

Normas

Archivado En

Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
Recomendaciones EL PAÍS