Barcelona se compromete a usar la inteligencia artificial de manera ética

El Ayuntamiento de Barcelona pondrá en marcha veinte medidas para garantizar que los algoritmos de inteligencia artificial (IA) que utiliza y los que vendrán en el futuro funcionen con un “compromiso ético” hacia los ciudadanos. La Comisión de Innovación Digital debatirá este miércoles un documento que prevé la creación de un registro público de algoritmos, gracias al que los ciudadanos podrán consultar cómo toman las decisiones los programas informáticos municipales. El texto incluye también la puesta en marcha de un comité asesor externo y un estudio para determinar cuáles son los procesos administrativos que se pueden ver beneficiados por la IA.

El uso de la inteligencia artificial en el Ayuntamiento es aún “incipiente”, pero ya cuenta con algunas pruebas piloto en la ciudad, como el procesamiento de los datos que captan las cámaras térmicas en las playas. “Han permitido garantizar el cumplimiento de las restricciones de aforo vinculadas a la covid”, recoge el documento de la medida. Otro caso es el de la clasificación automática de quejas y sugerencias enviadas por los ciudadanos en el buzón electrónico del Consistorio.

El debate público de la medida municipal coincide con el día en que que la Comisión Europea tiene previsto anunciar su estrategia para regular la inteligencia artificial para garantizar la privacidad de los ciudadanos. Otro riesgo de los sistemas de aprendizaje automáticos son la toma de decisiones con “sesgos sociales (de género, raza, renta…)”, alerta el Consistorio, que solo contempla el uso de la IA de manera que sirva para mejorar la gestión de políticas públicas, en línea con la idea del “humanismo tecnológico”.

Las actuaciones que plantea el Ayuntamiento se quieren desplegar antes de 2023. Que un humano supervise los algoritmos, que los ciudadanos tengan acceso al código de los programas y un programa de formación interna a los empleados municipales son otros puntos del informe.

El texto también explica que el Ayuntamiento promoverá la creación del Observatorio Internacional de Inteligencia Artificial Urbana, con la colaboración del think tank CIDOB.