La urgencia de gobernanza de las Ciudades Inteligentes
¿Cómo promover los derechos fundamentales de los ciudadanos fomentando la igualdad y la autonomía en plena "era algorítmica"?
Las ciudades alojan a sociedades pequeñas, ecosistemas que consisten en la gente, infraestructura urbana y tecnología. Las ciudades representan casi todos los mecanismos de gobernanza de una sociedad, con la ventaja de estar más cerca de los ciudadanos que ningún otro partido nacional o estatal. Así, no es una sorpresa que las ciudades hayan sido criticadas por sus estrategias de procesamiento y uso de los datos personales, ya que tienen una función fundamental en la realización de la gobernanza inteligente desde las bases.
Las ciudades inteligentes llevan desafíos que las ciudades actualmente no saben cómo abordar. Los ejemplos internacionales demuestran como la falta de transparencia, comunicación y lealtad siguen siendo el problema que evita que las ciudades utilicen la inteligencia artificial y los datos personales de una manera que promoviera no solo el bienestar de los ciudadanos, sino también la creación de ambientes urbanos inteligentes y funcionales.
El barrio inteligente de Toronto, impulsado por la tecnología y planeado por la compañía hermana de Google, Sidewalk Labs, nos ofrece un ejemplo de un proyecto urbano inteligente que ha provocado inquietudes en cuanto al uso, propiedad y la anonimización de los datos personales. En el contexto de Toronto, se debe analizar cuál será la mejor infraestructura para gobernar el barrio: una gobernanza empresarial o una extensión a la estructura de gobernanza actual con compromiso ciudadano total.
La falta de transparencia y privacidad en el procesamiento de los datos personales por la ciudad de Nueva York ha llamado la atención del público también. A pesar de sus objetivos elevados de mejorar transparencia y la formación de un grupo de trabajo especial, la ciudad no ha conseguido a dar acceso o proveer información suficiente a los ciudadanos sobre el uso de sus datos personales por aplicaciones distintas. La gente tampoco sabe cómo y en qué se basan las decisiones.
Los expertos han comenzado a utilizar el término "la era algorítmica" al hablar de la sociedad del futuro
Para que las ciudades inteligentes prosperen y se ganen la confianza de los ciudadanos, tienen que enfocarse en mejorar la transparencia y lealtad. Puesto que las ciudades inteligentes son impulsadas por la tecnología, puede que su impacto deseado y las consecuencias humanas hayan sido olvidados. Cuando se usa la tecnología y sistemas inteligentes para gobernar, hay que preguntarse: ¿A quién beneficia? ¿A aquellos que gobiernan o los ciudadanos? ¿Y a qué ciudadanos para ser exacto?
Los expertos han comenzado a utilizar el término "la era algorítmica" al hablar de la sociedad del futuro. Con este término se refiere a una sociedad que automatiza decisiones (judiciales) y utiliza sistemas inteligentes para dirigir los pensamientos, emociones y acciones de la gente; y además las oportunidades, privilegios y penalidades que le da. En este tipo de sociedad, los valores se incorporan en la tecnología y la autoridad se ejerce a través de los sistemas invisibles.
Los sistemas de inteligencia artificial no deben limitar o disminuir los derechos fundamentales de los ciudadanos, sino facilitar y promover la igualdad y la autonomía humana
Si aumentáramos el poder de los sistemas inteligentes en la toma de decisiones y gobernanza, tendríamos que ser capaces de explicar cómo un algoritmo toma decisiones; por ejemplo, ¿cómo decide quién tiene acceso a un espacio y quién no?
La implementación de la inteligencia artificial en las ciudades lleva riesgos potenciales. Los sistemas de inteligencia artificial no deben limitar o disminuir los derechos fundamentales de los ciudadanos, sino facilitar y promover la igualdad y la autonomía humana. Por ejemplo, hay que abordar los prejuicios existentes en los datos para que no empeoren la desigualdad de las sociedades. De ahí, para evitar los riesgos, las ciudades inteligentes deben ser desarrolladas con la gente y sus derechos en mente.
Gobernanza inteligente requiere transparencia y la inteligencia de la gente
Por todo ello, podemos decir que establecer transparencia es la clave para reforzar la confianza de los ciudadanos hacia sistemas inteligentes. La transparencia promueve compromiso ciudadano y aumenta la agencia ciudadana, que a su vez extiende la confianza. El desarrollo tecnológico, por sí mismo, no hace una ciudad "inteligente". Las ciudades tienen que tomar liderazgo en la creación de ecosistemas urbanos en los que la tecnología beneficia y promueve el bienestar de los ciudadanos. Este es el momento de tomar medidas para la gobernanza inteligente. Tenemos que construir las ciudades inteligentes de manera inteligente con la transparencia y comunicación como sus motores clave.
Meeri Haataja es la CEO de Saidot y la presidenta del Programa de Certificación de Ética de IEEE para Sistemas Autónomos e Inteligentes. Recientemente, ha participado en las dos conferencias organizadas por la Fundación Futuro y Formación en Madrid y Barcelona.
Traducido por Tytti Rekosuo.
