Un grupo de expertos en inteligencia artificial rompe con el Gobierno por discrepancias éticas

Las relaciones entre el Gobierno español y los máximos especialistas del país en inteligencia artificial (IA) se están enturbiando. La semana pasada dimitieron tres miembros del Consejo Asesor de Inteligencia Artificial, un órgano consultivo constituido en 2020 para “garantizar un uso seguro y ético de la IA”, “compuesto por expertos españoles de reconocido prestigio internacional”, tal y como lo describe la web de La Moncloa. Según ha podido saber EL PAÍS, otros integrantes del grupo se han planteado también la salida, aunque no la han concretado.

El detonante ha sido la firma de un convenio de colaboración entre el Gobierno español y un instituto de investigación de Emiratos Árabes Unidos, ADIA Lab. La Secretaría de Estado de Digitalización e Inteligencia Artificial (Sedia), dependiente del Ministerio de Asuntos Económicos y Transformación Digital, anunció la semana pasada que el citado laboratorio de Emiratos había elegido Granada como ubicación para su sede europea. El centro recibirá una inversión inicial de cinco millones de euros, si bien los socios emiratíes se comprometen a aumentar esa cuantía poniendo en marcha varios proyectos de investigación.

El acuerdo “causa gran preocupación, pues contradice los principios de ética y seguridad con los que el Gobierno español se comprometió a desarrollar nuevas tecnologías”, lee una carta abierta que publica este martes este periódico, firmada por cuatro destacados investigadores en la disciplina, dos de ellos miembros hasta la semana pasada del consejo asesor. ADIA Lab es un centro científico “financiado por un Gobierno que no reconoce la independencia de la ciencia, que pisotea los derechos humanos, en especial de mujeres, de las comunidades LGTBQI+ e inmigrantes”, recuerda el texto.

La decisión del ministerio de aliarse con Emiratos Árabes Unidos causó malestar entre un grupo amplio de miembros del consejo asesor, molestos ya por su papel testimonial en las decisiones estratégicas relacionadas con la IA. Las reacciones no tardaron en producirse. Algunos propusieron una dimisión en masa, aunque esa opción se enfrió con el paso de las horas. El primero en renunciar al puesto fue Carles Serra, director del Instituto de la IA del CSIC. Comunicó su decisión el miércoles, 24 horas después de conocerse el acuerdo con ADIA Lab.

Consciente de que la situación lo requería, el ministerio convocó una “reunión urgente” del consejo al día siguiente. La dirigió la secretaria de Estado, Carme Artigas. “Algunos de los miembros nos pidieron conocer el detalle del acuerdo y se organizó una videoconferencia informal”, explican desde el ministerio. “Dos de sus miembros manifestaron su disconformidad y se les explicó con todo detalle el acuerdo y el impacto que supondría para el conocimiento científico”.

Lo que ahí se dijo no evitó que se fueran dos expertos más de ese órgano. Esa misma noche presentó su dimisión Lorena Jaume-Palasí, experta en ética y filosofía del derecho aplicadas a la tecnología y fundadora de centros como Algorithm Watch o The Ethical Society. Al día siguiente lo hizo Ricardo Baeza-Yates, director de Investigación en el Instituto de IA Experimental de Northwestern University, en Silicon Valley (San Francisco), catedrático de la Universidad Pompeu Fabra (Barcelona) y Premio Nacional de Informática. Ninguno de los tres expertos ha recibido comunicación alguna por parte de la Secretaría de Estado tras presentar su dimisión.

“Debido a la heterogeneidad de sus miembros, es complejo encontrar posturas consensuadas, lo que enriquece el debate y aporta nuevos puntos de vista. Por lo que la disparidad de criterios entre los miembros es habitual, siempre desde el respeto a todas las opiniones”, argumentan fuentes de la Secretaría de Estado. “Consideramos muy positivo que una institución de prestigio científico que cuenta en su consejo con premios Nobel elija instalarse en España antes que en otros países europeos como Francia o Alemania. Respetamos la decisión de los miembros del consejo asesor que consideren que ya no quieren seguir aportando su visión a este órgano y agradecemos su aportación hasta la fecha”, añaden desde Sedia.

“Un acuerdo gubernamental para instalar un laboratorio de IA en España financiado por un país autocrático que viola los derechos humanos, en particular los de la mujer, no es éticamente aceptable”, explica Baeza-Yates. “De hecho, es incompatible con el espíritu mismo del consejo asesor, que tiene como una de sus misiones velar por la ética de la IA en España. Por estas razones no puedo legitimar con mi silencio iniciativas que vulneran principios básicos de la ética científica y por ende renuncié al consejo”.

“La decisión de firmar un convenio con ADIA Lab no solo ha sido una gota muy grave que colmó el vaso: es un indicador de la dinámica defectiva del consejo asesor y de un posicionamiento por parte de la Secretaría de Estado que se halla en profunda contradicción con los objetivos de ética y seguridad por los que se creó el consejo asesor”, señala por su parte Jaume-Palasí.

Según ha podido saber este periódico, un grupo de ONG enfocadas en derechos humanos, derechos digitales e inmigración prepara también una carta abierta en la que dejar patente su rechazo al convenio firmado entre el Gobierno y el centro de investigación de Emiratos Árabes Unidos.

Otra queja recurrente entre algunos miembros del grupo de expertos es que el Gobierno no acudía a ellos para que lo asesorase antes de tomar decisiones estratégicas. “El consejo ha tenido principalmente un rol decorativo. No hemos sido consultados para evaluar el impacto de sistemas de IA o emitir recomendaciones en los temas realmente relevantes”, se queja la filósofa. “Desde hace dos años, los pocos encuentros que hemos mantenido han tenido más bien un carácter declarativo en el que se nos informaba con presentaciones muy condensadas sobre los proyectos de la Secretaría de Estado”.

Los firmantes de la carta, entre los que se encuentran Ramon López de Mántaras, uno de los pioneros de la IA en Europa, y Carmela Troncoso, experta en seguridad algorítmica y desarrolladora del protocolo técnico que se usó en las apps de rastreo de la covid, reconocen la valentía que tuvo el Gobierno al identificar los desafíos que supone la IA para la sociedad y en querer tomar cartas en el asunto. El consejo asesor se creó en 2020 para “proporcionar recomendaciones independientes sobre las medidas a adoptar para garantizar un uso seguro y ético de la IA”. Pero lamentan que, al aliarse con Emiratos Árabes Unidos, se ignoren “los principios éticos en la economía, en la ciencia en general y en la IA en concreto”.

Aguas turbulentas en la Secretaría de Estado

La salida de 3 de los 18 expertos que conforman el consejo asesor no es el primer conflicto que se genera en la Secretaría de Estado. El departamento ha vivido varias convulsiones desde que vio la luz en enero de 2020. La titular del departamento, Carme Artigas, ha tenido tres jefes de gabinete en menos de tres años. Varios asesores han abandonado el equipo en este tiempo, incluyendo fichajes realizados a petición expresa de Artigas, como es el caso de la científica de datos Mara Balestrini, quien abandonó el puesto a los tres meses de llegar.

También hubo bajas entre funcionarios de alto nivel, que buscaron acomodo en otros ministerios, tal y como publicó El Confidencial. Entre ellos Fernando de Pablo, secretario general hasta el 12 de mayo de 2020; María José Gómez, subdirectora general de Talento y Emprendimiento Digital; David Pérez, coordinador del área de Tecnología y Emprendimiento Digital, o Amparo Peris, subdirectora general adjunta para la Sociedad Digital.

A los dos meses de constituirse el departamento dirigido por Artigas, España fue confinada. La Secretaría de Estado lideró el proyecto de desarrollar una aplicación de rastreo de los casos de covid, que implicó la coordinación de varios ministerios y grupos de trabajo. La mayoría de las salidas del equipo de Artigas se produjeron durante ese proceso. La aplicación tan solo fue capaz de notificar 150.000 contagios en casi dos años.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.