Carme Artigas: “La inteligencia artificial ayudará a controlar a los gobiernos y grandes empresas”

La secretaría de Estado que dirige Carme Artigas (Vilassar de Mar, Barcelona, 1968) es la primera que incluye en su título el término inteligencia artificial (IA), materia en la que es una reconocida experta. En un momento de recelo hacia esta tecnología, por cuestiones de seguridad y privacidad, destaca el poder que la IA puede otorgar a los ciudadanos para controlar a Gobiernos y grandes empresas. Y aboga por liderar en Europa el debate del humanismo tecnológico.

P. ¿Cuáles van a ser las prioridades de esta secretaría de Estado?

R. La primera es situar a España como un país puntero en IA. El segundo reto es acelerar la transformación digital de las empresas españolas, con especial foco en las pymes y en generar el entorno apropiado para desarrollar la economía del dato. En tercer lugar queremos hacer mucho más eficiente la Administración digital. También tenemos como prioridad liderar el debate del humanismo tecnológico en Europa. Todo esto va acompañado de ser capaces de elevar el nivel de competencias digitales del país, apostando por el desarrollo del talento y el emprendimiento digital.

P. ¿Qué aspectos de la IA se deben regular?

R. Estamos en un momento naciente en la disciplina, hay que definir marcos normativos basados en la ética y en las recomendaciones. La regulación vendrá, pero cuando el mercado esté un poco más maduro. Vamos a diseñar una estrategia basada en una matriz de riesgos: hay cosas que son beneficiosas para todas las partes y que por tanto no hace falta regular, y luego están aquellos aspectos que pueden llevar a discriminación, a prejuicios de determinadas clases sociales y colectivos o a derechos ciudadanos. Esto vendrá contemplado en la Estrategia Nacional de Inteligencia Artificial que presentaremos en marzo. 

P. ¿Las medidas que contempla la estrategia serán de cumplimiento voluntario?

R. Vamos a empezar por lo voluntario. Las empresas tecnológicas son conscientes de que si su desarrollo no tiene encaje en la estructura de valores de la ciudadanía, al final esa industria no va a prosperar. Me consta que, sin presión de ningún Gobierno, las compañías tecnológicas están desarrollando algoritmos éticos por diseño. El enfoque es: creemos unas normas de conducta de mejores prácticas, veamos si el mercado por sí mismo es capaz de autorregularse, y si no ya lo regularemos después.

P. ¿Qué se consideraría en este caso buenas prácticas?

R. Tener un cierto nivel de confiabilidad sobre la falta de sesgos en los sistemas de IA; saber que se han entrenado bien los modelos, que se han aplicado de forma correcta, que haya transparencia con los algoritmos y que se expliquen bien su funcionamiento.

P. Esta legislatura arranca con mayorías poco claras. ¿Cree que su negociado tiene suficiente consenso como para sacar medidas adelante?

R. Hasta ahora este tema no ha estado en el debate político. Debemos ser conscientes de que la digitalización está aquí, que tenemos que entender el impacto de sus cambios. Creo que vamos a encontrar consensos porque todo el mundo entiende perfectamente lo que hace falta para avanzar en la transformación digital.

P. ¿Hay algún país que el Gobierno tome de referencia en este sentido?

R. Necesitamos una estrategia de IA made in Spain, aprender de los mejores en aquellos ámbitos en los que son buenos, pero debemos tener una posición diferencial. Y una de estas posiciones únicas y diferenciales, para mí, es la importancia que le vamos a dar a los derechos de los ciudadanos. Esta parte del humanismo tecnológico yo todavía no la he visto reflejada en ninguna estrategia nacional.

P. ¿Por derechos digitales de los ciudadanos se refiere a protección de privacidad y soberanía de los datos?

R. La IA nos permite volvernos a hacer preguntas como cuáles son los valores que marcan nuestra sociedad, cuáles son los límites de la libertad de expresión o cuáles son los derechos que queremos preservar. Tenemos claros algunos de ellos, desde el de la desconexión hasta poder saber qué están haciendo con tus datos. España ha sido pionera en la adopción del Reglamento General de Protección de Datos europeo, pero debemos ir un poquito más allá para realizar un debate algo más profundo.

P. Una de las cuestiones más controvertidas de la IA son los sesgos que puede acarrear su uso. ¿Cómo se deben combatir?

R. Este tema es complejo. En general, si algo tiene impacto negativo porque discrimina, debemos ser vigilantes para que no ocurra. Cuando a una persona se le niega un crédito porque así lo ha decidido un algoritmo, esa persona debe tener derecho a que se le explique cuáles han sido las variables que han hecho que se tome esa decisión. Esto está recogido por Europa y es de las cosas que queremos que se cumplan.

P. Otra tecnología muy controvertida es el reconocimiento facial. Bruselas se plantea retrasar unos años su utilización. ¿Estamos preparados para adoptarla masivamente?

R. En estas cosas la prudencia siempre es buena. Europa no es partidaria del uso abusivo del reconocimiento facial para controlar a los ciudadanos. Y estamos intentando evitar, desde nuestra perspectiva y valores europeos, una situación de capitalismo de vigilancia. Creo que debemos ser prudentes en no adoptar estas técnicas en espacios públicos.

P. ¿No existe el riesgo de que esa prudencia acabe lastrando a Europa respecto a países como EE UU o China, que se han lanzado a usarla?

R. Debemos dejar de pensar que el desarrollo de la IA va a ser algo uniforme en todo el mundo y que si no sigues el ritmo de Asia o EE UU estás fuera. Cada vez estoy más convencida de que la IA no es una tecnología sino una infraestructura económica y social, y por tanto cada país va a decidir su modelo de adopción. Y nosotros quizás preservemos la privacidad antes que otros valores, como en su momento estuvimos en contra del trabajo infantil. Por otra parte, solemos hablar de que se usa para vigilar a la gente y nos olvidamos del gran potencial que la IA ofrece a los ciudadanos para monitorizar a sus gobiernos y a las grandes corporaciones, exigiéndoles mayor transparencia.

P. Uno de los pilares de su secretaría de Estado va a ser la digitalización de la Administración. ¿Nos podría contar en qué va a consistir?

R. Hay un gran campo de mejora en la eficiencia operativa de los procesos. Nuestro objetivo será elegir los 10 o 15 procesos que generan más dificultad tanto para empresas como para ciudadanos y hacerlos más eficientes con técnicas de automatización. Este año queremos lanzar una ventanilla única para toda relación con la Administración General del Estado. Y también una carpeta única ciudadana, de manera que todos tengamos un punto único centralizado de recogida de todas las notificaciones que te puedan venir por distintos procedimientos o ministerios.

P. ¿Han pensado impulsar la digitalización en los niveles más básicos de la educación?

R. Vamos a lanzar un Plan Nacional de Habilidades Digitales. Estamos haciendo un análisis conjunto con los ministerios de Educación, Ciencia, Industria y con la Seguridad Social para detectar cuáles van a ser las habilidades que se van a demandar en el futuro y cuáles debe tener la ciudadanía para elevar sus competencias. Creemos que podremos lanzar ese plan a finales de este año.

P. Cuesta ver a mujeres en puestos de responsabilidad en el entorno tecnológico. ¿Qué va a hacer el Gobierno para mejorar la situación?

R. Cuando estudié la carrera de ingeniería química éramos el 16% y ahora estamos en el 20%, no hemos mejorado mucho. Hace falta despertar la vocación de las niñas en las carreras tecnológicas y sobre todo dar mucha más visibilidad a las mujeres. Tenemos que hacer políticas para visibilizar a la mujer en el terreno tecnológico.