La próxima lucha sindical: “Los algoritmos se usan para contratar y despedir, deben tener supervisión humana”

Hombre, blanco y en la treintena. Este es el perfil mayoritario de los desarrolladores de los algoritmos que ya usan muchas empresas para tomar decisiones en el terreno de los recursos humanos, la distribución o los hábitos de consumo. La coincidencia de estos perfiles condiciona el diseño final de estas herramientas. “Los algoritmos se nutren de datos y esos datos tienen sesgos. Los desarrolladores que crean esos algoritmos también tienen sesgos (su raza, sexo o edad) y eso puede dar lugar a discriminaciones; siempre hay colectivos que van a estar en desventaja, como las mujeres o las personas racializadas”.

Esta denuncia llega de la secretaria general de CC OO en el Banco Santander, Noemí Trabado, una de las sindicalistas que está logrando llevar a los convenios colectivos el uso de los algoritmos y de la Inteligencia Artificial en general. Esta dirigente sindical cita, como uno de los múltiples ejemplos del fuerte impacto que pueden tener los sesgos de los algoritmos en las decisiones empresariales, el caso de una pequeña entidad de crédito en la que una de estas herramientas para evaluar quiénes eran las personas mejor pagadoras a la hora de devolver un crédito arrojaba constantemente que los hombres eran mejores pagadores que las mujeres. “Hasta que un día se dieron cuenta de que el histórico de los datos que usaba el algoritmo se remontaba a varios años de la dictadura franquista, en los que las mujeres no podían pedir créditos ni siquiera tener una cuenta corriente sin autorización masculina, por lo que había varios años sin datos para las mujeres”, cuenta esta sindicalista.

Los sindicatos hace tiempo que tomaron conciencia de la necesidad de regular el uso de estas herramientas en las empresas, donde la presencia de este tipo de aplicaciones no solo es creciente, sino que empieza a ser generalizada. El acceso a las instalaciones con reconocimiento facial; la planificación de una estrategia de ventas o marketing; la elección de una ruta de distribución de los productos; o los procesos de gestión de recursos humanos se dejan en manos de algoritmos o de sistemas más complejos de IA.

“La inteligencia artificial ya no está solo al alcance de las grandes empresas, ya se puede alquilar”, precisa Trabado, quien defiende firmemente: “Estos instrumentos se usan para contratar y despedir, tienen que tener supervisión humana”. Como muestra, fuentes sindicales aseguran que estos sistemas están detrás de la elección de muchos trabajadores despedidos en los numerosos ERE aplicados por la banca o por grandes plataformas. En este punto, la guía Información algorítmica en el ámbito laboral, elaborada por el Ministerio de Trabajo en mayo de 2022, recomendaba que “la negociación del algoritmo utilizado para la determinación de las personas afectadas por el despido colectivo debería quedar comprendido en el marco de las consultas previas” entre los sindicatos y la empresa en un Expediente de Regulación de Empleo (ERE) o en otras decisiones colectivas como cambios de condiciones o un ERTE. Si bien esto no está recogido como obligación legal en la norma.

Precisamente, la gestión del capital humano es uno de los campos donde más se está generalizando la IA. Así lo reconoce el director de talento del Grupo Adecco, Alberto Gavilán, quien asegura que este gigante de la selección de personal utiliza la IA “para hacer los primeros cribados en un proceso de selección, pero nunca en momentos más avanzados” del proceso, en los que la entrevista personal es “imprescindible”. “Dudo mucho que nunca vaya a ser reemplazada por una herramienta tecnológica”, asegura. En cualquier caso, preguntado por los sesgos algorítmicos que podrían dejar fuera de una oferta de empleo a candidatos válidos, Gavilán asegura que “sesgos también los tiene un empleado de la compañía que haga una primera selección”.

En este escenario, lograr introducir cláusulas en los convenios que regulen el uso de los algoritmos y la inteligencia artificial se presenta como una de las próximas luchas sindicales en la negociación colectiva de sectores y, sobre todo, de empresas. Además de la actual normativa española sobre este asunto —que es la más avanzada dentro de la UE a la espera de que el Parlamento Europeo saque su propuesta de reglamento, probablemente en 2024—, el último Acuerdo para el Empleo y la Negociación Colectiva (AENC), firmado en mayo por las cúpulas patronales y sindicales, sitúa la negociación sobre los derechos digitales de los trabajadores como una de las prioridades para incorporar a los convenios.

Los que primero pusieron coto a este tipo de digitalización de las relaciones laborales en España fueron los representantes de los trabajadores de las plataformas digitales de reparto. Su presiones, que fueron rápidamente asumidas por el Ministerio de Trabajo liderado por la vicepresidenta segunda y ministra de Trabajo en funciones, Yolanda Díaz, dieron lugar a la Ley Rider, que introdujo por primera vez en el Estatuto de los Trabajadores el derecho de los comités de empresa a ser informados por el empresario de “los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles”.

Esto ocurrió hace ahora dos años, en agosto de 2021, y desde entonces los avances en el desarrollo de la regulación de los algoritmos y la IA que usan las empresas han sido muy tímidos, a pesar de que hay un campo amplísimo —con más de 4.000 convenios colectivos— para acordar la utilización de estas herramientas en las compañías. De momento, Trabado indica que una normativa más detallada este tipo de regulaciones está presente en varios convenios sectoriales nacionales como los convenios de banca; el de entidades de seguros, reaseguros y mutuas colaboradoras con la Seguridad Social; de ingenierías; de contact center; o de tecnologías de la información y telecomunicaciones (TIC).

El responsable de Digitalización de UGT, José Varela, quien trabaja también en formar a los cuadros sindicales para que intensifiquen estas negociaciones en los acuerdos colectivos, se queja de que la presencia de esta regulación es aún escasísima: “Apenas hay una decena de convenios que recogen el tipo de información que están obligadas a facilitar las empresas en materia de algoritmos o el tipo de datos que se usan para diseñarlos”.

Los convenios más adelantados

El convenio actual de banca, cuya vigencia termina a final de año, y en cuya negociación participó Trabado, está entre los más novedosos por como aborda la inteligencia artificial, incluyendo la transparencia algorítmica y la prohibición de discriminación en el diseño y uso de estas herramientas. Si bien la mayoría de los acuerdos colectivos —también las directrices del AENC— se limitan a reproducir, más o menos, lo previsto en el Estatuto de los Trabajadores en materia de control de estas aplicaciones.

De momento, todos los expertos en la materia consultados coinciden en que es el convenio colectivo de la plataforma de reparto Just Eat es el que ha ido más lejos en el control de los algoritmos y la IA. Además de recoger la ley general, este acuerdo de 2021 estipula la creación de una Comisión Algoritmo, de carácter bipartito y formada por la empresa y los representantes de los trabajadores, que canalizará y gestionará toda la información y uso de estas herramientas. Este convenio también es pionero en regular el uso del chatbot, ya que recoge el derecho de los trabajadores (repartidores en su mayoría) a saber cuándo están hablando con uno de estos instrumentos de la denominada IA generativa. Aunque, quizás, entre los mayores logros de este convenio es que “la empresa garantizará que los algoritmos y/o sistemas de inteligencia usados tengan un grado de supervisión humana, al tiempo que no tengan en consideración datos, que puedan dar lugar a la vulneración de derechos fundamentales, como pueden ser, entre otros el sexo o la nacionalidad de las personas trabajadores”.

Visto este ejemplo de Just Eat, la regulación de la IA en los convenios se podría concretar mucho más. El profesor de Derecho del Trabajo de la Universidad de Valencia, Adrián Todolí, experto en la materia, explica los distintos niveles que pueden alcanzarse en la negociación colectiva para incluir los algoritmos en los acuerdos colectivos. “Lo que ya recoge la norma y trasladan la mayoría de los convenios que ya recogen esta materia, que aún son muy pocos, es que la empresa deba informar sobre cuándo va a utilizar estas herramientas; si lo va a hacer para medir la productividad, la velocidad del trabajo o la toma de decisiones en materia de recursos humanos; o qué variables se utilizan para diseñar los algoritmos que se emplean; todo esto con mayor o menor concreción”, explica Todolí sobre lo que ya se estaría manejando en la negociación de las condiciones laborales.

Si bien, “se puede ir mucho más allá, y es a lo que aspirarán los sindicatos a partir de ahora, con reticencias esperadas por parte de las empresas”, añade Todolí, autor también del libro Algoritmos productivos y extractivos. Cómo regular la digitalización para mejorar el empleo e incentivar la innovación. Este académico explica, por ejemplo, como los negociadores de los convenios podrían recurrir al Reglamento general de protección de datos de la UE, que establece la intervención humana en el uso de datos por parte de algoritmos como un derecho individual del ciudadano, “y en los convenios podría establecerse como un derecho colectivo de los trabajadores, cuando se usen estas herramientas tecnológicas” dice Todolí.

El control de la negociación colectiva sobre la IA podría ser aún mayor si, por ejemplo, el convenio incluyera que la supervisión humana se produjera por un tercero externo a la empresa, a través de una especie de auditoría o sello de calidad. Y, en última instancia, empresa y trabajadores podrían llegar a acordar que un comité bipartito tuviera que aprobar el uso de los algoritmos y la IA en general en la compañía, añade este académico.

Ganar más por ceder los datos para los algoritmos

Por su parte, Varela (UGT) introduce dos interesantes variables en estas negociaciones entre empresas o patronales y sindicatos. La primera consiste en que si el uso de los algoritmos se evaluara, por ejemplo, en términos de aumento de productividad en la empresa, “los trabajadores podrían reivindicar el pago de una parte de esas mejoras por haber prestado sus datos para hacer esos algoritmos y utilizarlos, así como por servir de banco de pruebas a la hora de aplicarlos”, asegura este responsable sindical.

Y, en segundo lugar, pone sobre la mesa lo diluidas que quedan las responsabilidades en el uso de los algoritmos para tomar decisiones laborales. “Si el uso de la IA sale mal, ¿quién es el responsable? La empresa que lo ha diseñado, la que lo ha utilizado sin evaluación previa ni supervisión o el informático que le hizo un parche a la herramienta”, se pregunta Varela.

En ambos casos la regulación detallada de estos instrumentos de gestión en un convenio podría aclarar las situaciones. Lo contrario, seguir reproduciendo solo lo que dice la ley sin concretar mucho más, “solo generará inseguridad jurídica, porque como ocurre con el resto de las relaciones laborales, lo que no se detalla en los convenios, queda a discreción de los jueces aterrizarlo a la realidad, lo que genera la citada inseguridad a las empresas”, concluye el profesor Adrián Todolí.

Sigue toda la información de Economía y Negocios en Facebook y Twitter, o en nuestra newsletter semanal