Cuidado con lo que dices en una entrevista de trabajo, una inteligencia artificial puede estar observándote

Imagine que tiene una entrevista de trabajo: confía en sus capacidades pero está nervioso, claro, y también duda de si encajará en la empresa o si le gustarán las tareas que le encarguen, o si estará satisfecho con el sueldo. Ahora imagine que ya ha entrado, y que el departamento de recursos humanos le va preguntando cómo está en la compañía, si está contento, si siente estrés... Hasta aquí, estas imaginaciones no tienen nada de raro: para todos los trabajos hay procesos de selección, y en muchas empresas se hacen encuestas de clima laboral. Ahora imagine que esta entrevista y estas encuestas, así como las reuniones diarias, se hacen en vídeo, y que detrás de estos vídeos una inteligencia artificial (IA) se encarga de recopilar los datos que recibe de lo que se dice y de las expresiones faciales, los pasa por un modelo, y lo transmite al equipo de recursos humanos con valoraciones como estas: el candidato ha estado contento cuando se le han explicado las tareas, estaba nervioso cuando ha conocido el sueldo; el trabajador ha pasado por un momento de estrés en esta reunión, o en este proyecto se ha implicado mucho emocionalmente.

En los últimos tiempos, la IA, una tecnología que lleva años en desarrollo, ha irrumpido con fuerza en el imaginario colectivo gracias a programas como el ChatGPT, que elaboran textos o imágenes a partir de unas pocas indicaciones. Pero la aplicación práctica de la IA sobrepasa estos experimentos, y los expertos auguran que entrará en muchos aspectos de nuestra vida. Hay detractores y defensores ante esta tendencia, pero lo que parece seguro es que no hay marcha atrás, y así lo creen muchos de los que están presentes en el Mobile World Congress (MWC), que en sus puestos de exhibición muestran distintas formas de poner en práctica la inteligencia artificial. Lo hacen las grandes empresas tecnológicas, pero también los emprendedores: la IA es una de las grandes protagonistas en el salón de emprendimiento 4YFN, que se celebra en el interior del MWC con 556 startups expositoras.

Uno de los ámbitos donde la IA empieza a utilizarse es el ámbito laboral. Está presente en varios proyectos, algunos de grandes tecnológicas, como el Interview Warmup de Google —una inteligencia artificial para entrenarse ante una entrevista—, o en iniciativas como la de LKS Next (de la Corporación Mondragón) y Kevo Technologies, que han creado la aplicación IA Select, una inteligencia artificial que hace los test psicotécnicos en los procesos de selección. En el 4YFN hay dos startups barcelonesas que han montado una demostración con sus proyectos. Aniol Hervás Royo es consejero delegado y cofundador de la startup Emocional, que en un año de existencia ha captado un millón de euros y tienen como inversor de referencia a Redarbor (inversor de plataformas de empleo como Infojobs o Computrabajo). Su producto es una inteligencia artificial que se integra en las videollamadas de las reuniones, y reconoce y traduce en datos las emociones que muestran los empleados. “Nuestro programa hace lo mismo que las evaluaciones anónimas de clima laboral, pero no las sustituye, simplemente da al departamento de recursos humanos datos generales, un marco más objetivo, de cómo están los equipos: si está aumentando el nivel de estrés, si están más contentos... y en base a ello también hacemos recomendaciones para abordar estas situaciones emocionales”, explica Hervás. Esta misma tecnología, con la que ya tienen clientes de la talla de Sanitas, aunque sobre todo la usan startups, la utilizan también para hacer los tests de personalidad que se hacen en los procesos de selección. ¿No le preocupa que estos datos puedan llegarse a usar para discriminar candidatos? “En la personalidad no hay aspectos negativos, todo puede tener su lado positivo, y el objetivo es que se use para que uno se conozca más a sí mismo, cuáles son sus fortalezas”, explica Hervás, que tiene un equipo de 15 trabajadores.

Unos metros más allá, en el mismo 4YFN, está Santi Molins, consejero delegado y cofundador de Talentfy, una startup de tres años de antigüedad. Su principal producto viene de detectar una necesidad: no hay suficientes trabajadores tecnológicos (programadores, desarrolladores...) para un mercado en auge, y las empresas necesitan encontrar a los mejores. Con este objetivo han creado una plataforma que conecta a las empresas tecnológicas con reclutadores clasificados por una IA (la máquina le da a la compañía una selección de reclutadores según sus necesidades, que serán los que le presentarán los candidatos); en paralelo, la IA, que ha leído todos los datos de las candidaturas, relaciona el candidato ideal para cada posición, y también va alimentando de forma automática los currículums de los candidatos (por ejemplo, añadiendo las pruebas técnicas que ha pasado en diferentes procesos de selección, pero también mostrando las reseñas de las empresas: por qué lo han seleccionado o por qué lo han descartado. Por último, Talentfy tiene una tecnología muy parecida a la de Emocional, que también están mostrando en el 4YFN, que es el reconocimiento de emociones en las videoentrevistas. “Todas estos proyectos de IA sirven para que la empresa encuentre al mejor candidato. Por ejemplo si quiere uno que no haya tenido mucha rotación en empresas antes, o si quiere tener un análisis previo de qué conductas tendrá, para asegurarse de que no causará problemas. Pero normalmente esto no les importa, lo que quieren es que aunque estés poco tiempo (estos profesionales tan cualificados tienen una rotación media de 18 meses) seas muy rentable”, explica Molins. Con su empresa, de 20 trabajadores, facturaron en 2022 1,2 millones, y han levantado en tres años 1,2 millones de inversión.

¿Los algoritmos discriminan?

Este uso de la inteligencia artificial y los algoritmos en el ámbito laboral plantea una pregunta obvia: ¿se puede garantizar que no hay discriminación en estos procesos automáticos, y que estos datos no pueden usarse luego para discriminar? Dani Cruz, responsable de Análisis y Transformación Digital del sindicato CC OO en Cataluña, recuerda que una directiva europea que está en proceso de elaboración probablemente considerará de alto riesgo el uso de la inteligencia artificial en los procesos de selección, con lo que estas tecnologías ya no se podrán usar a no ser que esté muy justificado. “No estamos en contra de la IA si puede facilitar el trabajo, pero lo que pedimos es que los datos y los procesos que se usen sean transparentes, porque si se hace todo anónimo y como datos objetivos, puede ser que ahonde en la discriminación”, señala.

Precisamente, investigadores del think tank estadounidense National Bureau of Economic Research abordaron este tema en un estudio de 2019 en el que destacaban que “sería irresponsable, incluso peligroso, confundir “basado en datos” con “no discriminatorio”, “imparcial” u “objetivo”. Aunque señala que, si bien los algoritmos pueden usar datos que den un resultado discriminatorio (por ejemplo, si usan una base de datos de procesos de selección donde ya hubo discriminación) su uso puede ser positivo: hasta ahora la discriminación la hacían solo los humanos, y cuando se les preguntaba, podían mentir, mientras que con la IA se puede descubrir en qué momento y por qué se ha llevado a cabo este sesgo.

La respuesta quizá está en el planteamiento que hace otra startup en el 4YFN, llamada Expai. Esta se dedica a explicar, en una plataforma muy sencilla, cómo funciona un modelo de IA cuando le das unas órdenes y toma una decisión. Por ejemplo: un banco le pide a una IA que decida si le da un préstamo a un cliente, y para tomar esta decisión cuenta con todos los datos históricos de la concesión de préstamos. El modelo llega a una conclusión y decide, pero si no se explica el proceso, no se sabe cómo lo ha decidido, y por lo tanto puede ser discriminatorio. La startup, que tiene un año y está en búsqueda de inversores, explica y traduce en gráficos cómo se ha tomado la decisión: si ha tenido en cuenta la edad, el género, etc. Otro ejemplo más sencillo: tomando los datos de los supervivientes del desastre del Titanic, le pides a la IA que decida a quién salvaría en un naufragio. El resultado está totalmente sesgado, ya que en base a estos datos, salvaría solo a niños y mujeres, y a los pasajeros de primera clase. Uno de los trabajadores de esta startup, Arnau Soler, tiene clara la respuesta al debate: “En el futuro, la IA será explicable o no será. Porque no nos podemos fiar 100% de lo que nos dice la máquina, tenemos que saber cómo toma las decisiones”.

Sigue toda la información de Economía y Negocios en Facebook y Twitter, o en nuestra newsletter semanal