El sexismo de los algoritmos, a revisión en el desierto chileno

La periodista francesa Judith Duportail descubrió en una investigación que el algoritmo de Tinder premiaba a los hombres con nivel de estudios más altos mostrando su perfil a más usuarias, mientras que a las mujeres con el mismo nivel de educación eran penalizadas, reduciendo sus apariciones en la aplicación de citas. El ejemplo descrito en el libro El algoritmo del amor: un viaje a las entrañas de Tinder (editorial Contra, 2019) fue uno de los citados este sábado por la doctora en Matemáticas Andrea Vera en la charla ...

La periodista francesa Judith Duportail descubrió en una investigación que el algoritmo de Tinder premiaba a los hombres con nivel de estudios más altos mostrando su perfil a más usuarias, mientras que a las mujeres con el mismo nivel de educación eran penalizadas, reduciendo sus apariciones en la aplicación de citas. El ejemplo descrito en el libro El algoritmo del amor: un viaje a las entrañas de Tinder (editorial Contra, 2019) fue uno de los citados este sábado por la doctora en Matemáticas Andrea Vera en la charla ¿Es machista el algoritmo? Género y sesgos en la ciencia, como parte del programa de uno de los mayores festivales de divulgación científica de Latinoamérica, Puerto de Ideas. El encuentro se celebró en Antofagasta, en la mitad del desierto más árido del mundo, a unos 1.400 kilómetros al norte de Santiago de Chile.

En la conversación moderada por la periodista Paula Escobar, Vera y la doctora en Historia, Verónica Undurraga, desentrañaron cómo se ha obstaculizado el acceso de la mujer al conocimiento durante siglos y cómo los sesgos sociales están moldeando los algoritmos. “Estamos usando algoritmos para delegar decisiones fundamentales que afectan la calidad de vida de las personas. Por ejemplo, si son idóneas para un préstamo bancario o no, si están calificadas para un trabajo o, en el caso de Estados Unidos, si un imputado tiene derecho a fianza. Si estamos delegando esas decisiones nos preocupa que sean productores de lógicas racistas y sexistas”, advirtió Vera en el décimo aniversario del festival que convoca expertos de distintos países y que, año a año, se transforma en una fiesta de la cultura, tanto en el encuentro del norte de Chile como en el de Valparaíso, que se lleva a cabo en el segundo semestre.

El algoritmo, al alimentarse de datos entregados por seres humanos, construye un mundo en base a una mirada que no es “neutra y objetiva”, apuntó la matemática. Si se le pide que calcule cuánto deben ganar los empleados de una empresa, arrojará que el salario de los hombres sea superior al de las mujeres, porque las cifras de brecha salarial serán su punto de referencia. Para modificar este sesgo, Vera postuló que las comunidades científicas deben diversificarse y se debe revisar el estatuto cultural que se le entrega a cierto tipo de conocimientos. “El chat GTP puede ser una fuente de fake news (...) Esa característica de lo verdadero que a veces le asociamos al conocimiento científico o a lo que venga de la tecnología es particularmente peligrosa”, agregó.

Para graficar lo que sucede en la sociedad y, por ende, en la construcción de los algoritmos, Undurraga utilizó una imagen del Río de la Plata, que aparenta moverse con facilidad, pero arrastra una cantidad enorme de sedimentos. “Las mujeres van a la universidad, tienen derecho a voto, de a poco ingresan a carreras de ingeniería, matemáticas, pero todavía existe esa corriente subterránea que dificulta y considera adecuadas e inadecuadas ciertos saberes”, apuntó. “Todos los servicios de ayuda tecnológica son mujeres. Ahí se reproducen estos estereotipos de género. Algunas mujeres en el poder los continúan porque se sienten fuera de lugar”, sostuvo la historiadora, que subrayó la importancia de generar redes profesionales para implementar políticas de equidad de género y evitar discriminaciones y abusos.

Las trabas de la mujer para romper techos de cristal se traspasan a asuntos tan básicos en internet como los bancos de imágenes. Y ha sido siempre así. Si en 2015 alguien buscaba en Google la palabra CEO, las siglas de director o directora de una empresa en inglés, en las primeras 14 hileras aparecían solo imágenes de hombres, como dio cuenta el estudio de la Universidad de Washington Representación desigual y estereotipos de género en la búsqueda de imágenes para profesiones. Sólo el 11% de las 100 primeras imágenes eran mujeres, mientras que en la realidad, el 27% eran directores mujeres, según la Oficina del Trabajo de Estados Unidos.

En un repaso por las dificultades de la mujer occidental en el mundo del conocimiento, Undurraga hizo un repaso de momentos clave que han retratado la marginación femenina desde el siglo XVII, cuando Telémaco expulsó del espacio público a su madre Penélope, pasando por la Revista Eva que en 1949 describía que las doctoras cuidaban al cadáver “como si fuera un bebé”, hasta ahora, donde los estudios demuestran que los profesores le hacen preguntas más difíciles a los alumnos que a las alumnas. Por esto último, el avance hacia una educación no sexista fue uno de los temas centrales que mencionaron las investigadoras para destruir los estereotipos enquistados en la cultura occidental y así combatir los sesgos de los algoritmos.

Undurraga destacó la importancia de entender que la desigualdad de género afecta a toda la sociedad. Por un lado, inhibe los ingresos de las mujeres a las áreas de ciencia, tecnología, ingeniería y matemáticas (carreras STEM, por sus siglas en inglés), pero también el de los hombres a carreras asociadas a las mujeres, como pedagogía y enfermería. “Se ha perdido talento para ambos lados”, remarcó. Por otro lado, tiene consecuencias económicas. La mujer tiende a elegir carreras menos lucrativas, lo que lastra el sustento del hogar. Una estudiante con un puntaje similar al de un hombre en la prueba de acceso a la universidad tiene un 25% menos de probabilidad de postular a Ingeniería civil y 12% menos a Tecnología, según un estudio realizado por investigadoras del Instituto de Estudios Avanzados en Educación de la Universidad de Chile y de la Universidad Alberto Hurtado, publicado en 2020.