¿Es machista la IA? Firmas financieras en México entrenan a sus algoritmos para cerrar la brecha de género

La inteligencia artificial (IA) es un reflejo del mundo, y como tal, está parcializada. Ante la pregunta de si ‘¿la IA es machista?’, un motor responde: “sí, la IA puede comportarse de manera machista y perpetuar sesgos de género. La IA no es neutral; sus resultados reflejan prejuicios, estereotipos y desigualdades presentes en los datos con los que ha sido entrenada”. En su defensa, como cualquier otro sistema, puede ser corregida. E incluso, bien implementada, puede convertirse en una herramienta para reducir inclinaciones humanas.

En la superficie, la tecnología parece objetiva. pero...

La inteligencia artificial (IA) es un reflejo del mundo, y como tal, está parcializada. Ante la pregunta de si ‘¿la IA es machista?’, un motor responde: “sí, la IA puede comportarse de manera machista y perpetuar sesgos de género. La IA no es neutral; sus resultados reflejan prejuicios, estereotipos y desigualdades presentes en los datos con los que ha sido entrenada”. En su defensa, como cualquier otro sistema, puede ser corregida. E incluso, bien implementada, puede convertirse en una herramienta para reducir inclinaciones humanas.

En la superficie, la tecnología parece objetiva. pero investigaciones recientes han demostrado que no es imparcial. Un estudio de Harvard encontró que los modelos de lenguaje reflejan respuestas similares a las de las personas WEIRD, un acrónimo anglosajón utilizado para condensar a los ciudadanos occidentales, blancos, ricos y viven en países industrializados y democráticos. Otro estudio de investigadoras de la Universidad de Los Andes y de la firma Quantil en Colombia identificó que estos modelos también reproducen sesgos en español, evidenciando que la herencia cultural y lingüística de los datos puede influir en sus respuestas.

“Pero si usamos IA en modelos no sesgados, esto acompaña a que el género no sea un factor que genera exclusión”, resume Brigitte Brousset, CEO de GOW, una startup mexicana nativa de IA que utiliza agentes inteligentes y modelos predictivos y conversacionales para mejorar las posibilidades de pequeñas y medianas empresas (pymes) de acceder a préstamos en instituciones financieras. “Si tomamos decisiones de forma más tradicional, con personas dentro de los procesos, pueden existir sesgos, no de manera intencionada, sino que somos seres humanos y vivimos con sesgos, principalmente inconscientes”.

El sistema económico y financiero es uno de los ámbitos donde las brechas que afectan a las mujeres son más evidentes. Las mexicanas ganan en promedio 20% menos que los hombres, una diferencia ligeramente superior al promedio latinoamericano de 17%, según cifras compiladas por BBVA y la Comisión Económica para América Latina y el Caribe (CEPAL). Los datos oficiales también muestran que, sin importar el tipo de producto bancario —ahorro, crédito o inversión—, las mujeres registran menor tenencia. Por ejemplo, 51% de los hombres tiene una cuenta para el retiro, frente a 34% de las mujeres, y 28% cuenta con un seguro, contra 18%.

Esto implica menos oportunidades para planificar la vejez o contar con protección ante accidentes o enfermedades. En resúmen, mayor vulnerabilidad económica. Además, es un reflejo de que sus condiciones de trabajo e ingresos son más precarias, en línea con que la informalidad laboral les afecta desproporcionadamente. A pesar de ello, las barreras culturales –invisibles, pero tangibles– son persistentes: el 53,2% de la población considera que cuando las mujeres trabajan los hijos sufren, una de las cifras más altas de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), de la que México es miembro.

“La IA no es un sistema que se entrena una vez y se deja correr”, agrega Brousset. “En crédito, por ejemplo, los modelos deben revisarse periódicamente para asegurar que siguen siendo precisos y no estén amplificando sesgos. La inclusión financiera no solo depende de usar IA, sino de gobernarla correctamente”.

La IA funciona identificando patrones en grandes volúmenes de datos mediante modelos matemáticos de aprendizaje automático (machine learning). Una vez entrenada, puede hacer predicciones, clasificar información o generar contenido, como responder preguntas o recomendar productos. Un ejemplo de IA conversacional es ChatGPT o Copilot. También puede ser agéntica, cuando no solo genera respuestas, sino que actúa de manera relativamente autónoma para alcanzar ciertos objetivos, como un vehículo que detecta obstáculos y decide frenar.

La inclusión genera riqueza

Al aprender de grandes librerías de información (públicas, privadas o creadas por entrenadores humanos), puede entrenarse con datos imperfectos. Tampoco posee criterios propios para identificar inequidades. En esa intersección cobra relevancia la supervisión humana, con el fin de construir herramientas verdaderamente imparciales.

En ese contexto, la fintech Kueski asegura que el uso de IA le ha permitido alcanzar la paridad entre sus clientes, un resultado que reta la realidad del mercado, donde solo 30% de las mujeres accede a crédito formal, pese a que presentan mejores historiales de pago y menores tasas de morosidad, según el Instituto Nacional de Estadística y Geografía (Inegi).

“Es una realidad: hay muchísimo menos financiamiento para las mujeres. Es una industria que tiende a hablarle más al género masculino, porque todavía existe este concepto de ‘el hombre es quien genera el dinero’”, señala Lisset May, vicepresidenta senior de Ventas de la empresa de tecnología. Cerca de la mitad de sus clientes y de sus empleadas son mujeres, afirma, algo que se traslada a la oferta de préstamos personales y de compra ahora y paga después, un tipo de préstamo aprobado de manera rápida a la hora de la compra en tiendas físicas o digitales, como Amazon, con quien tienen una alianza. “Toda la evaluación de riesgo y fraude la hacemos en segundos, con IA y machine learning. Usamos más de 400 variables en el algoritmo interno para aprobar a una persona, y el género no es una de ellas. Tampoco la preferencia”, explica.

Y esto es relevante porque la inclusión económica de las mujeres no solo es un punto crucial para la equidad o la justicia social, sino también para el desempeño productivo. Cuando cuentan con ingresos propios y estables, suelen invertir más en educación, salud y alimentación de su familia, generando efectos intergeneracionales positivos. Su integración a la toma de decisiones en las empresas lleva a considerar el punto de vista femenino, con el que se identifica la mitad de los potenciales consumidores del mundo. Además, una mayor integración femenina al mercado laboral amplía la base de los contribuyentes.

En este sentido, un estudio de Taxdown, una plataforma tecnológica para facilitar declaraciones de impuestos y maximizar devoluciones, encontró que las mujeres recibieron en promedio 2.549 pesos menos en devoluciones fiscales que los hombres, reflejo de que pagan menos impuestos porque perciben menores ingresos. Asimismo, el 60,5% de los trámites favoreció a los hombres.