El algoritmo también alimenta la violencia de género y estas ciberfeministas lo están combatiendo

El algoritmo tiende a colocar más a las mujeres que a los hombres en la cocina. Tanto, que hasta un calvo fornido puede ser etiquetado como una dama por las tecnologías de reconocimiento de imágenes simplemente por estar sonriente junto a unos fogones. ¿Está al lado de un horno? Entonces es mujer, claro. Lo certificó un estudio de 2017 de la universidad de Michigan: ...

El algoritmo tiende a colocar más a las mujeres que a los hombres en la cocina. Tanto, que hasta un calvo fornido puede ser etiquetado como una dama por las tecnologías de reconocimiento de imágenes simplemente por estar sonriente junto a unos fogones. ¿Está al lado de un horno? Entonces es mujer, claro. Lo certificó un estudio de 2017 de la universidad de Michigan: los sesgos de género no han desaparecido en la supuesta sacrosanta programación digital. Se han acrecentado. Y de qué manera. Desde detalles significativos como el hecho de que Google Imágenes está programado para dar sugerencias sexistas en el autorrelleno si buscas a famosas (no pasa con ellos, sorpresa), que Google Translate masculinice a las catedráticas al traducirlas (algo que probó a Londa Shiebinger: para la herramienta las doctoras y catedráticas se convierten en hombres y los profesores, en mujeres) o las brechas y omisiones que se están haciendo en la selección de personal laboral en función del género y la raza una sociedad en la que el 72% de los currículos laborales ya no son vistos por ojos humanos.

Ante la falta de mujeres a los mandos de la codificación, la brecha de género se agudiza en el entorno digital, un espacio en el que la seguridad y tranquilidad para aquellas que toman la voz o deciden darse un paseo por la red, como en su vida analógica, no está garantizada. Para poner orden y remedio, mujeres de distintas ramas, ya sea desde la vertiente artística, académica, computacional o desde la cultura del meme con mensaje para la concienciación, se autogestionan para leer, volcar y transmitir datos con estrategias de igualdad en el entorno digital. Para proporcionar espacios seguros en los que definir horizontes alejados de ese sesgo normativo y de todas las violencias que les acompañan.

El chatbot de Microsoft o por qué la violencia alimenta el sesgo del algoritmo

«Debemos abandonar toda la mitología absurda alrededor de la neutralidad de los algoritmos, contraponiendo esa idea que considera los datos como algo empírico, incorpóreo y neutral», confirma la investigadora digital Marta Delatte, que a través de Liquen Data Lab –la organización que cofundó junto a Silvia Valle, Neus Llop, Alba Medrano, Bea Guijarro y Josep Almirall–, lleva coordinando las tres últimas ediciones de Editatona en España, la iniciativa/maratón de ediciones en Wikipedia con perspectiva de género.

Delatte cree que debería considerarse “menos ciencia” a aquella que continúa produciendo y reproduciendo sesgos racistas y sexistas y que «la violencia también alimenta el sesgo del algoritmo». Pone como ejemplo el caso de los «Hitler tenía razón» o «el 11-S fue una invención» que entonó sin contemplaciones el chatbot de IA (Inteligencia Artificial) Tay, diseñado por Microsoft research groups, para interactuar con adolescentes en Twitter y que se convirtió en hazmerreír cuando comenzó a entablar e iniciar conversaciones racistas y sexistas con otros usuarios después de menos de 24 horas de aprendizaje del entorno conversacional de Twitter. 

«Aquí hay dos temas», apunta la investigadora sobre el porqué de este paradigma de desigualdad. «Por un lado, la falta de diversidad de los equipos técnicos, que son incapaces de diseñar estos productos pensando en el bienestar de las comunidades no normativas, y por otro el tipo de interacciones y los datos que se facilitan a resultas de estos proyectos«.  

La neutralidad y la novedad en esta esfera no existe, según defiende: «Algunas ideas en torno a los algoritmos o al big data no son una novedad y, lo que es más importante, lejos de ser neutrales, están rodeadas de una mitología de la masculinidad occidental orientada a homogeneidad y a la productividad, no necesariamente a los cuidados o al reconocimiento de la diferencia». Una vez más, el patrón social se reproduce en el entorno digital. 

DigitalFems o el big data para rastrear la violencia 

Dice la activista y fundadora de DigitalFems, Thais Ruiz de Alda, que el 95% de la información relativa a las violencias sexuales fuera de la pareja es prácticamente inexistente. Que no solo construimos un mundo digital con sesgo, también omitimos las raíces que sustentan esas violencias y la forma de explicarlas y cuantificarlas. «No sabemos prácticamente ni qué tipo de delitos sexuales se denuncian ni en qué provincias, ni el resultado de las sentencias judiciales de esta tipología de violencia, ni qué tipo de pena … El responsable de los ficheros es el Ministerio del Interior y está claro que aquí hay muchísimo trabajo que hacer», aclara.

Para poner orden, desde DigitalFems han lanzado un crowdfunding para lanzar Datoscontraelruido, que se convertirá en una fuente de datos de consulta accesible sobre las denuncias de violencia de género en España para aquellas personas que no sean expertas en estadística, o que no provengan de campos como la investigación y que quieran conocer más sobre los datos oficiales con visualizaciones accesibles y tipificadas. El objetivo, según explica, es «visibilizar la enorme presencia que tiene la violencia machista» mediante la ciencia de datos y contribuir a la creación de archivos de datos en abierto de «todo» lo que se publica (OpenDatasets) para pasar a difundirlos mediante campañas de comunicación digitales «muy visuales y claras».

«No hay mucha información sobre qué pasa una vez interpuesta la denuncia, es decir, sobre los resultados de los procesos judiciales. ¿Qué ocurre desde que se denuncia un hecho hasta que se sentencia, si es que llega el caso a sentencia? ¿Qué nos perdemos por el camino?«, destaca, denunciando que el software institucional es arcaico. «El que utiliza el sistema judicial, es decir el que el Ministerio de Justicia pone al alcance de los juzgados, es muy antiguo. Quién diseñó las categorías no estaba pensando claramente en qué ocurre en los procesos de violencia machista», señala la investigadora.

Bajo el lema #SinDatosNoHayJusticia, desde DigitalFems apuestan por acabar con la conocida como Gender Data Gap, la brecha de datos de género a la que en los últimos años también están intentando poner remedio diversas administraciones públicas. «Los datos son el medio que mostrarán qué políticas hay que aplicar. Nos dirán dónde está fallando el sistema. Por ejemplo, si ya sabemos que en Baleares, hay más denuncias por violencias machistas que en otras partes de España, lo lógico es invertir más recursos en ese territorio en políticas preventivas, educativas, policiales».

A mayor visibilización de datos, mayor conocimiento y transmisión de un mensaje contundente contra la violencia. «El DataViz –visualización de datos– es una herramienta que ha venido para quedarse. La concienciación social se consigue cuando un mensaje, identificado y asumido como veraz y se repite a lo largo de un periodo de tiempo. Nuestro reto es conseguir que estudiantes, abogadas, judicatura incluso periodistas vuelvan de manera recurrente nuestro site a comprobar datos, o que al ver los datos en alguna de las campañas en medios digitales que hacemos tomen conciencia de ello».

Memes para visibilizar el limbo del acoso digital

Un 98,9% de las mujeres con presencia pública en Internet ha sufrido al menos un tipo de violencia online. Así lo revelaron los datos recabados por el colectivo Donestech con el grupo de investigación Antígona, de la Universidad Autónoma de Barcelona, en la encuesta sobre violencias machistas online que presentaron el pasado mes de junio. Según explicaron a El País desde el colectivo, el ataque más frecuente, referido por un 54,6% de las encuestadas, se concreta en expresiones o insultos discriminatorios o denigrantes por el hecho de ser mujer ―puta, zorra, bollera―; pero también abundan accesos no consentidos a cuentas y dispositivos, violencias de carácter sexual, amenazas, contacto y fustigamiento a la víctima o su entorno, seguimiento y vigilancia de sus movimientos y el uso de información falsa para confundir y dañar.

El colectivo Ontologías Feministas ha organizado en Madrid y Barcelona un taller didáctico de autodefensa digital frente a la violencia de género como Strolling you down, donde proporcionan herramientas útiles y planes de acción concretos para reconocer a los abusadores y acosadores y defenderse de ellos en el mundo digital. Desde TikTok a Instagram, y con distintas capas o enfoques, la viralización de contenido pedagógico desde cuentas autogestionadas de memes con mensaje contra la violencia en lo digital, especialmente para las nuevas generaciones se multiplica. Desde cuentas como @ProyectoUna, @lapicarajustina, @hanfreewifi o @femme.sapiens, visibilizar mensajes de respuesta contra conductas violentas y de autocuidado es crucial en un país en el que, de media, en una clase cualquiera de centro educativo está asegurado, por estadística, que al menos dos estudiantes estén sufriendo ciberacoso en ese momento. 

Aunque el Ayuntamiento de Barcelona ha hecho hincapié en el ámbito digital en su última campaña del 25N, la visibilización de los abusos recibidos en la identidad digital todavía no tiene mucho calado social. «La violencia y el acoso digital está en un limbo sin protocolos claros de actuación frente a nuestros paseos y vida virtual en la mayoría de espacios», recuerda Marta Delatte, desde Liquen Data Lab. El problema, dice, está en que seguimos viendo a los medios digitales como algo descarnado. «El miedo es una sensación y una experiencia real, la tristeza es una sensación y una experiencia real. Nuestra vida ocurre en entornos digitales y no digitales a la vez y no como experiencias separadas y fragmentadas», enfatiza.

Delatte, que agradece a DonesTech el trabajo «generoso» que ha instaurado para abrir muchos caminos y recomienda el proyecto Geek Feminism Wiki –y su plantilla que ha sido adaptada o directamente adoptada para ofrecer una evaluación de los codigos de conducta de diversas comunidades que se puede consultar– o la plataforma Acoso.Online (tanto en Twitter como en Instagram). También pone foco en el valor del meme como transmisor de mensajes para romper con la normalización de la violencia. «Tiene el poder de encapsular mensajes súper complejos en unidades de comunicación mínima, y han demostrado sobradamente que se puede hacer otro tipo de humor muchísimo más interesante. Pero esto se lo debemos al esfuerzo colaborativo de las nuevas generaciones en Internet, especialmente las más jóvenes».