El ‘caso Andrea Chávez’: la impunidad de la violencia digital contra las mujeres (ahora con inteligencia artificial)

Un hecho de violencia digital y sexual contra una legisladora mexicana ha puesto sobre la mesa la urgencia de regulación de las herramientas de inteligencia artificial (IA), pero también la impunidad al investigar y garantizar la justicia para las mujeres que viven violencias en espacios digitales. El 9 de octubre pasado, la senadora del partido oficialista Morena, Andrea Chávez (Ciudad Juárez, 1997), hizo una denuncia pública contra el caricaturista del diario El Financiero, Antonio Garci Nieto, quien publicó en sus redes sociales una imagen falsa de contenido sexual con el rostro de la política. En un video, Chávez aseguró que la manipulación se habría hecho con IA. Aunque en ese momento dijo que no denunciaría para evitar que Garci Nieto se “victimizara”, un día después afirmó que seguiría la vía penal para “sentar un precedente jurídico” en el país.

El caso ha escalado e incluso la presidenta Claudia Sheinbaum ha hablado sobre el tema. En su conferencia matutina de este martes, la mandataria dijo que la violencia de género que está viviendo Andrea Chávez “no puede convertirse en algo normal”; también pidió que no se tergiverse el tema al justificarlo en la libertad de expresión. Esto lo dijo días después de haber reconocido que “todas hemos vivido machismo”. En entrevista con EL PAÍS, Angélica Contreras —consultora en la asociación Cultivando Género, integrante del Consejo Asesor de TikTok y experta en temas digitales— dice que “la libertad de expresión no puede ser una herramienta para justificar la violencia”.

Este no es el primer caso de alteración con IA de fotografías de mujeres que ocurre en México, ni el de mayor alcance. En octubre de 2023, estudiantes del Instituto Politécnico Nacional (IPN) encabezaron una protesta contra un estudiante, identificado como Diego “N”, que alteró con IA más de 100.000 fotografías tomadas de las redes sociales de las estudiantes para fines sexuales con el objetivo de venderlas y difundirlas en grupos de Telegram. Todo esto ocurre en un país donde al menos tres de cada diez mujeres usuarias de internet —de entre 12 a 29 años— son víctimas de algún tipo de violencia digital. De acuerdo con la encuesta Mociba 2023 del Instituto Nacional de Estadística y Geografía (Inegi), las formas de ciberacoso más frecuentes son contacto mediante identidades falsas, mensajes ofensivos, recibir contenido sexual no solicitado e insinuaciones y propuestas sexuales. Los hombres son los principales agresores. Además, la encuesta da luz acerca de los efectos de dicha violencia en la salud mental de las personas: en su mayoría, las víctimas experimentan enojo, desconfianza, inseguridad, estrés y miedo.

Regulación pendiente

Al definirse como la senadora más joven de la Legislatura, Chávez explicó que decidió presentar su denuncia ante las autoridades porque “ya no solo me represento a mí misma, sino a medio millón de mujeres chihuahuenses”. Si bien en México existe la llamada Ley Olimpia, la cual castiga con cárcel el ciberacoso, el hostigamiento y la difusión sin consentimiento de fotos y videos íntimos en internet y en redes sociales, la legislación sobre el uso de IA para elaborar contenido sexual sigue pendiente.

En mayo de 2019, la Organización para la Cooperación y el Desarrollo Económico (OCDE) emitió un documento con una serie de directrices éticas relacionadas con la regulación de la IA. México fue uno de los países firmantes. En octubre de 2023, la Comisión de Ciencia, Tecnología e Innovación de la Cámara de Diputados mexicana convocó al foro Hacia una Regulación de la Inteligencia Artificial con el objetivo de discutir los retos que trae la propagación del uso de la inteligencia artificial.

Contreras explica que la próxima legislatura tendrá entre sus pendientes una regulación en este sentido que reúna tanto a empresas de inteligencia artificial, como al Estado. “Las herramientas de inteligencia artificial generativa son cada vez más accesibles a las personas, ¿cómo le hacemos para que estas herramientas limiten la creación de contenido que vulnera a las personas, que las desnuda o las pone en situación de ridículo?”, agrega la especialista.

Algunos países están comenzando a implementar leyes. Por ejemplo, la Unión Europea presentó en abril de 2021 una propuesta de Reglamento de Inteligencia Artificial con el objetivo de que esos sistemas garanticen los derechos humanos y sean seguros. La ley entró en vigor en agosto pasado. A finales de septiembre de 2021, el Congreso de Brasil aprobó un proyecto de ley que crea un marco legal para la inteligencia artificial.

Búsqueda de justicia

Más allá de la legislación sobre violencia digital o el uso sexista de las tecnologías está la deuda pendiente por brindar justicia a las víctimas. En México, la gran mayoría de denuncias por violencia digital quedan en la impunidad. En marzo pasado, un reporte publicado en La Jornada, documentó que de 3.205 carpetas de investigación iniciadas por violencia digital desde 2020, el 95% no se judicializaron, sólo 109 presuntos agresores fueron vinculados a proceso y únicamente se lograron cinco sentencias.

Uno de los principales retos para hacer justicia en estos casos es la falta de preparación del personal encargado de procurar la justicia, desde las fiscalías, pasando por el Ministerio Público y los cuerpos policiales. “Podemos tener toda la capacitación de las personas, podemos mejorar al sistema de justicia, pero si tu herramienta que estás viendo que está generando esto no tiene cambios importantes, es un llamado también a las empresas”, dice Contreras.

En el caso de Andrea Chávez, el caricaturista Garci Nieto ha negado ser el autor de la fotografía falsa de la senadora. En una publicación en su cuenta de X, el colaborador del diario El Financiero escribió que la imagen “ya circulaba desde hace más de un año en internet”, y acusó de un “linchamiento y persecución política”. También calificó el hecho como “censura” y “fiscalización del humor”. Sin embargo, especialistas han dicho que la libertad de expresión “no es un derecho absoluto”, como escribió la abogada Leslie Urzúa en su columna en el diario El Universal.