“De segunda clase: así tratan las plataformas tecnológicas a los ciudadanos del sur global”

Si hay un tema que hoy se considera global es el impacto de la desinformación en línea, la incitación al odio y la Inteligencia Artificial. La ONU, que manifiesta una enorme preocupación por lo que ha llamado “amenaza existencial”, acaba de difundir desde Nueva York un marco de acción internacional coordinado para hacerle frente. “Las amenazas a la integridad de la información no son nuevas, pero proliferan y se expanden a una velocidad sin precedentes en las plataformas digitales, sobrealimentadas por las tecnologías de la Inteligencia Artificial (IA)”, dijo António Guterres a finales de junio.

Sin embargo, desde Salvador de Bahía, en el noreste brasileño, una mujer lidera esa misma lucha pero desde la mirada de los países del sur global y señala las desigualdades en este debate público. Nina Santos es la directora de Aláfia Lab y coordinadora de Desinformante, un laboratorio de investigación sobre los impactos del mundo digital, el racismo en línea y los procesos de desinformación. “Las plataformas nos están tratando a los ciudadanos del sur global como ciudadanos de segunda clase. Eso no lo podemos aceptar”, dice cuyo trabajo, aclara, no es el fact checking. “No queremos enfrentar la desinformación una a una, creemos que hay que hacerlo en bloque, como un problema estructural”.

Pregunta. ¿En qué radica esa desigualdad y el trato de segunda clase del que habla?

Respuesta. El primer problema es que cuando hablamos de redes sociales, de Inteligencia artificial, en general, son tecnologías que están hechas en los Estados Unidos, y ahora también en China. Y estas tecnologías no son neutrales, traen con ellas una visión de mundo, una forma de imaginar las relaciones sociales, el futuro y la democracia. Entonces, las reglas de lo que vale o no vale en el debate público en países como Brasil, o cualquier otro de América Latina y África, por ejemplo, son puestas, no por las sociedades de estos países, sino por las plataformas que dictan de manera privada lo que se puede hacer en las conversaciones de línea, que son hoy completamente centrales para todos los procesos sociales.

P. Entre ellos los procesos políticos…

R. Hablamos de procesos políticos, de elecciones, de toma de decisión, pero la verdad es que estas plataformas son centrales para nuestras relaciones con los amigos, la familia, determinan la forma de vender, de comprar. (En el sur global) no solo no tenemos nuestras propias plataformas, sino que tampoco estamos disputando la forma de construir las actuales. Un segundo paso, como consecuencia de eso, es que estas empresas están luchando muy fuertemente contra regulaciones locales (como el caso de Brasil). La única región que logró hacerlo de manera más estructural hasta ahora es la Unión Europea.

P. ¿Cómo el avance de la Inteligencia Artificial (IA) complejiza el fenómeno?

R. La IA hay que verla como un fenómeno muy integrado a las plataformas de redes sociales. Mucho del impacto que esta puede provocar en la sociedad está relacionado con el cómo este contenido va a circular en las redes sociales o en las aplicaciones de mensajería. Vivimos un momento muy complejo porque las tecnologías de IA se aproximan mucho a la realidad y hacen que la posibilidad de falsear un contenido sea mucho más amplia. Es más que urgente tener regulaciones nacionales o transnacionales para el uso de estas tecnologías, que tampoco creo que haya que mirarlas solo por el lado negativo.

P. ¿Cómo la ausencia de regulación en países del sur global profundiza la desigualdad?

R. No tener regulaciones está muy mal, pero es incluso peor cuando Europa tiene una regulación y América Latina, no, porque las plataformas toman decisiones para obedecer a la legislación europea pero no promueven los mismos derechos en otras partes del mundo. Un ejemplo son las políticas de acceso a datos. Hace dos años teníamos mucho más acceso a datos en América Latina que ahora.

P. Brasil intentó regular a estas plataformas, ¿por qué fracasó?

R. Se intentó fuertemente incluso con apoyo del Ejecutivo y de una parte del Legislativo, pero el lobby de las plataformas digitales fue capaz de poner un límite. La experiencia brasileña nos demostró que necesitamos soporte social, que la discusión sea visible. Las personas tienen claro que necesitamos regulaciones, pero de ahí a movilizarnos para apoyar este proceso es una cosa.

P. El caso de Brasil también muestra el rol de las plataformas en procesos políticos.

R. Muchas veces hablamos de cómo las conversaciones en las plataformas traen desinformación, discursos de odio, pueden proporcionar más visibilidad para el campo político de la extrema derecha, en comparación a la izquierda. Pero además de las conversaciones en la plataforma, el hecho de tener una y ser dueños de una también hace que estas personas sean actores políticos. Lo que vimos hace unos meses cuando Elon Musk dijo que no respetaría una decisión de la Suprema Corte Brasileña es una prueba clara de ello.

P. ¿Y qué se puede hacer para limitar el rol que juegan las plataformas?

R. La solución no está en volver lo que teníamos antes, sino que encontrar otra fórmula de vivir la sociedad digital. Esa es la gran transformación que tenemos por delante. Hoy lo digital es parte de nuestra vida. Estamos todo el tiempo con un móvil que tiene redes sociales, que tiene incluso inteligencia artificial, porque muchas veces pensamos en la IA como una tecnología de creación de contenido, de deepfakes y es todo eso, pero también es una tecnología de procesos de recomendación y filtraje de contenido. Hoy es más complejo porque está mucho más integrada en nuestra vida cotidiana; pero, de otra parte, con toda esta integración, también tenemos un interés y un conocimiento más grande sobre lo que pasa en línea.

P. ¿Cómo utilizar ese interés?

R. Con todo ese conocimiento mayor ya podemos pensar ¿qué queremos de una democracia en la era digital? Creo que esa es la gran pregunta que tenemos responder y trabajar para construir porque nos quedamos encerrados en esta discusión sobre lo que tenemos hoy. Sí, hay que discutir la regulación, la autoregulación, la co-regulación, pero también hay que pensar más allá de eso y ver qué podemos proponer como una sociedad democrática en la era digital.

P. ¿Algún ejemplo que se esté pensando como democracia digital?

R. No veo nada muy estructurado. Por eso existe la necesidad construir una agenda informacional a partir del sur, de nuestra realidad, precisamente ahora que la idea de integridad de la información es un tema del momento. Este es un término nuevo que se creó, evidentemente a partir de los Estados Unidos y de Europa, y que está siendo muy utilizado por los organismos internacionales. La ONU acaba de publicar los principios globales por la integridad de la información que serán discutidos en el Summit of the Future, en septiembre, en Nueva York.

P. ¿Cómo están los países del sur global frente a la discusión sobre los principios?

R. De nuevo, el problema es que estos principios y la idea de integridad de información es concebida a partir de una realidad social que no es la nuestra, no son realidades sociales de países que fueron colonizados, que tuvieron personas esclavizadas, que tienen una desigualdad social enorme, que son democracias recientes, algunas veces estables.

P. ¿Quién está liderando esa agenda por fuera de Estados Unidos y Europa?

R. Todo está muy fragmentado y hay diferentes liderazgos. Sin embargo, Brasil ahora es presidente del G20 y está proponiendo la agenda de la integridad de la información al resto de países. Tiene entonces un rol al poner estas cuestiones de la integridad de la información, del combate a la desinformación, los discursos de odio, las teorías conspiratorias en línea en diferentes círculos de discusión internacional. Pero veo también que México tiene muchas discusiones en torno de las relaciones entre lo digital y la protección de grupos vulnerables o vulnerabilizados históricamente como las mujeres y los grupos indígenas. Argentina, por ahora, con las recientes elecciones, no vive un momento de mucha construcción de alternativas sino de discusión. Y si hablamos de África vemos experiencias como la de Kenia donde proceden contra las tecnológicas por promover discursos nocivos durante las elecciones; lo mismo que en la India. Hay ejemplos, el problema es que aún no tenemos una integración que nos dé fuerza para hacer frente a este discurso que viene de los países del norte.

P. Usted estudia el entorno digital desde los blogs ¿cree que hoy son peores la desinformación y los discursos de odio?

R. Muchas veces, cuando miramos la situación tenemos la tentación de pensar que antes se estaba mucho mejor, pero en mi visión no es verdad. En Brasil, por ejemplo, en la década de 90 e inicios del año 2000 había una lucha muy fuerte por la democratización de los medios de comunicación, un proceso de denuncia de que estos eran y aún son muy concentrados en pocas familias, poco diversos en términos de género, raciales, y de posición política. O sea, teníamos también una situación de comunicación muy complicada. No podemos pensar que, si simplemente se acaba Twitter, WhatsApp, Instagram, TikTok, estaríamos hoy mucho mejor porque no es verdad.

Siga toda la información de El PAÍS América en Facebook y X, o en nuestra newsletter semanal.