Paola Ricaurte: “Las grandes compañías tecnológicas son aliadas de gobiernos autoritarios”

Paola Ricaurte Quijano habla con esa tonada propia de quienes nacieron en una costa, pero su vida ha sido una mezcla de países. Nació en Bogotá por azar, se crio en Ecuador y ha hecho su vida en México. Le gusta que la llamen mexicana ecuatoriana. Es profesora asociada del Departamento de Medios y Cultura Digital del Tecnológico de Monterrey y del Berkman Klein Center for Internet & Society de la Universidad de Harvard. En este último, cuando todavía no se hablaba del tema, ella empezó a estudiar sobre los efectos de la Inteligencia Artificial para el sur global y “la tecnología como espacio de reproducción colonial”.

Hoy alerta sobre cómo, si no se cambian los términos del juego de los desarrollos tecnológicos, se profundizará la desigualdad. “Los sistemas sociotécnicos no son un resultado natural, sino un conjunto de decisiones que impulsan un nuevo modelo de mundo. Vivimos en un mundo dominado por un tipo de tecnología y por un puñado de actores”, dijo en el Foro DemocracIA, organizado por Civic Compass, Luminate y el International Fund for Public Interest Media (IFPIM).

Ricaurte es autora del manifiesto de la Inteligencia Artificial decolonial, cofundadora de Tierra Común, una iniciativa académica para la descolonización de los datos, impulsora del debate sobre IA feminista e integrante de la Alianza por Algoritmos Inclusivos. “En 2018 cuando llegué a Harvard todo el mundo está hablando de Inteligencia Artificial y empecé a investigar ¿qué es esto? ¿cómo se come?, cómo impacta al sur global?”, dijo en Buenos Aires en conversación con Lideresas de Latinoamérica.

Pregunta. ¿A seis años de ese momento y con todo el mundo volcado al tema, ¿cómo se come la IA hoy?

Respuesta. Hoy la IA está en la agenda pública pero no de la manera que me gustaría. Para empezar, es un nombre bastante infeliz porque no es ni inteligencia ni es artificial. Bajo esta etiqueta se aglutinan una serie de cosas muy diversas. Primero, es un campo de estudio, pero también es un conjunto de tecnologías y técnicas muy diversas. Entonces, cuando queremos hablar de IA en el debate público, tenemos que precisar de qué estamos hablando.

P. ¿Cuál sería entonces una buena definición?

R. Como definición técnica me gusta la usa la OCDE, “un sistema basado en una máquina que puede, para un objetivo definido por el ser humano, hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales”. Pero el problema asociado con la concepción de tecnología es que pensemos que es solo un procedimiento matemático o mecánico cuando en realidad son sistemas sociotécnicos, es decir, que emergen de la sociedad y que, por lo tanto, arrastran todas las condiciones sociales de su producción.

P. Usted habla de que son una serie de decisiones no naturales que impulsan un “nuevo modelo de mundo”, ¿cómo es ese modelo?

R. Cuando pensamos la tecnología como parte de estos sistemas sociales entendemos que no estamos hablando solo de fierros, algoritmos, datos o aplicaciones, hablamos de sistemas de producción de conocimiento, de instituciones, regulaciones, infraestructuras; estamos hablando de interacciones sociales, de recursos naturales, del trabajo.

P. ¿Qué propone ese modelo basado en la IA que se está construyendo y cuáles son los actores dominantes?

R. Lo que estamos viviendo hay que leerlo en términos de procesos históricos y de relaciones sociales. En la historia de la humanidad, las tecnologías dominantes han servido para controlar la naturaleza y abonar a una idea de lo que debe ser la sociedad, el trabajo y las relaciones. Entonces, los sistemas sociotécnicos que vemos hoy responden a esa visión del mundo donde lo importante es la acumulación del dinero, el incremento de la productividad y la eficiencia. El problema es que en esa narrativa no se está teniendo en cuenta que el mundo es finito y que el desarrollo tecnológico de esos sistemas sociotécnicos amplía las brechas sociales.

P. Dice que si no cambiamos los términos del juego se incrementará la desigualdad.

R. Estos sistemas amplían la desigualdad porque hacen que unas pocas personas concentren todo el dinero, el poder, los recursos naturales, los datos y el conocimiento. Son sistemas que están hechos para optimizar esos procesos extractivistas, de despojo y violencia. Soy muy crítica de eso. No quiero ese modelo de mundo que están reproduciendo estas tecnologías hegemónicas; quiero otras tecnologías que abonen a un modelo donde el centro estén los derechos humanos y los cuidados, tanto los del planeta como de las personas y, en particular de las que están sufriendo los impactos del desarrollo tecnológico de una manera desproporcionada. Las corporaciones están desarrollando tecnologías abonan a esa acumulación de riqueza y de desigualdad social. Las tecnologías que nosotros necesitamos son tecnologías que nos ayuden a las personas como nosotras, a nuestras poblaciones más marginalizadas.

P. Precisamente se reunidos los líderes mundiales en la ONU para abordar el futuro. ¿Qué deberían estar planteando sobre la IA?

R. Uno de los temas centrales es la gobernanza de estos sistemas. Estamos discutiendo tecnologías desarrolladas por unas pocas corporaciones, pero usadas a nivel mundial. Su impacto es transnacional, trasciende las fronteras y muchas veces las ideologías, porque su discurso, que viene asociado con esta idea del avance y el progreso, es fácilmente apropiable en contextos de desigualdad y violencia como los de América Latina. Se dice, bueno, vamos a utilizar tecnologías de IA para promover la seguridad de la ciudadanía. Ahí es cuando importa la gobernanza y caben preguntas: ¿quiénes son estos líderes mundiales que discuten sobre IA?, ¿desde qué países hablan?

P. No está contando la mirada de Latinoamérica el debate global…

R. Son muy pocos líderes los que están controlando el debate y lo hacen a su favor para que estas tecnologías se apropien rápidamente y los gobiernos y los ciudadanos sigamos siendo clientes; para que, bajo ese modelo de mundo, las empresas se auto regulen y no rindan cuentas a las sociedades, no se desarrollen regulaciones fuertes ni se impongan políticas fiscales que afecten los intereses de las corporaciones o se promuevan innovaciones públicas o comunitarias. Cuando pensamos cómo está el debate global, desde nuestros países tenemos que estar muy claros de cuáles son esas fuerzas y tensiones en las cuales nos tenemos que insertar, porque nadie está defendiendo nuestros derechos en realidad.

P. ¿Cómo podría América Latina revertir esa situación?

R. Nuestros países tienen muy poca capacidad de negociación porque no están articulados. Europa en cambio va como un frente regulatorio y aunque no se destaque por su capacidad de desarrollo de tecnología está invirtiendo muchísimo dinero para competir. Lo que hicieron fue decir ¿cómo nos protegemos? Bueno, vamos a mandar regulaciones. Son muy inteligentes porque plantean una perspectiva soberana de inteligencia artificial a nivel regional. Pero esta tampoco es una política centrada en derechos y eso beneficia a las empresas europeas. ¿Por qué nosotros que tenemos una cantidad de población que es toda Norteamérica y Europa juntas; que tenemos los recursos, la mano de obra, los datos, ¿no podemos hacer lo mismo? O sea, tendríamos capacidad de negociación si nos articuláramos con una perspectiva distinta sobre la inteligencia artificial. Pero no lo estamos haciendo porque las empresas hacen lobby.

P. Brasil se ve bastante solo desde este lado.

R. Sí, lo está haciendo solo. Y entonces vemos estas narrativas de que Brasil es autoritario, cuando simplemente está poniendo un freno. Una compañía extranjera no puede tener más poder político y económico que un Estado nación. Por eso digo que ese es un riesgo para la democracia directo para la democracia. Ahora, muchos de los gobiernos de la región están desarrollando políticas, pero alineadas a los intereses de las empresas. No estamos teniendo leyes de protección de datos personales o regulaciones articuladas ni una visión de la política.

P. Bajo esos términos de juego desiguales, ¿qué opciones tenemos los ciudadanos?

R. Siempre hay opción de tomar decisiones y creo que a veces minimizamos la capacidad que tenemos para elegir nuestros gobiernos y exigirles una visión y una política que defienda nuestros derechos. La ciudadanía en América Latina y la sociedad civil organizada ha estado siempre la vanguardia, pero también nos falta articulación para que entendamos que esto no se trata de un asunto tecnológico. Estamos hablando de un modelo de sociedad, de la defensa de la democracia y los derechos humanos; estamos hablando de que no queremos que se incrementen las desigualdades ni la violencia en nuestros países y de cómo estos sistemas están contribuyendo para agravar los problemas que ya tenemos.

P. ¿Cómo los agrava?

R. Las desigualdades se reproducen a nivel macro por la concentración de recursos y poder. La brecha entre los países que tienen el control del desarrollo tecnológico y los que no lo tienen es brutal. Después, a nivel de los países, ¿qué pasa cuando estos sistemas se instalan por parte de los gobiernos para la toma de decisiones públicas de acceso a servicios de salud, de educación, servicios sociales, empleos? Pues como estos sistemas no están diseñados para nosotras, lo único que hacen es reproducir esas desigualdades históricas.

P. ¿En qué casos concretos de decisiones públicas se puede observar?

R. Por ejemplo, sistemas predictivos de prevención del embarazo adolescente terminan siendo usados para controlar el cuerpo de las mujeres en vez de solucionar el de la violencia que hay detrás; lo mismo para prevenir los riesgos de adolescentes que cometan un acto de delincuencia. ¿Por qué mejor no abonan a las cuestiones sociales que ponen en una situación de desventaja a los adolescentes precarizados? El problema es que los gobiernos toman estos sistemas sociotécnicos lo hacen bajo la premisa de que la tecnología va a solucionar un problema social y justamente hace lo contrario: reproduce órdenes de clasificación social. Si observamos bien, es sobre los pobres, las mujeres, las personas en situación de movilidad sobre las cuales actúan estos sistemas. Nunca sobre los ricos. No hacemos un sistema para predecir cuánto van a robar o evadir impuestos los ricos. Se hace solo sobre la población más precarizada. Entonces, no solamente que estos sistemas no funcionan, sino que, además nuestros gobiernos contribuyen con ellos a reproducir esa desigualdad.

P. ¿Cómo debe ser una IA feminista?

R. Hay muchas discusiones acerca de los sesgos de género y raciales de la IA. Para nosotras es importante entender las tecnologías como relaciones de poder. Si no cambias la matriz del poder, vas a seguir teniendo sistemas que a lo mejor funcionan, pero estos seguirán reproduciendo esas relaciones de poder asimétricas en la sociedad. Por eso, nuestra perspectiva tiene que ser feminista. Queremos abonar a las causas de la desigualdad y de las relaciones asimétricas de poder y de las violencias estructurales que se reproducen a través de estos sistemas en todos esos planos y en todo el ciclo de vida de la IA, no solamente en el momento de los datos o el modelo; yo quiero que contemplemos todo cómo afecta a las relaciones laborales, los sistemas democráticos, al ambiente. Mientras no tengamos esa visión un poco más compleja no estamos solucionando ningún problema.

P. Al hablar de actores en este nuevo modelo de mundo, ¿cuál es el rol de los medios masivos?

R. La labor más urgente que necesitamos de los medios es que no sigan las narrativas hegemónicas con respecto a estos sistemas y que tengan una posición crítica sobre lo que significan para nuestras sociedades. Hay un espacio muy importante para que las personas puedan entender los impactos concretos, materiales del desarrollo de estos sistemas en sus vidas y en las de sus pueblos y territorios: el impacto socio ambiental de los centros de datos (que requieren energía y agua para refrigerarlos), toda la cuestión laboral, la extracción de los minerales (que se utilizan para el desarrollo tecnológico, como las baterías); las cadenas de suministro opacas y que no sabemos el lugar que ocupa América Latina en esta división internacional del trabajo actualizada.

P. ¿Cuál es la discusión más urgente respecto la IA?

R. Hace falta que entendamos cómo el desarrollo de estas tecnologías está directamente articulado con los sistemas políticos y la democracia. Estas grandes compañías son muy aliadas de los gobiernos autoritarios y están impulsando la automatización de la violencia a escala.