Alfabetización algorítmica o la necesidad de repartir el poder

Es muy complicado desenvolverse en una sociedad en la que los algoritmos cada vez están más presentes, si no somos capaces de comprenderlos. Y no me refiero a las tradicionales competencias digitales, ni tampoco a la programación avanzada. Al igual que saber leer y escribir fue fundamental para la autonomía personal o el ejercicio de la ciudadanía plena, en est...

Es muy complicado desenvolverse en una sociedad en la que los algoritmos cada vez están más presentes, si no somos capaces de comprenderlos. Y no me refiero a las tradicionales competencias digitales, ni tampoco a la programación avanzada. Al igual que saber leer y escribir fue fundamental para la autonomía personal o el ejercicio de la ciudadanía plena, en este tiempo en el que la inteligencia artificial estará en todas partes, la alfabetización algorítmica será la que nos permita seguir siendo libres. De lo contrario, habrá dos clases de personas, los que pueden usar los algoritmos y los que son usados por ellos.

La ciudadanía digital hacia la que caminamos requiere educarnos en este nuevo contexto en el que las frases han sido sustituidas por líneas de código. Los sistemas automatizados se extienden rápidamente. Cada vez deciden o influyen en más aspectos de nuestras vidas. Es un espacio aún opaco, invisible. Hay un desconocimiento generalizado sobre qué son, dónde se usan, para qué y cuáles son sus impactos. Tampoco hay, de momento, auditorías o estándares que garanticen su calidad. ¿Cómo puede una persona decidir si está de acuerdo con las reglas de decisión integradas en la inteligencia artificial que controla su vida sin comprenderla? La opinión pública y política se entera de su existencia cuando rompe el escándalo, como en el caso del gobierno de Países Bajos, condenado por vulnerar derechos humanos al utilizar un algoritmo contra sus propios ciudadanos.

Las cifras hablan por sí solas. Más del 90% de todas las búsquedas del mundo son a través de un mismo sitio: Google. Cada día miles de millones de personas se encomiendan a su algoritmo para todo. Es una calle de doble dirección, la web da información a cambio de nuestros datos ¿Somos conscientes? ¿Conocemos formas de protegernos? ¿Y de influir sobre el algoritmo? Si no se comprende su funcionamiento se puede terminar atrapado en una burbuja de preferencias en la que la visión del mundo se reduce progresivamente. Y lo que no necesitamos, precisamente, son más trincheras. Y qué hay de los modelos generativos de inteligencia artificial como ChatGPT que en cinco días consiguió un millón de usuarios -Netflix tardó más de tres años-. ¿Estamos preparados como sociedad para detectar aquellos contenidos que no se ajusten a la realidad? ¿Comprendemos, aunque sea de forma básica, cómo aprende este modelo?

La alfabetización algorítmica puede definirse como la habilidad de ser consciente del uso de algoritmos en aplicaciones, plataformas y servicios en línea. Entender cómo funcionan, ser capaz de evaluar críticamente la toma de decisiones, tener las competencias para hacer frente a las operaciones algorítmicas o, incluso, influir en ellas. Recordemos que un algoritmo es un conjunto de reglas u órdenes cuyo uso se ha intensificado con la inteligencia artificial. De hecho, ya hay una generación que solo ha experimentado un mundo mediado por ellos y de alguna forma están siendo dirigido por los datos que estos recogen, ya que sus preferencias están condicionando lo que se les muestra en las pantallas. ¿Quién les ayuda?

Los algoritmos están por todas partes, están integrándose en nuestras actuales estructuras socioeconómicas y en otros aspectos de la vida cotidiana, incluido el trabajo académico. No es algo negativo, al contrario, su aplicación a gran escala ha tenido un efecto neto positivo. La gente puede ser más productiva, saber más sobre más temas que nunca, identificar tendencias o comprender mejor el mundo que les rodea. Estamos descubriendo nuevas formas de relacionarnos con nuestra creatividad y con el conocimiento gracias a los últimos avances generativos. Y solo va a ir a más. Por eso precisamente debemos tener las habilidades de conducción necesarias que nos permitan dominar la máquina y no al contrario. Es el momento de avanzar en el conocimiento de la tecnología y redistribuir con ello el poder que tienen quienes la controlan.

Como siempre, las escuelas y los centros de enseñanza tienen un papel fundamental. Hay que empezar por el principio. Privacidad y cómo manejar los ajustes para que la intimidad se preserve. Seguir por cómo nos informamos, cómo se busca; por qué ves lo que ves y el orden en el que lo haces. Sería interesante que los estudiantes reflexionaran sobre como investigan para aprender a ser más críticos y a dominar la intención en el proceso.

La sociedad ha de ser capaz de razonar sobre los algoritmos y sus procesos; evaluar su influencia, comprender el efecto que tienen en contextos sociales, culturales, económicos y políticos; y, en definitiva, hacer que la persona sea codecisora. Debemos estar mejor equipados para una realidad en la que se delega en estos sistemas automáticos. En definitiva, la necesidad de una alfabetización algorítmica surge de la necesidad de repartir el poder. Los algoritmos, especialmente los que utilizan machine learning y deep learning, son complejos, opacos, invisibles, y protegidos por la propiedad intelectual, pero sobre todo, tienen consecuencias sobre la vida de las personas. El control lo tienen quienes los crean y despliegan, no quienes los utilizan. Y eso es lo que hay que cambiar. Esto no va de aprender a escribir código, esto va de ser parte activa del diseño social que se está codificando en la tecnología.

Lucía Velasco es economista y autora de ‘¿Te va a sustituir un algoritmo?’

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.