Por qué el mundo digital es incompatible actualmente con los derechos fundamentales

Las metáforas ayudan a expresar conceptos abstractos de manera que se entiendan con más facilidad. Pero a veces son tan poderosas que, como decía Fernando Pessoa, “son más reales que la gente que anda por la calle” y es poco aconsejable jugar con ellas. El mundo de las plataformas de comunicación digital está lleno de ellas porque funcionan frente a temas tecnológicos difíciles. Por ejemplo, qué puede ser menos agresivo que una algodonosa y muy útil nube. Allí es donde las plataformas nos piden que guardemos copias de lo que hacemos, un lugar acogedor, pero, obviamente, de lo que están hablando es de un conjunto de aplicaciones que esas corporaciones han creado para que todos nuestros archivos estén alojados en sus gigantescos servidores, en los que pueden actuar algoritmos diseñados por esas mismas empresas para obtener miles de millones de datos de uso comercial (y, en ocasiones, político).

Los responsables de las plataformas son magníficos creadores de metáforas. Facebook, por ejemplo, hizo frente a las quejas de los usuarios que pedían una cierta moderación en sus contenidos creando una Junta de Supervisión que se encarga de analizar esas quejas. Pero ¿cómo se conoce popularmente a esa Junta? Como la “Corte Suprema” de Facebook. ¿Qué puede despertar más respeto que un Tribunal Supremo? La empresa está encantada. Pero Facebook, aunque lo parezca, no es un Estado.

Llevamos meses hablando de una prodigiosa, utilísima y revolucionaria inteligencia artificial (IA), máquinas con capacidad de aprender y de elaborar procesos inteligentes por sí mismas. Inteligencia artificial es también una metáfora maravillosa: no da a entender en ningún momento que esté exigiendo que cientos de miles de personas se dediquen horas y horas, en países pobres, al aburrido trabajo de poner las etiquetas que esas máquinas puedan reconocer. Porque, obviamente, la IA precisa que los miles de millones de datos, imágenes y vídeos con que se la alimenta tengan códigos que puedan relacionar.

Durante años hemos leído con alegría cómo algunos jóvenes emprendedores daban un pelotazo y vendían por cantidades supermillonarias sus innovadoras empresas a esas grandes corporaciones. Eran la metáfora perfecta del éxito. Pero esas brillantes adquisiciones lo que ocultaban era (y es) la voluntad de esas corporaciones de evitar la competencia y, en algunos casos, incluso, de taponar innovaciones que no convenían a sus propios proyectos. Recientemente se ha empezado a poner orden en tanto desorden. La Autoridad de Competencia y Mercados británica negó esta semana el permiso para que Microsoft compre otra empresa de videojuegos.

Francisco Balaguer, catedrático de Derecho Constitucional en la Universidad de Granada y uno de los mayores expertos españoles en el tema, en un reciente libro titulado La Constitución del algoritmo, advierte sobre la necesidad de actuar en el mundo digital para que sea compatible con nuestros derechos y sistemas constitucionales. Porque, de momento, no lo es. Los algoritmos, por ejemplo, plantean problemas constitucionales por el tema del sesgo, tanto en su utilización como en su propio diseño, que tiene plena incidencia sobre derechos fundamentales de los ciudadanos. El problema es más agudo aun cuando se plantea el uso de esos algoritmos en la Administración pública (algo que es obvio que facilita enormemente el trabajo y que parece acentuar la objetividad de las decisiones), pero que abre una interrogante sobre si son fuente de derecho y, en cualquier caso, exigiría decidir si materialmente realizan las mismas funciones que un reglamento y si deberían ser sometidos a similares garantías.

¿Qué se puede hacer desde la Constitución nacional para evitar lesiones masivas de derechos?, se pregunta el profesor Balaguer. Hasta ahora se ha hecho bien poco, entre otras cosas, por la naturaleza contractual de la relación entre la compañía que ofrece sus servicios y sus usuarios. De manera instrumental, la tendencia es a intervenir en esas cuestiones, no en defensa de derechos constitucionales, sino de los derechos del consumidor o de protección de datos. Ese es el camino que marca la novedosa e interesante normativa europea sobre el tema (Ley de Servicios Digitales y Ley de Mercados Digitales). “Pero sigue sin haber conciencia clara de la necesidad de proteger derechos fundamentales directamente, tal y como han sido configurados en la Constitución”.

Apúntate aquí a la newsletter semanal de Ideas.