La societat quantificada

Inundats per l'entusiasme generalitzat i sovint acrític per la tecnologia, no sempre és fàcil trobar espais de debat sobre com les noves tecnologies i les dades impacten en processos existents. En una rara excepció, el 2015 alguns dels fons filantròpics més importants del món, com la Ford Foundation, la Open Society Foundation i el Media Democracy Fund, es van aliar per finançar 12 projectes en 10 països per explorar les conseqüències de la societat quantificada i l'impacte dels algorismes en les societats obertes. Els informes finals, que aborden temes tan dispars com les ciutats i les targetes intel·ligents, el control de fronteres, la discriminació laboral i en la prestació de serveis, l'ús d'algorismes per assignar escola o l'ús de dades en la crisi de l'ebola, proporcionen una lectura fascinant i una privilegiada exploració crítica de l'impacte de les tecnologies.

En el cas de l'ebola a Guinea, Sierra Leone i Libèria, els autors revelen com malgrat l'estesa creença que la disponibilitat de dades en temps real (geolocalització de telèfons mòbils, sobretot) és determinant per millorar la gestió d'emergències i proporcionar més bon servei als afectats, la realitat ofereix un panorama més complex. L'estudi subratlla, per exemple, el risc d'oblidar les zones rurals menys connectades, o la dificultat d'incorporar volums massius de dades que poden ser de baixa qualitat en un context ja de per si mateix complicat, en el qual només la coordinació de serveis civils, militars i voluntaris, nacionals i internacionals, és un repte del qual sovint s'apoderen el caos i la improvisació.

A Polònia, la Fundació Panoptykon estudia el sistema de classificació de les persones aturades que des del 2014 utilitza tres grans categories per determinar a quins serveis i prestacions té accés cadascuna. El sistema, part d'un procés de modernització de l'Administració pública, cobreix 1,5 milions de persones, a qui s'assigna una puntuació que determina la seva ocupabilitat i accés a cobertures. L'informe assenyala la falta de transparència d'aquests processos, així com la incapacitat dels sistemes informàtics i els algorismes per processar experiències vitals complexes i prendre decisions que escapin als prejudicis dels dissenyadors del sistema. Al final, els objectius i la pràctica del sistema estan molt allunyats. Els drets de les persones a qui es pretén servir no només apareixen desdibuixats, sinó que es veuen sovint vulnerats de maneres només possibles per la intervenció dels algorismes.

En l'estudi sobre les ciutats intel·ligents, Privacy International explora les vulnerabilitats de les connexions wi-fi públiques, exposant la facilitat amb la qual poden ser intervingudes (hackejades) per qualsevol persona amb prou coneixements. Aquest risc s'estén dels telèfons mòbils i els ordinadors portàtils fins a qualsevol sensor (de temperatura, humitat, imatge, dades, etcètera) equipat amb ràdio wi-fi, revelant un escenari d'alt risc per a tota la informació que circula per les xarxes de la ciutat connectada.

En desvelar la falta de control de les dades, l'informe es pregunta per a qui, per què i qui beneficia la smart city que genera infraestructures que no sap protegir. En un dels estudis relacionats, rellevant per a una ciutat com Barcelona, que aviat adoptarà targetes intel·ligents (la T-mobilitat) en el transport públic, les autores estudien el cas de la Vos Card a l'Argentina, el volum de dades personals requerit per contractar-la, la seva capacitat per registrar totes les activitats (moviments, transaccions) fetes per la ciutadania i la indeterminació del contracte subscrit, que no limita en cap cas el traspàs a entitats privades de les dades recollides i el seu possible ús posterior per prendre decisions sobre persones específiques.

En exposar la intensitat amb la qual els ginys i les polítiques de la societat quantificada recullen i utilitzen dades per fer estudis, comercialitzar informació personal o prendre decisions sobre com o on intervenir, o a qui proporcionar serveis, els textos alerten sobre la falta de coneixement i control sobre els budells de la societat quantificada. Gràcies a aquesta petita iniciativa de diferents fundacions, sembla que la pilota comença a rodar, i apunta a l'oportunitat —i necessitat!— de superar la visió de la tecnologia com un emocionant símptoma del progrés per començar a incorporar en la nostra comprensió de la societat les formes en què la presa de decisions tecnològiques i la quantificació altera tot el que ens envolta.

Gemma Galdon Clavell és doctora en Polítiques Públiques.