El algoritmo intolerante

Primero los datos nos quitan el escudo, después el algoritmo lanza su flecha. Y nos cazan. El último escándalo de Facebook vuelve a revelar la vulnerabilidad radical del usuario en las redes sociales. La empresa Cambridge Analytica se hizo a través de Facebook con datos personales de 50 millones de ciudadanos sin su consentimiento. Se trata de una empresa de marketing en redes que se anuncia como capaz de “cambiar el comportamiento de la audiencia mediante el uso de datos”. En efecto, los usó en la campaña de Trump.

Más información

Editorial | Desprotección de datos

Toda la información del caso Cambridge Analytica

Cuando hablamos de democracia, pensamos en votos e instituciones. Casi nunca nos planteamos su propósito básico: organizar la vida en común de gentes que piensan de forma diferente pero se gobiernan con idénticas leyes. La democracia es, antes que nada, ese debate de puntos de vista opuestos: el “gobierno por discusión”, por decirlo con John Stuart Mill. Cambiar “el comportamiento de la audiencia” significa cambiar las reglas de la razón pública y en última instancia de la democracia misma. El algoritmo constituye el secreto mejor guardado de compañías como Facebook y redirige a la gente hacia aquello que ya piensa y cree. Llamémosle el “algoritmo intolerante” para no perder de vista cómo está triturando los cerebros y disolviendo el tejido sutil de las sociedades democráticas.

El algoritmo estructura hoy la razón pública, lo cual obliga a pedir transparencia sobre su funcionamiento. También Rusia ha interferido en la opinión pública norteamericana a través de Facebook, aglutinando participantes y constituyendo comunidades virtuales, pero no sobre dietas milagro o arte sacro, sino en torno a la religión y la inmigración. En esas aguas, la humanidad se ha dado sus más triunfales baños de sangre: si se quiere articular una razón pública sectaria, no hay más que agitarlas, difundir en ellas contenidos falsos y dejar que el algoritmo haga su trabajo. Lo mismo cabe decir del caso de Cambridge Analytica: cruzó de forma subrepticia los datos privados de millones de personas para enviarles mensajes microdirigidos a su lado más vulnerable. La violación de la privacidad de los datos combinada con la intolerancia del algoritmo resulta explosiva. Juntos suprimen el sistema inmunitario de nuestro raciocinio para permitir la entrada de todo tipo de bacterias tóxicas, que nos van conduciendo hacia donde otros quieren. Cambridge Analytica es esa fabulosa maquinaria de propaganda y resultó decisiva en la victoria de Trump.

El algoritmo secreto tiene visos de inconstitucionalidad, pues interfiere en nuestro derecho a elegir libremente la información

El algoritmo predice nuestro comportamiento: adivina que queremos saber más de lo mismo, pues forma parte de la naturaleza humana el sentirnos cómodos con los afines. La disonancia cognitiva nos hace restar credibilidad a aquellas opiniones que contradicen las nuestras y conceder más peso a quien refuerza nuestras creencias. El algoritmo intolerante conoce esa vulnerabilidad y, por ello, pasa de predecir nuestro comportamiento a moldearlo. Sabe que en nuestro cerebro reptiliano habita un pequeño troglodita, y cada día lo encumbra. Los datos nos dividen en bandos; el algoritmo impide que ejercitemos el músculo de la tolerancia.

En el debate sobre la libertad de expresión de las últimas semanas estamos enfatizando las opiniones que se permite o no expresar. Pero en nuestro mundo —marcado por la avalancha de información y la atención empobrecida— a quienes quieren nuestro voto les basta con escrutarnos en las redes, agitar el debate sectario y reforzar nuestra intolerancia. La discusión urgente no es sobre qué se emite, sino sobre qué informaciones y opiniones nos alcanzan, quién las filtra y cómo lo decide: cómo se programa ese algoritmo.

Cuando los redactores de la Constitución Española establecieron en su artículo 20 nuestro derecho a “comunicar o recibir libremente información”, eran plenamente conscientes de la necesidad de garantizar la información que nos llega, pues ella conforma nuestro juicio y nuestras decisiones como ciudadanos. El algoritmo secreto tiene visos de inconstitucionalidad, pues interfiere en nuestro derecho a elegir libremente la información. Lo hace sin que sepamos cómo ni podamos participar en el proceso, pese a que ha modificado radicalmente el debate público. Ya no elegimos la información; ella nos elige a nosotros. Esa es la pérdida de libertad esencial de la que deberíamos estar discutiendo.

Irene Lozano es escritora y directora de The Thinking Campus.