Las máquinas, las instituciones y la democracia

El mundo contemporáneo, su complejidad y desarrollo nos obligan cada vez más a confiar —en máquinas, algoritmos, expertos, instituciones, élites, intermediarios, representantes…— y con frecuencia esa confianza es decepcionada y se rompe hasta el punto de desatar el movimiento contrario, una genérica voluntad de desintermediación: el deseo de recuperar el control, verificar por nosotros mismos la información, estar correctamente representados, exigir que haya siempre un humano en los procesos automáticos de decisión, recuperar la autodeterminación o administrar con mayor celo la delegación.
...

El mundo contemporáneo, su complejidad y desarrollo nos obligan cada vez más a confiar —en máquinas, algoritmos, expertos, instituciones, élites, intermediarios, representantes…— y con frecuencia esa confianza es decepcionada y se rompe hasta el punto de desatar el movimiento contrario, una genérica voluntad de desintermediación: el deseo de recuperar el control, verificar por nosotros mismos la información, estar correctamente representados, exigir que haya siempre un humano en los procesos automáticos de decisión, recuperar la autodeterminación o administrar con mayor celo la delegación.

Las máquinas y las instituciones tienen mucho en común e igualmente el modo como nos relacionamos con ellas. Podemos establecer un paralelismo entre nuestra actitud hacia la tecnología y la crisis de representación política, entre la sospecha popular frente a la creciente sofisticación tecnológica y el deseo populista de recuperar el control político supuestamente perdido en la cadena de la delegación. Es muy razonable aspirar a que ni la técnica ni los políticos escapen de nuestro control, pero hay que ver cómo lo hacemos para que ni la técnica ni los políticos controlados de cualquier manera anulen la prestación que esperamos de ellos.

La delegación del control

La tecnología y las instituciones nos ayudan a lidiar con la complejidad. En los dos ámbitos realizamos una gran cantidad de delegaciones que implican una renuncia a controlar o, al menos, una limitación de nuestro control. El mejor funcionamiento y la seguridad de ciertas máquinas con un determinado nivel de complejidad sería imposible si los humanos nos empeñáramos en incrementar nuestro control sobre ellas, si no estuviéramos dispuestos a renunciar a una parte de nuestra soberanía tecnológica. De ahí que cedamos control a los coches, a los aviones, a los sistemas de calefacción y refrigeración, a los drones, a las contraseñas y, en el plano social y político, a los profesionales, expertos, representantes o instituciones de diverso tipo.

Los usuarios y los ciudadanos somos los soberanos en última instancia, pero no necesariamente en todo momento, porque hay ocasiones en las que preferimos limitar esa soberanía, compartirla e incluso renunciar a ella. Podemos examinar esta paradoja de un soberano que autolimita su poder por analogía con aquellos sistemas que son inteligentes porque son capaces de oponerse a la voluntad expresa de quienes los dirigen. La sofisticación de muchos dispositivos incluye procedimientos que impiden hacer lo que quiera a quien está al mando (de un artefacto o de un gobierno), desde los sistemas de frenado automático en nuestros vehículos hasta los límites constitucionales para el sistema político. ¿No será que nuestras mejores tecnologías exigen que renunciemos a una parte al menos de nuestro control sobre ellas? ¿Y si la democracia fuera un sistema cuya inteligencia consiste en que es capaz de combinar institucionalmente la delegación del poder con el control sobre él o, por agudizar aún más la paradoja, la soberanía popular con la sospecha hacia esa misma soberanía?

¿Y si la democracia fuera un sistema cuya inteligencia consiste en que es capaz de combinar institucionalmente la delegación del poder con el control sobre él?

Lo diré de una manera un tanto provocativa: la paradoja de todo sistema inteligente es que no nos permite hacer lo que queremos. Veamos algunos ejemplos; uno del derecho constitucional, otro de los sistemas de conducción automatizada y otro de los productos financieros. A lo que más se parece una Constitución es a un conjunto de prohibiciones y limitaciones; dificulta incluso su propia modificación, a la que pone condiciones de procedimiento y mayorías cualificadas para asegurarse así de que esos cambios no son una ocurrencia ocasional ni el resultado de una mayoría exigua. El sistema de freno ABS, por ejemplo, sirve para impedir que, en un momento de pánico, frenemos tanto como quisiéramos, lo que pondría en peligro nuestra estabilidad y terminaría haciéndonos más daño, que es lo que en última instancia quisiéramos evitar. Formulado de otra manera: la industria del automóvil dejó de confiar en los conductores mucho antes de que los conductores dejaran de confiar en la industria del automóvil; es más, la evolución de esta industria pone de manifiesto que los conductores confiamos menos en nosotros que en los coches. Uno puede comprar libremente los productos financieros que quiera (y que pueda, claro), pero la experiencia de la crisis económica anterior nos ha llevado a endurecer las condiciones obligando a la instituciones crediticias a asegurarse de que quien los compra tenga la solvencia y el conocimiento necesario para adquirir un producto que no está exento de riesgos. En todos estos casos se distingue nuestra voluntad de control ahora frente a nuestro deseo de control general. La voluntad popular no debe confundirse con la encuesta del día; mi deseo de controlar no es tanto frenar a toda costa como evitar un accidente; mi libertad de comprar puede atender también a los riesgos de comprar cualquier cosa. De alguna manera, la inteligencia sistémica ha configurado una serie de protocolos para que las personas no puedan hacer lo que quieran cuando están por medio artefactos especialmente peligrosos, sea un vehículo, un producto financiero… o un gobierno.

El control de la delegación

Los humanos no nos resignamos dócilmente a aceptar que las cosas puedan escapar de nuestro control, sea la tecnología o los procesos políticos. Tratamos de aumentar el control con medidas suplementarias de seguridad, exigiendo que haya más humanos en el loop (proceso), con mayor producción legislativa o minimizando la delegación que concedemos a nuestros representantes a los que queremos controlar lo más estrechamente que sea posible.

La expresión take back control (recupera el control) fue el lema de los partidarios del Brexit, pero, además de un eslogan de propaganda política, corresponde a un movimiento general de resistencia contra la pérdida de control, real o aparente, que experimentamos frente a la tecnología sofisticada y ante la política en un entorno de creciente complejidad. El mantra de “empoderar”, por ejemplo, corresponde al supuesto de que uno se hace más fuerte cuanto menos delega, que el pueblo es más soberano cuanto más inmediata es su voluntad, que la representación desfigura al representado, que la vigilancia sobre los políticos aumenta su rendimiento, que el incremento de la participación mejora necesariamente la política, que un referéndum es siempre mejor que la deliberación… Flota en el ambiente una excesiva confianza en el poder constituyente y una excesiva sospecha hacia el poder constituido.

La idea de que no siempre “más” equivale a “mejor” —como ha experimentado cualquiera en el ámbito de la información o de los datos, cuya proliferación también puede despistar— resulta especialmente válida cuando hablamos de control: también aquí tener algo bajo control puede suponer una anulación de sus posibles prestaciones. Y, en sentido contrario, no siempre la delegación es una renuncia a ejercer la libre decisión o las propias responsabilidades, del mismo modo que confiar no equivale a creerse o aceptar cualquier cosa. No necesariamente la mejor política y las decisiones más democráticas son las adoptadas con mayor participación, con representantes más monitorizados y en la proximidad. Para muchas decisiones puede requerirse competencia técnica, delegación, discreción, confianza y distancia. Esta experiencia nos debería llevar a subrayar la importancia de los procedimientos y las instituciones que moderan el control sobre el proceso político, tanto el que ejercen los representantes como los representados, el del pueblo soberano.

El populismo reivindica una especie de control directo sobre la realidad entendido como la recuperación de algo que una vez tuvimos —antes de la delegación—, pero que de hecho no hemos tenido nunca. Desde esta perspectiva, el populismo podría definirse como una sobrevaloración del control directo y una infravaloración del control indirecto. Su consecuencia es que desincentiva la exploración de formas aceptables de transacción y equilibrio entre control y delegación, supervisión y confianza, en las que discurre nuestra relación con la tecnología y nuestra convivencia democrática.

La delegación como control

Del mismo modo que en muchos entornos tecnológicos ceder poder a las máquinas nos permite gobernar mejor la situación general (más eficacia, prestaciones o seguridad), establecer procedimientos de delegación puede entenderse como una mejora de nuestro autogobierno. Evidentemente, esto no se consigue con cualquier cesión o delegación, sino con aquella que está diseñada de tal manera que el control inmediato al que se renuncia es recuperado de alguna manera como supervisión general. La delegación, tecnológica o política, consiste en renunciar al control directo para ganar en control general. Esta es la gran discusión en la que estamos metidos acerca del humanismo tecnológico o lo que llamo democracia compleja, cuya solución no puede consistir ni en la tecnología descontrolada ni en la política tecnocrática sin soberanía popular, pero tampoco en empeñarse en mantener el concepto de control propio del populismo tecnológico y político.

Esta idea de una delegación como control general o supervisión parece abrirse paso en distintos ámbitos donde el control inmediato resulta imposible o desaconsejable. Podríamos mencionar el hecho de que, con relación a la inteligencia artificial, entre los legisladores se ha ido produciendo un paulatino desplazamiento desde el término control al de confianza; parecen haber entendido que la presencia humana que desean en las máquinas, salvo que queramos arruinar su eficacia, no puede ser pensada en términos de sumisión, sino de fiabilidad. Algunas formas de diseño institucional recorren un camino similar. Del mismo modo que la soberanía formal no significa necesariamente soberanía efectiva, puede haber formas de control que impidan el control real y cabe pensar en autolimitaciones de la pulsión de controlar que generen un mejor rendimiento de los sistemas controlados y una mayor supervisión general sobre ellos.

La delegación de tareas y responsabilidades es un principio básico de las organizaciones cuando quieren abordar tareas de cierta envergadura y en ellas el control jerárquico tiene que ir siendo sustituido por una confianza horizontal. Cuanto más inteligente es un sistema, una tecnología, una persona, una institución, menos tolera el control directo, más margen de delegación necesita para cumplir satisfactoriamente las funciones que esperamos de él; su sometimiento a un control estricto arruinaría su performatividad.

Cuanto más inteligente es un sistema, una tecnología, una persona, una institución, menos tolera el control directo

Defender el valor político de la delegación no significa estar a favor de la política autoritaria o de la tecnocracia, ni de que decidan los algoritmos, sino llamar la atención sobre la necesidad de que quien constituye la fuente última de autoridad en una democracia —el pueblo soberano— controle también su voluntad de control sobre el proceso político. Una voluntad de control inmoderada puede ser tan disfuncional como la pérdida de control. Lo que debería interesarnos es que el proceso político resulte comprensible a todos y que haya una rendición de cuentas, no que el pueblo esté siempre presente en cada decisión política o contemple en directo todos los actos de ese proceso.

Ese control que es fundamental para que la tecnología no nos deshumanice o la política no carezca de legitimidad popular no tiene por qué ser directo, continuo e inmediato. Puede haber control tecnológico y social sin que eso signifique una presencia permanente del controlador. El sistema controlado —el dispositivo tecnológico o los representantes políticos— no es una instancia de mera ejecución de las instrucciones de los controladores. En el diseño equilibrado de todo esto nos jugamos que la tecnología esté centrada en el humano y la política siga siendo democrática. Se trata de pensar de qué modo la delegación puede ser una forma sofisticada de control, frente a la delegación del control y al control de la delegación.

Daniel Innerarity es catedrático de Filosofía Política e investigador Ikerbasque en la Universidad del País Vasco.