Tecnología para tomar el control o ser controlados

En los últimos años, el recelo al potencial destructivo de la Inteligencia Artificial (IA) ha despertado de nuevo los temores sobre los posibles alcances apocalípticos de un mundo dominado por la tecnología. Desde las dimisiones de varios gurús tecnológicos por los temores de una IA descontrolada a las llamadas a una regulación desde las propias compañías líderes del sector, la IA ha activado todas las alarmas. Por supuesto, a estas posiciones les han seguido las habituales hordas de intelectuales tecnocachondos que creen a pies juntillas que la tecnología será el camino a la salvación (posiblemente de los propios problemas que esta genere), o de pensadores apocalípticos, en este caso liderados por Yuval Noah Harari, destacando la cercanía del fin del mundo.

Sin embargo, esta discusión oculta un debate mucho más amplio y que se deja escapar en el espectáculo mediático que generan productos como ChatGTP o Bard: qué tipo de tecnología queremos como sociedad y a qué intereses sirve.

El primer paso para generar una innovación social y tecnológica que ponga en el centro a las personas es identificar, y neutralizar, lo que el profesor Eduard Aibar denomina la “ideología de la innovación”. Una visión que restringe el proceso innovador a un determinado tipo de tecnologgías, comúnmente denominadas disruptivas, diseñadas para escalar de forma rápida y masiva, y que busca la generación de beneficios económicos a corto plazo. Esta visión nos aleja de todas aquellas innovaciones que buscan transformaciones sociales y que ponen el foco en la mejora de la calidad de vida de la gente y restringe, sobre todo, la capacidad de emprender innovaciones incrementales que puedan nacer de procesos más colectivos.

La tecnología no es aséptica ni neutral: distribuye costes y beneficios en función de su concepción, su diseño y su implementación

Para ello es necesario entender, en primer lugar, que la tecnología no es aséptica ni neutral: distribuye costes y beneficios en función de su concepción, su diseño y su implementación. Históricamente, ha demostrado ser un factor determinante para la generación de desigualdades. Desde la revolución agraria —a la que siguió un proceso de desposesión de la tierra y que acabó por apoyarse en la mano de obra esclava para “escalar” la producción—, pasando por las revoluciones industriales que generaron un entorno urbano de miseria para la mayoría de la población, hasta el ejemplo más cercano con la plataformización de la economía —un modelo que busca la eliminación de la competencia concentrando todas las transacciones de un mercado para imponer un monopolio que le permita ordeñar la vaca (nosotros) hasta que no quede ni gota—.

Históricamente, a estos procesos les han seguido periodos de contestación social que consiguieron redistribuir los beneficios generando un “progreso más inclusivo”. En palabras del economista Daron Acemoglu en su nuevo libro Power and Progress, “la mayor parte del planeta vive hoy mejor que nuestros ancestros, no por la tecnología, sino porque buenos ciudadanos y trabajadores se organizaron, desafiaron las opciones tomadas por las élites y les forzaron a compartir los beneficios de una manera más igual”.

Cada día se inventa un nuevo dispositivo para satisfacer el más peregrino de nuestros deseos y, en cambio, no somos capaces de buscar soluciones (tecnológicas o no) a los problemas más cruciales de la humanidad

En segundo lugar, debemos desmitificar la idea de que la tecnología es el motor único del progreso, si es que existe un concepto unificado de este. La tecnología y la sociedad se co-construyen (citando al propio profesor Aibar). Es el propio contexto social el que condiciona el tipo de tecnología que diseñamos e implementamos en función de múltiples factores como las relaciones de poder, las dinámicas de mercado y otros aspectos culturales.

Si no lo creéis, mirad a vuestro alrededor: vivimos en un mundo en el que nos hemos dejado de preguntar por qué cada día se inventa un nuevo dispositivo para satisfacer el más peregrino de nuestros deseos y, en cambio, no somos capaces de buscar soluciones (tecnológicas o no) a los problemas más cruciales de la humanidad. Nuestra sociedad de mercado ha generado las condiciones perfectas para que construir un dron capaz de asesinar a una persona a 10.000 kilómetros de distancia sea hoy una realidad y, por contra, buscar vacunas para enfermedades que matan a decenas de miles de personas sea una utopía.

Que la tecnología sea un reflejo de la sociedad tiene dos consecuencias obvias: la primera es que no contamos con la mejor tecnología posible, sino con aquella que ha surgido fruto de todos esos condicionantes sociales; y la segunda es que si esto es así, existe la posibilidad de que el conjunto de la sociedad actúe para determinar la tecnología que queremos y cree las condiciones para que suceda. Y esto nos impone una obligación moral: tenemos la obligación, como sociedad, de desarrollar tecnología que desafíe el statu quo, que altere los balances de poder y promueva la reducción de las asimetrías que las personas sufrimos por el mero hecho de haber nacido en uno u otro lugar, con unas u otras capacidades. Una tecnología, en definitiva, para fomentar la vida.

El problema radica en cómo llevar a cabo esta transformación. Aquí algunas recetas.

Lo primero es una firme apuesta institucional por fomentar una tecnología que genere impactos y dinámicas positivas en nuestra sociedad. En un momento en el que los fondos públicos han vuelto a tomar un valor central en el impulso de la economía, estos deben fomentar, apalancar y promover la generación de tecnología que resuelva los problemas a los que nos enfrentamos como sociedad. El retorno de las políticas industriales activas es una oportunidad para abrir brechas tecnológicas en sectores que, además de generar desarrollo económico, busque un impacto social. Industria verde, energías renovables o inversión en tecnología para la salud o los cuidados pueden ser algunos de los sectores que pueden coger tracción gracias a una participación activa del Estado.

La economía social debe dejar de ser el hermano pequeño acomplejado que solo se visualiza para tapar los parches del sistema

Lo segundo es promover una revolución del sector social que le permita tomar una posición central en el diseño de un modelo económico y tecnológico diferente. La economía social debe dejar de ser el hermano pequeño acomplejado que solo se visualiza para tapar los parches del sistema y tomar el liderazgo en el diseño e impulso de un sector tecnológico que desafíe las estructuras establecidas. Que ponga el foco en las personas y sea capaz de traer al centro de la discusión el para qué de la tecnología. Que participe activamente en la definición de cómo esta debe responder a los desafíos de nuestra sociedad y que visibilice cómo asigna costes y beneficios, cómo genera y distribuye el poder y cómo afecta a un modelo de justicia social que perseguimos como sociedad.

Y por último, debemos crear un marco regulatorio que impulse la imposición de obligaciones éticas en el desarrollo tecnológico. Parafraseando a Hans Küng en su famoso Manifiesto por una ética mundial, tenemos que “imponer una primacía de la política sobre la tecnología, y de la ética sobre la política”. Los avances no pueden ser únicamente guiados por criterios técnicos o de mercado, especialmente aquellos que suponen transformaciones profundas en cómo nos gestionamos y relacionamos como sociedad. Es necesario impulsar normas que responsabilicen a las empresas de las consecuencias éticas de sus desarrollos y que garanticen que los efectos de las tecnologías se enmarquen dentro de unos mínimos aceptados como sociedad.

En un momento en el que la ciudadanía demanda cada vez más la responsabilidad de internalizar y eliminar efectos indeseados de los mercados, la tecnología no puede convertirse en el Salvaje Oeste de la economía. ChatGTP y la IA son solo la punta del iceberg, el mundo tecnológico está lleno de productos y servicios cuyas implicaciones éticas son, en los mejores casos, dudosas, y en los peores, aberrantes. En nuestra mano está tomar el control o ser controlados.

Puedes seguir a Planeta Futuro en X, Facebook, Instagram y TikTok y suscribirte aquí a nuestra ‘newsletter’.