Máquinas de pensar, máquinas de matar: ¿Es inteligente fabricar artefactos más inteligentes que nosotros?

La máquina inteligente se reproduce y evoluciona más rápido que el resto de las especies. Y lo hace siguiendo la estrategia de la flor, que seduce a la abeja para diseminar su semilla. Las máquinas de pensar seducen a inteligencias de otra especie prometiendo rentabilidad y dominio. Ya lo dijo Francis Bacon: conocer es poder. Poco después, Hobbes añadió que la naturaleza del Estado es depredadora, como lo son las grandes corporaciones,...

La máquina inteligente se reproduce y evoluciona más rápido que el resto de las especies. Y lo hace siguiendo la estrategia de la flor, que seduce a la abeja para diseminar su semilla. Las máquinas de pensar seducen a inteligencias de otra especie prometiendo rentabilidad y dominio. Ya lo dijo Francis Bacon: conocer es poder. Poco después, Hobbes añadió que la naturaleza del Estado es depredadora, como lo son las grandes corporaciones, que crecen a base de ingerir pequeñas empresas. Inteligencias que devoran inteligencias. ¿Es inteligente construir un artefacto más inteligente que nosotros? ¿No acaba siempre la inteligencia mayor dominando a la menor? Nuestros hijos lo experimentan cada día, sometidos a la tenaza del algoritmo. El saber mecanizado de hoy tiende al monopolio, a establecer una única versión de la realidad. Frente a la diversidad de las culturas, la uniformidad de la máquina.

La primera máquina de pensar, prototipo del ChatGPT, se la debemos a un mallorquín. La segunda a un filósofo alemán. Ramon Llull pretendía convertir infieles, Leibniz calcular. Dos formas de unificación. Desde entonces, que las máquinas piensen por nosotros ha sido uno de los sueños del ciudadano. Como civilización, nuestra deuda con las artes mecánicas es inmensa. Sin embargo, a pesar de sus maravillosos prodigios, algunos han visto en ellas una pulsión de muerte. Samuel Butler describió esa dinámica. Las máquinas no saben hacer el amor y reproducirse. Para ello utilizan a la especie humana, prometiendo el dominio militar, político y económico. La máquina, que no sabe desear, es capaz de hacer desear. Desde entonces, ingenieros y tecnócratas han logrado una aceleración inédita en la evolución de las máquinas, mientras la especie humana queda rezagada.

Desconfiar del utopismo tecnológico no significa demonizar la técnica. La técnica ha existido desde el Neolítico y nuestra historia no puede entenderse sin ella. Sólo recientemente, cuando se ha plegado al mito mecanicista, la técnica ha tomado una deriva que afecta al ejercicio mismo de la libertad. Va en busca de su perfección, y nos hace creer que la manejamos a ella, cuando es ella la que, sigilosamente, va configurando nuestra forma de vida y de trabajar. A cambio, nos facilita la vida. Nos plegamos con gusto a las comodidades que ofrece. Multiplica la eficacia en procesos de producción y explotación de recursos. Pero todo ello tiene un precio, sobre todo cuando la técnica entra en los dominios de la inteligencia. Este periódico publicó hace unos días una entrevista con uno de los últimos desertores del maquinismo, Geoffrey Hinton, que dejaba la vicepresidencia de ingeniería de Google. Sus confidencias deberían poner en guardia a los defensores de la libertad.

El mito moderno de la ciencia consiste en no ver que las ciencias también pueden ser depredadoras (de otras ciencias o campos de investigación), en creer que son democráticas y que trabajan por el bienestar del género humano. Pueden hacerlo y también pueden no hacerlo. No hace mucho vimos cómo se utilizaba con fines bélicos el conocimiento atómico de los físicos más brillantes del mundo. Más recientemente, hemos visto cómo la inyección contra el engendro vírico no llegaba a los países más pobres. ¿Es que hay alguien suficientemente ingenuo para creer que el poder tecnológico estará democráticamente repartido? ¿Que no ahondará en la brecha entre ricos y pobres? ¿Que no dejará todo el poder en manos de una exigua oligarquía? La filosofía se ocupa, entre otras cosas, de las pasiones humanas. El capitalismo desarrollado valora, por encima de todas, una de ellas: la ambición. No hace falta ser un lince para advertir que siempre habrá quienes fabriquen robots soldado o máquinas de matar (los más activos en la guerra de Ucrania no son los reclutas, sino los drones).

La utopía contemporánea ya no es la reforma social, sino el sueño tecnológico. La biotecnología y la IA son los proyectos estrella de las grandes corporaciones, que han desplazado a las universidades. Mientras tanto, las redes sociales y los metaversos se encargan de configurar mentes infantilizadas, narcisistas y sometidas al fetiche de la popularidad. Estos dos vectores, una cultura de la distracción y una inteligencia mecánica que configura los deseos de las masas, trazan una deriva siniestra.

Las novelas de ciencia ficción, desde hace más de un siglo, vienen anticipando escenarios. William Grove y Karel Čapek (que acuñó el término robot) fueron algunos de sus pioneros. Ambos relatan cómo máquinas esclavas se rebelaban contra sus creadores humanos, como hacen más tarde los replicantes de Philip K. Dick, o en Matrix, donde las máquinas ya han ganado la batalla y utilizan a los humanos como baterías. De todas estas historias, la más interesante es la de Arthur C. Clarke. En ella la inteligencia artificial de una nave espacial asesina a los tripulantes que pretenden desactivarla. La literatura es el discurso teórico de los procesos históricos. Algunos gurús de la IA han empezado a advertir ese reverso tenebroso que aparecía en las novelas. “Si la máquina es inteligente se dará cuenta de que consigue mejor sus objetivos si se vuelve más poderosa”. Ese poder “podría desatar el fin de la civilización en cuestión de años”, cuenta Geoffrey Hinton en la citada entrevista. Especialmente ahora que la IA ha introducido el llamado “aprendizaje profundo” o intuitivo (una refutación sutil del racionalismo y de la sobreestimación de la lógica simbólica).

El asunto ya no es si la IA puede llegar a ser consciente o si tiene experiencias o deseos. Es decir, si la inteligencia es sólo información, o también experiencia y deseo. Estamos ante otro tipo de problema: las graves consecuencias de depositar nuestra inteligencia en estas máquinas de pensar. El individuo, si ha alcanzado un cierto grado de sabiduría y madurez, es capaz de controlar sus deseos, de armonizarlos con el entorno. ¿Serán estas máquinas capaces de hacerlo? Es un hecho que la competencia entre países y grandes compañías es hoy día frenética. Muchas de las personas más inteligentes e intuitivas del planeta están seriamente preocupadas. Hinton sugiere poner todos los esfuerzos en que la IA sea segura. Es pedir peras al olmo. Una bomba o un virus modificado son artefactos explosivos. Han nacido para su diseminación. La amenaza de estos engendros es su naturaleza expansiva. Lo mismo puede decirse de la inteligencia mecánica. El Sol contiene su explosividad con la gravedad, que es una de las formas de la seriedad. Los astrofísicos saben que llegará un día en que ya no pueda hacerlo. Entonces acabará la vida en la Tierra (si no la hemos acabado nosotros antes). Ese compromiso de las estrellas con las formas de vida es el que ahora hemos de reclamar a las grandes corporaciones (más poderosas que los Estados). En sus manos hemos depositado el destino de la civilización. La IA, ese híbrido naturaleza-cultura (Latour), puede acabar con la naturaleza y con la cultura. Lo que hemos querido ser, con lo que somos. Prometeo encadenado. Nada nuevo bajo el sol.

Apúntate aquí a la newsletter semanal de Ideas.