Atentos a los dos rostros de la IA

Los filósofos son iguales que niños que buscaran en las estrellas preguntas y respuestas. Solo que son complejas. El último libro de Adela Cortina, filósofa y catedrática emérita de Ética y Filosofía Politécnica de la Universitat de València se titula ¿Ética o ideología de la inteligencia artificial? (Ediciones Paidós, 2025). Un espejo que refleja dos imágenes: aquellos que temen sus amenazas y quienes están entusiasmados. En términos de otro pensador, el italiano Uberto Eco (1932-2016): Apocalípticos e integrados (1964). Pero la inteligencia artificial (IA) es tan fascinante porque revela la complejidad del mundo y el valor del ser humano. A este espacio tan tecnológico le ha faltado “reflexión”. Esa es la palabra a la que recurre el también filósofo, Daniel Innerarity, catedrático de Filosofía Política de la Universidad del País Vasco e investigador en Ikerbasque, director del Instituto de Gobernanza Democrática y profesor en el Instituto Europeo de Florencia. Conocido especialmente por Una teoría crítica de la inteligencia artificial (Galaxia Gutenberg, 2025), formó parte del elenco de Retina Tech4Good, evento organizado por la cabecera de PRISA, con Santander como impulsor, Google como socio anual y el patrocinio de Iberia, Indra, Ineco y Quibim.

Cuestión de criterio

Ambos pensadores estrenan libro al mismo tiempo y casi con la misma temática. Entre medias, Ortega y Gasset (1883-1955) decía que “el tigre no puede destigrarse pero el hombre sí puede deshumanizarse”. En esta narrativa ha habido tantas capas de tecnología que han faltado pensadores y el tercer sector. Quizá sea una tecnología maravillosa, que resuelva bastantes problemas, pero es solo uno de muchos relatos. Adela Cortina recuerda el terrorífico cuento de Frankenstein (1818) de Mary Shelley. “Frankenstein no es el monstruo, sino el doctor que lo ha creado porque está solo y tiene un ansia de felicidad que resulta incapaz de calmar”. Desde la soledad no se puede ser feliz, añade. “Si nosotros no decidimos por nuestra cuenta, alguien lo hará, pero generalmente contra el hombre”. Algo intuyó —en esa sentencia— Ortega y Gasset. Una forma de hacerlo es dejar (buenos) propósitos en las líneas de códigos de los algoritmos.

Esta es la manera de abrir la dimensión filosófica de la IA y las tecnologías de vanguardia. Cortina —al modo de las divisiones kantianas— ha establecido tres inteligencias. Empieza con las inteligencias superiores; van más allá de la capacidad de los humanos. Aseguran que están al caer. Prometen inmortalidad, el fin de la vejez. “¿Se imaginan toda la existencia con Trump y Xi Jinping? ¡Qué horror! Invertirán todo lo que tienen. Pero ni está ni se la espera”, prevé la catedrática. “Transitamos hacia la “inteligencia general”. Es lo mejor que tenemos: querer, amar”, desgrana. “Es sentido común”. Y por último, la inteligencia especial, que es la que tenemos ahora y que hay que cuidar.

Y como si fuera una niña en busca de la respuesta entre IA y ética, parece abstraerse por un momento en las nubes de su infancia. Las palabras y su orden cuentan. Al igual “que hay que distinguir qué es una ética de los sistemas inteligentes y la ética de las personas para tratar a los sistemas inteligentes”. Es distinto. Igual que la ética nos pertenece. Es la excursión a un tesoro.

Los seres humanos hoy por hoy somos quienes podemos elegir opciones; la IA, los algoritmos, ofrecen respuestas. “Las personas tenemos que evitar que la IA adopte decisiones porque no entiende nada”, alerta la pensadora. Hace falta contexto, tener sensibilidad. No se les puede echar la culpa, pero tampoco premiar ni entusiasmarse: “Ahora nos lo resolverá el algoritmo”, sentencia.

Esto no es una guerra del hombre contra la máquina. Es acordar un equilibrio. “Los humanos y las máquinas piensan de manera muy diferente. Por ejemplo, la máquina da patrones que apoyan el diagnóstico del médico. ¡Qué maravilla! Pero fuera de esa idea del enfrentamiento, la realidad no funciona así porque el tipo de inteligencia de las máquinas resulta muy distinto al humano”, relata Innerarity. Sus categorías kantianas tienen mucho que ver con la dificultad. Si tenemos un problema —avanza— ya sea en la Administración Pública, con muchos datos y una solución binaria, lo lógico es dejarlo a la máquina. Sin embargo, si se trata de un problema con pocos datos, opciones múltiples y ambigüedad en la situación, y además con incertidumbre, “esa parte nos la tenemos que quedar”, asume.

El hombre a veces se hace preguntas complejas y la respuesta es tan antigua como Aristóteles. El bien común y la justicia habitan en la polis. El ser humano debe buscar con la política el bienestar de todos y establecer unos mínimos. “La IA puede ayudar muchísimo a que consigamos el bien comunitario, hay mucha gente que está trabajando en el tema, me parece muy importante”, sostiene la Cortina. “Tenemos que conseguir una humanidad justa y por ahí nos puede impulsar la IA; crear medidas y propuestas, ese es el camino”.

Justo en este momento en el que el diccionario y su uso se ha visto parasitado por otra de esas horribles palabras que engendra este mundo, tecnoaceleracionismo, Innerarity recupera el concepto “reflexión”. Hacía falta en este Indianápolis tecnológico “que nos lleva a cometer bastantes estupideces y a enriquecer a Silicon Valley”, lamenta el investigador. Porque “reflexionar no es una pérdida de tiempo, nos ahorra fallos y nos permite hacer bien las cosas”, razona.

Innerarity, inteligente y provocador como es, propone una cuestión que ya planteó a la directora precedente: “¿Quieres saber quién es el periodista más vago de EL PAÍS? Parece trivial pero tiene su peso la pregunta”, advierte. “Aquel que se agita más”, señala. Quien es lento y reposado tiene más opciones de hacer bien el trabajo. La filosofía se lleva mejor con la lentitud que el periodismo. Pero es cierto que todavía no hemos encontrado el equilibrio entre el control humano y los beneficios de la automatización. La redacción levanta la vista, mira el reloj y quizá alguien pueda apuntarse a la lentitud. “Pero lo que nos distingue como humanos no es el éxito de lo que hacemos sino el empeño dedicado”, se lee en Una teoría crítica de la inteligencia artificial.

Poder y principios

Y más allá de dejar a algún compañero sin trabajo, Innerarity plantea esas preguntas de niño pequeño escudriñando el cosmos. La democracia es libre decisión, voluntad popular, autogobierno. ¿Hasta qué punto es esto posible y tiene sentido en los entornos —regresa otro término— hiperautomatizados que anuncia la inteligencia artificial? La introducción de sistemas de algoritmos va en contra de esa definición. Europa —recuerda Adela Cortina— está construida bajo el principio de precaución cuando llegan novedades. Aunque hay gente que piensa que es mejor pedir perdón que permiso. Sin embargo, la UE necesita ciertas cotas de poder para evitar que Estados Unidos o China piensen en una especie de colonia tecnológica. “Hay que compaginar esa dosis de poder con la ética”, sentencia la filósofa. Quizá haya que regular más rápido. Pero sin rendir la soberanía. Mantener la D de los Derechos. Legado de miles de años de cultura en el Mare Nostrum.

De momento en la ONCE, subraya Virginia Carcedo, secretaria general y directora de Excelencia, Transformación e Igualdad de la Fundación ONCE, la IA servirá para eliminar trabajos repetitivos que aportan poco. Se adentra “en la era de la experiencia”. También ayuda en la selección de personal y la asignación de puestos.

Aunque el modelo que las élites digitales sueñan es una sociedad en la que cualquier desafío puede solucionarse con mayor digitalización. Las matemáticas se han convertido en la principal vacuna del planeta. Y la preocupación se ha escondido bajo algoritmos verdes, democráticos, sostenibles. El desafío es integrarlos en el mundo humano y natural. Hace falta tiempo, calma, debate democrático e inteligencia colectiva. Innerarity lo desgrana con la lentitud de una caravana de bueyes que pasa sobre un campo de nieve.

Clima extremo frente al tiempo social

El Centro de Investigación Ecológica y Aplicaciones Forestales (CREAF), propuesto en la Universidad Autónoma de Barcelona (UAB), atañe a quienes escriben. “El propósito es conectar a las científicas con los periodistas. Porque muchas veces la sociedad desconoce logros que están consiguiendo”, observa Andrea Arnal, coordinadora de Esfera Climática en CREAF. “El problema con los casos de clima extremo es que llegan datos antiguos en vez de predictivos”, avisa. Esfera Climática se ocupa de temas tan sensibles como la escasez hídrica (los pantanos españoles están al 52%). “Hay una falta brutal de datos, te cuesta mucho encontrarlos”. Ahí está el mega Centro de Datos de Talavera de la Reina, de Meta. ¿A quién han preguntado? “Es una imparable e inmensa ‘nube’ de agua e información”, zanja Arnal.

EIRA da réplica como un tenor a un instrumento de cuerda. Miguel Alexandre Barreiro-Laredo es CEO y fundador de esta tech, cuyo laboratorio de impacto desarrolla un nuevo concepto de urbanismo: aprovechar las cubiertas, los espacios yermos, los nuevos materiales. Construir de forma sostenible. Ha trabajado en el Instituto Tecnológico de Massachusetts (MIT) y en Naciones Unidas. Y por su experiencia sabe “que la IA deben ser ética; algoritmos que representen el bien común; transparencia y trazabilidad”. Otro camino es un precipicio.

Las técnicas de vanguardia mejorarían los cribados

Cómo dolerá esta frase en miles de mujeres que están sufriendo la horrible gestión de los cribados en Andalucía. “Si hubiéramos aplicado inteligencia artificial [IA], los resultados habrían sido otros”. Ángel Alberich-Bayarri es consejero delegado y fundador de Quibim, una biotecnológica española que se dedica a “producir algoritmos e IA destinados al mundo médico“. Es medicina de precisión y ayuda; por ejemplo, al radiólogo a leer y comprender una radiografía o un TAC. “No lo sustituye,” aclara Alberich-Bayarri, “es una herramienta más”. Eso sí, con unas tasas de acierto elevadísimas, por ejemplo en detección temprana de cáncer. Estas imágenes avanzan diagnósticos y pronostican la toma de decisiones. Un ejemplo que está en cualquier libro de quienes aprobaron el MIR (Médico Interno Residente). Un cáncer de páncreas en estadio 1 se opera; si se detecta en estadio 3 o 4 la mortalidad es muy alta. Aquí entran los algoritmos, aunque la decisión final corresponde a la persona. También marca sin escalpelo la línea de corte. La IA aplicada a la oncología permite seleccionar los mejores candidatos a la inmunoterapia, una opción que, desgraciadamente, no representa una solución para todos los enfermos. La IA escoge las posibilidades más viables.

Alberich-Bayarri habla despacio, al igual que un médico con tiempo en una consulta; están trabajando mucho en cáncer de próstata y pulmón. Por contraste, la velocidad del diagnóstico resulta importante. Junto a él, atenta, Raquel Yotti, comisionada del Perte para la Salud de Vanguardia. Recuerda que maneja un presupuesto público de 2.358 millones de euros. El objetivo es mejorar el Sistema Nacional de Salud. Tres vías. Medicina personalizada, desarrollo de terapias avanzadas y un sistema de datos innovador. “Pero los ciudadanos son quienes toman sus propias decisiones y estos instrumentos de vanguardia deben estar democratizados”, explica. Nadie quiere que la tecnología sea un nuevo escalpelo entre ricos y prec