Ética digital

Hace unas semanas, Miguel Ángel Criado publicó un artículo en este mismo diario bajo el inquietante título ¿A quién mataría un coche autónomo? En él comentaba los resultados de una investigación publicada en la revista Nature,que recogía las opiniones de dos millones de personas, enfrentadas a diversos dilemas relacionados con lo que se ha dado en llamar “coches autónomos”. Si un coche no tuviera más remedio que matar a algún ser vivo, ¿a cuál debería sacrificar: animal o ser humano, ocupantes del vehículo o viandantes, persona joven o anciana?

Es este un tipo de dilema que, aunque en un contexto distinto, planteó ya Philippa Foot en 1967 y que se ha reproducido en múltiples versiones, haciendo las delicias, por ejemplo, de un buen número de neurocientíficos. Diana viaja en un tranvía que circula sin control y que se dirige hacia cinco excursionistas que caminan por la vía, a los que va a atropellar sin remedio. Diana puede desviar el tranvía accionando una palanca, pero entonces atropellará a un operario, que está trabajando en una vía lateral. ¿Qué debe hacer? La respuesta no es sencilla, porque cabe pensar que cinco vidas valen más que una, pero también que Diana debe dejar el trolley en manos de la suerte, porque toda vida es sagrada y ella no tiene por qué responsabilizarse de una muerte; o también que el pobre operario está en su trabajo, mientras que los excursionistas podían llevar más cuidado. En cualquier caso, la pregunta urgente ante los dos dilemas es sin duda: ¿hay alguna diferencia entre el coche autónomo y Diana? La hay, y es prácticamente infinita.

Diana es un ser humano, y, por lo tanto, tiene una inteligencia general, ligada a un cuerpo, que le lleva a vivir en conexión con un entorno natural y social, es sensible a valores y necesidades humanas, ha acumulado experiencias a lo largo de su vida. Tiene eso que en ocasiones mencionamos con desprecio y, sin embargo, es una auténtica joya: tiene sentido común.

El vehículo, por el contrario, está ya programado para tomar decisiones, que seguirán una pauta similar en otras ocasiones, y, sobre todo, su inteligencia es particular, y no general, como la humana. Asombrosamente, un sistema inteligente puede ganar a Kaspárov jugando al ajedrez y, sin embargo, no tiene un cuerpo que le permita sintonizar con el entorno, es ajeno a necesidades y valores humanos, carece de una inteligencia general, no tiene sentido común. Por eso, y a pesar de que haya hecho fortuna la expresión “vehículo autónomo”, no lo es. Es autómata, y no autónomo; otros le han inscrito las pautas a seguir. Y esta distinción es de la mayor trascendencia.

Dado que el coche es un autómata, no es responsable de las actuaciones, y por eso es esencial construirlo con sesgos que respeten los códigos éticos valiosos. ¿Cuáles son esos códigos?

Un vehículo es ‘autómata’, y no ‘autónomo’, porque otros le han inscrito las pautas a seguir

Ciertamente, el experimento de Nature se proponía averiguar las preferencias de las personas en distintas culturas, pero no para programar los coches automáticos atendiendo a las preferencias de la mayoría, porque de la constatación de lo que el mayor número valora no se sigue que eso sea lo éticamente correcto. Como Criado recuerda, la encuesta trataba de averiguar qué acogida iban a tener entre el público las normas que pudieran proponerse, y, obviamente, las sensibilidades culturales eran bien diversas. La pregunta es entonces “qué hacer”, qué ética puede pensarse para un mundo digital, como el nuestro, que es multicultural.

Decía Karl-Otto Apel hace ya más de medio siglo que las consecuencias de la ciencia y de la técnica habían alcanzado un nivel planetario y que, por lo tanto, asumirlas con bien reclamaba una ética universal; no en los contenidos de lo que debe ser una vida feliz, pero sí en exigencias de justicia que deberían ser satisfechas en todo el planeta. Y si ya entonces Apel llevaba razón, el tiempo no ha hecho sino reforzarla, porque la era digital reclama orientaciones éticas comunes en materia de justicia.

Afortunadamente, distintos organismos están asumiendo su responsabilidad en este asunto y surgen propuestas de marcos éticos como la Declaración del Grupo de la Comisión Europea sobre Inteligencia Artificial, robótica y sistemas autónomos, los Principios Asilomar de la Inteligencia Artificial o la Declaración de Derechos Humanos para un Entorno Digital, que la Universidad de Deusto presentó el pasado 26 de noviembre.

Si puede hablarse de que las generaciones de derechos humanos han ido teniendo por brújula valores éticos, como la libertad, la igualdad y la solidaridad, el mundo digital reclamaría nuevos derechos, que podrían tener por norte el valor de la inclusión compasiva. Porque no hay justicia sin compasión.

Los progresos de la digitalización han de estar al servicio de todos y de la sostenibilidad del planeta

Por su parte, el AI4People del Atomium European Institute sugiere que una ética para entornos digitales cuente con cuatro principios clásicos, aplicados al nuevo mundo, a los que añadiría un quinto: la explicabilidad y la accountability. Los principios clásicos serían el de beneficencia, que exigiría ahora poner los progresos de la digitalización al servicio de todos los seres humanos y la sostenibilidad del planeta; el de no maleficencia, que ordenaría evitar los daños posibles, protegiendo a las personas en cuestiones de privacidad, mal uso de los datos, en la posible sumisión a decisiones tomadas por máquinas y no supervisadas por seres humanos; pero también el principio de autonomía de las personas, que puede fortalecerse con el uso de sistemas inteligentes, y en cuyas manos deben ponerse tanto el control como las decisiones significativas; y, por supuesto, el principio de justicia, que exige distribuir equitativamente los beneficios. A ellos se añadiría un principio de explicabilidad y accountability, porque los afectados por el mundo digital tienen que poder comprenderlo.

Afortunadamente, como vemos, organismos rigurosos, muy especialmente de la Unión Europea, están trabajando activamente en diseñar una ética digital, y esta es una más de las infinitas razones que existen para fortalecer Europa, en vez de debilitarla, menos aún de disolverla.

Y en España es urgente, como mínimo, potenciar la enseñanza de la ética con una asignatura en 4º de la Enseñanza Secundaria Obligatoria. No es una cuestión gremial, sino de sentido común que, al parecer, es el gran logro de la inteligencia humana.

Adela Cortina es catedrática de Ética y Filosofía Política de la Universidad de Valencia, miembro de la Real Academia de Ciencias Morales y Políticas y directora de la Fundación ÉTNOR.