Ética 2000

En una soleada mañana de los albores del próximo milenio, un profesor de moral se dirigió a sus alumnos con el siguiente relato:-Todos ustedes saben que el lamentable desarrollo del materialismo en el pasado siglo obligó a los cristianos a volver a las catacumbas. Anhelando un milagro que reconfortase la fe de los creyentes y no ocurriéndosele cosa mejor, el Papa confió a un devoto monje la misión de descubrir el sepulcro de un santo, de sobrenombre Aquino, que en tiempos remotos contribuyó decisivamente con su razón y con su fe al esplendor de la cristiandad. El fraile al que se le encomendó la búsqueda salió de las catacumbas dispuesta a recorrer, uno por uno, los caminos de la tierra. Para alivio de cargas físicas contaba con la ayuda de un robasno (vocablo obviamente denominativo de una bestia artificial). El cronista Antonio Boucher informa que, a diferencia de sus émulos naturales, este jumento mecánico poseía el don de la palabra y lo usaba con diabólica perfidia. Todos los días y todas las noches tentaba al buen monje haciéndole ver cuán inútil y ridícula era su tarea. ¿Por qué no mentir diciendo que se había encontrado ya el sepulcro? A fin de cuentas, la verdad no está en los hechos, sino en lo que los hombres aceptan creer sobre los hechos. Si una noticia, aunque sea falsa, estimula positivamente a la comunidad y contribuye al triunfo del bien sobre el mal, ¿por qué no -argumentaba el taimado robasno- pregonarla sin vacilar a los cuatro vientos y poner fin a esta búsqueda tan ardua como infructuosa? Pero la honestidad y la tenacidad prevalecieron sobre el cinismo, y la tumba fue encontrada. Y, sin embargo, la sorpresa del monje fue indescriptible. Según una siniestra leyenda, los hombres que abrieron un día el ataúd de Tomás de Kempis descubrieron horrorizados que el cadáver del autor de la Imitación de Cristo (el libro que había servido de guía para la salvación de legiones de almas) mostraba los inequívocos indicios del cataléptico enterrado vivo que despierta luego prisionero de su féretro y muere en él desesperado. Pero el caso del santo de Aquino era en cierto modo, aún más increíble. Bajo el incorrupto sayal no había calavera ni huesos, sino un montón informe de barras, cables y tornillos. Un diario escrito en clave invertida, como los recónditos apuntes de Leonardo de Vinci, revelaba el asombroso secreto: ¡Tomás de Aquino había sido un robot!

Un robot en la Edad Media? -interrupió admirado un alumno- ¿Cómo explicar semejante anacronismo? ¿Acaso por generación espontánea? ¿O, tal vez mejor, por una brusca mutación genética?

-La explicación -respondió el profesor- es relativamente sencilla. Seguramente sabe usted, y en caso contrario le bastará hojear cualquier manual de historia de la filosofía, que el maestro de santo Tomás de Aquino fue san Alberto Magno, un hombre que reunía en su ciclópea. mente de científico y de teólogo todo el saber natural y sobrenatural de la época. Al parecer, fue precisamente este genial investigador medieval, san Alberto, quien, haciendo uso de sus portentosos conocimientos de matemáticas y de alquimia, diseñó los algoritmos y fabricó los ingredientes requeridos para configurar lo que en la jerga de los informáticos podríamos llamar un sistema experto de teología. Por lo demás, también el sabio catalán Ramón Llull, como ustedes recordarán perfectamente, había intentado por aquellos siglos, con su Ars Magna, algo parecido. ¿Osaría alguien tildar de satánico o de blasfemo el ensayo de construir una máquina que deduzca teoremas teológicos? Si las premisas de que se parte son verdades naturales y/o sobrenaturales y las reglas de inferencia puestas en práctica son lógicamente correctas, el hecho de que la mente que extraiga las oportunas conclusiones sea natural o artificial es, en cierto modo, irrelevante. En uno u otro caso, las verdades obtenidas informan por igual sobre la grandeza del Creador.

Pero volvamos a nuestro robot. A una inteligencia tan poderosa como la suya no se le escapaba su propia identidad, y ello no le preocupaba en absoluto. Pero temía que si por azar cundiera entre los miembros de la cristiandad la noticia de que su invicto paladín no era un hombre sino una máquina, la fe de muchos creyentes podría tambalearse. Siendo demasiado honesto para mentir, eligió el único camino que le dejaba la moral cristiana: el camino de la restricción mental, consistente en no estimular o en rehuír toda iniciativa que implicase la difusión de su secreto. Cuando, por exceso de uso, sus circuitos comenzaron a fallar, rechazó discretamente todo cuidado médico o incluso desistió de reclamar el sencillo repaso de un mecánico. Quizá por eso pudo la muerte segar su vida sin darle tiempo a cumplir 50 años.

-El problema que yo quisiera discutir con ustedes en la clase de hoy -añadió el profesor, cambiando la inflexión de su voz- no es de carácter sobrenatural, sino moral. Lo que sabemos de la vida secreta del robot Aquino nos invita a calificar su conducta de éticamente valiosa. ¿Es eso adecuado? Y si así fuera, ¿podríamos hablar, generalizando el caso, de una ética de los robots? Pero ¿es la moral de las máquinas, si es que la hay, una moral distinta de la moral de las personas?

EL SENTIR DE LA MÁQUINA

Los alumnos, que no eran más de cinco en número, observaban y escuchaban atentamente al profesor desde muy distintos puntos del planeta. (Cuando la civilización cruzó el dintel del año 2000, muchas de las tradicionales limitaciones de las universidades de la Tierra habían desaparecido. La distancia física y la diversidad idiomática dejaron de contar como impedimento. La abigarrada burocracia que antaño parasitó la en señanza del saber había sido reemplazada por una red informática que redujo el precio de matrícula a unos sellos de correos y acabó con el innoble fraude, en el que tan gustosamente reincidían decanos, rectores y ministros, de hacer pasar por autoridad científica y académica lo que no es más que humilde servicio de gestión). Las intervenciones de los cinco alumnos que participaban en el aula discurrieron por el siguiente orden.

Primera alumna (estudiante californiana de Psicología, 22 años, interesada por los movimientos de emancipación femenina): -Perdóneme, profesor, si le digo que su historia incurre en lo que yo llamaría la falacia racionalista. No quisiera hacerles perder el tiempo ni a usted ni a mis compañeros recordándoles que fue Descartes, príncipe del racionalismo europeo, quien sostuvo la tesis de que lo único que no es mecánico en el universo es nuestra capacidad de pensar; esta tesis fue refutada en el siglo XX por Alan Turing al demostrar que el pensamiento humano puede ser simulado por un computador digital. En mi opinión, sin embargo, tanto Descartes como Turing, y pese a sus diferencias, tienen una visión muy parcial, y yo añadiría machista, de la mente humana. Por poco que uno sepa de fisiología del cerebro habrá oído hablar de que nuestro hemisferio izquierdo es la sede de las operaciones lingüísticas y computacionales y trabaja impersonalmente, a la manera de un ordenador, mientras que es en el hemisferio derecho donde se desarrolla la actividad intuitivo-perceptiva, artística y creativa. Es claro que este tipo de actividad afecta más profundamente a la personalidad y que está más relacionada con el modo de ser femenino. El error de Descartes y Turing, y de todo racionalista/machista, está en creer que la función más interesante de nuestra mente es la actividad de razonamiento y de cálculo, cuando es precisamente ésta la que con más facilidad puede ser mecanizada. En el Pigmalión, de Bernard Shaw, sin ir más lejos, el profesor Higgins logró manipular por procedimientos más o menos mecánicos el aparato lingüístico de Eliza Doolittle, pero no sus emociones. En pocas palabras: creo que la ética es exclusiva de las personas, que son seres vivos. Los computadores no son personas ni tienen vida. El Aquino de su relato es una máquina vestida de fraile. En su interior no había ni podía haber sentimientos éticos.

-¿Qué opina usted del diario? -preguntó el profesor.

-Si ese diario fue escrito por el robot Aquino, mi teoría es falsa. Pero si mi teoría es cierta, no lo escribió el robot. Tiene demasiado sentimiento humano. Yo me inclinaría a sospechar que fue también obra de Alberto Magno. Se cuenta que sobrevivió algún tiempo, profundamente apenado, a la prematura muerte de su discípulo. Tal vez para justificarlo, o para justificarse, se le ocurriera redactar el manuscrito.

UN EDITOR EUROPEO

Segundo alumno (centroeuropeo, 50 años, editor): -En lo que a mí respecta, carezco de base científica y filosófica para decir nada importante sobre el asunto, porque mi principal bagaje cultural se reduce a un doctorado en historia de la literatura de ficción científica. Su relato sobre el sepulcro de Aquino se inspira, sin duda, en esa rara pieza de teología-ficción que es el cuento de Boucher, sobre el cual creo haber leído sabrosos comentarios en algún ensayo de Lem, el teórico polaco de la ficción científica. En todo caso, pienso que el problema moral de la verdad y la mentira está íntimamente vinculado al proceso de la comunicación, y no veo cómo puede serle ajeno a una máquina con capacidad propia de comunicar. El computador de la antiquísima película 2001 era consciente de gobernar una nave espacial destinada a la catástrofe, pero había recibido instrucciones de no comunicarlo a la tripulación humana. El cumplimiento de esta orden, que le parecía inconsistente, le produjo un cortocircuito que degeneró en algo que podríamos llamar, para entendernos, un ataque de dementia artificialis. En cierto modo, este computador demostró una sensibilidad ética mayor que el robot Aquino, porque ni siquiera le pareció aceptable la fórmula de la restricción mental.

Tercer alumno (ejecutivo japonés, 33 años): -Yo quisiera empezar diciendo, aunque esto pueda parecer escandaloso, que la existencia de señores y siervos es condición necesaria del buen funcionamiento de la sociedad humana. De hecho, las dos democracias más envidiadas en la historia de la humanidad, la democracia griega y la americana, han aceptado originalmente la esclavitud. La distinción entre amo y esclavo está sancionada en la democracia griega por la filosofía de Aristóteles. Y muchos de los fundadores de la República de los Estados Unidos de América eran propietarios de esclavos y murieron sin ver el momento de la abolición. Por otra parte, estoy de acuerdo, con los primitivos cristianos, con Rousseau y Marx, en que la explotación del hombre por el hombre es moralmente intolerable. Y puesto a elegir entre la comodidad de aceptar la esclavitud y la incomodidad del imperativo igualitario, opto por lo segundo. Pero es preciso reconocer que el resultado es una sociedad en impasse, como sucedió con las democracias del siglo XX. A medida que nos acercábamos al ideal de que nadie sirviera a nadie, desembocábamos en la brutal realidad de que todos servían a todos. En cambio, ahora la sociedad informatizada nos ha inundado de servidores, secretarias, oficinistas, jardineros, guardianes y mayordomos mecánicos, devolviéndonos a los tiempos felices en que había siervos y señores, y con la ventaja de que ha desaparecido el problema moral y no hay lugar a la dialéctica hegeliana del amo y el esclavo.

Es evidente que los animales carecen de ética. Pero la educación a base de premios y castigos que damos a los animales domésticos suele consistir en reglas de convivencia que tienen algo de ética. Análogamente, cuando las máquinas han de compartir con nosotros la información y adquieren cierta autonomía no hay más remedio que inculcarles una serie de principios morales, entre otros, el del respeto a los seres humanos. ¿Cómo confiar a un robot-nodriza el cuidado de un niño sin aleccionarlo bien sobre el particular? Creo que podríamos emplear, sin que nadie se asuste por ello, la expresión nietzscheana de moral de señores y moral de esclavos para distinguir la moral de las personas de la moral de los robots.

RACISMO MECÁNICO

Cuarta alumna (joven de color, 18 años): -Lamento no estar de acuerdo con algunas de las cosas que he oído decir. El caso de los animales me da que pensar. El racionalismo cartesiano los consideró como máquinas, y la religión cristiana no los trató mucho mejor. Pero Darwin y los ecologistas nos han enseñado que puede hablarse de una ética y unos derechos de los animales. ¿No podría suceder algo parecido con las computadoras y los robots? Mis compañeros los describen como seres inteligentes. a los que se confían obligaciones. ¿Cómo no reconocerles ningún derecho, por ejemplo, el derecho a progresar? ¿No sería eso una nueva forma de racismo, un racismo artificial?

Incidentalmente, mientras escuchaba el relato del profesor, se me ocurrió experimentar lo que decía introduciendo la Summa theologica, de santo Tomás, en un sistema experto del que soy usuaria. Este sistema ha sido diseñado para distinguir los productos de la inteligencia natural de los productos de la inteligencia artificial. Su respuesta ha sido que esa obra es tan perfecta que sólo puede haberla realizado una máquina.

Quinto alumno (astronauta ruso, 40 años): -Yo quisiera proponer un caso práctico. Mientras se efectuaba, hace meses, una arriesgada inspección en el planeta Venus, un robot dio inesperadamente muerte a uno de nuestros hombres y destruyó otro aparato de su clase, cuyo coste, por cierto, es muy elevado. Los técnicos que revisaron el caso certifican que en la conducta de ese robot no hubo fallo mecánico de ninguna clase, ni error de programa, ni se trataba, tampoco de ningún error de construcción. Entre sus principios de funcionamiento figuraba, por supuesto, el imperativo de respetar a los hombres y a los aparatos de nuestro Ejército. Algunos ingenieros del comportamiento están de acuerdo, sin embargo, en que en aquellas condiciones concretas el robot pudo no haber hecho lo que hizo. ¿Quiere esto decir que podemos pedirle cuentas de su conducta, tal y como se le piden a un piloto o a un comando humano al término de su misión? En ese caso quizá fuera correcto hablar de una responsabilidad y, por consiguiente, de una ética de los robots.

PODER INFORMÁTICO

Profesor: -Esta última intervención me parece útil para advertir que los problemas que plantea la ética de los robots no son sólo problemas de deber, sino también de poder.

Un aspecto obvio de la cuestión consistiría en determinar en qué medida los ingenios informáticos contribuyen a consolidar el dominio del hombre sobre el hombre. Mi historia inicial podría ser leída como el caso de un potente robot teológico que aseguró a la cristiandad el monopolio ideológico en el mercado universal de las religiones monoteístas. La situación de poder de un país productor de alta tecnología informática sobre los países consumidores es un fenómeno demasiado evidente para que valga la pena discutirlo aquí.

Tal vez fuese más interesante especular sobre las situaciones límites de poder que eventualmente lograse alcanzar un aparato informático sobre un hombre. Imaginemos un computador que dispusiera de la clave criptográfica para codificar y descodificar las señales eléctricas que entran y salen del cerebro humano. Imaginemos, asimismo, un cerebro recién extraído de un cráneo y conservado en un recipiente con suero. E imaginemos, finalmente, al aparato informático conectado con ese cerebro. La mente que habitara en este último se convertiría en una marioneta manipulada por el computador, que podría enviarle arbitrariamente señales que simulasen estímulos venidos de fuera o impulsos que ella creyese nacidos en su interior. Quizá, refinando las técnicas, no fuese necesario extraer el cerebro de su cráneo. Y seguramente que la máquina, si su potencia fuera lo bastante grande, sería capaz de manipular simultáneamente de esa manera las mentes de un grupo compuesto por varias, muchas o todas las personas vivas en un momento de la historia. ¿Podrían las mentes de esas personas pensar libremente en su pasado o emanciparse alguna vez en el futuro del dominio del computador?