El hombre y la máquina

La catástrofe del avión en Los Alpes, y la investigación de sus causas, han puesto sucesivamente sobre la mesa varios debates, unos de tipo legal, otros de naturaleza ética, y otros de carácter más práctico. Sin creer en absoluto que yo tenga soluciones, quiero referirme a la discusión sobre si es más prudente confiar nuestra seguridad a la calidad de las máquinas o dejarla en manos de la competencia de las personas. Vale la pena notar que es un debate que no ha podido existir hasta que las personas hemos sido capaces de crear máquinas de gran perfección, al combinar la precisión mecánica con la gran capacidad de proceso y transmisión digital de la información. Ahora es un debate posible y comprensible…

Empiezo con una anécdota. Visitando en Osaka, década de los 80, una fábrica de televisores, expresé mi sorpresa por el alto grado de automatización de sus procesos, la abundancia de robots, y la casi ausencia personas. El director de la empresa, con mucha sorna, me dijo: “No se extrañe, señor; tenemos otra fábrica de mayor capacidad y más moderna en la que solo tenemos a un hombre y a un perro. El hombre para dar de comer al perro, y el perro para asegurar que el hombre no toque nada de las máquinas…”. Aceptando la broma, le contesté: “Es fantástico, pero el día que se produzca una inundación por un escape de agua, supongo que el hombre podrá matar al perro y solucionar-lo…”. Han pasado muchos años; pero creo que, a pesar de los grandes progresos técnicos, este razonamiento no ha caducado.

Parece que la desgracia del avión la ha provocado un hombre, igual que parece que fue la actuación del conductor la que provocó el accidente del Alvia en Galicia, hace unos años. Es comprensible que en estas ocasiones se alcen voces a favor de reclamar más pilotos automáticos, sea del avión, del tren, del metro, del tranvía o, pronto, del autobús. Son voces que suponen que el ordenador estará menos expuesto a equivocarse que el hombre, como ocurre cuando hacemos una raíz cuadrada… Y son voces que no están desencaminadas, pero que hay que matizar enfocando bien el problema.

Las máquinas automáticas, es decir operadas por un ordenador, han experimentado un progreso extraordinario y son capaces de igualar o superar la pericia de un operador humano. Todos hemos viajado, a veces sin saberlo, en vehículos de este tipo, cuya presencia seguirá aumentando extraordinariamente. Pero no podemos olvidar que tanto las personas como los ordenadores distan mucho de ser perfectos. Ambos están expuestos a fallos internos, y sobre todo, ambos van a tener que reaccionar ante situaciones externas imprevistas. Y aquí una parte del problema.

Hemos de plantear una disyuntiva: en qué tareas preferimos que actúen las personas y en cuáles es mejor que lo hagan las máquinas

Vuelvo al Japón. La central nuclear de Fukushima tenía unos sistemas de seguridad extraordinarios que probablemente hubieran reaccionado correctamente, evitando una catástrofe, ante cualquier fallo interno; pero no tenía previsto que un tsunami pudiera dejar sin electricidad a todos sus equipos. Fueron sus trabajadores, y algunos de sus jubilados, los que tuvieron que sacrificar sus vidas para reducir en lo posible las consecuencias. No creo que cualquier central nuclear moderna pudiera evitar originar un gran desastre, si sufriera el impacto de un avión.

Como en tantas otras áreas de la vida hemos de plantear una disyuntiva: en qué tareas preferimos que actúen las personas y en cuáles es mejor que lo hagan las máquinas. Creo que será bueno que combinemos unas y otras. Por ello formulo el problema de la seguridad de la siguiente manera: ¿Hemos de organizar nuestros sistemas de forma que el hombre vigile a la máquina y pueda desautorizar al ordenador, o debemos hacer que el ordenador de la máquina vigile al hombre e imponga su criterio? Yo me inclino por lo primero: en última instancia, debe primar la persona, que yo creo más capaz.

Volvamos al Airbus. En condiciones de funcionamiento normal, el pilotaje automático puede dar más tranquilidad que el manual, ya que evita errores debidos a falta de atención, confusión, u otras debilidades humanas. Pero en condiciones extraordinarias, fruto de situaciones imprevistas o de una gravedad superior a la esperada, el mando sobre la máquina debe estar en última instancia en manos del hombre. En el caso del que hablamos, en manos del comandante de la nave. Es lógico que el blindaje automático de la cabina impida que alguien sin permiso pueda entrar en ella, pero ni el ordenador ni nadie deberían haber impedido la entrada al comandante, y por tanto este debería poder anular desde fuera de la cabina y, con la adecuada identificación, el sistema de blindaje. El comandante es el responsable máximo del aparato y está por encima de la tripulación y del ordenador de a bordo. Por tanto debe poder impedir que cualquier otra persona utilice el ordenador y los sistemas de seguridad en contra de sus instrucciones. En este caso, el ordenador impidió que el comandante ejerciera su autoridad respecto de un subordinado…Es un protocolo que hay que mejorar.

Es evidente que con ello no conseguiríamos un sistema totalmente seguro, ya que este no existe. Pero sería un paso hacia una mayor seguridad, una más clara determinación de causas, y una mejor atribución de responsabilidades.

Joan Majó es ingeniero y exministro