Doctores automatizados, Inuits perdidos

El ensayista norteamericano Nichola Carr explica en su libro Atrapados.Cómo las máquinas se apoderan de nuestras vidas (Taurus), los efectos perniciosos de algunas tecnologías. A continuación, tres extractos que indican el impacto de éstas en médicos, pilotos e inuits, habitantes del territorio Nunavut, al norte de Canadá.

Doctor ordenador

La capacidad creciente de los sistemas de apoyo para guiar las prescripciones de los médicos, y para asumir el control de ciertos aspectos de la toma de decisiones médicas, refleja conquistas recientes y espectaculares de la informática. Los médicos, al hacer diagnósticos, se basan en su conocimiento de un gran cuerpo de información especializada, aprendida durante años de educación y aprendizaje rigurosos además del estudio permanente de revistas médicas y otra literatura relevante.

Hasta hace poco era difícil, si no imposible, que los ordenadores replicaran semejante conocimiento profundo, especializado y con frecuencia tácito. Pero los avances inexorables en la velocidad de procesamiento, la caída precipitada de los costes de almacenamiento de datos y trabajo en red, así como los adelantos en métodos de inteligencia artificial como el procesamiento del lenguaje natural y reconocimiento de patrones han modificado la ecuación. Los ordenadores son muchas veces capaces de hacer predicciones acertadas y calcular, por ejemplo, la probabilidad de que un paciente con un conjunto específico de síntomas tenga o vaya a desarrollar una enfermedad particular.

A medida que más datos de pacientes individuales sean recopilados y almacenados en forma de registros electrónicos, imágenes digitalizadas y resultados de pruebas, trámites farmacéuticos y, en un futuro no muy lejano, lecturas de sensores biológicos personales y aplicaciones de control de salud en teléfonos móviles, los ordenadores serán cada vez más competentes para encontrar correlaciones y calcular probabilidades a niveles de detalle muy precisos.

Los médicos afrontarán una presión creciente, si no un decreto terminante de los directivos, para ceder mayor control sobre diagnósticos y decisiones de tratamientos al software. Para ponerlo en términos poco caritativos pero no equivocados, puede que muchos médicos se encuentren pronto adoptando el papel de sensores humanos que recogen información para un ordenador que toma las decisiones. Los médicos examinarán al paciente e introducirán datos en archivos electrónicos, pero el ordenador tomará la iniciativa de al sugerir diagnósticos y recomendar tratamientos.

Gary Klein, un psicólogo investigador que estudia cómo toman decisiones las personas, tiene una preocupación más profunda. Al forzar a los médicos a establecer reglas, la medicina basada en pruebas “puede impedir el progreso científico”, escribe. Si los hospitales y las aseguradoras “autorizasen la medicina basada en evidencias, reforzados por la amenaza de demandas si los resultados adversos son acompañados de cualquier desviación de las prácticas estándar, los médicos se volverán reacios a intentar estrategias alternativas de tratamiento que no hayan sido evaluadas bajo controlados ensayos aleatorios. El avance científico puede verse ahogado si los médicos de primera línea, que combinan la pericia médica con el respeto a la investigación, no pueden explorar y son disuadidos de hacer descubrimientos”.

Extracto del capítulo El ordenador administrativo, de Atrapados, de Nicholas Carr.

Los esquimales pierden la orientación... por culpa del GPS

La pequeña isla de Igloolik, en la costa de la península de Melville, perteneciente al territorio Nunavut del norte de Canadá, es un lugar desconcertante en invierno. La temperatura media se aproxima a los veinte grados bajo cero. Capas gruesas de hielo marino cubren las aguas aledañas. No hay sol. A pesar de las espantosas condiciones, los cazadores inuits se han aventurado fuera de sus casas durante unos 4.000 años atravesado miles de kilómetros de hielo y tundra en busca de caribús y otras presas. La capacidad de los cazadores para recorrer vastas extensiones de terreno ártico árido, en el que hay pocas marcas, las formaciones de nieve están en continuo movimiento y los rastros han desaparecido a la mañana siguiente, ha fascinado a viajeros y científicos desde que, en 1822, el explorador inglés William Edward Parry anotase en su diario la “precisión asombrosa” del conocimiento geográfico de su guía inuit.

La extraordinaria pericia para orientarse de los inuits no surge de la destreza tecnológica —han evitado los mapas, las brújulas y otros instrumentos—, sino de una comprensión profunda de los vientos, las formas de los ventisqueros, el comportamiento animal, las estrellas, las mareas y las corrientes. Los inuits son maestros de la percepción.

O al menos lo eran. Algo cambió en la cultura inuit con el cambio de milenio. En el año 2000 el Gobierno estadounidense levantó muchas de las restricciones del uso civil del sistema de posicionamiento global. La precisión de los dispositivos GPS mejoraba incluso aunque cayeran sus precios. Los cazadores de Igloolik, que habían intercambiado sus trineos por motonieves, empezaron a confiar en mapas e instrucciones generados por ordenador para desplazarse. Los inuits más jóvenes tenían especiales ganas de usar la nueva tecnología.

En el pasado, un cazador joven tenía que soportar un aprendizaje largo y arduo con los mayores. Al comprar un receptor barato GPS, podía saltarse el entrenamiento y descargar la responsabilidad de la navegación sobre el dispositivo. También podía viajar en algunas condiciones, como una niebla densa, que solían imposibilitar las salidas de caza. La facilidad, comodidad y precisión de la navegación automatizada hacían que las técnicas tradicionales inuits pareciesen anticuadas.

Pero a medida que los GPS proliferaron en Igloolik, empezaron a circular noticias sobre graves accidentes de caza con heridos e incluso muertos. Con frecuencia la causa fue rastreada hasta topar con la confianza excesiva en los satélites. Si un receptor se rompe o sus baterías se congelan, un cazador que no ha desarrollado un buen sentido de la orientación puede perderse fácilmente en una extensión sin ningún distintivo y verse expuesto a peligros.

Incluso si los aparatos funcionan adecuadamente, presentan riesgos. Al seguir las instrucciones GPS, atravesarán hielo peligrosamente delgado, se acercarán a acantilados y se meterán en otros peligros que un navegante formado hubiese evitado por sentido común y precaución.

El antropólogo Claudio Aporta, de la Universidad de Carleton en Ottawa, ha estado estudiando a los cazadores inuits durante años. Afirma que, si bien la navegación por satélite ofrece ventajas atractivas, su adopción ya ha producido un deterioro de la capacidad de orientación. El cazador que se traslada en una motonieve con GPS dedica su atención a las instrucciones del ordenador y pierde de vista su entorno. Viaja “con los ojos vendados”, como dice Aporta. Un talento singular que ha definido y distinguido a un pueblo durante miles de años puede evaporarse en una generación o dos.

Extracto del capítulo Mundo y pantalla de Atrapados (Taurus), de Nicholas Carr.

“Nos estamos olvidando de cómo se vuela”

El 4 de enero de 2013, la Administración Federal de Aviación de Estados Unidos [FAA, según sus siglas en inglés] emitió un comunicado de una sola página. No llevaba título. Se identificaba únicamente como una Alerta de seguridad para operadores [SAFO, según sus siglas en inglés]. El texto era escueto y críptico. “Esta SAFO”, rezaba el documento, “incentiva a los operadores a promover operaciones de vuelo manuales cuando resulte apropiado”. La FAA había reunido pruebas que indicaban que los pilotos se habían vuelto demasiado dependientes de los sistemas informatizados. El exceso de automatización aérea, advertía la agencia, podría “llevar a una degradación de la capacidad del piloto para sacar rápidamente a la aeronave de una situación no deseada”. La alerta concluía con una recomendación de que las aerolíneas, como parte de su política de operaciones, instruyeran a los pilotos a pasar menos tiempo volando con el piloto automático encendido y más tiempo volando manualmente. (...)

El descenso global en el número de accidentes aéreos enmascara la reciente aparición de “un tipo espectacularmente nuevo de accidente”, como dice Raja Parasuraman, un profesor de Psicología en la George Mason University y una de las mayores autoridades mundiales en automatización. En el momento que los ordenadores de a bordo no funcionan como es debido o surgen otros problemas inesperados durante un vuelo, los pilotos han de tomar el control manual del avión. Arrojados abruptamente a un rol ahora inhabitual, ellos también cometen errores con frecuencia. Las consecuencias, como muestran los desastres de Continental Connection y Air France, pueden ser catastróficas.

En los últimos treinta años, docenas de psicólogos, ingenieros e investigadores en ergonomía o “factores humanos” han estudiado qué se gana y qué se pierde con el hecho de que los pilotos compartan la labor de volar con un software. Han aprendido que una dependencia acusada de la automatización informática puede erosionar la pericia de los pilotos, nublar sus reflejos y disminuir su concentración, llevando a lo que Jan Noyes, un experto en factores humanos de la Universidad inglesa de Bristol, llama “una merma de las habilidades de la tripulación”.

En 2010 la Administración Federal de Aviación (FAA) publicó los resultados preliminares de un gran estudio sobre vuelos comerciales durante los diez años precedentes que mostraban la presencia de algún error del piloto en casi dos tercios de todos los accidentes. La investigación indicaba, además, según la científica de la FAA Kathy Abbott, que la automatización ha incrementado la probabilidad de tales errores. Los pilotos pueden distraerse en sus interacciones con ordenadores de a bordo, dijo Abbott, y pueden “delegar demasiada responsabilidad en sistemas automatizados”. Un detallado informe gubernamental de 2013 sobre la automatización de las cabinas, recopilado por un panel de expertos a partir de los mismos datos de la FAA, encontró problemas relativos a la automatización, como una menor percepción del entorno y habilidades de vuelo manual debilitadas, en más de la mitad de los accidentes recientes. (...)

Rory Kay, un experimentado capitán de United Airlines que hasta hace poco servía como oficial jefe de seguridad para la Air Line Pilots Association, teme que la industria de la aviación esté sufriendo una «adicción a la automatización». En una entrevista concedida en 2011 a Associated Press se refirió al problema más tajantemente: “Nos estamos olvidando de cómo se vuela”.

Extractos de la introducción y el capítulo Con el piloto automático encendido, de Atrapados, de Nicholas Carr