Cajas negras y sonámbulos: ¿sabemos lo que hay dentro de la tecnología?

Parece magia: basta con tocar con la punta del dedo índice la pantalla táctil para mandar correos electrónicos, escuchar música, ver películas o redactar un texto. Ya lo dijo el escritor de ciencia ficción Arthur C. Clarke: “Una tecnología suficientemente avanzada es indistinguible de la magia”. La vida contemporánea ya es inconcebible sin la utilización de estos prodigios y también es imposible imaginar el futuro sin ellos (más bien lo imaginamos a través de ellos). Pero, más allá del manejo de las diversas aplicaciones, ¿sabemos lo que hay realmente dentro de la tecnología?

El concepto de caja negra proviene de la informática y de la ingeniería. Hace referencia a artefactos o partes de procesos en cuyo detalle interno no reparamos y solo tenemos en cuenta lo que entra o lo que sale: el input y el output. Respecto a lo que pase ahí dentro, puede que no lo sepamos o puede que no nos importe para nuestros fines. Este podría ser un ejemplo visual: alguien que monta un circuito eléctrico y en él coloca condensadores, resistencias, etc, que en este contexto actúan como cajas negras. Importa lo que entra y lo que sale, pero no lo que hay dentro. “Lo que se considere como caja negra depende del punto de vista de cada uno; lo que para un ingeniero puede ser un sistema completo, para otro puede ser solo un componente”, escribe el filósofo de la mente John Haugeland en La inteligencia artificial (Siglo XXI Editores).

El sociólogo de la ciencia Bruno Latour también toma el concepto de caja negra, aunque de manera más amplia. “La caja negra se da cuando una tecnología funciona, ya es un conocimiento clausurado, que ha solidificado como una roca. Cuanto mejor funciona, cuanto más tiempo lleva funcionando, más opaca se vuelve, más desatendemos a sus componentes”, explica Paloma García Díaz, investigadora del departamento de Filosofía de la Universidad de Granada y autora de una tesis sobre Latour. La idea del francés se puede aplicar a aparatos tecnológicos, pero también a campos del conocimiento ya dominados que también se pueden considerar como cajas negras: ideas, expresiones o conceptos habituales que ya no ponemos en cuestión. Las cajas negras, en general, nos permiten avanzar, operar, tomar decisiones teniendo en cuenta menos factores: simplifican los procesos.

• ¿Qué hay dentro de mi smartphone?

Buena parte de la tecnología que utilizamos entra dentro del concepto de caja negra. La mayoría de los mortales se mantiene ajena a lo que pasa en los ordenadores, programas de software, smartphones, tablets, etc, por muy bien que sepa utilizar tales ingenios. “Cuando utilizo un procesador de textos pulso un teclado y en la pantalla aparecen letras, no me hace falta saber cómo funciona a un nivel más profundo, qué está pasando dentro del ordenador”, dice Ignacio Mártil, catedrático de Electrónica de la Universidad Complutense de Madrid. La ignorancia es aún más espesa si bajamos al nivel de los algoritmos o los transistores que se ocultan en la base de muchas tecnologías. El oscuro mundo de los unos y los ceros.

“Hace pocas generaciones muchos conductores eran capaces de abrir el capó del coche y hacer una reparación”, ejemplifica Eduard Aibar, profesor de la Universitat Oberta de Catalunya y director del grupo de investigación sobre Open Science and Innovation (OSI). “Hoy la mayor parte no sabe ni cambiar una rueda. Pero es que, además, los motores son construidos de manera tan compacta que apenas hay manera de manipularlos”. Por supuesto, esto se aplica también a la tecnología electrónica: si era común poder abrir la caja de un ordenador de sobremesa e incluso componerlo a la medida de nuestras necesidades, muchos ingenios posteriores (un iPad, sin ir más lejos) están diseñados para no poder abrirse ni manipularse. “Así nuestra relación con la tecnología es de meros consumidores, sin muchas opciones de acceder a la configuración”, dice el profesor.

El smartphone, esa potente computadora que tenemos siempre a mano, que podría casi considerarse una prolongación de nuestro cuerpo es, a juicio de Mártil, la caja negra por excelencia: “Es la quintaesencia, el ejemplo perfecto de lo que la microelectrónica ha conseguido, hay uno casi por cada ser humano sobre la Tierra. Cuando lo abrimos solo vemos chips y más chips”, dice el catedrático, porque la miniaturización de la tecnología también ha contribuido a hacerla más opaca: “En esos dispositivos electrónicos diminutos puede haber, sin exagerar, miles de millones de transistores”. Son tan pequeños, del orden de los nanómetros, que resultan imperceptibles al ojo humano.

• ¿Queremos saber?

“Vivimos en una sociedad profundamente dependiente de la ciencia y la tecnología en la que nadie sabe nada de estos temas”, dijo una vez el célebre científico y divulgador Carl Sagan. Las cajas negras nos permiten disfrutar de los avances tecnológicos, pero, ¿sería conveniente que los usuarios y la sociedad general fuesen conscientes de lo que hay ahí dentro? “Evidentemente no todos podemos saberlo todo”, dice Aibar, “pero sería importante que algunos grupos de usuarios entraran ahí y nos dijeran lo que hay”.

Las personas y las autoridades van actuando, legislando, viviendo muy por detrás de lo que la tecnología va proponiendo y adaptándose a ella

Mártil coincide en que no es posible que todos conozcamos todo (al fin y al cabo, a pesar del individualismo contemporáneo, la empresa humana en general, y la ciencia y la tecnología en particular, es una empresa fundamentalmente colectiva), pero sí agradecería algo más de interés en estos asuntos. “Creo que preocuparse por conocer un poco más de la tecnología que manejamos serviría también para entender la importancia que tiene el conocimiento científico en el mundo actual”, opina el catedrático. También la relación, no siempre obvia para todo el mundo, entre los gadgets tecnológicos y la investigación que hacen los científicos en sus lejanos y extraños laboratorios, a veces tan desconocidos y opacos como las cajas negras.

Abrir la caja negra, como propone Latour, permite “una mejor comprensión”, dice Paloma García Díaz. “Así podemos entender mejor las relaciones que tenemos con la tecnología, ponerla entre interrogantes, investigar cómo otras cuestiones como las sociales, económicas y políticas influyen en la tecnología que tenemos, que no es la única posible”.

La exposición Abriendo las cajas negras, que organizó a principios de siglo el Instituto Interuniversitario de Historia de la Medicina y de la Ciencia López Piñero de Valencia, ahondaba en las cajas negras en la Historia de la Ciencia. Allí se mostraba cómo, con el paso del tiempo, muchos instrumentos se iban cajanegrizando: por ejemplo, en un termómetro clásico el mercurio y la escala de temperaturas puede dar una idea de su funcionamiento, sin embargo, los actuales termómetros electrónicos simplemente muestran la temperatura en una pantalla sin dar idea del proceso de medición.

Más información

En realidad, ¿qué [...] es exactamente un algoritmo?

Cómo educar a los algoritmos para que no elijan la información por ti

“El smartphone es un ejemplo de cómo un instrumento puede ir, además, incluyendo nuevas funciones dentro de la caja negra”, dice José Ramón Bertomeu-Sánchez, director del Instituto. Si bien la caja negra se basa en la confianza que ponemos sobre ella, “estos aparatos pueden incluso realizar funciones de las que no somos conscientes, como ser localizados y rastreados. Son funciones que no siempre han sido validadas por los usuarios”. Las cajas negras solo se reabren cuando surge una polémica en torno a su empleo, cuando la comunidad científica o la sociedad en conjunto pone en duda su fiabilidad o seguridad. “La confianza es una de las claves de las cajas negras”, afirma Bertomeu-Sánchez, “se asume que son herramientas fiables, pero puede haber otros usos, sesgos y resultados imprevistos que los usuarios no tienen en cuenta. De ahí el interés de abrir las cajas negras, cuestionarlas, discutirlas, situarlas en su contexto”.

• Sonámbulos tecnológicos

El sonámbulo se levanta por la noche y recorre la casa sumido en la oscuridad, sorteando los muebles, sin problema, hasta que se da en la espinilla con la silla del comedor. Solo entonces se despierta y cae en la cuenta de la existencia del mueble. El teórico político estadounidense Langdon Winner acuñó el término sonambulismo tecnológico (por ejemplo, en su obra La ballena y el reactor, una búsqueda de los límites en la era de la alta tecnología, publicada en España por Gedisa): se refiere a la humanidad, que camina como sonámbula en un mundo cada vez más tecnológico y sobre el que solo se preocupa cuando algo falla, cuando surge un problema, cuando se estampa contra la pared de la habitación a oscuras.

Para Winner tanto los individuos, como la instituciones o gobiernos deberían prestar más atención a los cambios que se producen en el mundo tecnológico, porque la tecnología va mucho más allá de sí misma: el smartphone supuso una revolución como gadget prodigioso, pero más allá del silicio, los chips, la electricidad y las ondas, es un ingenio que ha cambiado nuestras mentes y nuestras sociedades, el mundo entero. Y por lo general las personas y las autoridades van actuando, legislando, viviendo muy por detrás de lo que la tecnología va proponiendo y adaptándose a ella.

“Desafortunadamente, muchos de los sistemas y dispositivos que nos rodean son diseñados, construidos y utilizados con una flagrante indiferencia hacia lo humano y lo ecológico”, escribe Winner, “sorprendentemente, la sociedad tecnológica actual se basa en una colección de malos hábitos heredados de un pasado industrial imprudente”. Entre ellos se cuenta la excesiva dependencia de los combustibles fósiles, la destrucción de especies y ecosistemas, la vigilancia como medio de control social, la celebración de juguetes técnicos como si fueran grandes logros sociales o la contaminación y el Cambio Climático. “Una y otra vez”, concluye Winner, “se nos insta a celebrar las últimas ‘innovaciones’, independientemente de los compromisos desquiciados y las consecuencias desastrosas que a menudo implican”.