ChatGPT y ética: por qué los robots nos quieren llevar por el buen camino

La noticia ha resonado como un potente trueno. La última versión del “robot conversacional” ChatGPT, desarrollado por la empresa OpenAI, está dotada de un poder de locución tan sofisticado que ya se asemeja al de un humano.

A este respecto, hay que destacar que lo que de entrada llamó nuestra atención es que estos robots escriben textos cuya calidad sintáctica y coherencia permitirían ya que los estudiantes de secundaria los ut...

La noticia ha resonado como un potente trueno. La última versión del “robot conversacional” ChatGPT, desarrollado por la empresa OpenAI, está dotada de un poder de locución tan sofisticado que ya se asemeja al de un humano.

A este respecto, hay que destacar que lo que de entrada llamó nuestra atención es que estos robots escriben textos cuya calidad sintáctica y coherencia permitirían ya que los estudiantes de secundaria los utilizaran para hacer los deberes, o los medios de comunicación con el propósito de producir artículos, entre otras muchas situaciones.

Sin embargo, estas perspectivas, al movilizar nuestros afectos, nos han llevado a ocultar el hecho principal. Es decir, que, mucho más que escribir textos por encargo, estos programas empiezan a dirigirnos la palabra, como de forma autónoma y natural. Y esto, con vistas a un gran objetivo industrial: guiarnos continuamente por el buen camino.

Esta disposición es el resultado de los imprevistos avances de la inteligencia artificial desde principios de la década de 2010, que han permitido desarrollar sistemas capaces de evaluar, a velocidades infinitamente superiores a nuestras capacidades cognitivas, situaciones de todo tipo. Pero también, por consiguiente, formular recomendaciones. Como la aplicación Waze, por ejemplo, que interpreta las condiciones del tráfico en tiempo real, a la vez que sugiere las mejores rutas.

Esta arquitectura ha hecho que surja un nuevo modelo económico, con fuentes inagotables de riqueza: la interpretación y la orientación de nuestro comportamiento. Desde hace quince años, las tecnologías se conciben para guiar nuestros gestos con sus luces cada vez más omniscientes, principalmente con fines comerciales.

Se establece un lazo umbilical al que la voz de la máquina da ahora una forma fluida y familiar. Porque, a la larga, todo empezará a hablar. Después de los altavoces conectados, que salieron al mercado en 2016, nuestro smartphone, el habitáculo de nuestro vehículo, nuestra cocina… Los laboratorios, en su inmensa mayoría privados, trabajan sin descanso para robotizar el lenguaje, antes de poner sus productos al alcance de todos, como de la noche a la mañana. ¿Y cómo nos hemos enterado de la existencia de este prodigio tecnológico? Por las noticias de prensa. En otras palabras, a posteriori.

Un fenómeno recurrente y que debería llamarnos la atención: el de la desincronización entre, por un lado, la sociedad que se encuentra ante un hecho consumado y que, al final, lo único que hace es reaccionar y, por el otro, una poderosa industria, ahora hegemónica, que desde hace dos décadas se esfuerza constantemente por hacer que nuestras vidas dependan de sus logros.

En este sentido, demasiado a menudo desestimamos a las figuras que sustentan todo este mecanismo: los ingenieros. Aquellos que en su mayoría se lanzan a una carrera cada vez más enloquecida por la llamada “innovación” y que, por estar supeditados a la industria digital, solo se someten a pliegos de condiciones establecidos con el único objetivo de generar ganancias.

Lo que los caracteriza es que participan activamente en el diseño de dispositivos que, en la mente de la ciudadanía, plantean un número cada vez mayor de interrogantes. En esto, se encuentran en una posición incómoda que a veces llega a hacerles sentir remordimientos de conciencia.

Entonces, para quedar bien, se mantiene desde hace mucho tiempo una hábil campaña para fabricar el consentimiento, haciendo así posible nadar y guardar la ropa. Esto, mediante el uso constante de un concepto, con aires de pócima milagrosa, o de arena en los ojos, destinado a tranquilizar a las multitudes: la “ética”.

En los últimos años, hemos visto la celebración de conferencias organizadas por la corporación, o la plétora de obras escritas por algunos de sus miembros, repitiendo a coro un sempiterno estribillo. Aquel según el cual —no cabe duda— todos nos beneficiaremos de los continuos avances tecnológicos, frente a cuyos posibles abusos, sin embargo, conviene protegerse. Y tantos otros discursos repetidos en bucle por personas que, además, son juez y parte.

A decir verdad, lo característico de esta postura es que solo ratifica las cosas, en la medida en que lo que ordinariamente se entiende por esta noción únicamente remite a vagos cortafuegos normativos o legislativos, sin tener nunca en cuenta el alcance civilizador y antropológico de los cambios que ya están en marcha. A saber, un destierro progresivo de nuestras facultades impulsado por la creciente automatización de los asuntos humanos.

Aquí es donde conviene subir de nivel las apuestas y pasar de la ética —tal como se emplea, bastante vulgarmente, hoy— a una dimensión que se consideraría superior: la moral.

La primera se deriva de la aplicación de algunas reglas de supuesta buena conducta a casos concretos. La segunda se entiende como el respeto incondicional a nuestros principios fundamentales.

Entre ellos, aquel que no ha dejado de verse erosionado por la digitalización de nuestras vidas y que, como tal, debe ser defendido más que nunca: la mejor expresión de nuestras capacidades, de lo que depende el buen desarrollo de cada uno de nosotros.

Porque, después de haber experimentado un debilitamiento de nuestra autonomía de juicio debido a la generalización de los sistemas que orientan, con diversos fines, el curso de nuestra vida cotidiana, lo que ahora se presagia es una renuncia a nuestra facultad de expresarnos.

Por eso, nos corresponde a nosotros oponernos a un ethos que, en realidad, proviene del odio al género humano, y que solo pretende reemplazar nuestros cuerpos y nuestras mentes, de facto incompletas, con tecnologías concebidas para garantizar una organización supuestamente perfecta del funcionamiento general y particular del mundo.

Ha llegado el momento de alzar la voz —nuestra propia voz— y retomar la fórmula de Albert Camus en El hombre rebelde afirmando: “Las cosas han durado demasiado (…), vais demasiado lejos (…), hay un límite que no franqueareis”.

Eso sería un verdadero humanismo de nuestro tiempo. No clamar en todo momento, corazón en mano y de forma siempre muy vaga —como los gurús de Silicon Valley o las hordas de ingenieros— queriendo poner “al hombre en el centro”, sino establecer la manifestación adecuada de nuestra riqueza sensible e intelectual como la condición imprescindible para unas sociedades plenamente libres y plurales.

Traducción de News Clips

Apúntate aquí a la newsletter semanal de Ideas.