Kate Darling, experta en robots: “No deberíamos reírnos de la gente que se enamora de una máquina. Nos pasará a todos”

Kate Darling investiga los efectos legales, sociales y éticos de los robots en el MIT Media Lab (Rhode Island, EE UU, 1982). Lleva años observando cómo se relacionan humanos y robots. Tiene varios en su casa. Con la llegada de la revolución en inteligencia artificial (IA), responde sobre el futuro con evasivas: “Es todo tan especulativo”, asegura, “que es difícil de descifrar”. Aun así, no hay mejor época para su labor, porque nunca hemos estado tan cerca de vivir junto a robots: “Es un momento emocionante, me siento muy afortunada de poder vivirlo”.

Darling (estadounidense de 41 años) es autora del libro The New Breed (“La nueva casta”, aún sin traducción al español) donde afirma que la mejor comparación para entender qué es un robot es con los animales, no con los humanos. A mediados de junio visitará Barcelona para participar en actividades del festival Sónar+D, invitada por la consultora Seidor. En esta conversación con EL PAÍS, que hizo por videollamada desde su casa, trata de explicar la enorme novedad que representan los modelos de lenguaje encabezados por ChatGPT.

Pregunta. ¿Cómo ha cambiado el éxito de ChatGPT su modo de ver el futuro de los robots?

Respuesta. Es un cambio enorme. Mucha gente no lo anticipó. Si me hubieran preguntado hace unos años si tendríamos este tipo de sofisticación, habría dicho que no, nunca. Esto cambia el juego en muchos sentidos. ¿Qué va a pasar ahora? Nadie lo sabe. Para mí una de las grandes preguntas es: ¿las capacidades que estamos viendo en la IA generativa se traducirán en poder controlar y programar robots físicos? Ese tipo de inteligencia y aprendizaje sería realmente increíble. No tengo claro que vaya a ocurrir.

P. No hay una definición de robot. ¿Por qué es tan difícil?

R. No hay una definición universal. Dependiendo del ámbito, darán una definición u otra. A lo largo de la historia, se ha llamado robot a algo nuevo, una nueva tecnología que la gente no entiende, que tiene algo de mágico. Luego, una vez se vuelve más común, la gente deja de llamarlo robot y comienza a llamarlo lavavajillas o máquina expendedora.

P. Hay mucho debate ahora con una posible extinción provocada por una IA capaz de decidir por sí misma.

R. Soy una persona muy práctica y no sé cómo puede desarrollarse algo así. No hay mucho que podamos hacer para predecir si pasará y no hay nada que pueda protegernos, aparte de detener la investigación en IA, que no pasará. Me interesa más que la gente creerá que la IA es consciente, más allá de si en realidad lo es o no. Eso sí es algo que debemos afrontar como sociedad.

Se ha llamado robot a una nueva tecnología que la gente no entiende. Luego, comienzan a llamarlo lavavajillas o máquina expendedora

P. Para entender qué es un robot dice que es mejor compararlo con un animal que con un humano. ¿Mantiene esa idea después de ChatGPT?

R. Sí. Sé que ahora es más difícil la comparación con una IA que usa lenguaje humano. Pero es aún más importante el motivo, que consiste en decir que no es tan valioso o útil crear algo que ya tenemos, que ya podemos hacer. Es más valioso tener máquinas que puedan complementarnos o ser socios en lo que tratamos de lograr. Muchas tareas que la IA generativa hará ahora las hacen humanos, pero creo que el verdadero potencial de la tecnología es que sea una herramienta que se combine con otras habilidades humanas y no solo un reemplazo.

P. Ve a robots pronto como miembros de nuestras familias. ¿Cómo serán?

R. En muchas investigaciones sobre la interacción humano-robot, las personas ya tratan a los robots como seres vivos, aunque saben que son solo máquinas. Pero a la gente le encanta hacerlo. Las personas incluso antropomorfizan a los robots y nos proyectamos sobre ellos, les damos cualidades humanas locas, emociones. La gente también entiende que está interactuando no con una persona, sino con algo diferente. Los robots serán un nuevo tipo de relación social: puede ser como una mascota o puede ser algo totalmente diferente, por eso mi libro se llama nueva casta. Pero no creo que reemplace necesariamente las relaciones humanas. Será algo diferente, pero definitivamente va a pasar.

El verdadero potencial de la tecnología es que sea una herramienta que se combine con otras habilidades humanas y no solo un reemplazo

P. Tiene robots en casa. ¿Cómo son? ¿Qué hacen?

R. Tengo un par de tipos diferentes. Tenemos una foca bebé, un robot dinosaurio, un perro robot y luego tenemos otros robots que son más para ayudar en casa, como un asistente o una aspiradora. Todos hacen cosas diferentes y mis hijos interactúan con ellos de manera distinta dependiendo de si los ven como herramienta o compañero.

P. ¿Los robots compañeros pueden apagarse o están siempre encendidos?

R. Los apagamos. Aunque algunos están diseñados para estar siempre encendidos. El perro, por ejemplo, cuando la batería está baja, busca su lugar de carga y se tumba como si fuera a dormir para cargarse.

P. ¿Estos robots mascota ya están listos para entrar en millones de hogares?

R. Ya hemos visto, con esta tecnología primitiva y muy cara, que la gente que la tiene desarrolla conexiones significativas. La tecnología no va a empeorar. La barrera para los robots caseros no es la complejidad del robot, sino que la gente aún no sabe el valor social que les proporcionaría tener uno. Una vez que obtengan suficientes efectos positivos de un robot doméstico que tendrán muchos hogares, habrá un punto de inflexión y más gente los querrá.

‘Her’ trata sobre una aplicación que lanza una empresa, ¿cuál es du modelo de negocio? ¿Qué están tratando de hacer?

P. ¿Qué quiere decir con “efectos positivos”?

R. La gente antes no veía el valor de tener una mascota. El animal debía cumplir una función: el perro cuidaría la casa y el gato atraparía a los ratones, pero luego la gente se dio cuenta de que la relación con la mascota y la conexión emocional eran el verdadero valor. Ahora tienen mascotas por ese motivo. Pasará lo mismo con los robots. Ahora mismo tienen una función: asistentes, aspirar el suelo. Pero una vez haya un número adecuado de robots con los que la gente interactúe, verán un valor en la conexión social y los querrán también por esa razón.

P. Ha dicho que la película Her, sobre un humano que se enamora de una máquina, le preocupa y le entusiasma a partes iguales. ¿Qué problemas éticos ve?

R. Her trata sobre una aplicación que lanza una empresa. Hay muchas preguntas: ¿cuál es el modelo de negocio de la empresa? ¿Qué están tratando de hacer? Probablemente, traten de maximizar sus ganancias. Son personas en una posición muy vulnerable porque tienen ya una conexión emocional muy fuerte con una aplicación, un dispositivo, un robot. Esto ya está sucediendo. La aplicación Replika, que ya tiene millones de usuarios, tiene a gente apegada emocionalmente. Me preocupa también que haya problemas de privacidad y recopilación de datos. Podría manipular emocionalmente a las personas para que compren productos y servicios o cambien su comportamiento, no en su propio interés, sino en el de una empresa.

P. Ha dicho que puede imaginarse que una aplicación sexual pueda explotar la debilidad de un usuario en el calor del clímax.

R. Sí.

P. ¿No es mal marketing?

R. Igual es un poco más sutil. Pero Replika tiene compras dentro de la aplicación que la gente adquiere y, por tanto, es fácil manipular, hacer gastar dinero o enseñar publicidad. Son problemas de protección al consumidor porque es algo persuasivo pero de un modo demasiado manipulador.

P. ¿Habrá un modo razonable de monetizar estas aplicaciones?

R. Sí, cuando los consumidores se den cuenta del valor de comprar un compañero artificial y paguen suficiente dinero por ello. Podrán venderlo y ya. ¿Creo que pasará eso? No. Pero sería el mejor modo para proteger la privacidad y no tener que manipular emocionalmente a nadie.

P. A mucha gente le sorprenderá que alguien humanice a estas máquinas. Pero estamos programados para eso.

R. Sí. Y no desaparecerá. Si algo se mueve a nuestro alrededor es porque tiene vida. Así piensan nuestros cerebros y hay esta proyección subconsciente que no solo se da con objetos en movimiento, sino con un chatbot o lo que sea que imite el comportamiento humano, cosas que reconocemos como señales, sonidos, y la evidencia científica muestra que lo hacemos desde pequeños. Está muy arraigado y seguirá ahí.

[Lo que más me preocupa es] las empresas, la estructura de incentivos y los problemas políticos y económicos. Es una cuestión de gobernanza, no tecnológica

P. Los robots morirán. ¿Puede ser que nos divorciemos o abandonemos un robot en una cuneta por culpa de una actualización de software?

R. Sí, probablemente. Las relaciones pueden terminar de todas maneras y tendremos relaciones reales con robots, tanto si son como relaciones humanas, relaciones humanos-mascotas o relaciones nuevas. Como tal podrán acabar de maneras distintas, tanto con la muerte como con alguien decidiendo que ya no quiere seguir. Pasarán todo tipo de cosas. Es fácil de prever porque la gente desarrolla relaciones emocionales con entidades artificiales. Pero aún hay mucha gente que no lo entiende.

P. ¿No entienden que pueden colarse por una máquina?

R. Sí. Hay ya historias sobre gente que se enamora de su chatbot. La mayoría de gente piensa que ellos no. Que esa gente que se enamora son tristes y solitarios, pero que ellos no. Todos somos susceptibles de vincularnos con máquinas, sobre todo cuando sean algo más interesantes y estén más disponibles. Tenemos que tomarnos esto más en serio en lugar de reírnos de que alguien se enamore de un robot porque nos pasará a todos.

P. ¿No es sorprendente que la máquina de la que nos enamoremos sea solo una pantalla?

R. No demasiado. Incluso con los chatbots más primitivos la gente se abría. En el MIT crearon a Eliza en los años setenta y la gente le contaba sus cosas. Somos papanatas con todo lo que nos da señales que reconocemos, incluso si solo es una pantalla. La razón por la que me encantan los robots físicos es porque añade esa capa más visceral que los hace más atractivos.

P. Pero no le gustan los robots humanoides.

R. No, son aburridos.

P. Prefiere a R2-D2, un “cubo de basura con ruedas”.

R. Me gustan los robots que están diseñados para ser monos y con los que la gente se identifica, pero no tienen que parecer humanos. Es mucho más interesante crear una forma y a veces funciona incluso mejor porque si se ve demasiado humanoide, entonces las expectativas sobre cómo debe comportarse y qué debe hacer acaban por decepcionar. Mientras que con algo que parece un cubo de basura animado no hay las mismas expectativas.

P. ¿Está más excitada o preocupada por estas novedades?

R. Ambas.

P. ¿Qué es lo que más le preocupa?

R. Las empresas, la estructura de incentivos y los problemas políticos y económicos. Es una cuestión de gobernanza, no tecnológica.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.