Joanna Bryson, experta en robótica e IA: “Hay mucha gente buscando la superinteligencia y ni siquiera sabe lo que busca”

Joanna Bryson (Milwaukee, EE UU, 60 años) es experta en inteligencia, robótica y ética. Profesora en la Escuela Hertie en Berlín desde 2020, es licenciada en Psicología e IA y doctora en la el Massachusetts Institute of Technology (MIT). Recientemente ha pasado por España para dar una de las principales charlas en la conferencia internacional CLEF, centrada en Inteligencia Artificial, y que este año se ha celeb...

Joanna Bryson (Milwaukee, EE UU, 60 años) es experta en inteligencia, robótica y ética. Profesora en la Escuela Hertie en Berlín desde 2020, es licenciada en Psicología e IA y doctora en la el Massachusetts Institute of Technology (MIT). Recientemente ha pasado por España para dar una de las principales charlas en la conferencia internacional CLEF, centrada en Inteligencia Artificial, y que este año se ha celebrado en Madrid, organizada por un equipo de la UNED.

Allí contó una conocida historia sobre un posible fin terrorífico de una IA todopoderosa: si recibiera la orden de fabricar clips sin parar, podría arrasar con todo hasta que en el mundo solo hubiera clips. “Pero en realidad nosotros somos los clips”, dice Bryson, que es muy escéptica sobre el poder de la IA por encima de lo que ya hace hoy. “Estamos destruyendo la biodiversidad, y aunque es muy resistente ya hemos degradado la calidad de vida en este planeta”.

Pregunta: Dice que la IA se está ralentizando.

Respuesta: Llevo diciéndolo un tiempo. La gente creía que cuantos más datos tuvieran, mejor sería la IA. Pero es una falacia. Puedes usar IA para producir más datos sintéticos y funcionará en ciertos contextos, pero no se puede inventar conocimiento así. Para entenderlo, Europa tiene una población más diversa pero menos cantidad que China. Pero que tenga más gente no significa que haya más información, porque la información viene de contextos diferentes y un montón de gente igual no es más información nueva. En una autocracia, la gente cuenta los datos que el autócrata quiere ver. Así que son datos muy similares.

P. Pero puede mejorar por caminos que no son los actuales.

R. Seguro que seguirá mejorando. Continuaremos encontrando algoritmos que sean buenos para ciertos contextos. Pero creo que mucha de la gente buscando la superinteligencia ni siquiera sabe qué busca. Ya dijo Sam Altman este año que es un término básicamente sin sentido. Igual pensaban que sabrían qué es cuando lo vieran.

P. ¿No es en el fondo una máquina que aprende por sí misma?

R. ¿Y qué significa eso en realidad? Una de las cosas que se dice es: “Oh, ojalá pudiéramos construir una persona con IA”. ¿Pero esta gente sabe el esfuerzo que hacen los padres? Nadie compra un dispositivo para tener que poner tanto esfuerzo en él. No tiene ningún sentido. La idea de que ese sea el objetivo es simplemente bizarra.

P. Hace unos días Elon Musk prometía pronto robots humanoides Optimus con un cerebro IA.

R. En los 90 en el MIT ya intentábamos hacerlos. Me prometieron un ojo y una mano y nada.

P. Es escéptica.

R. No, creo que construirán algo. Solo digo que no será novedoso. No es la primera vez que tratamos de hacer algo así.

P. No será entonces un humanoide inteligente.

R. Ya tenemos humanoides inteligentes, solo que no lo son mucho. Si coges un robot Pepper [humanoide japonés de 1,20 metros desarrollado para comunicarse con personas] y lo conectas a un modelo de lenguaje, sabrá ya muchas más cosas que la mayoría de personas. La gente pensaba antes que si podías conseguir que los robots se movieran a velocidades humanas a través de un entorno complejo, que eso sería inteligencia real. Lo hicimos y fue muy emocionante, pero eso en realidad no te ayuda con la comprensión del lenguaje u otras cosas. Y luego dijeron: “Bueno, ¿pero qué pasa si también puede jugar a ajedrez?" Y yo digo: “Tengo noticias para ti. Es un robot con [sistema operativo] Linux. Ya puede, por tanto, jugar a ajedrez”. No se ha pensado mucho. Están tratando de construir humanos, pero la paternidad es la única manera en que se construyen humanos. Hay una ignorancia increíble. ¿Quién pensó que tener un robot que llevara tanto tiempo como criar a un niño fuera una buena idea?

P. Seguro que hay gente que cree que lleva menos esfuerzo.

R. Hay parte de eso. Una de las cosas que literalmente estaban diciendo es que queríamos que fuera como una persona y que se enseñara a sí mismo. Los profesores saben lo difícil que es enseñar. Tienes un enorme rango de resultados. Hay un artículo de los años 90 de un sociólogo que salió a mirar a las figuras principales que creían en la vida artificial y eran casi todos hombres divorciados de mediana edad, que claramente solo intentaban producir descendencia a través de este otro mecanismo porque el convencional les había fallado.

P. Hoy hay mucha gente haciéndose muy rica con todo esto.

R. La capitalización de todas estas compañías de IA es una locura. Creo que es una burbuja. Estas compañías son las únicas que están manteniendo al alza la bolsa de EE UU. Si las sacas, ese mercado baja y gran parte de las finanzas del mundo asume que eso nunca pasa. Hasta que la burbuja explote, este pequeño número de personas tiene esta cantidad de poder increíble que está haciendo el mundo ingobernable.

P. ¿Pueden las empresas de IA acabar igual de criticadas que las de redes sociales?

R. Quizá vaya un poco así. Pero tengo que decir algo. Twitter era una compañía increíble e interesante. Pero mucho de lo que hizo fue por nosotros. Nosotros fuimos los que determinamos la red y su poder. No eran solo nuestros datos en términos de lo que tuiteábamos, sino a quién elegíamos seguir, y eso es lo que lo convirtió en un dispositivo de comunicación política tan efectivo.

P. Ahora la IA es otra cosa de momento.

R. Las empresas de IA generativa compran todos estos datos. Esa es una diferencia muy sustancial respecto a las redes.

P. Tampoco Twitter es lo que era.

R. Esto es una de las cosas que me vuelve loca. Nunca debiera haberse vendido a manos privadas. Los usuarios estaban involucrados. No publico en ella muy a menudo, pero siento como que X es una ciudad que hemos perdido y que hay un enemigo controlándola. Pero todavía es nuestra ciudad y construimos toda la infraestructura y deberíamos intentar recuperarla. Animo a la gente a no borrar toda la información. Ni Bluesky ni Mastodon serán nunca Twitter porque Twitter era el único lugar. Ahora estamos en una diáspora.

P. ¿La IA podría ser traer una explosión de inteligencia?

R. Es extremadamente improbable que vayamos a tener una IA independiente de los humanos. Es mucho mejor pensarlo como un atributo. No creo que seamos tan buenos ingenieros como para crear algo que persista de manera interesante. No creo que vayamos a tener una innovación que funcione a un ritmo más alto que el nuestro. Si sacas a los humanos del núcleo del sistema sociotécnico y se convierte solo en un sistema técnico, creo que se cae bastante rápido.

P. ¿Cómo definiría la aportación de la IA?

R. Es como una biblioteca, como una interfaz diferente para una biblioteca. En una biblioteca real, puedes ir, conseguir el libro y descubrir qué pasa realmente. Con el modelo obtienes una vista integrada sintetizada mediante un montón de cosas. Hay una probabilidad muy alta de obtener una respuesta útil y precisa a algo para lo que hay bastante consenso.