Expertos en inteligencia artificial reclaman frenar seis meses la “carrera sin control” de los ChatGPT

La velocidad a la que se están desplegando herramientas basadas en inteligencia artificial (IA) generativa, la que es capaz de crear textos, imágenes o música a partir de una serie de instrucciones, está asustando a los expertos. Más de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con esta tecnología han firmado una carta abierta en la que solicitan una moratoria en su desarrollo para recapacitar sobre sus consecuencias.

Más concretamente, piden una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más ...

La velocidad a la que se están desplegando herramientas basadas en inteligencia artificial (IA) generativa, la que es capaz de crear textos, imágenes o música a partir de una serie de instrucciones, está asustando a los expertos. Más de un millar de empresarios, intelectuales e investigadores de primer nivel relacionados con esta tecnología han firmado una carta abierta en la que solicitan una moratoria en su desarrollo para recapacitar sobre sus consecuencias.

Más concretamente, piden una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más poderosos que GPT4″, la última versión del gran modelo de lenguaje que usa ChatGPT. La carta advierte de que este último modelo ya es capaz de competir con los humanos en un creciente número de tareas, y que podría usarse para destruir empleo y difundir desinformación. Por ello, reclaman un desarrollo seguro y solo cuando estén seguros de que sus efectos serán positivos. “Desafortunadamente”, asegura la carta, “este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.

El magnate Elon Musk, fundador de Tesla y SpaceX y dueño de Twitter, se cuenta entre las personalidades que han rubricado la carta. Curiosamente, Musk es uno de los fundadores de OpenAI, la empresa que ha desarrollado ChatGPT, que fue la primera que decidió poner al alcance del gran público su gran modelo automático de lenguaje, algo que no había hecho nadie hasta entonces, pese a que Google o Meta hacía años que tenían sus propios desarrollos en marcha.

El historiador Yuval Noah Harari, famoso por sus libros Sapiens y Homo Deus, o Yoshua Bengio, cuya aportación en las redes neuronales profundas le valió el premio Turing (considerado el Nobel de la informática), son otros de los firmantes más conocidos. Entre ellos destacan también Steve Wozniak, cofundador de Apple, o Jaan Tallinn, cofundador de Skype.

El sello español de la carta lo ponen expertos de renombre internacional como Ramon López de Mántaras, uno de los pioneros de la IA en Europa; Carles Serra, director del Instituto de la IA del CSIC, y Francesc Giralt, catedrático emérito de la Universitat Rovira i Virgili. El primero de ellos firma otra carta abierta publicada ayer en EL PAÍS en la que se queja de la decisión del Gobierno de cerrar un acuerdo de colaboración con un instituto de IA financiado por Emiratos Árabes Unidos. Serra renunció la semana pasada a su puesto en el Consejo Asesor de la IA como protesta por ese convenio.

Desarrollo, pero con responsabilidad

“La IA avanzada puede representar un cambio profundo en la historia de la vida en la Tierra y debería ser planificada y gestionada con cuidado y con recursos”, dice un principio acordado en 2017 por figuras clave de la disciplina en una conferencia internacional. “Desafortunadamente, este nivel de planificación y de gestión no se está dando”, se lamenta la carta.

“Un reciente comunicado de OpenAI relacionado con la IA general dice que ‘En algún momento, sería importante tener supervisión independiente antes de entrenar nuevos sistemas y para que los esfuerzos más avanzados acuerden limitar el ritmo de crecimiento de la potencia computacional usada para crear nuevos modelos’. Estamos de acuerdo. Ese momento es ahora”, expresa la carta en lo que parece una indirecta a OpenAI pese a estar firmada por uno de sus fundadores, Elon Musk.

El pistoletazo de salida de la nueva carrera por la IA generativa lo dio OpenAI, una empresa participada, entre otros, por el hombre más rico del mundo y por Microsoft. El lanzamiento el pasado otoño de la versión beta de ChatGPT, su famoso bot conversacional, puso en manos del gran público una tecnología en la que empresas como Google o Meta venían trabajando desde hace lustros.

Microsoft supo captar la tendencia y anunció una inversión de 10.000 millones de dólares en la empresa. Al poco tiempo, desveló que su buscador Bing y las aplicaciones de Office llevarían un chatbot parecido a ChatGPT. Google no quiso ser menos y presentó Bard, su propia versión de chatbot conversacional. Meta también tiene el suyo: LLaMa. Mientras, OpenAI presentó ChatGPT4, una nueva versión mucho más potente y pulida de su bot conversacional, y ya trabaja en ChatGPT5.

Todo esto ha sucedido en menos de cinco meses. Alarmados por la velocidad de esta carrera, los firmantes de la carta solicitan una pausa de medio año para pensar cómo se debe encauzar. “Si esta pausa no se puede materializar pronto, los gobiernos deberían intervenir e imponer una moratoria”, solicitan los expertos.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.