OpenAI antepone los productos llamativos a la seguridad, asegura un extrabajador

Jan Leike cree que OpenAI “está asumiendo una enorme responsabilidad en nombre de toda la humanidad”. Y la opinión de Leike es importante, pues era, hasta ahora, el encargado de analizar esa responsabilidad y neutralizar sus riesgos. En un largo hilo de X, el responsable de seguridad de la empresa creadora de ChatGPT ha dicho que esta prioriza la creación de productos nuevos y llamativos a la seguridad. Y por todos estos motivos ha justificado su marcha.

Leike era codirector del departamento de superalineación, junto a Ilya Sutskever, quien abandonó la empresa hace unos días. Sus subordinados, William Saunders Leopold Aschenbrenner completan la lista de bajas. OpenAI desmantela así su equipo de seguridad, que se encargaba de garantizar que los potentes sistemas de inteligencia artificial respetaran los valores y objetivos humanos.

Todo el mundo tecnológico estaba mirando a la empresa de San Francisco, pero por otros motivos. Esta misma semana ha lanzado ChatGPT-4o, la versión gratuita y mejorada de su chatbot conversacional. Durante la presentación, a muchos les llamó la atención la capacidad del asistente de flirtear con los presentadores del evento y las referencias que hizo el consejero delegado de la empresa, Sam Altman, a la película Her, en la que un hombre se enamora de un chat conversacional. La distopía como marketing.

En este contexto se han ido produciendo una cascada de bajas. La de Ilya Sutskever ha sido la más sonada, pues fue uno de los fundadores y, hasta hace poco, miembro del núcleo duro de la tecnológica. Sutskever escribió en el post de X en el que anunciaba su marcha que confiaba en que OpenAI “construirá una AGI segura y beneficiosa” bajo su actual dirección.

Sutskever representaba el ala más conservadora de la empresa y por ese motivo, el pasado noviembre, fue uno de los que intentaron el repentino cese de Altman, al que acusaban de un exceso de temeridad. Altman recuperó su puesto, en un drama empresarial que sigue teniendo consecuencias a día de hoy. Esta idea cobra fuerza ahora con la cascada de dimisiones: en la empresa habría una serie de ingenieros que abogaban por esperar antes de comercializar modelos tan avanzados. Pero la están abandonando.

Se espera que OpenAI lance próximamente ChatGPT Search, el motor de búsqueda apoyado en IA que pondría patas arriba el sector de los buscadores, hasta ahora controlado por Google, y el esperado ChatGPT5, la nueva versión de su herramienta estrella. La empresa también ha desarrollado otros productos como el generador de imágenes Dall-E y el generador de vídeos Sora.

Con todas estas novedades en el mercado y un debate abierto sobre los riesgos de la inteligencia artificial, las reflexiones de Leike son claras y no dejan en buen lugar a su antigua empresa. “He estado en desacuerdo con la dirección de OpenAI sobre las prioridades fundamentales de la empresa durante bastante tiempo” ha explicado. “Hasta que finalmente llegamos a un punto de ruptura”. El ingeniero opina que OpenAI debería invertir más recursos en cuestiones como la seguridad, el impacto social, la confidencialidad y la seguridad para su próxima generación de modelos. “Estos problemas son muy difíciles de resolver, y me preocupa que no estemos en el buen camino”, ha escrito.

En la misma red social, Altman ha contestado a su extrabajador, mostrándose agradecido por el servicio prestado estos años y asegurando estar “muy triste” por su marcha. En un mensaje que ha prometido ampliar en los próximos días, ha reconocido que las críticas del ingeniero tienen su base: ”Tiene razón, nos queda mucho por hacer y estamos comprometidos a hacerlo.”

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para recibir nuestra newsletter semanal.