El nuevo jefe de OpenAI, un ‘apocalíptico’ que quiere frenar la inteligencia artificial

¿Quién es la persona adecuada para dirigir una empresa puntera en inteligencia artificial (IA) con Microsoft como principal socio? Tras el despido de Sam Altman, los consejeros independientes de OpenAI han pensado que el ideal es Emmett Shear, una persona que ve la inteligencia artificial como una amenaza para la humanidad y que odiaba a Microsoft. A ChatGPT nunca se le habría ocurrido.

Shear, de 40 años, ...

¿Quién es la persona adecuada para dirigir una empresa puntera en inteligencia artificial (IA) con Microsoft como principal socio? Tras el despido de Sam Altman, los consejeros independientes de OpenAI han pensado que el ideal es Emmett Shear, una persona que ve la inteligencia artificial como una amenaza para la humanidad y que odiaba a Microsoft. A ChatGPT nunca se le habría ocurrido.

Shear, de 40 años, se ha definido a sí mismo como un doomer, un fatalista o apocalíptico. Pertenece al grupo de los que creen que hay un riesgo alto de que la inteligencia artificial tome conciencia de sí misma, inicie un proceso de automejora continua y acabe destruyendo a la humanidad. Algo así como Terminator, pero sin viajes en el tiempo. Se ha mostrado partidario de frenar el desarrollo de la inteligencia artificial para minimizar los riesgos.

En una entrevista de junio pasado para un podcast explicaba su posición. Tras decir que por lo general está a favor de las nuevas tecnologías, matiza: “Tengo una preocupación muy específica con la IA”. Shear explicaba que la inteligencia artificial irá siendo capaz de programar, diseñar microprocesadores, materiales, energía y todo lo necesario para construir una inteligencia artificial, entrando en un bucle en que cada inteligencia artificial mejorará a la siguiente cada vez de forma más rápida. “Ese tipo de inteligencia es algo intrínsecamente muy peligroso”, indicaba, antes de referirse a la secuencia de argumentos y condicionantes que acaba de explicar: “Sé que Eliezer [Yudkowsky, un activista de la seguridad en la inteligencia artificial] piensa que estamos todos condenados con seguridad. Compro su argumento de la destrucción, compro la cadena lógica, pero mi probabilidad de destrucción es como entre el 5% y el 50%, un rango muy amplio”, indicaba.

Aun así, lo consideraba aterrador: “Eso debería hacer que te cagues en los pantalones. Y no es solo la extinción a nivel humano. Extinguir humanos ya es bastante malo. Es como, la destrucción potencial de todo valor en el cono de luz. No solo para nosotros, sino para cualquier especie alienígena atrapada en la estela de la explosión. Es como una bomba destructora del universo”, añadía, comparando el riesgo de la inteligencia artificial con que alguien inventara una forma de hacer bombas nucleares 10 veces más potentes solo con arena y lejía.

El nuevo consejero delegado de OpenAI ha hecho toda su carrera en Twitch, la red social de vídeos. Informático superdotado, fundó Justin.tv con su compañero de clase Justin Kan. Luego esa empresa evolucionó a convertirse en Twitch. Ayudó a transformar una plataforma especializada en la retransmisión de videojuegos en un gigante del entretenimiento, que Amazon compró por 970 millones de dólares en 2014. Él mismo es muy aficionado a los videojuegos: “Lo de Twitch fue porque me gusta mucho, mucho, mucho, mucho Starcraft”, dijo en una conferencia de la empresa sobre el juego de estrategia de Activision Blizzard, según Bloomberg. Casi nadie retransmitía juegos en streaming. Estuvo dirigiendo Twitch hasta marzo pasado, cuando decidió dejarlo para dedicar tiempo a su hijo recién nacido. La plataforma ha recibido críticas por no ser capaz de frenar el machismo, sexismo, racismo y acoso a menores de muchos de sus usuarios en los comentarios.

Machismo

El directivo no se corta en las redes sociales y eso le ha llevado por ejemplo a hacer comentarios hirientes contra Microsoft, principal socio, cliente y proveedor de OpenAI. “Cuando hacía prácticas en Microsoft, cada cheque me parecía el pago de un trocito de mi alma por correo”, tuiteó en julio. Pero también a mostrarse como machista y sexista. En agosto, antes de su nombramiento en OpenAI, Shear respondió a un mensaje sobre mujeres que defendían el “uso libre”, estar sexualmente disponibles siempre para sus parejas, afirmando que se trataba de un “fetiche BDSM [dominación, sumisión y sadomasoquismo] de no consentimiento/humillación”. Añadió en otro mensaje que “el 40-60% de las mujeres parecen tener fantasías de violación/no consentimiento”, citando un artículo de Wikipedia.

El nuevo jefe interino de OpenAI se ha mostrado partidario de frenar el desarrollo de la inteligencia artificial: “Estoy a favor de una relentización. No podemos aprender a construir una IA segura sin experimentar, y no podemos experimentar sin progresar, pero probablemente tampoco deberíamos avanzar a toda velocidad”, tuiteaba hace solo dos meses.

Shear es una elección peculiar para una empresa puntera en inteligencia artificial, pero cuadra con la idea de los actuales consejeros independientes que se han hecho con el poder en OpenAI. Según la carta en que los empleados pidieron su dimisión, esos consejeros, que no tienen como tarea maximizar el valor de la empresa sino el bien de la humanidad, informaron a los directivos de que “permitir la destrucción de la empresa sería coherente con la misión”. El nuevo directivo está vinculado al movimiento del altruismo efectivo, al igual que dos consejeras independientes que han quedado con el control de OpenAI. Ese movimiento tiene fuertes reservas sobre la inteligencia artificial avanzada.

A diferencia de la destitución de Altman, OpenAI no ha anunciado públicamente el fichaje de Shear, así que no ha expuesto sus razones ni el motivo de que su cargo sea provisional. Presentó el nombramiento a través de una comunicación interna y fue el propio directivo el que contó en la red social X sus razones para aceptar el puesto: “Hoy he recibido una llamada invitándome a considerar una oportunidad única en la vida: convertirme en el CEO interino de OpenAI. Tras consultarlo con mi familia y reflexionar sobre ello durante solo unas horas, he aceptado”, escribió.

“Hacía poco que había dimitido de mi cargo de CEO de Twitch debido al nacimiento de mi hijo, que ahora tiene nueve meses. Pasar tiempo con él ha sido tan gratificante como pensé que sería, y estaba evitando felizmente un empleo a tiempo completo. He aceptado este trabajo porque creo que OpenAI es una de las empresas más importantes que existen en la actualidad. Cuando el consejo compartió la situación y me pidió que aceptara el puesto, no tomé la decisión a la ligera. En última instancia, sentí que tenía el deber de ayudar si podía”, explicó este lunes como parte de un largo mensaje.

¿La vuelta de Altman?

En su declaración de intenciones habla de garantizar el éxito y la estabilidad de OpenAI y muestra su “respeto” por todo lo que ha construido la firma hasta ahora. “No es solo un proyecto de investigación y un producto de software increíbles, sino una empresa increíble. Estoy aquí porque lo sé, y quiero hacer todo lo que esté en mi mano para protegerla y hacerla crecer aún más”, afirma.

Shear no lo tendrá fácil. El 95% de los empleados de OpenAI ha amenazado con marcharse de la compañía por el despido de Sam Altman. Microsoft se ha mostrado dispuesto a ficharlos a todos si hace falta, pero otras compañías tecnológicas también les han lanzado ofertas. El futuro de la firma de inteligencia artificial está en el aire con esa potencial deserción masiva.

El propio Shear se ha puesto como prioridad investigar las circunstancias del despido de Altman y, según Bloomberg, está dispuesto a dimitir si no hay pruebas de comportamiento inadecuado por parte de su antecesor. En paralelo, hay negociaciones abiertas para la potencial vuelta de Sam Altman a la empresa como consejero delegado, a pesar de que se haya anunciado su fichaje por Microsoft. Se manejan distintas opciones y por ahora no hay acuerdo. Un hipotético regreso a la compañía vendría acompañado de cambios en la gobernanza y de algunas garantías para los inversores.

Como curiosidad, cuando se pregunta a ChatGPT quién sería un buen consejero delegado para OpenAI, su lista de cinco es la siguiente: el fundador de Tesla y SpaceX, Elon Musk; el jefe de Microsoft, Satya Nadella; el cofundador de DeepMind Demis Hassabis; la anterior directora de operaciones de Facebook, Sheryl Sandberg, y el cofundador de Coursera Andrew Ng.

Una alternativa para la mayor parte de las tareas sería poner al frente una inteligencia artificial, pero eso es idea de Emmett: “Sin ironías. La mayor parte del trabajo de director general (y la mayoría de los puestos ejecutivos) es muy automatizable. Por supuesto, hay decisiones clave que no se pueden sustituir”, tuiteó la víspera del despido de Sam Altman.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para recibir nuestra newsletter semanal.