Inteligencia Artificial y el dilema sobre Frankenstein: la criatura puede destruirnos pero, ¿quién querrá renunciar a la fama?

El capital, que ya venía con una larga racha ganadora, se acaba de anotar otra gran victoria en un conflicto por la ética de la inteligencia artificial. El drama por el súbito despido del director ejecutivo de OpenAI, Sam Altman, y su posterior recontratación nos muestra a una empresa sin fines de lucro que se plan...

El capital, que ya venía con una larga racha ganadora, se acaba de anotar otra gran victoria en un conflicto por la ética de la inteligencia artificial. El drama por el súbito despido del director ejecutivo de OpenAI, Sam Altman, y su posterior recontratación nos muestra a una empresa sin fines de lucro que se planteó la misión de priorizar la seguridad de la inteligencia artificial (IA) sobre las ganancias, pero fracasó espectacularmente a la hora de controlar a una filial lucrativa.

OpenAI, Inc. fue fundada en 2015, con el objetivo de asegurar que la inteligencia artificial general (sistemas autónomos capaces de superar a los seres humanos en todas o casi todas las tareas, si algún día se llega a eso) no se vuelva incontrolable. El potencial de la IAG plantea el mismo dilema que Mary Shelley presentó en Frankenstein. La criatura puede destruirnos, pero ¿quién podrá evitar que alguien busque la fama, el poder y la riqueza que conferiría un “éxito”? El sainete del despido de Altman ofrece una respuesta: no es posible confiar nuestra seguridad a las normas éticas, a las estructuras de gobernanza corporativa, ni siquiera a la presencia en los consejos directivos de personas con principios. Hay que reconocer que lo intentaron, pero no bastó.

Al principio, OpenAI, Inc. confió en poder operar en un ámbito hipercompetitivo y dinámico financiándose con donaciones. Pero en tres años sólo obtuvo 130 millones de dólares, muy por debajo del objetivo de 1.000 millones. Frente a la necesidad de recurrir al capital privado, se procuró proteger la misión original apelando a una compleja estructura de gobernanza.

Para ello se crearon dos filiales lucrativas: una sociedad de responsabilidad limitada y propiedad exclusiva que actuaría como socio principal (gestor) de la otra, en el contexto de una sociedad limitada. Como el socio no vota, OpenAI, Inc. ejercía control total sobre la sociedad, al menos en teoría. A continuación, el socio fundó una sociedad de responsabilidad limitada propia, OpenAI Global LLC, para atraer capital privado; esto incluyó una inversión de 13.000 millones de dólares de Microsoft, que no tendría poder de control formal. Para terminar de proteger la misión original, OpenAI Global LLC contrató como empleados a varios miembros del consejo directivo de la entidad sin fines de lucro original, entre ellos Altman como director ejecutivo.

¿Qué podía salir mal? Todo, en efecto. Cuando el consejo directivo decidió despedir al director ejecutivo de la subfilial (aparentemente, por lo que una mayoría de los consejeros consideró como un conflicto entre sus ambiciones y la misión de la empresa), toda la estructura se vino abajo. Entonces Microsoft intervino y ofreció contratar a Altman y a quien quisiera seguirlo. Eso puso en riesgo el futuro financiero de OpenAI. Tal y como advertía en su acuerdo operativo: “La inversión en OpenAI Global LLC es de alto riesgo. Los inversores pueden perder el capital aportado y no recibir rendimiento alguno”.

Pero esa advertencia no asustó a Microsoft, a la que le interesaban menos los dividendos que los productos de OpenAI y el personal dedicado a su desarrollo. Ahora Altman volvió a OpenAI, junto con un nuevo consejo directivo que parece más dispuesto a seguir sus órdenes, pero no es aventurado suponer que en última instancia las decisiones las tomará Microsoft. Al fin y al cabo, Altman le debe su empleo y el futuro de la empresa que dirige.

Más allá de toda la cobertura mediática que ha generado este drama, no es nada nuevo. Históricamente, cuando hay un conflicto de visiones respecto del futuro de un producto o modelo de negocios innovador, casi siempre gana el capital.

Basta pensar en las ambiciosas promesas de lucha contra el cambio climático formuladas por muchas empresas privadas (probablemente, con la esperanza de evitar regulaciones o algo peor). En 2022, Larry Fink, director ejecutivo de BlackRock, la mayor gestora de activos del mundo, predijo un cambio de paradigma hacia la adopción de estrategias de inversión sostenibles. Pero no tardó en desdecirse. Tras bajarle la calificación al cambio climático (de estrategia de inversión a mero factor de riesgo), BlackRock ahora dice estar orgullosa de asegurar la “sostenibilidad corporativa”. Si el consejo directivo de una sociedad sin fines de lucro con un firme compromiso (escrito) con la seguridad de la IA no pudo proteger al mundo de su propio director ejecutivo, no hay que esperar que el director ejecutivo de una gestora de activos con fines de lucro nos salve del cambio climático.

Basta pensar también en la historia aún más larga de promesas que se incumplieron por el afán de lucro en el ámbito de la creación de dinero privado. El dinero es una cuestión de crédito, pero hay una diferencia entre el crédito mutualizado (dinero estatal) y el crédito privatizado (dinero privado). La mayor parte del dinero en circulación es dinero privado; esto incluye los depósitos bancarios, las tarjetas de crédito y muchas cosas más. El dinero privado le debe su éxito al dinero estatal. Sin un Estado dispuesto a mantener bancos centrales para asegurar la estabilidad de los mercados financieros, estos (y los intermediarios de los que están llenos) fracasarían a menudo y arrastrarían consigo a la economía real. La relación entre el Estado y los bancos es el ejemplo más antiguo de una “alianza público-privada” en la que se prometen beneficios conjuntos para la banca y la sociedad.

Pero a los ganadores les encanta llevarse todo, y los bancos no son la excepción. El Estado les ha concedido el enorme privilegio de administrar la creación de dinero, reservándose el papel de dar apoyo al sistema en tiempos de crisis. Pero cuando otros intermediarios encontraron el modo de sumarse a la fiesta, no hubo muchos gobiernos dispuestos a recuperar el control por temor a provocar fugas de capitales. El resultado es que el sistema financiero ha crecido tanto que, la próxima vez que haya una crisis a la vista, ningún banco central podrá negarse a acudir al rescate. La fiesta continúa porque el soberano está supeditado al capital y no al revés.

Que OpenAI no haya logrado preservar su misión no es sorprendente. Si el Estado no puede proteger a los ciudadanos de las depredaciones del capital, ¿qué posibilidades podía tener una pequeña empresa sin fines de lucro con un puñado de consejeros bien intencionados?

Apúntate aquí a la newsletter semanal de Ideas.