El nombre del diablo es un texto secreto

El ricino, o planta del castor, es un arbusto bastante molesto por su tendencia a invadir campos donde uno intenta cultivar cualquier otra cosa, sobre todo en las áreas tropicales de África, pero ya extendido por las zonas templadas de todo el planeta. De sus semillas se obtiene la ricina, uno de los venenos más poderosos conocidos. Se dice que con cuatro semillas puedes cargarte a un tipo, aunque la gente siembra el arbusto por razones menos sospechosas, como que es decorativo y que contiene un aceite comestible, el aceite de ricino, sobre el que han corrido ríos de tinta. Como dicen los químicos, no hay venenos sino dosis.

El caso es que la ricina es una proteína, y eso la convierte en un texto, una secuencia de símbolos como las que maneja a diario ChatGPT. Y eso quiere decir que la ricina y otras toxinas mortíferas como la botulina (insisto, no hay venenos sino dosis) y la shiga pueden ser fuente de alimento, entrenamiento e inspiración para la inteligencia artificial. Recuerda que las proteínas son collares donde cada cuenta es un aminoácido, y que la secuencia de aminoácidos en el collar define su forma y su función, como la secuencia de letras que estás leyendo determina su significado. La genética es una rama de la lingüística.

Este simple hecho ha puesto los pelos de punta a científicos de Microsoft como Bruce Wittmann, un bioingeniero especializado en el diseño de proteínas por inteligencia artificial (IA). Sus objetivos en la compañía son virtuosos, como mejorar la nutrición y tratar enfermedades, pero ha percibido con nitidez que las mismas técnicas se pueden usar para fines muy oscuros. Se toma el texto (la secuencia de aminoácidos) de la ricina o la botulina y se le pide al robot que lo convierta en una categoría, en una literatura maligna optimizada para martirizar a los humanos. Una ley no escrita de la ciencia dice que lo que puede hacerse acaba haciéndose, así que Wittmann y unos colegas se pusieron el año pasado el disfraz de bioterroristas para ver hasta dónde les podía llevar el estado del arte por el lado oscuro de la fuerza. Sus resultados son horribles. Pero saber siempre es mejor que no saber.

Wittmann y sus colegas han seleccionado 72 proteínas tan tóxicas que, de hecho, ya están vigiladas hoy por los reguladores internacionales. Una IA especializada ha generado a partir de ellas nada menos que 70.000 secuencias alternativas, muchas de ellas probablemente tan venenosas como las originales, si no más. Y lo peor de todo es que los controles internacionales actuales solo detectan como peligrosas el 23% de esas secuencias. El 77% restante habría pasado por debajo del radar.

Entender esto requiere una pequeña explicación. Cualquier laboratorio de biología molecular puede diseñar genes (o proteínas, que viene a ser lo mismo), pero eso son cadenas de símbolos escritos en un papel o en la memoria de un ordenador. Para convertirlos en genes reales, en objetos físicos, se utilizan servicios institucionales o empresas que leen el texto diseñado por el investigador y hacen la cocina necesaria empalmando productos químicos de bote uno detrás de otro. Estas empresas, que no son tantas, están reguladas, y utilizan un software que detiene cualquier secuencia que signifique un veneno como la ricina. Pero, ay, se le escapan la mayoría de las superricinas escritas por el robot.

Este es un caso con un final feliz, porque los ingenieros de Microsoft han colaborado con especialistas en bioseguridad y han mantenido los datos en secreto hasta desarrollar un filtro mejorado que han facilitado a las empresas del sector. Pero el 20% de las firmas no usan ningún filtro, ni el viejo ni el nuevo. La principal razón de que no haya supertóxicos diseñados por IA en el mercado negro es que nadie parece haberlo intentado de momento.