El odio y la pureza

Las redes sociales no han inventado el lenguaje del odio. Algunos de los documentos legales y religiosos más antiguos que se conservan destilan odio y animadversión hacia los o...

Las redes sociales no han inventado el lenguaje del odio. Algunos de los documentos legales y religiosos más antiguos que se conservan destilan odio y animadversión hacia los otros, los que no pertenecen a la secta, los que han tenido la mala suerte de nacer al otro lado de una frontera tan arbitraria como cualquier otra. Los nazis no necesitaron ni Twitter ni X —les bastó con la imprenta y la radio— para envenenar a un país entero con sus arengas racistas y sus delirios genocidas. Lo mismo hicieron los extremistas de Ruanda para deshumanizar y masacrar a la minoría tutsi de su país. El poder intoxicador no está en la tecnología de cada época, sino en el lenguaje de todas ellas, el mismo que nos sirve para difundir la cultura, las ideas innovadoras y el progreso de las sociedades. El lenguaje es la primera tecnología dual de la prehistoria, y sigue en muy buena forma.

La mayoría de las democracias occidentales, con la notable excepción de Estados Unidos, están intentando regular las redes sociales con la esperanza de bloquear los discursos del odio, al menos en sus formas más zafias y perniciosas. Sin duda hay cuestiones técnicas que habrá que ir resolviendo a medida que los intoxicadores afilen sus aguijones. Por ejemplo, ante la perspectiva evidente de que los modelos grandes de lenguaje (large language models, LLM), al estilo de ChatGPT, inunden las redes sociales de una desinformación masiva, los reguladores y algunos organismos internacionales están discutiendo la posibilidad de imponer una “marca de agua” en todos los textos generados por inteligencia artificial. Esto puede funcionar con un puñado de gigantes de Silicon Valley, pero desde luego no con la miríada de agentes oscuros que, con toda seguridad, van a utilizar esos mismos LLM para emponzoñar a la opinión pública.

El grueso del debate actual, sin embargo, no gira en torno a esas cuestiones técnicas, sino sobre la gran cuestión académica de la libertad de expresión. Esta es justo la razón por la que Elon Musk, el dueño de X, antes Twitter, que se define como un “absolutista de la libre expresión”, anda enredado en un dilema hamletiano sobre la conveniencia de bloquear la intoxicación digital y los mensajes de odio en su red social. Y también es la razón de que Estados Unidos se haya convertido en un pesadísimo lastre a las iniciativas internacionales de regulación.

De ahí el interés en analizar el lenguaje del odio y sus conexiones con la psicología humana. En los últimos años han florecido las investigaciones para detectar de forma automática los rasgos distintivos del lenguaje del odio. Aquí daría igual que los mensajes hayan sido generados en las grandes redes sociales o en los escurridizos sótanos de la desinformación política. No hay marca de agua. Es el propio lenguaje del odiador, o de su avatar robótico, el que le delata. Los últimos avances en este campo han hallado una relación directa entre el odio y la pureza moral. Los mensajes de odio emitidos por la extrema derecha están plagados del lenguaje de la pureza, como las conminaciones a resistir los deseos carnales en aras de una naturaleza divina superior. Por sus flagelos los conoceréis.