Belén Esteban habla inglés o por qué la Inteligencia Artificial es totalitaria

No es lo mismo un asesinato que un holocausto, estamos de acuerdo. Igual que no es lo mismo difundir un bulo en tu grupo de amigos que crear fake news y distribuirlas de forma masiva por internet. Y, del mismo modo, no es igual manipular una fotografía que disponer de una tecnología capaz de falsificar la identidad de cualquiera, en un segundo. La escalabilidad es una cuestión fundamental de cualquier tecnología. Pero ...

No es lo mismo un asesinato que un holocausto, estamos de acuerdo. Igual que no es lo mismo difundir un bulo en tu grupo de amigos que crear fake news y distribuirlas de forma masiva por internet. Y, del mismo modo, no es igual manipular una fotografía que disponer de una tecnología capaz de falsificar la identidad de cualquiera, en un segundo. La escalabilidad es una cuestión fundamental de cualquier tecnología. Pero también lo es, desde el punto de vista del control, para cualquier sistema político. En este sentido, resulta que la inteligencia artificial es la tecnología soñada de cualquier sistema totalitario. La pregunta obligada es, por qué no se está regulando su uso en democracia.

La primera razón por la que la inteligencia artificial es incompatible con la democracia es que suprime los principios de verdad y transparencia como ninguna tecnología había hecho antes. La posibilidad de construir mentiras es tan grande que el sentido de verdad se desdibuja. Así por ejemplo, a nadie le importa si Belén Esteban habla de verdad inglés cuando recibe un clip de la tertuliana soltando exabruptos en la lengua de Shakespeare. Como tampoco importa de quién es la voz que la dobla o si ella ha dado permiso para la traducción. Del mismo modo, la verdad importará poco a las niñas de Almendralejo cuya imagen fue utilizada para crear pornografía no consentida. Ellas, tal y como nos recordaba Marta Peirano en este mismo periódico, están condenadas a sentir vergüenza por algo que no han hecho.

Desaparecido el principio de verdad, el totalitarismo tiene mucho más fácil su cometido. Hablamos de que un Estado es totalitario cuando penetra todos los órdenes de la vida del ciudadano, desde el público y político al corporal e íntimo. Así, como el Dios bíblico, su pretensión es atravesar todas las esferas de la vida, desde los derechos y deberes del ciudadano en cuanto tal a las imágenes de su conciencia, pasando por el control del cuerpo anatómico, eso que se ha llamado biopolítica (control de horas de trabajo, derecho al aborto, eutanasia, autodeterminación de género…). Pues bien, esta pretensión (teológica) del Estado se ha extendido por los ciudadanos gracias al uso de nuevas tecnologías capaces de representar la intimidad, de distorsionarla, vulnerarla o directamente inventarla.

Así, mientras la fortaleza de las instituciones democráticas puede protegernos (por ahora y mientras la extrema derecha no lo impida allá donde triunfa) de los peligros del totalitarismo en nuestra vida pública, sucede que la IA nos deja más expuestos y vulnerables que nunca en nuestra vida íntima. De este modo, el mix resultante del uso de IA e internet supone una escalabilidad en el control de nuestros cuerpos sin precedentes. Parece que hablamos de tecnología, de robots o píxeles cuando hablamos de inteligencia artificial. Pero, en realidad, hablamos de nuestra propia piel, pues son nuestros cuerpos quienes pararán los golpes más duros de sus abusos.

Y volvemos a la pregunta inicial. ¿Por qué no hay una regulación clara sobre la mesa? Si el Estado no ha intervenido hasta el momento —y parece que le da bastante pereza hacerlo— es porque él hace lo mismo, a muchísima menor escala, por fortuna. Porque la mentalidad que se ha instalado en nuestra sociedad es la del control humano, auspiciada por los poderes y difundida por la publicidad y los media. Por este motivo es aún más importante dilucidar las consecuencias políticas del uso masivo de la IA y actuar, cuanto antes, en consecuencia.

Apúntate aquí a la newsletter semanal de Ideas.