Cientos de ingenieros piden a la UE que no apruebe instalar software de espionaje en los móviles

Más de 300 ingenieros de 33 países han firmado una carta abierta que pide a la Unión Europea que piense bien cómo quiere controlar el intercambio digital de material pedófilo: “La efectividad de la ley se basa en la existencia de tecnologías de escaneo efectivas. Desafortunadamente, las tecnologías de escaneo que existen hoy y que están en el horizonte son profundamente defectuosas”, dice el texto, que firman dos premios Turing (que está considerado como el Nobel de la Informática) expertos en criptografía, Ron Rivest y Martín Hellman. Las dificultades técnicas en las intenciones de los políticos es algo que hasta ahora había quedado fuera de la discusión. Esta carta quiere ponerle remedio.

Los ingenieros admiten el loable objetivo de limitar la explotación infantil, pero creen que la iniciativa europea solo puede traer mayores problemas para el resto de ciudadanos y convertir nuestros móviles en potenciales aparatos de espionaje constante: “Es importante tanto que el lado técnico aparezca en el debate como que el público se entere de lo que están preparando en Bruselas, así de puntillas”, afirma Carmela Troncoso, investigadora española de la Escuela Politécnica Federal de Lausana y una de las promotoras de la carta. “Sería como poner una cámara en nuestros salones para grabar todo y decir: ‘solo se mandará si es sospechoso’”.

Tal como funciona hoy el intercambio de mensajes cifrados, el único lugar donde es viable analizar su contenido es en los móviles de cada usuario. Mientras circulan son inaccesibles sin desmantelar el cifrado, uno de los pilares de la privacidad de las comunicaciones online: “El cifrado es la única herramienta que tenemos para proteger nuestros datos en el ámbito digital; se ha demostrado que todas las demás herramientas están comprometidas”, dice la carta.

La revisión de los dispositivos es inviable hoy sin añadir lo que, según los firmantes de la carta, sería un “software de espionaje” en los teléfonos móviles de todos los ciudadanos europeos. “Estas herramientas funcionarían aparentemente escaneando el contenido en el dispositivo del usuario antes de que se haya cifrado o después de que se haya descifrado, y luego informarán cada vez que se encuentre material ilícito”, dice la carta. “Se puede equiparar esto a agregar cámaras de video en nuestros hogares para escuchar cada conversación y enviar informes cuando hablamos de temas ilícitos”.

“La principal intención de la carta es dejar bien claro que la tecnología es incapaz, ya que parece que muchos creen que si es válida”, explica Carmela Troncoso. “Creemos que es importante que tanto los reguladores como el público tengan toda la información acerca de los límites tecnológicos”, añade.

Desde el lado político, todo parece mucho más sencillo. Serían los proveedores de servicios (las apps) quienes deberían encargarse de encontrar el material delictivo: “Las reglas propuestas obligarán a los proveedores a detectar, informar y eliminar material de abuso sexual infantil en sus servicios”, dice el ponente de la propuesta, el eurodiputado popular español Javier Zarzalejos. “Los proveedores deberán evaluar y mitigar el riesgo de uso indebido de sus servicios y las medidas que se tomen deben ser proporcionales a ese riesgo y sujetas a condiciones y salvaguardas sólidas”. Desde un punto de vista técnico, estas exigencias son inviables, dice la carta. Apple ya abandonó en 2022 una iniciativa similar en sus dispositivos por inviable.

“Como científicos, no esperamos que sea factible en los próximos 10 a 20 años desarrollar una solución que pueda ejecutarse en los dispositivos de los usuarios sin filtrar información ilegal y que pueda detectar contenido conocido de forma fiable, es decir, con un número aceptable de falsos positivos y negativos”, dice la carta. Esa referencia a los falsos positivos es clave.

Falsos positivos con imágenes eróticas

El modo en que esta tecnología funciona es asignando un número larguísimo (hash) a cada imagen conocida de pedofilia. Cuando hubiera coincidencia en un dispositivo, saltaría la advertencia para las autoridades. Pero esto técnicamente está lleno de agujeros: es trivial variar ligeramente una imagen criminal para que varíe el hash, y también es posible crear imágenes legales con hashes delictivos para inundar de trabajo a las autoridades y hacerles perder el tiempo.

Este problema provocará, por tanto, que millones de imágenes perfectamente legales acaben ante ojos de agentes encargados de revisar esos falsos positivos: “A la escala a la que se intercambian mensajes privados, incluso escanear los mensajes intercambiados en la UE en una sola app significaría generar millones de errores todos los días”, aclara la carta. “Eso significa que al escanear miles de millones de imágenes, videos, textos y mensajes de audio por día, la cantidad de falsos positivos será de cientos de millones. Además, parece probable que muchos de estos falsos positivos sean imágenes profundamente privadas, probablemente íntimas y completamente legales, enviadas entre adultos que consienten”. Esa frase lleva claramente implícito que las autoridades pueden acabar viendo millones de imágenes eróticas privadas, que habrán sido intercambiadas por ciudadanos europeos para su propio placer.

En la carta, los especialistas prevén además otros dos problemas graves: los pedófilos encontrarían otras vías sofisticadas para intercambiar su material, aún más lejos de los ojos de las autoridades, y que esta nueva ley acabaría por debilitar más la sensación escasa de privacidad que otorgan los móviles. Con este software instalado en los teléfonos, es difícil no pensar que las autoridades procurarán aprovecharlo más: ”Esperamos que haya una presión sustancial sobre los políticos para ampliar su alcance. Primero para detectar reclutamiento de terroristas, luego otras actividades delictivas y luego el discurso disidente”, dice la carta. Los gobiernos menos democráticos solo tendrían que ampliar la base de datos para cazar otro tipo de contenido que no tuviera nada que ver con pornografía infantil.

Tras la publicación de este artículo, el ponente Zarzalejos ha mandado un comunicado donde lamenta que “cada vez que se plantea la necesidad de identificar contenidos ilegales surgen las mismas voces” y no aportan soluciones concretas: “En la carta solo se dice que rechazan el abuso sexual infantil, pero luego no aportan ninguna solución para que una plaga que infesta la red pueda ser combatida”, dice Zarzalejos.

“Contrariamente a lo que se señala en la carta, el nuevo Reglamento no impone el uso de ninguna tecnología concreta. La práctica demuestra que la suma de herramientas tecnológicas y verificación humana reduce al mínimo posible los errores. Negar la utilización de tecnologías disponibles y validadas significa otorgar la absoluta impunidad para la generación y la difusión de contenidos de abuso sexual infantil. Y esto simplemente no es admisible”, añade el ponente de la ley, que ha publicado su comunicado completo en internet.

Puedes seguir a EL PAÍS Tecnología en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.