Google elimina sus cuentas a dos padres por subir fotos de sus hijos desnudos

Mark, un ingeniero de San Francisco, sacó unas fotos del pene de su hijo con su móvil Android. Tenía una infección, aparentemente, y quería compartir su evolución con el pediatra. Mandó las imágenes al iPhone de su mujer. Dos días después recibió una alerta de Google: su cuenta había sido suspendida, con sus contactos, emails, fotografías, calendario y por supuesto su dirección. Había violado “gravemente” las políticas de la compañía y una de las posibles razones era ”explotación y abuso infantil”. “Oh Dios, Google probablemente piense que es pornografía infantil”, pensó entonces Mark, ...

Mark, un ingeniero de San Francisco, sacó unas fotos del pene de su hijo con su móvil Android. Tenía una infección, aparentemente, y quería compartir su evolución con el pediatra. Mandó las imágenes al iPhone de su mujer. Dos días después recibió una alerta de Google: su cuenta había sido suspendida, con sus contactos, emails, fotografías, calendario y por supuesto su dirección. Había violado “gravemente” las políticas de la compañía y una de las posibles razones era ”explotación y abuso infantil”. “Oh Dios, Google probablemente piense que es pornografía infantil”, pensó entonces Mark, según contó al New York Times, que adelantó de esta historia.

Este hecho ocurrió en febrero de 2021. Google denunció las fotos a la policía, que investigó a Mark y archivó el caso poco después. Aun así, Google ha rechazado devolver sus datos a Mark. Entre otras cosas, la compañía alega que también encontró el video de un bebé con una mujer desnuda. Mark dice no recordar ese vídeo: “Nos despertamos una mañana. Era un día hermoso con mi esposa y mi hijo y quería grabar el momento. Si hubiéramos dormido en pijama, todo esto se habría evitado”, dice Mark al Times.

También en febrero de 2021, otro padre de Texas explicó en la aplicación Quora un caso similar. Tras suspenderle la cuenta, relató su situación: “Pensando en las actividades recientes que podrían haber provocado que Google lo detectara, lo único que me viene a la cabeza es que en los dos días anteriores tomé fotos de la infección de mi hijo en sus partes íntimas para enviárselas a su pediatra que lo estaba siguiendo diariamente”. Este usuario también trató de apelar la decisión de Google ”a través de su formulario de proceso de revisión, pero obtuve una respuesta negativa”.

Los dos casos muestran la enorme complejidad y peligros de la nueva era digital. La pedofilia es uno de los delitos más graves y la mayoría de las sociedades están dispuestas a renunciar a una parte de su privacidad para evitarlo. Pero también muestra la increíble capacidad de las grandes compañías tecnológicas para analizar cualquier detalle de nuestra vida íntima.

Cazadores de pedofilia

La industria tecnológica combate la pornografía infantil con dos herramientas básicas, creadas por Windows y Google. La primera, PhotoDNA, consiste en una enorme base de datos donde cada imagen conocida de pornografía infantil está identificada con un hash (un código único). Si las máquinas detectan intercambios de esas imágenes, interceptan y denuncian. La segunda, creada por Google, permite identificar imágenes nuevas. Según el artículo del New York Times, en 2021 esa herramienta detectó 4.260 casos. Entre ellos estaban los casos de Mark y el padre de Texas. El número exacto de falsos positivos no se conoce.

La decisión de no devolver las cuentas y anular el correo electrónico de estos dos ciudadanos les causó otros problemas en su vida cotidiana. El cambio de email durante la compra de una casa en Texas hizo levantar sospechas al vendedor, por ejemplo. La insistencia de Google en no devolver las cuentas a estos dos ciudadanos, a pesar de la evidencia de ser telemedicina y el archivo de los casos policiales, muestra el inmenso poder que tiene de convertirse en juez y parte en casos cruciales para miles de personas.

La pornografía infantil es una batalla constante para las grandes tecnológicas. Un caso más común se dio en Twitter en España durante esta semana. La cuenta @boigbcn, de 23.700 seguidores, fue suspendida después de tuitear un vídeo de 1963 de playas de Barcelona donde aparecían niños desnudos entre barracas. Su propietario, Joaquim Campa, que maneja una cuenta con cerca de 96.000 seguidores, lo hizo público en un tuit.

EL PAÍS preguntó a la compañía si habían detectado a los niños por denuncias o automáticamente. Toda la respuesta de Twitter es que fue “por error”. Al cabo de unas horas la cuenta volvía a estar activa. Campa ha explicado a este periódico que no ha recibido en ningún momento ninguna comunicación de Twitter: no tiene la certeza de por qué la suspendieron ni por qué se la devolvieron. La compañía tampoco ha querido aclarar a este periódico por qué actuó.

Si has tenido una experiencia similar con Google o cualquier otra compañía puedes escribir a jordipc@elpais.es

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook y Twitter o apuntarte aquí para recibir nuestra newsletter semanal.