Bolaños apunta a las plataformas en la carta a la Fiscalía: “Podrían impedir fácilmente los ‘deepfakes’ sexuales”
El Gobierno identifica en un informe técnico cuatro posibles delitos “de especial gravedad” que habrían cometido las grandes tecnológicas
El ministro de Justicia, Félix Bolaños, ha enviado a la fiscalía general tanto una carta reclamando su actuación frente a los casos de deepfakes sexuales (vídeos hiperrealistas creados con inteligencia artificial) que afectan a menores como un informe detallado de cómo este fenómeno se ha multiplicado por 16 en solo dos años. La carta de Bolaños a la fiscal general subraya que este boom es en parte posible gracias a que la tecnología que han desarrollado algunas plataformas como X es muy sencilla de usar y apunta a la responsabilidad de esta misma red social, así como Instagram, de Meta, y TikTok, señaladas esta mañana por el presidente del Gobierno, Pedro Sánchez.
“La combinación entre inteligencia artificial (IA) y redes sociales ha generado un ecosistema propicio para la creación, promoción y distribución de contenidos sexuales de menores y pornografía infantil”, señala el texto, al que ha tenido acceso EL PAÍS. “Por un lado, facilita la creación y circulación instantánea de contenidos, muchas veces deepfakes sexuales, sin necesidad de conocimientos técnicos. Por otro, permite su difusión masiva con una velocidad y opacidad que dificultan la detección y persecución. Estas circunstancias podrían implicar también una responsabilidad penal autónoma en el seno de las propias plataformas”, especifica. “Los hechos ilícitos que se cometen podrían no ser una consecuencia imprevista, sino el resultado de un curso de acción deliberado y consciente que podría haber sido fácilmente evitado si se hubieran tenido en cuenta los derechos de los menores”.
“Consideramos que incluso con el marco normativo nacional y europeo es posible sancionar los daños. De hecho, ya se han dictado en España sentencias pioneras sobre hechos como los aquí relatados, en las que la intervención de la fiscalía ha sido crucial”, remata el ministro para pedir la intervención de la Fiscalía. “En el Gobierno somos conscientes de la excepcionalidad que supone activar el mecanismo previsto en el artículo 8 del estatuto del ministerio fiscal [que permite al Ejecutivo solicitar a la fiscalía que actúe], sin embargo, la importancia capital del bien jurídico protegido, la dignidad de los menores, y la evidente impunidad con la que se actúa en el ámbito de internet y las redes sociales obliga a recurrir a todos los resortes legales existentes”.
Cuatro tipos delictivos
El informe técnico elaborado conjuntamente por los ministerios de Presidencia, Transformación Digital y Juventud identifica, “al menos, cuatro tipos delictivos recogidos en los artículos 189 y 189 bis del Código Penal”. Todos ellos, lee el escrito, son de naturaleza pública, es decir, perseguibles por las autoridades sin necesidad de previa denuncia o querella.
El primero de los delitos que se podría haber cometido, tipificado en el artículo 189.1.a) del Código Penal, es la elaboración de material pornográfico utilizando a menores. “Este delito se podría estar consumando mediante la creación de material real y de deepfakes sexuales, es decir, a través de la elaboración de imágenes realistas de menores participando en una conducta sexualmente explícita, o bien de imágenes realistas de los órganos sexuales de un menor con fines principalmente sexuales”.
El segundo, tipificado en el artículo 189.1.b) del Código Penal, sería “la producción, venta, distribución, exhibición, ofrecimiento o facilitación de material pornográfico de menores, o la posesión para estos fines”. Para apreciar la existencia del delito, especifica el informe, “no es necesario que un sujeto remita material pornográfico de forma expresa a los destinatarios, sino que es suficiente con ponerlo a disposición de terceros, permitiendo así su acceso”.
El tercer posible delito, tipificado en el artículo 189.5 del Código Penal, es la adquisición o posesión de pornografía infantil, incluidos los deepfakes, para uso propio, así como el acceso a sabiendas a este contenido a través de internet. El cuarto, tipificado en el artículo 189 bis del Código Penal, es la distribución o difusión a través de internet de contenidos específicamente destinados a promover, fomentar o incitar delitos relacionados con la pornografía infantil. El documento incide en que parte de ese contenido “redirige a los usuarios hacia canales y servicios externos (por ejemplo, Telegram) donde se oferta o intercambia material de carácter pedófilo. En otras ocasiones, son estas plataformas de mensajería las que sirven como canal de contacto inicial para posteriormente compartir los archivos de pornografía infantil por otras vías, como páginas de livestreaming”.
El informe advierte de que “hay considerar que todos ellos pueden estar cometiéndose en contextos de especial gravedad” (artículo 189.2 CP), tal y como implica “la utilización de menores de dieciséis años o en situación de especial vulnerabilidad, el trato particularmente degradante o vejatorio, el empleo de violencia, la notoria importancia del material pornográfico o la pertenencia a una organización o asociación del autor de los hechos”.
En todos estos delitos se observa una posible responsabilidad de las empresas tecnológicas propietarias de las redes sociales, por lo que se especifica que “el papel desempeñado por estas plataformas digitales debe ser tenido en consideración”.
Las consecuencias de la difusión de estos contenidos en las redes son palpables. “En España, uno de cada cinco jóvenes afirma haber sufrido la difusión en redes sociales de desnudos manipulados con IA sin su consentimiento durante su infancia. Las denuncias por delitos sexuales digitales contra menores han aumentado un 13% en solo dos años, siendo niñas el 70% de las víctimas”, destaca el informe, que señala como ejemplo el caso de Almendralejo (Badajoz) destapado por EL PAÍS en 2023, donde más de veinte niñas de entre 11 y 17 años fueron víctimas de montajes pornográficos con IA creados por sus compañeros de clase.
“Los efectos de esta violencia digital son devastadores y el material generado prácticamente imposible de eliminar”, elabora el documento. Los supervivientes de estas experiencias tienen entre dos y cuatro veces más probabilidades de autolesionarse o tener pensamientos suicidas. Además, siete de cada 10 afirman que la distribución de sus imágenes les afecta de manera diferente al abuso físico.