El Gobierno pide a la Fiscalía que investigue a Meta, Tiktok y X por difundir pornografía infantil con sus IA: “La impunidad de los gigantes debe acabar”
El Consejo de Ministros toma esta medida, anunciada por Pedro Sánchez en su ofensiva contra las grandes tecnológicas, para que estudie la responsabilidad penal de las plataformas
El presidente del Gobierno, Pedro Sánchez, ha anunciado que este martes el Gobierno pedirá a la Fiscalía que investigue los delitos que las plataformas digitales “podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA”, en referencia a las herramientas de inteligencia artificial generativa capaces de crear imágenes sexualizadas de menores (deepfakes). Se trata de una de las cinco medidas que el propio Sánchez anunció el 3 de febrero en Dubái contra las redes sociales, que “se han convertido en un Estado fallido, en el que se ignoran las leyes y se toleran los delitos”, según expresó.
“Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”, ha escrito este martes el presidente en su cuenta de la red social X, una de las plataformas contra las que pretende actuar.
El Centro para Contrarrestar el Odio Digital publicó un estudio sobre las imágenes que generó Grok, la IA de Elon Musk, en unos pocos días (entre el 29 de diciembre y el 8 de enero): los usuarios que usaron esa herramienta crearon tres millones de imágenes de contenido sexual explícito, de las que al menos 23.000 mostraban a menores. Más del 90% de esos vídeos falsos e imágenes hiperrealistas suelen afectar a mujeres y niñas, según diversos estudios, como sucedió en el caso de las menores sexualizadas con estos programas en un instituto de Almendralejo.
Lo que hará el Consejo de Ministros es instar a la fiscal general del Estado, Teresa Peramato, a investigar esos posibles delitos de pornografía infantil y violencia sexual digital a través del Ministerio de la Presidencia. Así, el Gobierno pedirá que “ejerza las acciones penales que considere oportunas y establezca criterios de actuación y mecanismos que permitan a las víctimas, así como a sus tutores y representantes legales”, defender sus derechos ante la Fiscalía.
El artículo mencionado por Sánchez, el 8 del Estatuto Orgánico del Ministerio Fiscal, establece que “el Gobierno podrá interesar del fiscal general del Estado que promueva ante los tribunales las actuaciones pertinentes en orden a la defensa del interés público”. Una vez recibida la comunicación, Peramato tendrá que convocar a la Junta de Fiscales de Sala para que emita su opinión, aunque no será vinculante, dado que la última palabra la tiene la propia jefa del Ministerio Público, informa Rocío Martínez.
En la misiva dirigida a la Fiscalía, se argumenta que la responsabilidad de los delitos cometidos va más allá de los usuarios individuales de las redes que los cometen, “sino que también podría haber responsabilidad penal dentro de las plataformas por el dominio que ejercen sobre los contenidos”, señala el Gobierno. Con esto, se refiere a las propias herramientas de inteligencia artificial integradas en ellas, como Grok en X y Meta AI, y al modo en que los algoritmos de esas plataformas favorecen unos contenidos sobre otros.
El Gobierno enmarca esta decisión, que se apoya en un informe técnico elaborado conjuntamente por los ministerios de Presidencia, Transformación Digital y Juventud, en la necesidad de combatir “la impunidad” presente en las redes. Así, se refiere a “un entorno digital que considera caracterizado por la impunidad y la tolerancia hacia prácticas delictivas que ponen en riesgo la intimidad, la imagen y la libertad de los menores”.
El Gobierno se suma así a una corriente internacional de actuaciones contra las grandes plataformas tecnológicas. Hace dos semanas, la Fiscalía francesa registró la sede parisina de X y pidió la comparecencia de su dueño, el magnate Elon Musk, mientras la Comisión Europea está investigando a Meta, TikTok y la inteligencia artificial Grok bajo el reglamento de servicios digitales.
Sánchez anunció hace dos semanas que el Gobierno prohibirá el acceso a las redes sociales a los menores de 16 años, por las implicaciones que tiene para su salud mental el estar expuestos a contenidos nocivos. Por ello, anunció el impulso a la medida de prohibir el acceso a los menores de 16 a las plataformas, que está actualmente en tramitación en el Congreso. “Les protegeremos del salvaje Oeste digital”, dijo.
De las otras cinco medidas propuestas por Sánchez, dos tienen un carácter más jurídico o judicial: legislar para que se pueda actuar contra los directivos de las grandes tecnológicas por “las múltiples violaciones que tienen lugar en sus plataformas”; e introducir el delito de manipulación de algoritmos. Las otras dos son de carácter más técnico: la restricción del acceso de los menores a las redes y la puesta en marcha de un sistema para monitorizar los discursos tóxicos en redes, una “huella de odio y polarización que seguirá, cuantificará y revelará cómo las plataformas digitales alimentan la división y amplifican el odio”, en palabras de Sánchez.