El Gobierno añadirá nuevos delitos en el Código Penal para castigar los montajes con IA que afecten a menores

Está más cerca la reforma del Código Penal para incrementar la seguridad de los menores de edad de amenazas digitales como los montajes denigrantes con los que se simula su identidad y el peligro que representan los depredadores sexuales que se hacen pasar por adolescentes para ganarse la confianza de sus víctimas, convenciéndolos de que les faciliten imágenes o vídeos íntimos con las que luego los chantajean. El Gobierno tiene previsto aprobar en el Consejo de Ministros del martes el proyecto de ley orgánica para su protección en los entornos digitales, el paso previo antes de remitirlo al Congreso de los Diputados, según avanzan fuentes gubernamentales a EL PAÍS. Las mismas fuentes muestran su esperanza de que la norma se apruebe en las Cortes en el actual periodo de sesiones, es decir, antes de la pausa del verano. La Comisión Europea ha avalado la norma, que el Ejecutivo aprobó en primera vuelta el pasado junio: su redacción original se mantiene prácticamente intacta y tiene en cuenta los informes aportados por una decena de organismos como el Consejo General del Poder Judicial, el Consejo Fiscal, la Agencia Española de Protección de Datos, la Comisión Nacional de los Mercados y la Competencia y el Consejo Estatal de Participación de la Infancia y de la Adolescencia.

La “adaptación a las nuevas formas de criminalidad” para poder “ejercer una protección eficaz frente a los nuevos delitos tecnológicos” es el principio del que parten los cuatro ministerios implicados en la futura ley (Presidencia, Justicia y Relaciones con las Cortes, Transformación Digital, Juventud e Infancia y Derechos Sociales, Consumo y Agenda 2030) mediante varios cambios pioneros en el Código Penal. Por ejemplo, se aborda específicamente el tratamiento penal de las denominadas “ultrafalsificaciones” o deepfakes, las imágenes o voces manipuladas tecnológicamente y extremadamente realistas con herramientas como la inteligencia artificial. Para combatirlas se incorpora un nuevo artículo (173 bis) que sanciona “a quienes, sin autorización de la persona afectada y con ánimo de menoscabar su integridad moral, difundan, exhiban o cedan su imagen corporal o audio de voz generada, modificada o recreada mediante sistemas automatizados, software, algoritmos, inteligencia artificial o cualquier otra tecnología, de modo que parezca real, simulando situaciones de contenido sexual o gravemente vejatorias”, según recoge el proyecto de ley, de 44 páginas.

También se regula por primera vez el grooming o la creación de una identidad falsa cuyo propósito es engañar a un menor para la comisión de un delito sexual mediante “una identidad ficticia o imaginaria” o atribuyéndose falsamente “una edad, sexo u otras condiciones personales diferentes de las propias”. Con ese propósito se añaden diferentes tipos agravados en los artículos 181, 182, 183, 185, 186, 188 y 189 del Código Penal cuya modificación impulsa el ministro de Presidencia y Justicia, Félix Bolaños.

Otra de las novedades es la “pena de alejamiento de los entornos virtuales, para un mejor cumplimiento de la prevención general y especial en el ámbito de los delitos tecnológicos”. En concreto, se modifican los artículos 33, 39, 40, 45, 48, 56, 70 y 83 del Código Penal para añadir la “pena de prohibición de acceso o de comunicación a través de redes sociales, foros, plataformas de comunicación o cualquier otro lugar en el espacio virtual, cuando el delito se comete en su seno”. De este modo, se confía en evitar tanto la revictimización como la reincidencia, estableciendo “una mayor protección de las víctimas, evitando la reiteración de conductas punibles”.

El proyecto de ley, para el que también se ha consultado a las comunidades autónomas y entidades locales, eleva de 14 a 16 años la edad mínima para abrirse una cuenta en redes sociales. La edad de consentimiento para el tratamiento de datos personales está regulada por la Ley de Protección de Datos, que se tendrá que modificar. “La evolución, no solo de la tecnología digital, sino también de su uso por los menores de edad, ha sido tan exponencial que puede resultar inapropiada su utilización precoz, dada la madurez que requiere el uso de determinados servicios, plataformas, sistemas y contenidos digitales”, argumenta el texto para elevar la edad exigida.

El plan para reforzar la seguridad de los menores incluye la reforma de la Ley General de Comunicación Audiovisual para imponer obligaciones a los grandes operadores de la comunicación y a los influencers como, por ejemplo, utilizar sistemas de verificación de edad, o separar los contenidos que puedan incluir escenas de pornografía o violencia gratuita. Otra exigencia es que se establezcan enlaces a los canales de denuncias y utilizar mecanismos de verificación de la edad, siempre que el contenido que estén difundiendo sea potencialmente perjudicial para los adolescentes. Todo un reto, ya que todavía no existe una herramienta fiable de verificación de la edad para que las redes sociales y páginas webs puedan cerciorarse de la edad real de sus usuarios.

Los fabricantes estarán obligados a incluir sistemas de control parental, activados por defecto, en los dispositivos digitales. Y se prohibirá con carácter general el acceso por parte de los menores a los mecanismos aleatorios de recompensa en videojuegos y plataformas (loot boxes), que permiten a los jugadores obtener, con carácter aleatorio, premios virtuales.

Las pocas modificaciones que se han realizado, en comparación con el anteproyecto impulsado hace nueve meses, se han producido según fuentes del Ejecutivo para que la norma esté totalmente alineada con la normativa europea en materia de mercado interior. Así, se ha suprimido la referencia a la cartera de identidad digital europea (Eudi Wallet) en la parte expositiva al ser todavía un proyecto piloto, explican fuentes del Ejecutivo. La otra variación tiene que ver con los mecanismos aleatorios de recompensa: se ha suprimido la obligación de que el proveedor cuente con un sistema de verificación de la edad de los usuarios. Y se incorpora el desarrollo de un reglamento de la prohibición de acceso a estos mecanismos, que se hará de acuerdo a la normativa europea.

El proyecto estipula que los centros educativos deberán contar con una regulación expresa sobre el uso de dispositivos móviles y digitales en el aula, así como en el resto de actividades e instalaciones escolares. Las administraciones sanitarias tendrán que revisar las actuaciones de prevención de trastornos adictivos y desarrollar protocolos de atención específicos para incluir las adicciones relacionadas con el uso de medios digitales. Para ello se promoverá la coordinación de todas las administraciones públicas y agentes implicados, especialmente de los servicios de atención primaria, atención especializada a la salud mental y a las conductas adictivas, servicios sociales y educativos.