Irlanda abre una investigación a X por las imágenes sexualizadas de Grok

La Comisión de Protección de Datos de Irlanda (DPC por sus siglas en inglés), uno de los principales reguladores del sector en la Unión Europea, ha informado este martes de que ha abierto una investigación sobre Grok, la inteligencia artificial de la red social X.

La pesquisa abordará la creación y publicación en la red social X, propiedad del multimillonario Elon Musk, de imágenes sexualizadas perjudiciales y no consentidas que afectan a los datos personales de diversos usuarios, principalmente mujeres y entre los que se incluyen menores, a través del uso de la IA generativa de la red social.

La DPC ha indicado este martes que la víspera había comunicado a la compañía X, que tiene su sede de operaciones europeas en Dublín, el inicio de la investigación. Su objetivo, según la comisión, es determinar si el gigante tecnológico ha infringido las disposiciones del Reglamento General de Protección de Datos de la UE respecto al tratamiento de la información personal de usuarios.

El comisario adjunto de la DPC, Graham Doyle, ha señalado en un comunicado que el regulador irlandés ha mantenido contactos con X desde que surgieron las primeras informaciones y denuncias en los medios sobre la supuesta capacidad de sus usuarios para generar con Grok “imágenes sexualizadas de personas reales, incluidos menores”.

“Como principal autoridad de control de X en toda la UE, la DPC ha iniciado una investigación a gran escala que examinará el cumplimiento por parte de X de algunas de sus obligaciones fundamentales en virtud del RGPD en relación con los asuntos en cuestión”, ha expresado Doyle.

La Comisión Europea ya inició en enero una investigación contra X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de Grok, para dilucidar si la compañía cumple con las obligaciones de las leyes digitales europeas.

Bruselas informó entonces de que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la UE. Esto incluye la posible distribución de contenido ilegal, como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.

Por su parte, el presidente del Gobierno, Pedro Sánchez, ha anunciado este martes que el Gobierno pedirá a la Fiscalía que investigue los delitos que las plataformas digitales “podrían estar cometiendo por la creación y difusión de pornografía infantil mediante sus IA”. Se trata de una de las cinco medidas que el propio Sánchez anunció el 3 de febrero en Dubái contra las redes sociales, que “se han convertido en un Estado fallido, en el que se ignoran las leyes y se toleran los delitos”, según expresó.

“Estas plataformas están atentando contra la salud mental, la dignidad y los derechos de nuestros hijos e hijas. El Estado no lo puede permitir. La impunidad de los gigantes debe acabar”, ha escrito este martes el presidente en su cuenta de la red social X, una de las plataformas contra las que pretende actuar.