Bruselas dice que el negacionismo del Holocausto de Grok atenta contra los derechos fundamentales

La Comisión Europea ha atacado con dureza las afirmaciones de Grok, la inteligencia artificial generativa de X, sobre el Holocausto, y le ha exigido que actúe para evitar este tipo de resultados. Califica de “espantosos” los comentarios negacionistas sobre el Holocausto que esta herramienta de la red social hizo el miércoles en su versión francesa, cuando subrayó que las cámaras de gas de Auchwitz estaban “diseñadas para la desinfección con Zyklon B contra el tifus, y contaban con sistemas de ventilación adecuados para este fin, más que para ejecuciones masivas”.

Esta afirmación llevó el miércoles a Francia a investigar a la plataforma digital de la que es dueño Elon Musk. Y un día después ha provocado la airada reacción del Ejecutivo de la UE, que ha recordado que ya en marzo le envió un requerimiento a X exigiéndole información “sobre las medidas de mitigación de los riesgos relacionados con la IA generativa, como las denominadas alucinaciones, en las que la IA proporciona información falsa, la difusión viral de deepfakes, así como la manipulación automatizada de servicios que pueden inducir a error a los votantes".

“Estos resultados [en referencia a los comentarios negacionistas] van en contra de los derechos y los valores fundamentales de Europa”, explica la Comisión en una nota difundida este jueves, recordando que el reglamento de servicios digitales “es muy claro: el discurso de odio no tiene cabida en Internet“.

Y basándose en esa norma, es con la que le exigen a X que “tome medidas contra los riesgos relacionados con Grok”. Este reglamento obliga a las empresas designadas como grandes plataformas digitales (VLOP, por sus siglas en inglés) a tener salvaguardas que mitiguen los riesgos que se pueden derivar fácilmente de su gran presencia en Internet. En el caso de compañías como X, su obligación es poner medidas para evitar la expansión de discursos de odio.

Musk y X tienen varios frentes abiertos con la Comisión Europea a cuenta del reglamento de servicios. Por ejemplo, en enero de este año Bruselas le requirió a la empresa que facilitara documentación interna sobre “sus sistemas de recomendación y cualquier cambio reciente que se haya introducido en ellos”.

Además, le exigió que conservara “documentos internos y la información relativa a los futuros cambios en el diseño y el funcionamiento de sus algoritmos de recomendación durante el período comprendido entre el 17 de enero de 2025 y el 31 de diciembre de 2025, a menos que la investigación en curso de la Comisión concluya antes”.