_
_
_
_

Google, Meta y OpenAI anuncian medidas para identificar los contenidos creados con inteligencia artificial

Las grandes compañías tecnológicas prueban etiquetas para detectar material falso y combatir la desinformación frente al riesgo de los ‘deepfakes’

Google I/O
El presidente ejecutivo de Alphabet, Sundar Pichai, habla en la conferencia Google I/O en Mountain View (California, EE UU) en mayo de 2023.Associated Press/LaPresse
Jordi Pérez Colomé

Google, Meta y OpenAI han anunciado en los últimos días distintas medidas para que sea más fácil identificar imágenes o archivos que han sido producidos o retocados con inteligencia artificial (IA). Estas iniciativas se enmarcan en el temor a que la difusión indiscriminada de mensajes falsos condicione los resultados de elecciones o tenga otras consecuencias inesperadas. Las tres compañías ya habían anunciado que tratarán de impedir el uso de la IA en los procesos electorales de 2024.

Tras años de invertir miles de millones de euros en mejorar la capacidad de la inteligencia artificial generativa, las tres plataformas se han unido a la Coalición para la Procedencia y Autenticidad de Contenido (C2PA por las siglas en inglés), que propone un certificado estándar y reúne a buena parte de la industria digital, a medios de comunicación como la BBC o The New York Times a bancos y a fabricantes de cámaras. Las empresas admiten en sus comunicados que no hay por ahora una solución única, ni eficaz en todos los casos, para la identificación de contenido generado con IA.

Las iniciativas varían entre marcas visibles en las propias imágenes y mensajes disimulados en los metadatos del archivo o en los píxeles que han sido generados artificialmente. Con su herramienta aún en fase beta, SynthID, Google también dice haber encontrado un modo de identificar audios.

El estándar C2PA para introducir información en los metadatos de la imagen tiene numerosas debilidades técnicas, identificadas con detalle por desarrolladores. La propia OpenAI, que usará C2PA en Dall-3 (su generador de imágenes), advierte en su comunicado que no hay que fiarse excesivamente de sus posibilidades: “Metadatos como C2PA no son una solución milagrosa para abordar cuestiones de procedencia. Puede eliminarse fácilmente de forma accidental o intencionada. Una imagen que carece de estos metadatos puede haber sido generada o no con ChatGPT o con nuestra API”, señalara la compañía creadora del chatbot que ha popularizado la inteligencia artificial generativa.

Las compañías no dan plazos claros para la introducción completa de sus medidas. Este 2024 es un año lleno de citas electorales en países importantes y la influencia de contenido generado por IA puede ser explosiva. La necesidad de protegerse preventivamente es vital. “Estamos desarrollando esta capacidad y en los próximos meses empezaremos a aplicar etiquetas en todos los idiomas que admite cada aplicación”, dice Nick Clegg, presidente de Asuntos Públicos de Meta, en su comunicado.

Meta promete no solo etiquetar visualmente las imágenes que generen sus herramientas de IA, sino también detectar e identificar las que se cuelguen en sus redes: Instagram, Facebook y Threads, siempre que sea posible. “Podemos etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock a medida que ponen en marcha sus planes para añadir metadatos a las imágenes creadas por sus herramientas”, dice Clegg.

Google aplicará sus métodos a YouTube. Aunque estos enfoques dicen representar lo último dentro de lo que es técnicamente posible ahora mismo, la empresa cree que su método creado con SynthID puede sobrevivir modificaciones voluntarias para ocultarlo, como “agregar filtros, cambiar colores y guardar con varios esquemas de compresión con pérdida, que son los más utilizados para archivos JPEG”.

Puedes seguir a EL PAÍS Tecnología en Facebook y X o apuntarte aquí para recibir nuestra newsletter semanal.

Tu suscripción se está usando en otro dispositivo

¿Quieres añadir otro usuario a tu suscripción?

Si continúas leyendo en este dispositivo, no se podrá leer en el otro.

¿Por qué estás viendo esto?

Flecha

Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PAÍS desde un dispositivo a la vez.

Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás añadir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PAÍS.

En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contraseña aquí.

Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.

Sobre la firma

Jordi Pérez Colomé
Es reportero de Tecnología, preocupado por las consecuencias sociales que provoca internet. Escribe cada semana una newsletter sobre los jaleos que provocan estos cambios. Fue premio José Manuel Porquet 2012 e iRedes Letras Enredadas 2014. Ha dado y da clases en cinco universidades españolas. Entre otros estudios, es filólogo italiano.

Más información

Archivado En

Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
_
_