Las tecnológicas ponen freno al porno manipulado por inteligencia artificial
Twitter, Reddit y Pornhub actualizan sus términos para prohibir la difusión de vídeos pornográficos generados por algoritmos que reemplazan las caras de las actrices
El agregador de noticias y contenidos sociales Reddit y la red social Twitter han actualizado sus términos de uso para detener la difusión de contenido pornográfico manipulado por tecnologías de aprendizaje automático, que muestran uno de los peligros a los que se somete la sociedad ante los avances computacionales en la época de la posverdad y las noticias falsas.
Ambas compañías quieren evitar la difusión de c...
El agregador de noticias y contenidos sociales Reddit y la red social Twitter han actualizado sus términos de uso para detener la difusión de contenido pornográfico manipulado por tecnologías de aprendizaje automático, que muestran uno de los peligros a los que se somete la sociedad ante los avances computacionales en la época de la posverdad y las noticias falsas.
Ambas compañías quieren evitar la difusión de contenido llamado deepfake porn, vídeos en los que se inserta la cara de una celebridad en escenas pornográficas. Para ello, se emplean redes neuronales de aprendizaje automático que se nutren de cientos de fotos, que pueden ser extraídas de Google o de sus redes sociales, para detectar y replicar facciones en el cuerpo de otras personas.
La actriz Emma Watson y la cantante Taylor Swift han sido víctimas de esta actividad que desde hace dos meses ha ganado una gran popularidad gracias a Reddit, hasta que este miércoles fue cerrado el canal donde se compartían los vídeos falsos.
Todo comenzó con la labor de un usuario de Reddit apodado deepfakes que empezó a compartir vídeos prnográficos donde la cara de la actriz era reemplazada por la de una celebridad. Un sólo usuario es capaz de crear tomas falsas empleando herramientas de código abierto y accesibles por todo el mundo, como TensorFlow de Google.
Pronto creó su propio subreddit, donde compartía sus creaciones. Antes de que fuese cerrado este miércoles, contaba con casi 100.000 suscriptores. Un usuario del mismo agrupó el software empleado en una aplicación sencilla de utilizar por cualquiera, y la creación y difusión de material de porno manipulado se disparó.
Los vídeos generados por redes neuronales no engañarán al ojo atento, pero las máquinas no paran de aprender y mejorar. Estas redes, que operan de forma autónoma, se nutren de fotografías y vídeos relativamente sencillos de encontrar en las redes sociales donde se publican voluntariamente. Cualquier usuario puede utilizarlas gracias a las aplicaciones disponibles y el poder computacional de una tarjeta gráfica.
"A 7 de febrero de 2018, hemos realizado dos actualizaciones a nuestras políticas sobre contenido pornográfico no consentido o contenido sugestivo que involucre a menores. Las comunidades enfocadas en este tipo de material y los usuarios que contribuyan en ellas serán restringidos", ha explicado Reddit en un comunicado.
El portal de pornografía Pornhub también considera los vídeos falsos como contenido no consentido y asegura que "es eliminado en cuanto se detecta".
"Es una intromisión en el Derecho a la propia imagen", dice el experto en Derecho Borja Adsuara
"Es una intromisión en el Derecho a la propia imagen", dice el experto en Derecho Borja Adsuara a EL PAÍS. "Tienes derecho a que nadie manipule tu imagen, sobre todo si puede afectar a tu honor, prestigio, integridad moral, etcétera. La información veraz es uno de los pilares de las democracias, y las noticias falsas no sólo perjudican bienes de interés particular, sino bienes de interés general".
Este esfuerzo conjunto por erradicar este material es uno de los primeros signos de los altos riesgos que conllevan los avances en inteligencia artificial. Numerosos expertos han declarado públicamente que lo peligroso no son los robots asesinos de la ciencia ficción, sino la manipulación de la verdad, la difusión de desinformación y la propaganda que se sirve de falsedades para alentar al sentimiento a través de contenido viral en redes sociales.
"Las máquinas podrían comenzar una guerra publicando noticias falsas, robando cuentas de correo electrónico y enviando notas de prensa falsas, solo con manipular información", dijo Elon Musk en un debate celebrado con los gobernadores de Estados Unidos en 2016. "La pluma es más poderosa que la espada".