La Unesco pone los cimientos de la ‘Declaración Universal de la inteligencia artificial’

El organismo trabaja en un marco normativo para el desarrollo ético de estas tecnologías en diálogo con Google, Facebook, Microsoft y sus 193 Estados miembros

Sede de la Unesco en París
Sede de la Unesco en ParísChesnot / Getty Images

La Unesco ha presentado este jueves su primer borrador de recomendación sobre la ética de la inteligencia artificial, después de seis meses de trabajo de su grupo de expertos y una consulta pública en la que más de 600 participantes han aportado más de 50.000 comentarios. El organismo presenta este documento, que equipara con acuerdos de la talla de la Declaración Universal de los Derechos Humanos, como una primera base para llenar el “vacío legislativo” que reina en la industria y que “debe ser llenado cuanto antes”, según explican desde el equipo de inteligencia artificial de la Unesco.

En estos diálogos han participado, entre otros, Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York, la Academia China de Ciencia y Tecnología. El objetivo final de la recomendación es sentar las bases de unos sistemas de inteligencia artificial que trabajen por el bien de la humanidad, los individuos, las sociedades y el entorno y ecosistemas y prevengan daños. “Nuestros ojos están abiertos para que la inteligencia artificial trabaje a favor y no en contra de la humanidad”, ha asegurado Audrey Auzolay, directora general de la Unesco, en el acto de presentación del texto.

Corresponde ahora a los países presentar sus comentarios y observaciones sobre el texto, que seguirá revisándose hasta su adopción por los Estados miembro durante la 41ª sesión de la Conferencia General de la UNESCO en noviembre de 2021. El organismo confía en que su carácter global le permita asegurar que ninguna perspectiva cultural, profesional o ética se omite y en que la recomendación se convertirá los cimientos que permitan construir un fuerte respeto por la ley en el mundo digital. Esta tarea cobra especial importancia en el contexto de la pandemia “con la aceleración del desarrollo de tecnologías de inteligencia artificial para contenerla”, ha señalado Gabriela Ramos, subdirectora General de Ciencias Sociales y Humanas. “Un marco ético es esencial si van a seguir trabajando en beneficio de los ciudadanos”.

Entre las preocupaciones que han conducido a la Unesco a impulsar este proyecto figura el potencial de la inteligencia artificial para exacerbar las desigualdades globales. A día de hoy, solo doscientas firmas producen el 77% de las nuevas patentes e innovaciones relacionadas con el mundo digital. De las 15 principales, 11 están en los Estados Unidos y el resto están en China. La postura de la entidad es que estas tecnologías emergentes deben desarrollarse de forma más inclusiva y compartida. “Los Estados miembro deben diseñar mecanismos que prevengan la monopolización de sistemas de inteligencia artificial”, establece el borrador.

¿A qué herramientas se dirige esta recomendación? Según recoge el propio documento, su punto de mira está en los sistemas tecnológicos que tienen la capacidad de procesar información de un modo que se asemeja al comportamiento inteligente, y que típicamente incluye aspectos de razonamiento, aprendizaje, percepción, predicción, planeamiento o control.

La computación requerida para la investigación en deep learning se ha multiplicado por 300.000 entre 2012 y 2018

Igualdad y medioambiente

En este sentido, el borrador propone a los Estados miembro el desarrollo de políticas centradas, entre otros aspectos, en la evaluación de potenciales impactos éticos de estos sistemas, el establecimiento de marcos legales que permitan establecer responsabilidades por su contenido y resultados, el uso de datos de calidad que no arriesguen la privacidad de los individuos, la colaboración internacional, la garantía de que estas tecnologías no van a contribuir a ampliar las brechas existentes en el mundo analógico ni a incorporarlas en sus sistemas de decisión y la conservación del medioambiente a través del control del consumo energético de estos métodos. “Solo 14 de los 84 documentos identificados que proponen principios para el desarrollo y aplicación toman en cuenta preocupaciones medioambientales”, señalan desde el equipo de IA de la entidad. En este sentido, subrayan que la computación requerida para la investigación en deep learning se ha multiplicado por 300.000 entre 2012 y 2018. No en vano, el entrenamiento de un gran modelo de IA puede producir más de 270 toneladas de emisiones de CO₂, cinco veces la cantidad que produce un coche medio durante su vida útil.

El documento también toma en cuenta el potencial de la inteligencia artificial para la preservación y el enriquecimiento cultural y señala la necesidad de que los estados miembros examinen el posible impacto cultural de estos sistemas, especialmente en el caso de las aplicaciones de procesamiento del lenguaje natural. Este análisis debe considerar también las implicaciones negativas que puedan conducir a la desaparición de idiomas en peligro de extinción, dialectos locales y variaciones culturales asociadas al lenguaje y la expresión humanos. En la misma línea, el borrador establece la necesidad de los países procuren que las grandes tecnológicas aseguren que “las recomendaciones algorítmicas potencien la visibilidad y el descubrimiento de contenidos locales”.

En cuanto a las crecientes relaciones entre humanos y sistemas robóticos basados en inteligencia artificial, la recomendación de la Unesco subraya la necesidad de desarrollar guías sobre esas interacciones y su impacto en las relaciones entre humanos. “En especial, en lo relativo a la atención sanitaria y el cuidado de personas mayores y con discapacidades, y en lo que respecta a robots educativos, juguetes, chatbots y compañeros robóticos para niños y adultos”. Asimismo, la entidad recomienda que los países protejan el derecho de los usuarios a identificar con facilidad cuándo están interactuando con un ser vivo o con un sistema de inteligencia artificial que imita características humanas o animales.

Puedes seguir a EL PAÍS TECNOLOGÍA RETINA en Facebook, Twitter, Instagram o suscribirte aquí a nuestra Newsletter.


Más información

Lo más visto en...

Top 50