Cómo aunar ética e inteligencia artificial

La tecnología alcanza mayores niveles de adopción en el negocio y cada vez son más las compañías que desarrollan iniciativas a partir de la Inteligencia Artificial (IA) para transformar su negocio. Es una realidad futurista si miramos solo unos años atrás. No obstante, dada su penetración en las organizaciones, está aumentando la conciencia de que esta nueva herramienta debe utilizarse de forma ética. Así, en esta era híbrida, algoritmos y principios éticos han de converger.

Mayte Hidalgo, responsable de AI Strategy & Ethics de everis, señala que “las compañías deben definir una estrategia para llevar los principios éticos a un entorno de desarrollo tecnológico en su negocio”. Es lo que denomina “de Platón a Python”.

En estos años de desarrollo tecnológico se ha avanzado en el lenguaje, la interacción humana (y no humana)­­­ y en la forma en que las organizaciones se interrelacionan con clientes y proveedores. En este terreno es donde surgen nuevas cuestiones desde el punto de vista de la ética, especialmente cuando la relación incorpora la IA.

En ese caso, ¿hasta qué punto sabe la persona que está interactuando con un agente cognitivo y no con una persona? ¿Sabe que la respuesta se basa en un algoritmo? ¿Cómo y qué tipo de supervisión humana hay? ¿Quién se responsabiliza de las decisiones de un algoritmo? Muchos asuntos que se abordan en los paradigmas de Data & AI Ethics, disciplina que aborda las implicaciones del dato y la Inteligencia Artificial.

everis apuesta por el impacto positivo de la IA mediante un valor inclusivo.

“Por ello resulta necesario que los profesionales del dato y la IA sean conscientes del impacto ético en requerimientos que aplican a lo largo de todo el ciclo de vida del dato y del algoritmo. Se trata de que la organización integre en sus prácticas los principios éticos y evite así incurrir en aspectos como la discriminación, el sesgo o la ausencia de transparencia”, apunta David Pereira, responsable de Data & Intelligence Europe de everis.

Todas las empresas necesitan una estrategia para desarrollar una Inteligencia Artificial ética. Por el momento, estamos ante recomendaciones que no se imponen desde el ámbito regulatorio. Pero la normativa se adapta a la realidad de las nuevas formas de interacción, por lo que es clave definir una estrategia de Data & AI Ethics que articule cómo responder a la trasposición de estas recomendaciones.

Un mercado global como el actual avanza de manera concatenada, pero Europa, a la vanguardia en lo referente a ética aplicada a este campo y con un concepto más proteccionista en cuanto al ciudadano-consumidor, tiene claves más avanzadas que otros mercados. Así, la ética en IA aborda claves como la seguridad y privacidad de los datos, la supervisión humana, la transparencia y diversidad, el bienestar general y la responsabilidad.

También es probable que asistamos a un escenario en el que los principios éticos y el protagonismo de la IA en la generación de nuevas propuestas de valor en el mercado busquen un equilibrio: el del respeto a dichos principios sin suponer un freno para el impulso de la innovación y de la competitividad.

Evidentemente, el reto involucra a los directores digitales de las compañías, pero también a todos los grupos de interés relacionados, desde el CEO hasta el departamento de IA, el de RSC, el legal y las distintas áreas de negocio que diseñan nuevos servicios apalancados en IA.

“Que las decisiones automatizadas de la IA puedan ser explicadas, protegiendo a las personas de la opacidad de las redes neuronales, o que eviten incurrir en sesgos discriminatorios sobre los individuos, son cuestiones que ocupan a los expertos” (David Pereira, responsable de Data & Intelligence Europe de everis)

Además, el carácter transversal de la IA ética afecta a todo el ciclo de vida de los datos y algoritmos. Esto quiere decir que se tiene que integrar en el proceso completo. Por eso, como explica Mayte Hidalgo, “la estrategia debe tener en cuenta la transversalidad de la ética en IA. Se entiende como una herramienta que penetra en pilares básicos de la organización como el gobierno, privacidad, seguridad y calidad de la propia compañía y que requiere de un enfoque integrador que permita orquestar las implicaciones que comprende para el resto de la organización”.

Esta es una estrategia ad hoc que hará énfasis en aquellos principios que puedan tener mayor impacto en cada sector de actividad. “En banca o seguros, por ejemplo, destaca garantizar la ausencia de sesgos discriminatorios en el acceso a crédito o aseguración por su impacto en la inclusión financiera”, puntualiza Pereira. “Las industrias, como dinamizadoras del progreso tecnológico, adoptarán así una aproximación responsable, ecuánime e inclusiva”.

La compañía everis apuesta por el impacto positivo de la IA: “Este compromiso es posible si, como organizaciones, desarrollamos estrategias que maximicen la creación de ventajas y prevengan la discriminación. Nuestra visión aborda desde los algoritmos y datos utilizados en sistemas de IA hasta su impacto social, pasando por la responsabilidad de las organizaciones en asegurar mecanismos de gobierno”. E Hidalgo añade: “Promovemos una visión entrelazada, que integra dentro de cada iniciativa de datos e Inteligencia Artificial sus implicaciones éticas, así como el impacto social”.