La ética y la tecnología, inseparables para cualquier sector

Un reciente estudio del New York Times sobre cómo las aplicaciones de nuestros móviles registran nuestra localización ha resaltado la importancia de que el sector admita que la ética de las personas que desarrollan y comercializan servicios tecnológicos es tan importante como la propia tecnología.

Por el bien del usuario, los fabricantes de tecnología deben esforzarse en concienciar sobre el potencial riesgo humano de estas y ser más sinceros sobre el uso que hacen sus innovaciones de los datos de las personas. Los encargados de desarrollar estas innovaciones deben exigir a sus directivos y consejos de administración un compromiso ético para el mundo de la tecnología. Más en concreto, el mundo de los negocios debe dar visibilidad y recompensar a los que encabecen la ética en sus empresas, desarrollar marcos de transparencia corporativa y contratar distintos equipos con los que interactuar, crear y mejorar basándose en estas tecnologías.

Gestionar los datos de forma responsable ya no es opcional

Nuestros datos son un activo de un valor incalculable para los profesionales del marketing. Los datos se han convertido en una materia prima a la altura del petróleo o el oro, por lo que la privacidad del usuario debe pasar a ser una prioridad (y una línea roja) para todas las empresas que se benefician de ellos. A medida que las empresas crecen y mutan, no debe perderse nunca una intención sería para con el contenido del usuario, estableciendo claramente cómo y cuándo pueden usarse sus datos, rastreando los datos recogidos, poniendo la privacidad en primer lugar e informando al usuario cuando la Inteligencia Artificial tome decisiones delicadas.

Más información

Bruselas publica su primer borrador de principios éticos para la Inteligencia Artificial

“La inteligencia artificial nos obliga a revisar nuestra idea de justicia”

Por otro lado, es ya vox pópuli que los datos (aparentemente inofensivos) que vierten sobre sus perfiles personales, aplicaciones y plataformas, pueden sacarse de contexto, ser explotados comercialmente e incluso vendidos sin su consentimiento. En resumen, el consumidor finalmente pasa las cuentas a las grandes tecnológicas por sus datos y su privacidad, y el escrutinio público de compañías tanto tecnológicas como no tecnológicas crecerá como la espuma.

Tomen cartas en el asunto los reguladores en Estados Unidos, Reino Unido, la Unión Europea y otros lugares, las “Big Tech” tienen ahora la responsabilidad de someterse al escrutinio de la sociedad. Esto implica, en la práctica, que las más altas esferas directivas de estas compañías reconozcan estos problemas, y que sus grandes bases trabajen para resolverlos. Empresas grandes y pequeñas tienen ahora la importante tarea de demostrar todos los pasos que tomen para mejorar la seguridad de sus datos, su privacidad, su ética y sus buenas prácticas.

Diversidad y ética, nuevas directrices de la gestión de datos

La cosecha de datos personales por parte de las plataformas tecnológicas no hace sino remarcar la necesidad de formar en ética a todos aquellos que gestionen información delicada. El uso de las redes sociales y plataformas de terceros acentúa la importancia de implantar de forma ética y transparente tecnologías diseñadas para distribuir y analizar datos de personas, como la Inteligencia Artificial. La diversidad de los equipos encargados de crear esta tecnología es igual de importante, ya que debe reflejar la de la comunidad a la que va a dar servicio.

La igualdad digital debería ser reconocida como un derecho humano más, encargado de defender unos algoritmos justos, un acceso libre a las herramientas digitales y una oportunidad global de formarse en disciplinas digitales. Muchas empresas ya han dejado atrás avances reaccionarios y retrógrados para centrarse, en su lugar, en impulsar la ética y la transparencia en sus productos ya comercializados. La realidad es que es mucho más difícil asegurar que un producto es ético una vez este ya está en funcionamiento.

En la práctica, cada empresa debe establecer sus directrices, a través de un ciclo de desarrollo del producto, de cara a las personas encargadas de desarrollar tecnología. Los tests de accesibilidad, fallos potenciales y de seguridad son el pan de cada día del desarrollador tecnológico. Estos mismos profesionales deberían ampliar el alcance de sus ensayos para probar si su producto es justo, imparcial y ético, antes de que éste llegue al mercado o se implante en una organización.

El futuro de la tecnología es transparente

Eventos recientes confirman que el enfoque del mundo de los negocios de cara a la construcción y despliegue de tecnologías basadas en datos, como la IA, debe estar anclada a la ética y la responsabilidad. Durante sus procesos, los fabricantes de tecnología y aplicaciones deben incorporar ambos principios a su desarrollo. Una sola compañía descuidada, que traicione la confianza de sus usuarios, podría causar un efecto dominó que llevaría a los consumidores a perder su confianza en las grandes tecnológicas y otras empresas que explotan sus servicios.

Es necesario el desarrollo de principios y procesos internos para la depuración de responsabilidades, desde el último becario hasta el CEO. Estos marcos de trabajo deberían guiar las prácticas corporativas y demostrar de forma abierta el compromiso de cada compañía con una IA ética. Por ese mismo motivo, las empresas están desarrollando sus propios códigos éticos con el fin de abordar asuntos críticos éticos antes del lanzamiento de productos basados en la IA.

Afrontar 2019 con un propósito

Al fin y al cabo, ya existe entre nosotros un movimiento social y político y una mano de obra claramente enfocados a una gestión ética de los datos, que se originó en ciertos rincones de la comunidad techie. Idealmente, el resultado será la creación, mejora y gestión de más tecnología ética, que será gestionada de forma transparente y responsable. El mundo lleva necesitado de este cambio desde mucho antes de que las cuestiones éticas acapararan portadas en la prensa, se colaran en nuestras conversaciones familiares o incluso en las agendas de nuestros políticos.

Klaus-Michael Vogelberg es el CTO de Sage