Empleados de Amazon escuchan a diario conversaciones que mantienen los usuarios con Alexa

Los empleados transcriben y revisan fragmentos de conversaciones con el objetivo de mejorar la detección de voz y las respuestas que da el asistente. Amazon ha reconocido en un comunicado que anota “un número extremadamente pequeño de interacciones de un conjunto aleatorio de clientes para mejorar la experiencia del cliente, siempre después de haber utilizado la palabra de activación de un dispositivo”. “Esta información nos ayuda a entrenar nuestros sistemas de reconocimiento de voz y comprensión del lenguaje natural, para que Alexa pueda entender mejor sus peticiones y garantizar que el servicio funcione bien para todos”. La compañía no ha especificado a este periódico el número de trabajadores que se dedican a escuchar este tipo de grabaciones.

Cada uno de estos empleados trabaja nueve horas al día y puede llegar a revisar hasta 1.000 grabaciones por turno, según han afirmado dos trabajadores de la oficina de Amazon en Bucarest. Además de en Rumanía, hay equipos de este tipo en otras localizaciones como Boston (EE UU), India y Costa Rica. Pero han firmado acuerdos de confidencialidad que les impiden hablar públicamente sobre el programa.

Un trabajador ha explicado al mismo medio que, por ejemplo, al recibir audios en los que un usuario decía Taylor Swift, él se encargaba de asociarlos con la cantante. Entre las grabaciones que analizan, afirman haber escuchado desde a una mujer cantando mal en la ducha a un niño pidiendo ayuda. Además, dicen contar con chats grupales internos para compartir archivos cuando necesitan ayuda a la hora de analizar una palabra confusa. En ellos, también se enseñan grabaciones divertidas.

Grabaciones de detalles privados

El altavoz inteligente se activa por error en varias ocasiones, según cuentan los mismos empleados. Uno de ellos ha afirmado que llegan a escuchar unas 100 grabaciones al día en las que Alexa se activa sin que el cliente se lo pida. De esta forma, aseguran haber escuchado a los usuarios discutir detalles privados como nombres o datos bancarios —en esos casos deben anotar que se trata de "datos críticos"—. Incluso dos de los trabajadores han explicado que analizaron una grabación de lo que creen que fue una agresión sexual. Según relata Bloomberg, solicitaron orientación a Amazon. La compañía les dijo que no les correspondía interferir.

Pese a estas declaraciones de los empleados, Amazon asegura que las anotaciones puntuales suceden siempre después de que haya sido utilizada la palabra de activación del altavoz. Es decir, “un dispositivo solo escucha y transmite datos a la nube a partir de identificar la palabra de activación ‘Alexa”. “Nos tomamos muy en serio la seguridad y privacidad de la información personal de nuestros clientes”, explica la compañía en el comunicado.

En su defensa, Amazon señala que bajo ninguna circunstancia los empleados pueden saber de qué usuario son las grabaciones: “Tenemos estrictas salvaguardas técnicas y operativas, y tenemos una política de tolerancia cero en cuanto al abuso de nuestro sistema. Los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente como parte de este flujo de trabajo. Aunque toda la información es tratada con alta confidencialidad y utilizamos la autenticación multifactorial para restringir el acceso, además del encriptado del servicio y las auditorías de nuestro entorno de control para proteger dicha confidencialidad, los clientes siempre pueden eliminar sus interacciones de voz con Alexa en cualquier momento”.

Las grabaciones que reciben los trabajadores no proporcionan el nombre completo y la dirección de un usuario, según afirma Bloomberg, que ha tenido acceso a una captura de pantalla de las mismas. En su lugar, están asociadas con un número de cuenta, el nombre del usuario y el número de serie del dispositivo.

Incluso una de las preguntas hace referencia a cómo las grabaciones de voz de un usuario mejoran a Alexa. “Cuanto más utilizas Alexa, más se adaptará el servicio a tu forma de hablar, vocabulario y preferencias personales. Por ejemplo, usamos tus solicitudes a Alexa para entrenar nuestros sistemas de reconocimiento y comprensión del lenguaje natural”, responde la compañía.