‘Siri, ¿hay alguien ahí?’: quién escucha las conversaciones que los usuarios mantienen con los asistentes

Tener un altavoz inteligente en casa o en la oficina es cada vez más habitual. Solo durante el último trimestre se comercializaron a nivel mundial 38,5 millones de estos dispositivos, lo que supone un aumento de un 95% respecto al mismo trimestre del año anterior, según la consultora Strategy Analytics. Los gigantes tecnológicos explican en sus políticas de privacidad que almacenan grabaciones de conversaciones de los usuarios con los asistentes para mejorar el funcionamiento del sistema. Pero no son del todo transparentes al explicar a sus usuarios cómo se utilizan esos audios. Ni quién los escucha. Hace unos días Bloomberg reveló que miles de empleados de Amazon de todo el mundo revisan a diario conversaciones aleatorias que los usuarios mantienen con Alexa. Pero, ¿qué ocurre con el resto de asistentes? ¿Hay humanos que escuchan nuestros diálogos con Google Assistant, Cortana, Siri o Bixby?

La respuesta, al menos con algunos de estos asistentes, es sí. Google ha reconocido que cuenta con empleados que escuchan algunas grabaciones de usuarios con Google Assistant para intentar mejorar el sistema, aunque no ha dado más detalles al respecto. Apple también lo hace, según Bloomberg y la BBC. La compañía de Cupertino no ha confirmado ni desmentido la información a este periódico. De la misma forma, Microsoft y Samsung han descartado explicar si tienen trabajadores que realicen este tipo de trabajo.

Los empleados de Amazon transcriben y revisan fragmentos de conversaciones durante nueve horas al día, según han contado a Bloomberg dos trabajadores de la oficina de Amazon en Bucarest. Pueden llegar a revisar hasta 1.000 grabaciones por turno. El gigante tecnológico ha reconocido en un comunicado que anota "un número extremadamente pequeño de interacciones" para mejorar la experiencia del cliente: "El acceso a las herramientas internas está altamente controlado y solo se concede a un número muy limitado de empleados". "Nuestras políticas prohíben estrictamente tanto el acceso de los empleados o el uso de los datos de clientes por cualquier otra razón, y tenemos una política de tolerancia cero ante el incumplimiento de este sistema. Auditamos regularmente el acceso de los empleados a las herramientas internas y limitamos el acceso cuando y donde sea posible", ha afirmado Amazon.

El gran problema “es que muchos de quienes usan los asistentes no saben que les están grabando” porque no leen las políticas de privacidad, explica el experto Borja Adsuara

A la abogada experta en protección de datos y autora de Datanomics, Paloma Llaneza, le sorprende “la paradoja de la privacidad”: “A la gente le preocupa más que haya personas escuchando sus conversaciones que el hecho de que queden grabadas y sean analizadas por una inteligencia artificial”. Para ella, esto último es más arriesgado, ya que “las personas se olvidarán cuando lleguen a su casa de lo que hayan escuchado”.

Se espera que el número de asistentes virtuales en uso a nivel mundial no pare de crecer en los próximos años. Statista prevé que la cifra ascienda de 3.250 millones de asistentes en 2019 a 5.110 millones en 2021 y 8.000 millones en 2023. En la misma línea que Llaneza se posiciona Borja Adsuara, abogado experto en derecho digital: “¿Qué es más peligroso que una persona de vez en cuando se conecte a tu asistente y escriba la conversación o que haya una inteligencia artificial que recopile todo lo que dices y sea posible saber hasta lo que te preocupa?”. Considera secundario que los audios sean escuchados por personas. El gran problema “es que muchos de quienes usan los asistentes no saben que les están grabando” porque no leen las políticas de privacidad.

Cuando el asistente se activa por error

La pregunta que cualquier usuario debería hacerse, según Llaneza, es si estos dispositivos se activan de forma remota. Todas las compañías aseguran que los asistentes solo se activan al pronunciar un comando. Por ejemplo, Google insiste en su web que Google Assistant solo graba la voz cuando se activa el asistente con el comando “ok, Google” y Microsoft en que las palabras clave son “Hola, Cortana”.

Pese a ello, ha habido varios casos en los que estos gigantes tecnológicos han almacenado conversaciones privadas. Alexa se activa por error en varias ocasiones, según han contado varios empleados de Amazon a Bloomberg. Uno de ellos ha afirmado que llega a escuchar unas 100 grabaciones al día en las que Alexa se activa sin que el cliente se lo pida. De esta forma, aseguran haber escuchado a los usuarios discutir detalles privados como nombres o datos bancarios —en esos casos deben anotar que se trata de "datos críticos"—. Tanto Amazon como Google, Apple, Microsoft y Samsung permiten al usuario consultar las grabaciones almacenadas y eliminarlas en los ajustes del asistente. Esta puede ser una forma de comprobar si el altavoz se ha activado de manera involuntaria.

Adsuara hace la siguiente reflexión: “¿Por qué lo llaman altavoces cuando quieren decir micrófonos? Es verdad que nos contestan. Pero también recogen todo lo que hablamos”. En 2018 se vendieron en todo el mundo 86,2 millones altavoces inteligentes y los envíos de estos dispositivos no han parado de crecer en los últimos meses, según Strategy Analytics.

“Incorporar un micrófono abierto en tu vida da lugar a que en cualquier momento puede escuchar una conversación tuya”, explica Llaneza. Para ella, es primordial tener claro si las grabaciones son usadas para mejorar el sistema, entrenar inteligencias artificiales con otras finalidades, vender servicios a los usuarios o saber su estado de ánimo y hacerles un perfil.

Todas estas compañías aseguran que usan los audios almacenados para mejorar sus asistentes. Google, en una de sus páginas de preguntas y respuestas frecuentes, afirma utilizar las interacciones con el asistente de Google para mejorar el reconocimiento de voz y publicar anuncios “más útiles” para el usuario. Microsoft sostiene usar los audios para mejorar la comprensión de Cortana, el reconocimiento de voz y las respuestas. Samsung explica en esta web que las conversaciones pasadas sirven para ayudar a Bixby a entender mejor a un usuario y comprender su pronunciación y los comandos de voz.

De la misma forma, Apple usa las grabaciones con Siri para conseguir una mejor detección de la voz. La compañía de Cupertino, según un documento de seguridad de Apple, guarda algunos audios sin ninguna información que puede identificar al usuario durante incluso más de dos años. Por ejemplo, grabaciones que hacen referencia a música, equipos de algún deporte, jugadores o negocios.

Legislación

Las empresas tienen la obligación de contar cuál es la finalidad de la recogida del dato. Pero la legislación europea no exige la explicación de la metodología de la mejora del servicio. Así lo explica Llaneza, que afirma que en EE UU no hay una normativa al respecto: “Con que te digan que van a grabar las conversaciones con la necesidad de mejorar el servicio han cumplido la legislación”.

“Incorporar un micrófono abierto en tu vida da lugar a que en cualquier momento puede escuchar una conversación tuya”, dice la abogada Paloma Llaneza

Cuando este periódico ha preguntado a las compañías por la existencia de empleados que escuchen las conversaciones, solo ha obtenido una respuesta clara —aunque sin detalles— por parte de Google y Amazon. El resto de compañías no han contestado o han remitido a EL PAÍS a webs y documentos en los que no se responde a la demanda. “No van a decirnos cómo están tratando los datos porque es una cuestión en Europa especialmente sensible y porque hay una opacidad general sobre cómo se tratan los datos. Las empresas no quieren que seamos conscientes de la enorme intrusión que vivimos todos los días con estos dispositivos”, afirma Llaneza.

Tener un asistente en el hogar es peligroso también para Adsuara. Pero el abogado subraya que también lo es tener un móvil, ya que cuenta con un micrófono y se puede hackear: “Cualquier dispositivo conectado está entrometiéndose en la intimidad”. Ambos expertos coinciden en la necesidad de hacer un análisis de riesgo. “¿Te compensa la incertidumbre de pensar que una empresa puede activar un micrófono o estar escuchando las conversaciones a cambio de no bajar o subir el volumen o apagar la luz? Esto es lo que nos tenemos que preguntar”, concluye Llaneza.

Amazon domina el mercado de los altavoces inteligentes

Amazon domina el mercado de los altavoces inteligentes. Pero seguido cada vez más de cerca de Google. Solo hace unos dos años, Echo, el smart speaker de Amazon, contaba con el 82% de la cuota de mercado en el mundo, según recoge Statista con datos de Strategy Analytics. Pero desde entonces este porcentaje no ha parado de descender. Y en el cuarto trimestre de 2018 alcanzó el 36% con una venta de 13,7 millones de dispositivos. Google ha sido el principal beneficiario del retroceso de Amazon. Sus altavoces inteligentes han pasado del 12,4% al 30% de la cuota de mercado global, con 13,7 millones de unidades comercializadas en el último trimestre de 2018. También ha aumentado en 2018 el envío de altavoces de las marcas chinas Alibaba, Baidu y Xiaomi, que suponen en total alrededor del 18% de las unidades enviadas en el último trimestre del año pasado.