DeepSeek te espía y las otras también

Una pequeña firma de ciberseguridad canadiense llamada Feroot Security encontró partes deliberadamente ofuscadas en el código de DeepSeek. Al descifrarlas, encontró enlaces directos a los servidores de China Mobile. “Cuando inicias la sesión, el sistema genera una huella digital”, explicaba esta semana Ivan Tsarynny, CEO de la empresa. “Podrán rastrear todo lo que hagas en la plataforma, junto con tu huella digital y tu identidad, y vincular tu información personal con las consultas que realices”. Dicen que es la primera vez que vemos un nivel de personalización tan alto y tan directo. Pero no es la primera vez que vemos algo así.

El capitalismo de plataformas agrupa a empresas que extraen datos como modelo de negocio. La empresa ofrece un servicio gratuito o lo suficientemente barato al usuario, a cambio de quedarse el agregado de todo lo que ocurre en su servidor. Con la aplicación, ese agregado incluye lo que compartimos consciente y voluntariamente (nombre, contraseña, comentarios, fotos, conversaciones, etc); los metadatos (dónde estamos, a dónde vamos, con quién nos comunicamos, en qué restaurantes comemos, en qué tiendas compramos), los datos de contexto (quién nos rodea físicamente, con qué frecuencia coincidimos y qué hacemos juntos), los estadísticos, etc. La inteligencia artificial hace lo mismo pero de forma más individualizada e insidiosa. Nos habla a cada uno de nosotros por separado, en nuestro propio idioma, con nuestra propia voz.

Según la ley de cibersegridad china, que entró en vigor en 2017, las empresas chinas están obligadas a colaborar con el Gobierno en vigilancia, censura y recopilación de datos. Aquí la colaboración es innecesaria, porque China Mobile, la mayor operadora de telecomunicaciones de China, es una empresa pública, supervisada por la Comisión de Administración y Supervisión de Activos Estatales del Consejo de Estado chino. Cuando Snowden expuso a la NSA por espiar a cientos de millones de personas a través de los servicios e infraestructuras de empresas tecnológicas como Facebook, Google o Microsoft, el escándalo fue que espiaran a sus propios ciudadanos. Espiar al resto del mundo es, literalmente, el trabajo de la NSA.

Nada ha cambiado desde entonces. La Ley de Vigilancia de Inteligencia Extranjera (FISA) permite al Gobierno estadounidense recopilar datos de usuarios extranjeros sin que lo sepan y sin una orden judicial. La Ley de Uso Legal de Datos en el Extranjero (Cloud Act) les permite obtener datos de usuarios almacenados en servidores ubicados en el extranjero si pertenecen a empresas estadounidenses, sin cumplir las leyes del país en cuestión. A diferencia de nuestros mensajes en Signal o WhatsApp, nuestros prompts llegan a los servidores de cada empresa sin ninguna protección ni cifrado. Lo necesitan para entrenar nuevos modelos y para lo que necesite la Administración Trump.

El análisis de Feroot Security, que ha sido confirmado por otra firma especializada, es sólo de la versión web de DeepSeek. Todavía no han analizado la versión móvil, que sigue siendo una de las aplicaciones más descargadas, tanto en la tienda de aplicaciones Apple como en la Google Play Store. DeepSeek, al igual que LLaMA 3, Mistral y Falcon, puede ejecutarse localmente sin enviar datos a servidores externos. Pero no todo el mundo tiene el equipo adecuado, las habilidades técnicas o ganas de convertirse en su propio administrador.