Los pioneros de Facebook critican su deriva hacia la manipulación masiva

El primer presidente de Facebook, y su principal impulsor en 2004, Sean Parker, aseguró la semana pasada que “solo Dios sabe lo que esta tecnología le está haciendo al cerebro de nuestros niños”. Parker reconocía abiertamente que, en los inicios del lanzamiento de la red social, todos los implicados sabían perfectamente que estaban creando una plataforma que se aprovecha de las “debilidades psicológicas humanas”.

"Facebook ha combinado técnicas de persuasión de propagandistas y la industria del juego en modos que amenazan la salud pública y la democracia", según el mentor de Zuckerberg

El mentor de Mark Zuckerberg y uno de los primeros inversores en su compañía, Roger MacNamee, considera que Facebook “ha combinado conscientemente la tecnología con técnicas de persuasión desarrolladas por propagandistas y la industria del juego en modos que amenazan la salud pública y la democracia”, según escribió este mismo sábado en The Guardian.

El ingeniero que desarrolló el mítico botón de Like de Facebook, Justin Rosestein, ha borrado todas las aplicaciones sociales de su móvil porque considera que la economía de la atención —que ayudó a fortalecer— saca lo peor de la humanidad, la distrae convirtiéndola en objetos que comprar y pone en “riesgo” la autonomía individual y colectiva. Por su parte, Leah Pearlman, la evangelizadora de ese “botón alucinante” que se convirtió en el mayor éxito de Facebook, se gana la vida ahora como ilustradora y tiene contratada una persona para compartir en redes su trabajo. No quiere tener ningún contacto con el producto que ayudó a levantar, para huir de la adictiva espiral de recompensas de la red social.

En las últimas semanas ha comenzado a difundirse este reverso tenebroso de la plataforma, que cuenta con 2.000 millones de usuarios mensuales, en gran medida por sus propios errores en la gestión de crisis como la de la difusión masiva de desinformación en favor de Trump por parte de peones del Kremlin.

El estudio defiende que "esto es solo el primer paso en un desarrollo continuo de la persuasión psicológica masiva"

La capacidad de manipular a sus usuarios con trucos psicológicos suele estar en el centro de esa polémica. Hoy se publica un estudio que muestra, tras varios experimentos que implican a millones de personas, como las herramientas que ofrece Facebook a los anunciantes la convierten en una máquina perfecta de persuasión masiva. La plataforma ingresó el último trimestre más de 9.000 millones de dólares en anuncios, su único modelo de negocio. Como dijo Jeff Hammerbacher, antiguo jefe de datos de Facebook: “Las mejores mentes de mi generación se dedican a pensar cómo hacer que la gente pinche en anuncios. Es un asco”.

“La orientación psicológica puede usarse para explotar la debilidad en el carácter de las personas y persuadirlas para actuar en contra de su interés. Por ejemplo: pueden dirigirse anuncios de casinos online a individuos que tienen rasgos psicológicos asociados con la ludopatía”, advierte Sandra Matz, investigadora de la Universidad de Columbia y autora principal del estudio, que publica hoy PNAS. En sus conclusiones, el estudio defiende que "esto es solo el primer paso en un desarrollo continuo de la persuasión psicológica masiva".

El reverso tenebroso

Investigaciones recientes muestran que se pueden predecir con detalle las características psicológicas a partir de la huella digital de las personas, como sus likes y sus tuits. Partiendo de esta base, los investigadores examinaron los efectos de la persuasión psicológica en el comportamiento real de la gente por medio de tres experimentos reales con anuncios diseñados específicamente para un perfil psicológico muy concreto, que alcanzó a 3,7 millones de personas. Matz y sus colegas descubrieron que encajar el contenido de los reclamos con las características psicológicas del usuario altera significativamente su comportamiento. Al mostrar anuncios pensados para personas extrovertidas a usuarios de este perfil lograron un 40% más de clics y un 50% más de compras que con individuos aleatorios.

“Nuestra esperanza es que se puedan desarrollar soluciones y contrapesos que se aseguren de que esta tecnología sirve para el bien y no para el mal”, asegura la investigadora

Los investigadores, que también pertenecen a las universidades de Stanford, Pensilvania y Cambridge, advierten de que sus resultados son muy conservadores, puesto que solo usaron un rasgo de personalidad muy genérico y la plataforma permite centrar el foco sobre numerosos detalles personales de los usuarios. Una investigación de ProPublica mostró que se pueden combinar hasta 52.000 atributos personales, y en la mayoría de los casos los usuarios no son conscientes de que están siendo vendidos a los anunciantes con rasgos e intereses que no son explícitos para ellos. Facebook vende estos atributos para que otras compañías puedan, por ejemplo, decidir cómo seremos atendidos al llamar a un call center sin que nunca lo sepamos.

“El hecho de que a menudo ni el público ni los políticos sean conscientes de que las tecnologías como la orientación psicológica existen, y que son efectivas influyendo en el comportamiento, es exactamente el motivo por el que empezamos esta investigación”, asegura Matz. “Nuestra esperanza es que teniendo una discusión pública podamos desarrollar soluciones y contrapesos en forma de políticas, normas y contramedidas tecnológicas que se aseguren de que esta tecnología sirve para el bien y no para el mal”, añade esta investigadora.

La capacidad para conocer en detalle las debilidades de las personas y usarla en favor de los anunciantes es un eje básico de la economía de la atención que ha hecho inmensamente ricas a compañías como Google. “No estamos diciendo que sea algo que solo puede hacerse en Facebook. Al contrario, esto es algo que podría desarrollarse en casi cualquier plataforma publicitaria que permita a los comerciales apuntar en función de sus intereses”, defiende.

El problema es que esa manipulación personalizada y masiva puede llevarse mucho más allá de la clásica relación entre anunciante y consumidor. Un ejemplo: en 2012, Facebook dio a conocer un estudio masivo con 60 millones de usuarios en el que demostraba que había sido capaz de movilizar a 340.000 abstencionistas para que fueran a votar. En las últimas elecciones presidenciales de EE UU podría haberse usado esa tecnología a la inversa: el equipo de Trump habría usado estas técnicas de propaganda personalizada para desmotivar a los electores demócratas y lograr que se quedaran en casa en lugar de votar por Clinton.