_
_
_
_
Ideas Retina

El juramento hipocrático de los científicos de datos

¿Deberían los programadores de algoritmos, igual que hacen los médicos, suscribir una serie de principios que guíen su trabajo? La matemática y activista Cathy O'Neil cree que sí

Hipócrates
Hipócrates

En su más que recomendable libro Armas de destrucción matemática. Cómo el ‘big data’ aumenta la desigualdad y amenaza la democracia, Cathy O’Neil expone los motivos que nos deben hacer temer la forma en que se usan los algoritmos. La matemática y activista subraya que los modelos no son malos per sé: detrás de cada uno de ellos hay uno o varios autores que, de forma más o menos premeditadas, habrán desarrollado un algoritmo que pueda castigar a las personas.

“Los algoritmos no son más que opiniones encerradas en matemáticas”, escribe la autora. Y lo demuestra revisando cómo se están empleando los algoritmos en la actualidad en campos tan diversos como la universidad (estimando las probabilidades de que los futuros alumnos puedan pagar la matrícula), en la publicidad (excluyendo a los usuarios con menos ingresos de anuncios de productos que quizás les puedan interesar pero que probablemente no puedan pagar) o en banca (calculando la solvencia de las personas para ofrecerles un tipo de interés nivelado a su nivel estimado de riesgo).

Más información
En realidad, ¿qué [...] es exactamente un algoritmo?
Los algoritmos tienen prejuicios: ellos son informáticos y ellas, amas de casa

Hacia el final del libro, O’Neil habla de un juramento hipocrático que deberían suscribir todos los programadores de este tipo de modelos. Lo toma prestado del que redactaron en 2008, tras la crisis financiera, los ingenieros Emanuel Derman y Paul Wilmott.

Dice así:

“Se trata de una buena base filosófica”, dice O’Neil, “pero la autorregulación y unos valores sólidos solo contendrán a los escrupulosos”, advierte.

Tu suscripción se está usando en otro dispositivo

¿Quieres añadir otro usuario a tu suscripción?

Si continúas leyendo en este dispositivo, no se podrá leer en el otro.

¿Por qué estás viendo esto?

Flecha

Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PAÍS desde un dispositivo a la vez.

Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás añadir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PAÍS.

En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contraseña aquí.

Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.

Archivado En

Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
Recomendaciones EL PAÍS
_
_