Weapons of Math Destruction : How Big Data Increases Inequality and Threatens Democracy.

Vivimos en la era del algoritmo. Cada vez más, las decisiones que afectan nuestras vidas (dónde vamos a la escuela, si obtenemos un préstamo para un automóvil, cuánto pagamos por el seguro de salud) no las toman humanos, sino modelos matemáticos. En teoría, esto debería conducir a una mayor equidad: se juzga a todos de acuerdo con las mismas reglas y se elimina el sesgo. Pero como Cathy O'Neil revela en este libro urgente y necesario, lo contrario es cierto. Los modelos que se usan hoy en día son opacos, no regulados e incontestables, incluso cuando están equivocados. Lo más preocupante es que refuerzan la discriminación: si un estudiante pobre no puede obtener un préstamo porque un modelo de préstamo lo considera demasiado arriesgado (en virtud de su código postal), entonces se le corta el tipo de educación que podría sacarlo de la pobreza. , y se produce una espiral viciosa. Las modelos apuntalan a los afortunados y castigan a los oprimidos, creando un "cóctel tóxico para la democracia". Bienvenido al lado oscuro de Big Data.nuevos conceptos y, en síntesis, se convierte en un instrumento de construcción de conocimiento y de utilidad social.