Vivimos en la edad del algoritmo. Las decisiones que afectan anuestras vidas no están hechas por humanos, sino por modelosmatemáticos. En teoría, esto debería conducir a una mayor equidad:todos son juzgados de acuerdo con las mismas reglas, sin sesgo. Peroen realidad, ocurre exactamente lo contrario. Los modelos que seutilizan en la actualidad son opacos, no regulados e incontestables,incluso cuando están equivocados. Esto deriva en un refuerzo de ladiscriminación: si un estudiante pobre no puede obtener un préstamoporque un modelo de préstamo lo considera demasiado arriesgado (envirtud de su código postal), quedará excluido del tipo de educaciónque podría sacarlo de la pobreza, produciéndose una espiral viciosa.Los modelos apuntalan a los afortunados y castigan a los oprimidos:bienvenido al lado oscuro del big data.O?Neil expone los modelos que dan forma a nuestro futuro, comoindividuos y como sociedad. Estas «armas de destrucción matemática»califican a maestros y estudiantes, ordenan currículos, conceden (oniegan) préstamos, evalúan a los trabajadores, se dirigen a losvotantes, fijan la libertad condicional y monitorean nuestra salud.
