Algoritmer er nutidens masseødelæggelsesvåben

”Når computersystemet har klassificeret dig som en risiko, bliver du fanget i et giftigt feedback-loop. Hvis du bor i et fattigt nabolag, hvis nogen i din familie har en kriminel historie, eller hvis du er sort eller latino, så vil politiet holde nærmere øje med dig, og dermed vil de typisk indsamle flere belastende informationer om dig.”

Sådan lyder advarslen fra den amerikanske matematiker Cathy O’Neil, der står bag bestselleren med den sigende titel ’Weapons of math destruction’. For når først en borger på den måde er kommet i politiets søgelys, så risikerer datafælden på flere måder at klappe hårdere, end den ellers ville, og den kan sågar være medvirkende til at fastholde tidligere dømte i en kriminel løbebane.