Algoritmer er nutidens masseødelæggelsesvåben

Hvis først man som borger er kommet ned i datatragten, er det nærmest umuligt at komme op igen. I sin bog ’Weapons of math destruction’ advarer den amerikanske matematiker Cathy O’Neil om, hvordan myndigheder og andres voksende brug af algoritmer kan forstærke uligheder og cementere magtpositioner.

”Når computersystemet har klassificeret dig som en risiko, bliver du fanget i et giftigt feedback-loop. Hvis du bor i et fattigt nabolag, hvis nogen i din familie har en kriminel historie, eller hvis du er sort eller latino, så vil politiet holde nærmere øje med dig, og dermed vil de typisk indsamle flere belastende informationer om dig.”

Sådan lyder advarslen fra den amerikanske matematiker Cathy O’Neil, der står bag bestselleren med den sigende titel ’Weapons of math destruction’. For når først en borger på den måde er kommet i politiets søgelys, så risikerer datafælden på flere måder at klappe hårdere, end den ellers ville, og den kan sågar være medvirkende til at fastholde tidligere dømte i en kriminel løbebane.

”Med en højere risikoprofil i systemet kan du få hårdere domme i en retssag og sværere ved at blive prøveløsladt. Og dermed øges risikoen for, at du begår kriminalitet en anden gang. Resultatet er, at vi kriminaliserer fattigdom. På den måde kan algoritmer fungere som masseødelæggelsesvåben,” siger Cathy O’Neil. 

Login