En af menneskets svagheder er, at vi er glemsomme. Computere, derimod, glemmer ikke.

Men jo mere vidende og intelligente maskinerne omkring os bliver, des mere viser vores glemsomhed sig at være en styrke. For hvis ikke vi kan glemme, får fortiden lov at bestemme.
 
Tilgivelse er et af de grundlæggende budskaber i den kristne kultur. Vi laver fejl, vi gør ting, vi ikke burde, vi er ikke altid lige smarte, og nogle gange er vi pressede og svage.

Sådan er det jo, vi gør vores bedste, men vi er bare mennesker, og derfor har vi brug for tilgivelse. Vi har brug for at kunne sige til hinanden, pyt, vi glemmer det, jeg tilgiver dig, lad os komme videre.
 
I den menneskelige hukommelse fader ting ud. Tiden læger sårene, og med årene ser vi tingene i et andet lys, og vi fokuserer mere på nuet og det nære.

Men sådan fungerer computere ikke. Når først noget er registreret, bliver det stående så friskt og præcist som dengang, det blev lagret. Fortiden ligger frit fremme, lige så let tilgængelig i en søgning som det, der skete for et øjeblik siden.
 
For nogle årtier siden skulle man på biblioteket eller i arkiverne efter papir og mikrofilm, hvis man bevidst ville grave fortiden frem. I dag oplever mange, at de få gange, hvor de, engang for længe siden, gjorde noget usædvanligt og særlig farverigt, er dem, der bliver ved med at ligge forrest i en søgning.
 
Man bliver defineret og fastholdt af det, man var, og Google tilgiver ikke. Tværtimod kan man blive fanget i en selvforstærkende mekanisme, hvor det, som systemet én gang har vurderet om en person, bliver en selvopfyldende profeti.

Selvforstærkende filterbobler og tunnelsyn

Vi kender det fra de mange algoritmer, der anbefaler bøger, film og musik – eller som bestemmer, hvilke Facebook-, Instagram- og Twitter-posts vi får vist. Så snart man har vist interesse for noget, finder systemet mere af samme slags, og risikoen er at havne i et tunnelsyn, der gør én blind for det, der er anderledes.
 
Den samme mekanisme er på spil, når vi giver og får ratings i digitale tjenester som Airbnb, Uber eller Ebay. Hvis man som udlejer på Airbnb får dårlige anmeldelser, rykker man længere ned ad listen, og dermed er der færre, der ser en.

Tilsvarende med chauffører hos Uber. Hvis de får gode anmeldelser, får de henvist flere kunder. Men hvis de i gennemsnit får under 4 stjerner ud af 5, bliver de ikke fyret (for de er jo ikke hyret) – de får bare ikke sendt flere ture af algoritmen.

Man kan ikke forhandle med en maskine

Specielt i USA bruger man i stigende omfang kunstig intelligens til at sortere og vurdere. Det kan være kreditvurderinger og ansøgninger om lån, jobansøgninger eller endda til at afgøre, om en fængslet person skal prøveløslades.
 
Den store forskel på, om det er et menneske eller en maskine, der foretager den slags vurderinger, er, at man ikke kan argumentere eller forhandle med en maskine.
 
Maskinen laver en beregning og træffer en afgørelse inden for de normer for risiko, den er blevet indstillet til. Et menneske kan vælge at løsne lidt på betingelserne, at slå en streg over fortiden eller gøre en undtagelse.
 
En maskine kan ikke se en anden person i øjnene og vælge at stole på vedkommende, selv om han eller hun ikke er fejlfri. Men det kan vi, fordi vi selv er mennesker.
 
Det er selvfølgelig irrationelt. Det kan vise sig at være naivt. Man kan blive snydt af dem, man viste tillid. Man tager en chance, og måske tager man fejl.
 
Men omvendt, det er tilliden, der får tingene til at løbe rundt. Tillid er som olie, der smører samarbejdet og gør det muligt at koncentrere sig om nye muligheder sammen med andre snarere end at være optaget af at beskytte sig mod dem. 
 
Den bedste illustration af, hvorfor det er vigtigt, er det ”social credit score”- system, som Kina er i færd med at indføre. I grove træk går systemet ud på, at alle personer får en karakter, der udtrykker, om de er gode borgere.
 
Karakteren skal beregnes ud fra en lang række faktorer: om man overholder loven, betaler sine regninger til tiden, om man deltager i positive aktiviteter, passer godt på sine gamle forældre og så videre.

Ens social credit score kan være offentlig, og den kan afgøre, hvilke rettigheder man har. Med en dårlig score kan man ikke tage fly eller højhastighedstog, der er job, man er udelukket fra, eller skoler, ens børn ikke kan blive optaget på.
 
Og når først man har fået en dårlig score, kan det virke selvforstærkende − for hvordan kommer man videre, hvis man systematisk bliver afskåret fra de ressourcer, andre har adgang til?

Innovationen stivner, hvis vi ikke tør tage chancer

Konsekvensen er selvfølgelig, at man passer på, hvad man gør. Man holder sig på måtten, man censurerer sig selv og retter ind efter det, man formoder, at systemet finder acceptabelt, nu eller i fremtiden. Sat på spidsen mister vi endnu en unik menneskelig egenskab: vores fri vilje.
 
Det er selvfølgelig praktisk med borgere, der ikke skejer ud, men opfører sig ansvarligt og disciplineret. Men det kan også betyde, at udvikling, innovation og kreativitet stivner.

Hvis man ikke kan tillade sig at lave fejl, og hvis man ikke tør tage chancer og udfordre det bestående – hvordan kommer vi så videre?
 
Man kan ikke være eksperimenterende uden at slå nogle skæve. Fejl er en forudsætning for at lære. Og derfor er vi − også i en verden, der er baseret på ekstreme mængder detaljerede data og stadig mere præcise analyser − nødt til at kunne tilgive og vise tillid på trods af skønhedspletterne.
 
Det falder ikke maskiner naturligt. Det kan virke ironisk, at vi skal lære computerne at glemme, men det er nødvendigt, og det kommer ikke af sig selv.
 
Et eksempel er EU's bestemmelse om retten til at blive glemt. Hvis man føler, at der ligger forældet eller misvisende information på nettet om en, kan man søge om blive ”glemt” i den forstand, at søgemaskiner som Google holder op med at linke til informationen.
 
En anden mulighed er at forsyne data med en udløbsdato eller at indlægge funktioner, så ældre informationer ikke vægtes så højt. Den engelske avis The Guardian angiver med et tydeligt gult felt, hvor gammel den artikel, man har søgt frem, er, hvis den er ældre end et år.
 
Men måske håndler det især om kultur. Vi kan være tilbøjelige til at antage, at mennesket er disciplineret og ansvarligt, og at fejl netop er fejl; noget, som bør undgås og straffes.
 
Og sådan er det også et langt stykke ad vejen. Men i en stadig mere gennemsigtig og gennemregistreret verden bliver det tydeligt, at vi i praksis ikke altid handler fornuftigt, velovervejet og efter planen. Det er ikke altid lige kønt, og sådan er det faktisk for os alle sammen.

Vi er hverken guder eller maskiner – og det er okay.