Ideelt vil den fortsatte automatisering af det offentliges tjenester med stadig mere intelligente maskiner føre til hurtigere og mere præcis sagsbehandling og frigøre personalet fra rutinesager.

Hvis det virker.

Man skal ikke have brugt chatbots over telefonen eller online ret mange gange for at vide, at det til tider er ganske udfordrende at få selv simple problemer løst. Man kan hurtigt ende i en virtuel labyrint af krav om opdateringer og for længst glemte passwords, i kamp mod formularer, der ikke kan rumme netop de oplysninger, man gerne vil fortælle systemet. 

Man kan frygte, at det næste ryk i retning af kunstig intelligens og automatisering vil betyde, at flere, og især de svageste borgere, får sværere ved at hævde sig og opnå de ydelser, de har ret til.

I en situation, hvor man som borger skal forhandle med det offentlige, vil det uvægerligt ændre magtbalancen, at man står over for en maskine, der ved meget mere, end borgeren gør – og som tænker langt hurtigere.  

Det centrale spørgsmål er, hvem får gavn af automatiseringen, og for hvis skyld indføres det: borgeren eller systemet?

Eller som Rikke Frank Jørgensen, seniorforsker ved Institut for Menneskerettigheder, spørger:  

”Hvem vinder, og hvem taber ved en given løsning? Er det designet med henblik på at gøre borgerne stærkere i sine handlemuligheder og evne til at leve et godt liv? Eller er det designet med systemets logik og ønsker for øje?” 

De ressourcesvage har det ikke godt med digitale systemer 

”Den velstillede, ressourcestærke middelklasse har det fint med selvbetjeningsløsninger.

Men der er en kæmpe gruppe af socialt udsatte, der overhovedet ikke har det fint med offentlig digital post, selvbetjeningsløsninger og den der distancering i sagsbehandlingen. De mister forståelse for, hvad det offentlige er for en størrelse,” siger Hanne Marie Motzfeldt, lektor i digital forvaltning ved Juridisk Fakultet på Københavns Universitet. 

Motzfeldt nævner som eksempel en stressramt kvinde, der er eneforsørger. Hun havde to sager kørende i det offentlige, men da hun havde uploadet sine oplysninger og dokumentation for den ene sag, overså hun, at hun også skulle uploade dokumentation til den anden ydelse, hun søgte. Så hun fik afslag. 

”Hvis der havde siddet et menneske over for en stressramt kvinde, der skulle levere den samme dokumentation til to forskellige sager, ville det ikke være et problem. Et menneske ville godt være klar over, at der var et problem,” siger Hanne Marie Motzfeldt. 

Selvbetjening kan give en meget fragmenteret og siloopdelt behandling, der fratager socialarbejdere muligheden for at fange problemerne i tide, mener Motzfeldt. 

”Du kan have borgere, der får en vifte af ydelser, som de har søgt over selvbetjeningsløsninger, men vi skal blive bedre til at sikre, at der er et menneske i systemet, der laver en helhedsvurdering af, om det her egentlig kan passe, og hvad det underliggende problem kan være.” 

Omvendt kunne man håbe, at effekten af øget automatisering bliver den stik modsatte:

Hvis de mere rutinemæssige sager bliver klaret automatisk og med selvbetjening, vil det frigive ressourcer til at de menneskelige ansatte bedre kan fokusere på de svære sager, der netop kræver et menneske med erfaring og indføling. 

Håbet er at frigøre menneskelige ressourcer 

Som borgere vil vi begynde at møde kunstig intelligens og maskinlæring i form af flere selvbetjeningsløsninger og chatbots. 

”En chatbot er rigtig god til at give hurtige oplysninger: Hvornår lukker svømmehallen på søndag?

Hvornår får jeg hentet affald? Der er en lysmast ude på min vej, der ikke virker.

Vi bruger rejsebranchen og banker som eksempler på, at selvbetjening er kommet til at fylde meget, og hvor de fleste jævnt hen synes, det er meget rart. Sådan er der også eksempler i kommunerne, for eksempel at man kan forny sine lån af biblioteksbøger,” fortæller Christian Harsløf, direktør i KL med ansvar for digitalisering og teknologi. 

”Hvis vi kan få nogle gode smarte løsninger til den type vejledning, så kan kommunen bruge ressourcer på noget, der er mere kompliceret, det kan være på socialsagerne, i ældreplejen eller i folkeskolen, så man får dirigeret ressourcerne derhen, hvor den almindelige borgerkontakt er rigtig vigtig.” 

”Det er den balance, vi skal finde. Kommuner har jo ingen interesse i, at man får af-personliggjort den kommunale forvaltning, tværtimod. Men vi har områder, hvor teknologien faktisk er en bedre løsning, og hvor det kan give hurtigere overblik. Og så er der områder, hvor det bestemt er det modsatte, der er tilfældet,” siger Christian Harsløf.

Fristelsen til at spare mennesker væk

Hvorvidt automatisering af rutinesager kan frigøre menneskelige ressourcer, der kan opkvalificere de mere komplekse opgaver afhænger uvægerligt af, i hvor høj grad investeringen i ny teknologi er koblet sammen med forventninger til besparelser.

Alt efter hvor aggressivt der budgetteres, risikerer man, at der blot bliver mere automatisering og selvbetjening – men fortsat ikke tilstrækkelige ressourcer til at få menneskelig opmærksomhed om de svære sager. 

”Kunstig intelligens skal give en bedre og mere præcis service til den enkelte borger, så der kommer højere kvalitet. At der så samtidig kommer en højere effektivitet, der kan frigøre ressourcer til den borgernære velfærd, er kun et ekstra gode. Alle er interesserede i, at vi har en effektiv offentlig sektor, hvor vi bruger pengene bedst muligt, og der hvor der er mest behov for dem,” siger Rikke Zeberg, direktør for Digitaliseringsstyrelsen. 

Det offentliges budgetter vil være under stigende pres i de kommende år, blandt andet fordi der vil være flere ældre og kronisk syge. AI kan være en måde at opretholde og forbedre serviceniveauet – men det økonomiske pres kan også gøre det fristende at satse på teknologiske løsninger, der primært skal spare penge. 

Et eksempel var de robotstøvsugere, der for nogle år siden med stor entusiasme blev indført i en del kommuner, som øjnede chancen for at skære ned på personalet til at gøre rent hos de ældre. Men det gav bagslag, dels fordi teknologien viste sig utilstrækkelig, dels fordi borgerne reagerede på, at rengøring hos de ældre ikke kun handler om det funktionelle i at støvsuge, men også om, at der kommer et menneske forbi. 

Som Rikke Zeberg konstaterer: ”En af de største udfordringer i den fortsatte digitalisering er at gå fremad i et tempo, så vi har danskerne med, og så de bevarer den høje tillid til den offentlige sektor.” 

Tillid er afgørende

Tillid er en afgørende faktor, når man bevæger sig i retning af mere komplekse anvendelser af kunstig intelligens med større personlige konsekvenser. Uden tillid til teknologien bliver det vanskeligt at få borgerne til at acceptere, at det offentlige i stigende grad læner sig op ad computernes vurderinger.   

Realiteten er imidlertid, at it ikke altid virker som forventet. Sidste års teledata-skandale er et eksempel. Gennem syv år har der været fejl i de data, som politiet indsamlede om mistænktes opholdssted på basis af, hvilke sendemaster deres mobiltelefon var koblet op til. Det viste sig blandt andet, at nogle geografiske koordinater var blevet spejlvendt, så en del personer så ud til at have befundet sig i Adenbugten ud for Etiopien. 

Hvis årsagen til, at et it-system laver fejlagtige vurderinger, er indlejret i et program eller en beregningsmodel, vil fejlen blive gentaget alle de steder, systemet bliver anvendt.

Det sætter sagen yderligere på spidsen, hvis de algoritmer, der foretager analyser, er udviklet med maskinlæring, fordi det i praksis kan være umuligt – både for borgeren og sagsbehandleren – at se, hvad det er for sammenhænge, og hvilken vægtning af faktorer der indgår i maskinens vurderinger.

”Jo mere komplekse og selvlærende algoritmerne bliver, des vanskeligere bliver det at gennemskue processen, og des mere udfordres de grundlæggende rettigheder om at kende og kunne forklare, hvad der ligger til grund for en afgørelse, vi som borgere udsættes for,” konstaterer Rikke Frank Jørgensen fra Institut for Menneskerettigheder: 

”Det er selvsagt svært at forvente, at borgerne skulle have tillid til det, hvis beslutninger, som påvirker deres liv bliver truffet, uden at der er fuld gennemsigtighed i processen.” 

Det skal kunne forklares 

Sidste år udarbejdede EU-kommissionen et sæt etiske retningslinjer for anvendelsen af AI, der skal sætte mennesket i centrum. 

Et af kravene er explainability: at man er i stand til at forklare, hvordan systemet er nået frem til en afgørelse. Brugerne skal have mulighed for at se, hvilke principper og facts der ligger til grund for systemets vurderinger. 

”Hvis vi som borgere skal mødes af en offentlig sektor, der betjener sig af AI, er det en etisk fordring, at vi er i stand til at forstå, hvad der foregår. Men det er meget abstrakt, vi kan endnu ikke sætte præcise ord på, hvilket niveau vi skal forstå det på,” mener formanden for Dataetisk Råd, Johan Busse: 

”Et af kravene må være, at det fortsat skal være klart, hvem der er ansvarlig. Vi må holde fast i, at AI er et værktøj i nogens hånd. Vi må ikke komme i situationer, hvor det offentlige slår ud med armene og siger: Det er vi ikke herre over, det er maskinen.” 

De krav er KL’s direktør Christian Harsløf helt på linje med: 

”Hvis man som borger bliver mødt af det argument for en afgørelse, at ”det er, fordi algoritmen siger det”, så har vi fejlet, så ryger tilliden. Som medarbejder skal man kunne argumentere sagligt for, hvorfor en afgørelse er landet, som den nu er. ” 

Explanation versus explainability

Jacob Slosser, der er postdoc ved Det Juridiske Fakultets Center for International Lov på Københavns Universitet, mener, at kravet om explainability er problematisk og til dels urealistisk:

”Vi vil gerne kunne åbne den her sorte kasse og se, hvordan maskinen nåede frem til beslutningen. Men det kan man jo heller gøre med mennesker. Hvis man skulle forklare, hvordan en dommer afgør sagen, skal vi kunne spørge: Hvor har du gået i skole, hvad har du haft af problemer, da du var ung. Den slags spiller ind på beslutningerne, men vi kan ikke kigge ind i hovedet på en dommer.” 

Derfor mener Jacob Schlosser, at det er mere realistisk at fokusere på explanations snarere end explainability:

”Ligesom en dommer kan forklare sin afgørelse ved at fremlægge de bestemmelser og forhold, som er blevet overvejet, så skal maskinen kunne præsentere en liste over de punkter, der er blevet vurderet. Men man behøver ikke at forstå maskinens kode i detaljer.” 

Borgeren skal føle, at det passer

Hensynet til at gøre beslutningsprocessen gennemskuelig har præget udformningen af de automatiske ejendomsvurderinger, som efter planen bliver sendt ud senere i år. 

Andreas Berggreen, direktør i Udviklings- og Forenklingsstyrelsen, fortæller, at legitimitet har været en rettesnor i udviklingen.

”Når boligejeren modtager sin ejendomsvurdering, skal han eller hun føle, at det rammer skiven. De skal kunne forstå det og tænke, at det passer. Der ligger mange lag i at opnå det, dels at vi rammer rigtigt, men også at vi er i stand til at forklare, hvordan vi er kommet frem til resultat på en måde, så alle, der har en ejendom, forstår det.” 

Derfor er det kommende system til automatiske ejendomsvurderinger udformet i lag med stadig mere detaljeret information, så borgerne, hvis de vil, får mulighed for at gå meget langt ned i grundlaget for afgørelsen for at se hvilke faktorer, der indgår i vurderingen, og hvordan de er vægtet. 

”Formentlig kunne vi gøre det mere præcist og ramme rigtigt i flere tilfælde, hvis vi tog noget virkelig avanceret AI, som kunne finde mønstre som ingen mennesker kan gennemskue. Men så ville vi ikke være i stand til at forklare, hvorfor din ejendom er to millioner kroner værd. Så ville vi kun være i stand til at sige til folk, at det er der en superklog computer, der har sagt, og at vi ikke kan forestille os, at en ejendomsmægler eller nogen andre eksperter vil kunne give et mere retvisende svar. Men det gør vi ikke. Og det tror jeg ikke, der er nogen i den offentlige sektor, der gør, for det ville jo kræve, at politikerne sagde, at det var OK. Det er den grænse, vi er nået til nu,” siger Andreas Berggreen.