Ændres forvaltningen af loven når den sættes på formel?

Mange afgørelser i det offentlige bygger i dag på skøn, og beslutninger træffes igennem samtaler og forhandlinger mellem sagsbehandlere og borgeren. Hvis man i stedet vil benytte kunstig intelligens i administration, kræver det, at principperne bag afgørelserne kan sættes på en formel. Men kan man gøre det, uden at borgernes rettigheder forandres?

MM Special: AI i det offentlige

I de kommende år vil maskinerne blive væsentligt bedre til at vurdere mere komplekse forhold – og dermed vil de begynde at brede sig til flere områder. Og hver gang anvendelsen af maskiner udvides, vil vi støde på de samme dilemmaer: Er maskinen vitterligt kompetent nok til at vurdere sagen? Sker der en ændring i vurderingen af sager, når maskiner overtager?

For at automatisere sagsbehandlingen skal love og bestemmelser oversættes til kode, som maskiner kan forstå og handle ud fra. Som ved enhver anden oversættelse fra et sprog til et andet vil der uvægerligt være nuancer og betydninger, som forandres.

Konsekvensen kan være, at når administration bliver digital, ændrer forvaltningen af loven karakter, så der prioriteres og vægtes lidt anderledes, og det kan påvirke de ydelser, borgerne får. I den forstand bliver lovens effekt ændret – men det er ikke noget, politikerne har besluttet, og måske er det ikke engang bevidst.

I mange tilfælde er der ingen problemer med at sætte reglerne på formel. En stor del af det offentliges afgørelser er helt klare og objektive – eksempelvis om man har ret til folkepension eller er gammel nok til at tage et kørekort.

I andre tilfælde vil det tydeligvis være uheldigt at forenkle reglerne så meget, at der ikke er plads til fleksibilitet og individuel behandling. Det er indlysende, at man ikke kan lade en maskine beslutte, om en borger er for syg til aktivering, eller om et barn skal fjernes fra sine forældre.

Men der er også en stor gråzone, hvor computere i mange tilfælde faktisk kan træffe den korrekte afgørelse, selv om sagen er følelsesladet og har store personlige konsekvenser.

”Jo mere et sagsområde bygger på, at man fortolker loven bogstaveligt, des bedre er det egnet til automatisering. Hvis sagsbehandlernes arbejde består i at slå op i regler og tidligere afgørelser, og hvis man i høj grad følger faste skemaer og præcise bestemmelser, er det let automatisere.
Det er jo sådan, mange computerprogrammer fungerer. If this, then that: Hvis en given række betingelser er opfyldt, kan man få en tilladelse eller modtage en bestemt ydelse,” forklarer Jacob Slosser, der er postdoc ved Det Juridiske Fakultets center for international lov på Københavns Universitet.

Maskiner er ikke til vage formuleringer

Det bliver vanskeligt der, hvor forvaltningen i høj grad bygger på skøn.

Vi har valgt i lovgivningen at give plads til skøn og vage formuleringer. Lovtekster kan indeholde ord som ”væsentlig” eller ”rimelig”, der indebærer, at nogen skal fortolke, hvad der har særlig betydning. Eller loven kan angive, at en myndighed ”kan” foretage sig noget – og så er det op til nogen at vurdere, om der skal handles. Det er ikke bestemt præcist på forhånd, hvad der skal ske, og der er et vist spillerum for fortolkning i den enkelte sag.

Den type bløde formuleringer kolliderer i mange tilfælde med den mere firkantede måde, computere træffer afgørelser på. En computer kan ikke være vag. Den kan ikke gøre en undtagelse, vise tillid, satse på, at en indsats virker, eller vurdere en problemstilling ud fra en mavefornemmelse.

Men, som lovene afspejler, ønsker vi netop, at det offentlige kan foretage den form for afvejninger.

Hvis forvaltningen på et område automatiseres, forsvinder elementet af individuelt skøn – og det springende punkt er, hvorvidt det indebærer, at nogle borgere så får en anden ydelse, end de ville have fået, hvis det var en menneskelig sagsbehandler, der vurderede sagen.

Programmørerne skriver loven om

For Hanne Marie Motzfeldt, lektor i digital forvaltning ved Juridisk Fakultet på Københavns Universitet, rejser det nogle principielle spørgsmål, når ingeniører og programmører begynder at skære forvaltningen til ud fra, hvad der fungerer bedst teknisk:

”Der er ret stor forskel på, hvad man anvender AI til, men i nogle sammenhænge er der grund til at råbe vagt i gevær,” mener Hanne Marie Motzfeldt:

”Hvis der sker en ændring i måden, man forholder sig til loven som følge af automatiseringen, får vi et demokratisk problem. For hvad er det så for en styreform, vi har? Hvem bestemmer, hvem sidder for enden af bordet – de folkevalgte eller programmørerne og dataanalytikerne?”

I den offentlige administration skal man realisere lovgivers vilje – og den vilje kan meget vel være noget helt andet end det, som en AI finder frem til som det statistisk rigtige. Ofte har lovgivningen endda netop som mål at forandre statistikken. Det skaber nogle fælder for den her tænkning, som de færreste bemærker.”

En central udfordring for ombudsmanden

Da Folketingets ombudsmand, Niels Fenger, tiltrådte i december sidste år, var det hans udtalte forventning, at det bliver en af de kommende års centrale opgaver at holde øje med, at digitalisering og indførelse af mere intelligente systemer gennemføres med respekt for borgernes rettigheder.

Det er et område, Niels Fenger i forvejen kender særdeles godt. Han er tidligere professor i forvaltningsret og har forsket og skrevet om konsekvenserne af digitaliseringen af administrationen. 

Ombudsmanden peger på en række eksempler, hvor digitaliseringen har ændret ved borgernes rettigheder og deres position i forhold til forvaltningen:

- Det var tidligere ulovligt at overdrage sit Nem-ID til andre, og det betød, at der opstod vanskeligheder med at anvende de digitale offentlige tjenester, hvis en person på grund af sygdom eller alder er nødt til at lade sig repræsentere af sine børn, forældre eller en advokat.

- En borger kan nu kun vedhæfte en vis mængde dokumentation for at understøtte sin sag, tidligere kunne man bidrage så mange oplysninger man ønskede. Offentlig Digital Post var tilsyneladende vanskelig at ændre teknisk, og man valgte derfor at ændre reglerne i stedet.

Hanne Marie Motzfeldt mener, at der er behov for at uddanne en ny type jurister, der både forstår de tekniske og de juridiske spilleregler, og som kan indgå i processen, når nye områder i forvaltningen automatiseres. Motzfeldt kalder dem ”udviklingsjurister”.

”Hvis man vil sætte juridiske beslutningsprocesser på en eller anden form for formel, skal man have nogle dygtige jurister, der både kan læse loven korrekt og formidle den korrekt til andre faggrupper. Udviklingsjuristerne skal være med helt fra starten; allerede, når man starter en udvikling op. Det er nødvendigt for at sikre den parlamentariske styringskæde.”

Kulturelle normer ændrer sig også

Jakob Slosser fra Københavns Universitet påpeger, at det ikke kun er på grund af digitalisering, at der kan ske forskydninger i fortolkningen af loven. Normerne i samfundet ændrer sig løbende, og det sætter spor i forvaltningen.

Som eksempel nævner Slosser, at samfundets forståelse af, hvad det vil sige at være syg eller arbejdsløs, ændrer sig med tiden.

”Der er en liste af sygdomme, vi accepterer som alvorlige nok til, at man kan få understøttelse – men listen ændrer sig. I de senere år har vi for eksempel fået en bedre forståelse af Aspergers syndrom. Førhen var det slet ikke en sygdom – man var bare lidt sær. Der er problemstillinger, man ikke førhen tog alvorligt, men nu beslutter vi, at de tæller. Selve loven er ikke ændret, men når normerne skifter, så skifter den logik, de bliver forvaltet efter.

Slosser nævner, at vi har revideret vores opfattelse af mange tidligere domme, fordi vi i dag, ud fra hensyn til ligestilling, mener, at de burde være anderledes.

For Jacob Slosser peger det på to udfordringer:

For det første: Kunstigt intelligente systemer lærer om verden ved at analysere, hvordan tidligere sager er blevet afgjort. Derfor kan systemet være tilbøjeligt til hænge fast i fortiden og reproducere eksisterende bias. Når de kulturelle normer skifter, er der en risiko for, at computerne ikke opfanger det, og derfor er man nødt til målrettet at indlægge nye eksempler eller nye normer.

For det andet: Maskiner er ikke de eneste, der kan hænge fast i fortiden. I USA vakte det opsigt, at en ældre dommer i 2016 gav en påfaldende let dom til en af USA's førende konkurrencesvømmere for at voldtage en studerende ved Stanford University. Dommerens argumentation var, at det ville ødelægge svømmerens liv med en hårdere dom. Sagen blev et eksempel på, at forvaltningen af loven kan være helt ude af trit med de normer, som gælder i samfundet. 

”Det er en myte, at mennesker er objektive og ensartede i den måde, de forvalter loven på, og i mange tilfælde er det faktisk lettere at ændre koden i en computer for at udbedre fejlen end at ændre den måde, mennesker tager deres egne beslutninger på,” pointerer Jacob Slosser.

Det er derfor ikke kun en dårlig konsekvens, hvis det personlige og individuelle hensyn glider i baggrunden, mener Jakob Slosser.

Automatisering kan også sikre, at alle får samme behandling, så der ikke er forskel på afgørelserne, alt efter hvilken sagsbehandler borgeren tilfældigvis kommer ind til, eller hvor i landet loven bliver administreret.

Computersystemet kan have adgang til samtlige tidligere afgørelser på området og kan dels fortælle sagsbehandlere, hvad der er normal praksis, dels synliggøre, om der er steder i administrationen, hvor der systematisk foretages skøn, der ligger uden for det normale.

Til gengæld kan man ikke appellere til computersystemets følelser og tiltro, hvis en afgørelse virker urimelig.

I nogle tilfælde er det ok, mener Jakob Slosser.

”Statistisk set er det mere sandsynligt, at du giver mig en ekstra chance, hvis jeg taler ligesom dig og ligner dig, og derfor kan der meget let opstå en racistisk eller sexistisk forskelsbehandling.

I praksis er det ikke en sikker måde at lave afgørelser på i det offentlige eller i retssystemet. Det er simpelthen ikke ensartet, selv om vi selv tror, at vi afgør sager ens for alle.”



Peter Hesseldahl

Redaktør for digital omstilling. Har tidligere arbejdet for bl.a. DR, TV2 og Politiken samt som intern fremtidsforsker i LEGO og Danfoss. Forfatter til 6 bøger, senest ”We-economy” om de økonomiske modeller, der afløser industrisamfundet.

LÆS MERE
Forrige artikel En kunstigt intelligent rettesnor i følsomme sager En kunstigt intelligent rettesnor i følsomme sager Næste artikel Lovgivere skal lære af programmørens disciplin Lovgivere skal lære af programmørens disciplin
Grøn omstilling skal ske med eksponentiel hastighed

Grøn omstilling skal ske med eksponentiel hastighed

Normalt hører man ikke de to ord i samme sætning: eksponentiel klimaomstilling. Men ordene udgør titlen på en helt ny svensk bog. Forfatteren, Rebecka Carlsson, argumenterer for, at den tilgang til innovation, der præger Silicon Valley, er nødvendig for at redde klimaet og miljøet i tide. Klimaløsningerne skal udvikles og udbredes med eksponentielt stigende hastighed. 

ICDK: Stort land – store femårsplaner

ICDK: Stort land – store femårsplaner

KOMMENTAR Den kinesiske regerings 14. femårsplan er på trapperne. Den vil udstikke rammerne for landets udvikling frem til 2026. Danske videns- og innovationsmiljøer bør følge med i de verserende rygter og forventninger til planen, for der er meget vundet ved at være klar, når planen offentliggøres.
Innovation Centre Denmark i Shanghai giver nogle bud på, hvad der er i vente.

Sørg nu for at løse det rette problem

Sørg nu for at løse det rette problem

LEDELSE Det er ikke nok at være god til problemløsning. Det er mindst lige så vigtigt at forstå, hvilke problemer du skal fokusere på, skriver Thomas Wedell-Wedellsborg, der sætter opgaven på formel i ny bog.

2030-panelet og Danmarks Statistik: Bolden er givet op til politikerne

2030-panelet og Danmarks Statistik: Bolden er givet op til politikerne

GRØN OMSTILLING Lektor Anne Bregnballes kritik af rapporten ’Gør verdensmål til vores mål’ er langt hen ad vejen berettiget. Nu skal regeringen og Folketinget tage stilling til, hvilke kriterier og målepunkter man politisk vil fremme, skriver Steen Hildebrandt og Niels Ploug.

Set, læst og hørt: Trine Christensen

Set, læst og hørt: Trine Christensen

Trine Christensen går på opdagelse i tyske antikvariater og mindes højesteretsdommer Ruth Bader Ginsburg, der i så mange år stod vagt om menneskerettighederne.

Opgøret med sexisme har ulmet længe

Opgøret med sexisme har ulmet længe

LEDELSE Jurister, kontorfolk, restaurationspersonale og andre faggrupper har længe været i gang med det opgør mod sexisme og krænkelser, der nu har ramt de politiske partier og medierne som en tsunami. Den nye virkelighed udgør en massiv udfordring for ledere på alle niveauer. 

Arbejdslivskonsulent: Lyt og lær, før du handler

Arbejdslivskonsulent: Lyt og lær, før du handler

LEDELSE Som leder skal du træne dig selv i at lytte uden at dømme eller handle med det samme. Ellers risikerer du unødigt at gøre gråzone-tilfælde til sager. Men hav samtidig regler på plads, der gør det klart for alle, hvornår noget er en sag.

Advokat: Det handler om tillid, tillid og tillid

Advokat: Det handler om tillid, tillid og tillid

LEDELSE Hvis der er stor tillid til, at ledelsen vil håndtere situationen på en ordentlig måde, vil flere sige fra over for sexistiske og krænkende kollegaer og samarbejdspartnere. 

Direktør i Lederne: Topledelsen sætter tonen for alle andre

Direktør i Lederne: Topledelsen sætter tonen for alle andre

LEDELSE Vi har alle et stort ansvar for at skabe en kultur, hvor sexchikane og krænkelser bliver helt uacceptabelt på danske arbejdspladser. Men topledelsen har et særligt ansvar for at gå foran som det gode eksempel og for at gøre en offensiv og seriøs indsats for at forebygge og gribe ind.

HR-direktør: En sund kultur er et langt, sejt træk

HR-direktør: En sund kultur er et langt, sejt træk

LEDELSE Dieselmotorvirksomheden MAN Energy Solutions satte sidste år gang i en proces, der skal gøre op med krænkelser på arbejdspladsen. Den indsats virker ekstra relevant i dag. Og den stiller krav til ledelsen om tydelighed, konsekvens og tålmodighed.

Indien er det nye Kina

Indien er det nye Kina

ØKONOMI Indien har under premierminister Narendra Modi udviklet sig i stadig mere autoritær, nationalistisk og selvbevidst retning. Det er i det lys, man skal se landets nye grønne strategiske partnerskab med Danmark. Indiens ambassadør opfordrer mindre danske virksomheder til at søge samarbejde med indiske partnere.

Substitut med stort ansvar

Substitut med stort ansvar

NYT JOB Lars Weiss får lidt over år i overborgmesterstolen i København efter Frank Jensens fald. I den periode skal han forhandle aftaler på plads, som lægger spor langt ud i fremtiden.

Nu vil både EU og USA stække it-giganternes magt

Nu vil både EU og USA stække it-giganternes magt

DIGITAL OMSTILLING It-giganterne er for alvor kommet i myndighedernes søgelys. Både i EU og USA er der lovgivning og retssager på vej, der skal stække den magt, en lille gruppe digitale platforme har fået over økonomien og samfundet.
 

ICDK: Californiens omstilling til elbiler kan inspirere Danmark

ICDK: Californiens omstilling til elbiler kan inspirere Danmark

GRØN OMSTILLING Californien har fuld fart på den grønne omstilling af transportsektoren og har i dag over 700.000 elbiler på vejene. Politiske tiltag, udbygning af ladeinfrastrukturen og diverse apps, der hjælper billisterne på vej, er blot nogle af de værktøjer, som har fået californiske indbyggere til at vælge elbilen til, fortæller Innovation Centre Denmark i Silicon Valley.

Tag ansvar for at lede i mellemrummene

Tag ansvar for at lede i mellemrummene

LEDELSE Offentlige ledere har incitament til at passe egen butik snarere end at bevæge sig ud i mellemrummene mellem forskellige afdelinger og siloer. Men der er behov for ansvarstagen i mellemrummene, hvis vi vil skabe sammenhæng for borgerne, skriver kommunaldirektør Jette Runchel.

Fremtidsforskere kortlægger EU’s risikolandskab

Fremtidsforskere kortlægger EU’s risikolandskab

POLITIK OG VELFÆRD Coronakrisen har afsløret betydelige svagheder i EU som fælleskab og i de 27 medlemslande. Nu skal den kollektive resiliens styrkes på fire centrale områder, lyder det i en analyse fra EU-Kommissionen.

EU-Kommissionens strategichef: Det har vi lært om unionens styrker og svagheder

EU-Kommissionens strategichef: Det har vi lært om unionens styrker og svagheder

INTERVIEW Coronakrisen har vist, at EU er mere socialt bæredygtigt end USA, mener Maros Sefcovic, der er ansvarlig for EU’s politiske strategiarbejde. Men når det gælder alt fra råmaterialer over medicin til microchips, er Europa strategisk sårbart. Det skal der laves om på med europæiske industrikonsortier, fortæller han i dette interview.

Set, læst og hørt: Jesper Brix

Set, læst og hørt: Jesper Brix

Jesper Brix forbereder sit møde med indonesisk kultur gennem litteraturen og anbefaler en glimrende podcast, der spørger, hvor godt vi egentlig kender vores nærmeste.

Nyt job: Wilbek rykker op

Nyt job: Wilbek rykker op

Ulrik Wilbek skal som ny formand for KL’s socialudvalg tage fat der, hvor det gør ondt: Behovene stiger, og på det specialiserede socialområde løber udgifterne år efter år fra budgetterne.

Pensionskasser klar med milliardinvesteringer i velfærd

Pensionskasser klar med milliardinvesteringer i velfærd

POLITIK OG VELFÆRD Pensionskasser har i snart et årti investeret i miljø og klima. Nu afsætter flere og flere selskaber milliarder af kroner til sociale investeringer og byggeri af blandt andet friplejehjem. Vi skal både ”do business and do good”, siger Jon Johnsen, administrerende direktør for pensionskassen PKA.

Ekspert:  Pensionskasser lapper på velfærden

Ekspert: Pensionskasser lapper på velfærden

POLITIK OG VELFÆRD Pensionskasser betaler i stigende grad penge til danskere på førtidspension, dækker udgifter til fysioterapeuten og satser stort på forebyggelse. Selskaberne har en økonomisk interesse i at forebygge, vurderer professor i økonomi ved Aarhus Universitet, Torben M. Andersen. 

Kunderne og medlemmer ejer størsteparten af pensionskasserne

Kunderne og medlemmer ejer størsteparten af pensionskasserne

POLITIK OG VELFÆRD I mange brancher ejer aktionærer flertallet af virksomhederne. Men i pensionsbranchen ejer kunderne oftest deres eget pensionsselskab. Det kan mærkes: Når kunderne bestemmer, bliver investeringerne mere grønne – og mere sociale 

Den private velfærd fylder mere og mere i Danmark

Den private velfærd fylder mere og mere i Danmark

POLITIK OG VELFÆRD 33.000 børn bliver i dag passet af private. Antallet af elever i fri- og privatskoler sætter rekord. Fagbevægelsen tilbyder deres medlemmer lønforsikringer. Grænsen for offentlig og privat velfærd er under hastig forandring i disse år.

Fik du læst? Det grønne skrotproblem

Fik du læst? Det grønne skrotproblem

GRØN OMSTILLING Omstillingen til grøn energi er en succeshistorie, men der er en bagside. Affaldet fra kæmpevindmøller, solceller og hundredtusinder af elbiler kommer til at hobe sig op. Peter Hesseldahl, redaktør for digital omstilling, tager grundigt fat i den problemstilling i dette MM Special.

Hele uge 42 fremhæver vi gennemarbejdede og seriøse scenarier for fremtiden bragt i Mandag Morgen den seneste tid.

Fik du læst? Lovgivning som computerkode

Fik du læst? Lovgivning som computerkode

DIGITAL OMSTILLING I januar 2018 vedtog et samlet Folketing, at de danske myndigheder fremover er forpligtet til at lave såkaldt digitaliseringsklar lovgivning. Men kan vi gøre det, uden at forvaltningen af loven ændrer afgørende karakter? Det spørgsmål tager Peter Hesseldahl, redaktør for digital omstilling, fat om i dette MM Special.

Hele uge 42 fremhæver vi gennemarbejdede og seriøse scenarier for fremtiden bragt i Mandag Morgen den seneste tid.

Fik du læst? Naturfolk er broen til fremtiden

Fik du læst? Naturfolk er broen til fremtiden

DIGITAL OMSTILLING Naturfolk lever primitivt, mens det moderne menneske har formået at opbygge et højt niveau af kompleksitet. Eller hvad? Måske kan oprindelige kulturer faktisk give os nogle svar på, hvordan vi skal gå fremtiden i møde. Det skriver Peter Hesseldahl, redaktør for digital omstilling, om i denne artikel.

Hele uge 42 fremhæver vi gennemarbejdede og seriøse scenarier for fremtiden bragt i Mandag Morgen den seneste tid.

Fik du læst? Euroland 2030

Fik du læst? Euroland 2030

GRØN OMSTILLING EU-samarbejdet er i bevægelse, og retningen er klar: Finanspolitikken, udenrigs- og sikkerhedspolitikken, skattepolitikken og arbejdsmarkedspolitikken bliver i varierende grad mere fælles. Hvor bringer det EU hen i 2030? Det giver europaredaktør Claus Kragh og Simon Friis deres bud på i dette MM Special.

Hele uge 42 fremhæver vi gennemarbejdede og seriøse scenarier for fremtiden bragt i Mandag Morgen den seneste tid.

Fik du læst? Power-to-x kan forandre Danmark

Fik du læst? Power-to-x kan forandre Danmark

GRØN OMSTILLING Danmark er ved at hejse de grønne sejl, men hvor bringer det os hen i 2030? Det giver Peter Hesseldahl, redaktør for digital omstilling, og europaredaktør Claus Kragh deres bud på i dette MM Special fra juni.

Hele uge 42 fremhæver vi gennemarbejdede og seriøse scenarier for fremtiden bragt i Mandag Morgen den seneste tid.

Stop digital selvfedme og kom ind i kampen

Stop digital selvfedme og kom ind i kampen

DIGITAL OMSTILLING Danmark er bagud med investeringer i de nye digitale teknologier som AI. Og langt bagud i forhold til det digitale kompetenceløft, vi har brug for. Momentum er nu.

Greenhushing – når virksomheder holder mund med grønne tiltag

Greenhushing – når virksomheder holder mund med grønne tiltag

GRØN OMSTILLING 'Greenwashing' og andre typer '-washing' er blevet CSR’s onde tvilling, og dommen over synderne er hård. Den hårde kritik gør, at nogle ligefrem vælger at holde lav profil med nye tiltag af frygt for anklager om hykleri, skriver Instituttet for Fremtidsforskning.

Maskinen fortæller, hvad der er sket – mennesker fortæller hvorfor

Maskinen fortæller, hvad der er sket – mennesker fortæller hvorfor

DIGITAL OMSTILLING I sidste uge modtog samtlige journalistforbundets 18.000 medlemmer en lille bog med den nøgterne titel ´Sådan forandrer automatisering medierne´. I bogen gennemgår Andreas Marckmann Andreassen, der er digital redaktør på fagbladet Journalisten, hvordan computere er i fuld gang med at forandre alle led i produktionen af nyheder.

ICDK: I kampen om at skabe unicorns står det 11-0 mellem Israel og Danmark

ICDK: I kampen om at skabe unicorns står det 11-0 mellem Israel og Danmark

DIGITAL OMSTILLING Havde der været et europamesterskab i disciplinen ”Skab en unicorn”, stod Israel selvsikkert, nærmest overlegent, på medaljeskamlem med guld om halsen. I det seneste år har Israel udklækket hele 11 nye unicorns. Og Danmark? Med nul unicorns havde Danmark slet ikke kvalificeret sig, fortæller Innovation Centre Denmark i Tel Aviv.