Ændres forvaltningen af loven når den sættes på formel?

Mange afgørelser i det offentlige bygger i dag på skøn, og beslutninger træffes igennem samtaler og forhandlinger mellem sagsbehandlere og borgeren. Hvis man i stedet vil benytte kunstig intelligens i administration, kræver det, at principperne bag afgørelserne kan sættes på en formel. Men kan man gøre det, uden at borgernes rettigheder forandres?

MM Special: AI i det offentlige

I de kommende år vil maskinerne blive væsentligt bedre til at vurdere mere komplekse forhold – og dermed vil de begynde at brede sig til flere områder. Og hver gang anvendelsen af maskiner udvides, vil vi støde på de samme dilemmaer: Er maskinen vitterligt kompetent nok til at vurdere sagen? Sker der en ændring i vurderingen af sager, når maskiner overtager?

For at automatisere sagsbehandlingen skal love og bestemmelser oversættes til kode, som maskiner kan forstå og handle ud fra. Som ved enhver anden oversættelse fra et sprog til et andet vil der uvægerligt være nuancer og betydninger, som forandres.

Konsekvensen kan være, at når administration bliver digital, ændrer forvaltningen af loven karakter, så der prioriteres og vægtes lidt anderledes, og det kan påvirke de ydelser, borgerne får. I den forstand bliver lovens effekt ændret – men det er ikke noget, politikerne har besluttet, og måske er det ikke engang bevidst.

I mange tilfælde er der ingen problemer med at sætte reglerne på formel. En stor del af det offentliges afgørelser er helt klare og objektive – eksempelvis om man har ret til folkepension eller er gammel nok til at tage et kørekort.

I andre tilfælde vil det tydeligvis være uheldigt at forenkle reglerne så meget, at der ikke er plads til fleksibilitet og individuel behandling. Det er indlysende, at man ikke kan lade en maskine beslutte, om en borger er for syg til aktivering, eller om et barn skal fjernes fra sine forældre.

Men der er også en stor gråzone, hvor computere i mange tilfælde faktisk kan træffe den korrekte afgørelse, selv om sagen er følelsesladet og har store personlige konsekvenser.

”Jo mere et sagsområde bygger på, at man fortolker loven bogstaveligt, des bedre er det egnet til automatisering. Hvis sagsbehandlernes arbejde består i at slå op i regler og tidligere afgørelser, og hvis man i høj grad følger faste skemaer og præcise bestemmelser, er det let automatisere.
Det er jo sådan, mange computerprogrammer fungerer. If this, then that: Hvis en given række betingelser er opfyldt, kan man få en tilladelse eller modtage en bestemt ydelse,” forklarer Jacob Slosser, der er postdoc ved Det Juridiske Fakultets center for international lov på Københavns Universitet.

Maskiner er ikke til vage formuleringer

Det bliver vanskeligt der, hvor forvaltningen i høj grad bygger på skøn.

Vi har valgt i lovgivningen at give plads til skøn og vage formuleringer. Lovtekster kan indeholde ord som ”væsentlig” eller ”rimelig”, der indebærer, at nogen skal fortolke, hvad der har særlig betydning. Eller loven kan angive, at en myndighed ”kan” foretage sig noget – og så er det op til nogen at vurdere, om der skal handles. Det er ikke bestemt præcist på forhånd, hvad der skal ske, og der er et vist spillerum for fortolkning i den enkelte sag.

Den type bløde formuleringer kolliderer i mange tilfælde med den mere firkantede måde, computere træffer afgørelser på. En computer kan ikke være vag. Den kan ikke gøre en undtagelse, vise tillid, satse på, at en indsats virker, eller vurdere en problemstilling ud fra en mavefornemmelse.

Men, som lovene afspejler, ønsker vi netop, at det offentlige kan foretage den form for afvejninger.

Hvis forvaltningen på et område automatiseres, forsvinder elementet af individuelt skøn – og det springende punkt er, hvorvidt det indebærer, at nogle borgere så får en anden ydelse, end de ville have fået, hvis det var en menneskelig sagsbehandler, der vurderede sagen.

Programmørerne skriver loven om

For Hanne Marie Motzfeldt, lektor i digital forvaltning ved Juridisk Fakultet på Københavns Universitet, rejser det nogle principielle spørgsmål, når ingeniører og programmører begynder at skære forvaltningen til ud fra, hvad der fungerer bedst teknisk:

”Der er ret stor forskel på, hvad man anvender AI til, men i nogle sammenhænge er der grund til at råbe vagt i gevær,” mener Hanne Marie Motzfeldt:

”Hvis der sker en ændring i måden, man forholder sig til loven som følge af automatiseringen, får vi et demokratisk problem. For hvad er det så for en styreform, vi har? Hvem bestemmer, hvem sidder for enden af bordet – de folkevalgte eller programmørerne og dataanalytikerne?”

I den offentlige administration skal man realisere lovgivers vilje – og den vilje kan meget vel være noget helt andet end det, som en AI finder frem til som det statistisk rigtige. Ofte har lovgivningen endda netop som mål at forandre statistikken. Det skaber nogle fælder for den her tænkning, som de færreste bemærker.”

En central udfordring for ombudsmanden

Da Folketingets ombudsmand, Niels Fenger, tiltrådte i december sidste år, var det hans udtalte forventning, at det bliver en af de kommende års centrale opgaver at holde øje med, at digitalisering og indførelse af mere intelligente systemer gennemføres med respekt for borgernes rettigheder.

Det er et område, Niels Fenger i forvejen kender særdeles godt. Han er tidligere professor i forvaltningsret og har forsket og skrevet om konsekvenserne af digitaliseringen af administrationen. 

Ombudsmanden peger på en række eksempler, hvor digitaliseringen har ændret ved borgernes rettigheder og deres position i forhold til forvaltningen:

- Det var tidligere ulovligt at overdrage sit Nem-ID til andre, og det betød, at der opstod vanskeligheder med at anvende de digitale offentlige tjenester, hvis en person på grund af sygdom eller alder er nødt til at lade sig repræsentere af sine børn, forældre eller en advokat.

- En borger kan nu kun vedhæfte en vis mængde dokumentation for at understøtte sin sag, tidligere kunne man bidrage så mange oplysninger man ønskede. Offentlig Digital Post var tilsyneladende vanskelig at ændre teknisk, og man valgte derfor at ændre reglerne i stedet.

Hanne Marie Motzfeldt mener, at der er behov for at uddanne en ny type jurister, der både forstår de tekniske og de juridiske spilleregler, og som kan indgå i processen, når nye områder i forvaltningen automatiseres. Motzfeldt kalder dem ”udviklingsjurister”.

”Hvis man vil sætte juridiske beslutningsprocesser på en eller anden form for formel, skal man have nogle dygtige jurister, der både kan læse loven korrekt og formidle den korrekt til andre faggrupper. Udviklingsjuristerne skal være med helt fra starten; allerede, når man starter en udvikling op. Det er nødvendigt for at sikre den parlamentariske styringskæde.”

Kulturelle normer ændrer sig også

Jakob Slosser fra Københavns Universitet påpeger, at det ikke kun er på grund af digitalisering, at der kan ske forskydninger i fortolkningen af loven. Normerne i samfundet ændrer sig løbende, og det sætter spor i forvaltningen.

Som eksempel nævner Slosser, at samfundets forståelse af, hvad det vil sige at være syg eller arbejdsløs, ændrer sig med tiden.

”Der er en liste af sygdomme, vi accepterer som alvorlige nok til, at man kan få understøttelse – men listen ændrer sig. I de senere år har vi for eksempel fået en bedre forståelse af Aspergers syndrom. Førhen var det slet ikke en sygdom – man var bare lidt sær. Der er problemstillinger, man ikke førhen tog alvorligt, men nu beslutter vi, at de tæller. Selve loven er ikke ændret, men når normerne skifter, så skifter den logik, de bliver forvaltet efter.

Slosser nævner, at vi har revideret vores opfattelse af mange tidligere domme, fordi vi i dag, ud fra hensyn til ligestilling, mener, at de burde være anderledes.

For Jacob Slosser peger det på to udfordringer:

For det første: Kunstigt intelligente systemer lærer om verden ved at analysere, hvordan tidligere sager er blevet afgjort. Derfor kan systemet være tilbøjeligt til hænge fast i fortiden og reproducere eksisterende bias. Når de kulturelle normer skifter, er der en risiko for, at computerne ikke opfanger det, og derfor er man nødt til målrettet at indlægge nye eksempler eller nye normer.

For det andet: Maskiner er ikke de eneste, der kan hænge fast i fortiden. I USA vakte det opsigt, at en ældre dommer i 2016 gav en påfaldende let dom til en af USA's førende konkurrencesvømmere for at voldtage en studerende ved Stanford University. Dommerens argumentation var, at det ville ødelægge svømmerens liv med en hårdere dom. Sagen blev et eksempel på, at forvaltningen af loven kan være helt ude af trit med de normer, som gælder i samfundet. 

”Det er en myte, at mennesker er objektive og ensartede i den måde, de forvalter loven på, og i mange tilfælde er det faktisk lettere at ændre koden i en computer for at udbedre fejlen end at ændre den måde, mennesker tager deres egne beslutninger på,” pointerer Jacob Slosser.

Det er derfor ikke kun en dårlig konsekvens, hvis det personlige og individuelle hensyn glider i baggrunden, mener Jakob Slosser.

Automatisering kan også sikre, at alle får samme behandling, så der ikke er forskel på afgørelserne, alt efter hvilken sagsbehandler borgeren tilfældigvis kommer ind til, eller hvor i landet loven bliver administreret.

Computersystemet kan have adgang til samtlige tidligere afgørelser på området og kan dels fortælle sagsbehandlere, hvad der er normal praksis, dels synliggøre, om der er steder i administrationen, hvor der systematisk foretages skøn, der ligger uden for det normale.

Til gengæld kan man ikke appellere til computersystemets følelser og tiltro, hvis en afgørelse virker urimelig.

I nogle tilfælde er det ok, mener Jakob Slosser.

”Statistisk set er det mere sandsynligt, at du giver mig en ekstra chance, hvis jeg taler ligesom dig og ligner dig, og derfor kan der meget let opstå en racistisk eller sexistisk forskelsbehandling.

I praksis er det ikke en sikker måde at lave afgørelser på i det offentlige eller i retssystemet. Det er simpelthen ikke ensartet, selv om vi selv tror, at vi afgør sager ens for alle.”



Peter Hesseldahl

Redaktør for digital omstilling. Har tidligere arbejdet for bl.a. DR, TV2 og Politiken samt som intern fremtidsforsker i LEGO og Danfoss. Forfatter til 6 bøger, senest ”We-economy” om de økonomiske modeller, der afløser industrisamfundet.

LÆS MERE
Forrige artikel En kunstigt intelligent rettesnor i følsomme sager En kunstigt intelligent rettesnor i følsomme sager Næste artikel Lovgivere skal lære af programmørens disciplin Lovgivere skal lære af programmørens disciplin

Tre visioner for et CO2-neutralt landbrug

Tre visioner for et CO2-neutralt landbrug

GRØN OMSTILLING Landbruget er en af de helt store klimasyndere, og et CO2-neutralt landbrug kan virke som en fjern utopi. Tre aktører kommer her med deres bud på, hvordan Danmark kan leve op til målet om CO2-neutralitet i 2050.

 Er der en rød linje for Kina?

Er der en rød linje for Kina?

KOMMENTAR Danmarks spionchef advarer mod at være naiv i forhold til Kina. Imens låner politikere pandaer til zoo. Nu må regeringen vove at tale åbent om, hvor grænsen går i forhold til at samarbejde med Kina.

Fremtidens teknologi kan lære af oprindelige kulturer

Fremtidens teknologi kan lære af oprindelige kulturer

GRØN OMSTILLING Oprindelige kulturer har ofte udviklet måder at leve på, som kan dække deres behov, samtidig med at de er med til at beskytte og holde balance i økosystemet omkring dem. Vi tænker på naturfolk som primitive, men reelt kan deres teknologi have været yderst sofistikeret, siger forfatteren til bogen ’Lo-tek’.

For Tysklands forsikringsgiganter er bæredygtighed big business

For Tysklands forsikringsgiganter er bæredygtighed big business

Klimaforandringerne kan blive særdeles kostbare for forsikringsbranchen. Derfor investerer de største forsikringsselskaber i stigende grad i aktiviteter, der gavner miljøet og nedsætter CO2-udslippet. I de seneste år er bæredygtighed blevet en vigtig del af forsikringsgiganternes forretning.

Sådan netværker du uden at mødes fysisk

Sådan netværker du uden at mødes fysisk

LEDELSE At skabe forretningsforbindelser i en coronatid kræver, at vi går online for at skabe relationerne og pleje dem. Det betyder også, at vi må droppe nogle af vores gamle strategier.

Mogens Jensen: Her er de fire største  benspænd for ligestillingen

Mogens Jensen: Her er de fire største benspænd for ligestillingen

POLITIK Ligestillingsminister Mogens Jensen har store planer for den kommende politiske sæson. Han vil presse virksomheder til at få flere kvinder i topledelsen. Mænd skal tage en større del af barselsorloven. Danmark skal have et mindre kønsopdelt uddannelsessystem. Og så skal LGBTI-personer have flere rettigheder.

Seniorer vil pensioneres før tid – Folketinget vil hæve pensionsalderen

Seniorer vil pensioneres før tid – Folketinget vil hæve pensionsalderen

POLITIK Om kort tid stiger pensionsalderen endnu engang. Og i takt med den højere pensionsalder stiger modløsheden blandt danskere, der ikke kan overskue flere år med fysisk og psykisk krævende arbejde. Landets største pensionsselskaber, forskere og Ældre Sagen opfordrer til et øget fokus på det gode og fleksible arbejdsliv. 

Det får seniorer til at blive længere i job

Det får seniorer til at blive længere i job

POLITIK Seniorerne har en ønskeseddel til landets politikere og virksomheder, hvis de skal blive længere tid på arbejdsmarkedet. Øverst på sedlen står ønsket om flere seniordage og længere ferie, godt socialt arbejdsmiljø og tillid til ledelsen. Det viser stor undersøgelse med 16.000 personer.

Regeringen vil rydde op i pensionsregler

Regeringen vil rydde op i pensionsregler

POLITIK Regeringen er på vej med kommission, der skal undersøge, om man kan forenkle reglerne for fleksibel tilbagetrækning, og om den nuværende stigning i pensionsalderen skal stoppe ved 70 år. Beskæftigelsesminister Peter Hummelgaard vil samtidig investere mere i det sunde arbejdsliv.

Politikerne har taget den økonomiske taktstok tilbage

Politikerne har taget den økonomiske taktstok tilbage

ØKONOMI Sidste gang en økonomisk krise lammede verden, gemte de folkevalgte sig bag kølige teknokrater. Den hårdt tilkæmpede aftale fra EU-topmødet fortæller en ny historie. Mens centralbankernes værktøjskasse er ved at være tom, er selv tyskerne nu sluppet fri af spændetrøjen. Finanspolitikken er tilbage.  

Det lyksalige klimavalg

Det lyksalige klimavalg

KOMMENTAR Kan man købe sig lykkelig? Jeg tror det ikke, men jeg tror, at man ved at handle på noget godt kan opnå en fornemmelse af lykke. Den nye vare på hylden, som gør mig lykkelig, er den, som handler om et bedre klima. Produkter, som gør det nemt for forbrugeren at vælge klimarigtigt, som er produceret ansvarligt og lavet for at sætte positive aftryk.

Offentlige ledere skal stadig have det lange lys på

Offentlige ledere skal stadig have det lange lys på

LEDELSE Rygterne om strategiernes død i kølvandet på coronakrisen er stærkt overdrevne, men indholdet i det offentliges strategiske arbejde har ændret sig. Særligt fire nye spørgsmål melder sig.

Frederiksen har fundet sin europæiske vej

Frederiksen har fundet sin europæiske vej

POLITIK Sommerens store forlig i EU, der sender milliardstøtte til Sydeuropa, koster Danmark halvanden ’Arne-reform’ – 4,5 milliarder kroner – om året. Alligevel vil statsministeren have opbakning i Folketinget og erhvervslivet til sin europapolitiske kurs, der trods det højere EU-kontingent, bygger på stram finanspolitik og grøn realisme.

For stor til denne verden

For stor til denne verden

DIGITAL OMSTILLING Den amerikanske kongres kæmper om en mulig opsplitning af techgiganterne – men løsningen er ikke åbenbar.

Essay: Et nyt Danmark på vind og brint

Essay: Et nyt Danmark på vind og brint

GRØN OMSTILLING Esbjerg boomer, Aalborg Portland er CO2-neutral, og Hobro fører på brint. Tag med på tur i det forandrede Danmark anno 2031, sådan som det tager sig ud i Mandag Morgens scenarie.

Derfor satser Danmark nu milliarder på brint

Derfor satser Danmark nu milliarder på brint

GRØN OMSTILLING Danmark vil i fremtiden kunne producere fire gange så meget strøm, som vi selv kan bruge. Derfor melder regeringen og Danmarks største virksomheder sig nu ind i udviklingen af det nye energiindustrielle kompleks i Europa, hvor grøn brint skal erstatte olie og gas. Danmarks brintsatsning er inspireret af Holland, der på sin side køber både vindmøller, fjernvarme og bedre klimastatistikker i Danmark.

Hollandsk diplomat:

Hollandsk diplomat: "Brint er the missing link i den grønne omstilling"

GRØN OMSTILLING Hollands særlige brintambassadør, Noé van Hulst, hilser Danmark velkommen som en ny og ambitiøs spiller i den hastigt voksende europæiske brintindustri. Hans vision er et transeuropæisk brintnetværk baseret på genbrugte gasrørledninger – og danske vindmøller spiller en central rolle.

Esbjerg bliver Nordeuropas centrum for havvind

Esbjerg bliver Nordeuropas centrum for havvind

GRØN OMSTILLING Esbjerg Havn er Europas absolut førende inden for udskibning af havvindmøller. Antallet af havvindmøller i Europa vil vokse til det 20-dobbelte over de næste tre årtier. Danmarks yngste storby står foran kraftig grøn vækst og en kraftig internationalisering.

Margrethe Vestager: Hurtigere politik giver færre resultater

Margrethe Vestager: Hurtigere politik giver færre resultater

LEDELSE Margrethe Vestager har en irritation: Moderne politik går djævelsk hurtigt, og politikeres kommunikation handler efterhånden om alt andet end selve politikken. På trods af at hun for mange er billedet på den moderne politiker, der er god på både Twitter og klassiske medier, betragter hun sig selv som gammeldags. Grundighed er en dyd, der bør bevares.

Fremtidens arbejde kalder

Fremtidens arbejde kalder

KOMMENTAR Industrialderens tid er for alvor sluttet med coronakrisen. Nu kan vi se, at digitale og fleksible løsninger er vejen frem for et sundt arbejdsliv. Derfor er det ikke nok at gøre noget for Arne – vi må også sørge for, at hans børn og børnebørn ikke ender ligesom ham. 

Innovationscenter: Indiens storbyer skal vokse – men også være til at bo i

Innovationscenter: Indiens storbyer skal vokse – men også være til at bo i

KOMMENTAR: Indiens byer vokser vildt, og det samme gør udfordringerne med at håndtere forurening, klimabelastning og den grundlæggende forsyning med vand og sanitet. Indiens smart city-program skal bruge ny teknologi til at stimulere vækst og udvikling, samtidig med at man undgår, at forureningen forværres yderligere.

Her er Mette Frederiksens pension til Arne og andre nedslidte

Her er Mette Frederiksens pension til Arne og andre nedslidte

POLITIK OG VELFÆRD Efter sommerferien fremlægger regeringen sit forslag til en tidlig ret til folkepension. Reformen bygger først og fremmest på, hvor længe danskerne har været på arbejdsmarkedet, og ikke på den branche, man har arbejdet i. Reformen tager ifølge Mandag Morgens oplysninger også højde for store kønsforskelle. Topledere i fagbevægelsen hilser forslaget velkommen.

Lederaktivisterne kommer

Lederaktivisterne kommer

LEDELSE De leder med deres meningers mod, føler sig frem gennem shitstorme og bryder grænser og logik for at gå forrest for hjertesagen. Det er ikke nemt at være lederaktivist, men gøres det rigtigt, er der gevinster at hente på bundlinjen, i arbejdslivet og for selvforståelsen, skriver Mads Thimmer, CEO i Innovation Lab.

Eksperter: Regeringens biomasselov får lille effekt på klimaet

Eksperter: Regeringens biomasselov får lille effekt på klimaet

GRØN OMSTILLING Regeringens nye biomasselov vil ikke sikre et bæredygtigt forbrug af biobrændslerSå langt er eksperterne enige. Men hvad skal der så til? Mandag Morgen har samlet 11 konkrete forslag fra eksperter i klima, energi og skovbrug.

Færre flygtninge kommer i job efter paradigmeskiftet

Færre flygtninge kommer i job efter paradigmeskiftet

POLITIK OG VELFÆRD Målet med det kontroversielle paradigmeskifte af udlændingepolitikken var at sende flere flygtninge tilbage til deres oprindelsesland, så snart det var muligt. Her godt et år senere ser kursskiftet nærmere ud til at have bidraget til lavere beskæftigelse.

Set, læst og hørt: Rane Willerslev

Set, læst og hørt: Rane Willerslev

Rane Willerslev er fascineret af de store paradokser i tilværelsen og anbefaler en podcast, der udfordrer lytteren til at undre sig over det åndelige.

En sløv grøn kickstart

En sløv grøn kickstart

KOMMENTAR Hvis den grønne omstilling og genopretningen af samfundsøkonomien efter coronaen skal spille konstruktivt sammen, så må regeringen vise omverdenen sine kort og fortælle, hvordan den forestiller sig processen.

Er robotter ved at indtage dansk politik?

Er robotter ved at indtage dansk politik?

KOMMENTAR Taktiske manøvrer og strategiske hensyn dikteret af særlige rådgivere og spindoktorer har overtaget styringen af magthaverne. ”Ingen kommentarer” er ved at blive et problem for folkestyret, skriver John Wagner.

Mange virksomheder forventer mere hjemmearbejde

Mange virksomheder forventer mere hjemmearbejde

NY VIDEN En rundspørge til DI’s Virksomhedspanel viser, at 70 procent af virksomhederne har øget brugen af hjemmearbejde under nedlukningen. Af dem ønsker 40 procent mere hjemmearbejde fremover.

Tidligere sikkerhedsrådgiver: USA's Kina-politik handler kun om Trumps genvalg

Tidligere sikkerhedsrådgiver: USA's Kina-politik handler kun om Trumps genvalg

EKSKLUSIVT UDDRAG Intet er helligt for Donald Trump. Hverken forfatning, Taiwan, demokratiet i Hong Kong eller millioner af kinesiske muslimer i genopdragelseslejre, skriver hans forhenværende sikkerhedsrådgiver. I en aktuel bog om sin tid i Det Hvide Hus beskriver John Bolton den amerikanske præsident som en mand, der svigter alle demokratiske værdier for at sikre sit eget genvalg.

Klimagevinsten ved hjemmearbejde drukner i mere biltrafik

Klimagevinsten ved hjemmearbejde drukner i mere biltrafik

GRØN OMSTILLING Danskernes har fået smag for at arbejde fra distancen. Men det vil næppe give bedre plads på motorvejene, vurderer trafikforskere. Til gengæld kan det forstærke nedturen for den offentlige trafik, der er nødt til at tænke i helt nye baner. 

Nyt job: Rossens svære balancegang hos Danfoss

Nyt job: Rossens svære balancegang hos Danfoss

Statsministerens helt særlige rådgiver Martin Rossen bliver lobbychef hos Danfoss. Han vil gerne ud af rampelyset, men både oppositionen og medierne vil holde skarpt øje med hans ageren fremover.

Design af en uperfekt fremtid

Design af en uperfekt fremtid

KOMMENTAR Fremtidsscenarier kan give kød og blod til virksomhedens strategiarbejde. Men de er ikke meget værd, hvis de kun tegner et rosenrødt billede af fremtiden. Virkeligheden er ikke perfekt – hverken nu eller i fremtiden – og derfor er uperfekte fremtidsscenarier det bedste grundlag for at forestille sig, hvad der fører til succes.