AI i det offentlige sætter borgernes tillid på spil

KOMMENTAR: Det er oplagt at også den offentlige sektor begynder at bruge avanceret dataanalyse til at levere mere effektiv og præcis service. Men det kræver, at vi som borgere forstår, hvad der foregår, og at vi kan nære tillid til, at teknologien bliver brugt til vores bedste.

Peter Hesseldahl

AI i det offentlige

Kunstig intelligens er på vej ind i den offentlige sektor. I en serie artikler ser vi nærmere på, hvordan avanceret automatisering og dataanalyse påvirker sagsbehandlingen og lovgivningen, og hvilke etiske dilemmaer kunstig intelligens fører med sig.

AI kan løfte borgere – eller holde dem nede

Skal kunstig intelligens fiske med net eller harpun?

Nu bliver den offentlige sektor kunstigt intelligent

AI i det offentlige sætter borgernes tillid på spil

I den offentlige sektor er der rige muligheder for at bruge kunstig intelligens (AI) til at rydde bunkerne med rutinearbejde af vejen, så sagsbehandlerne får mere tid til at bruge deres menneskelighed og ekspertise.

Ideelt set vil AI stå til rådighed med en enorm viden og et overblik, der kan støtte en sagsbehandler, en læge eller en leder i at træffe afgørelser, der er bedre gennemtænkt og underbygget med data.

Men det kræver, at vi som brugere har en vis forståelse for teknologien. Ellers risikerer vi bogstaveligt talt, at den tager magten fra os. 

Glidebanen kan være kort: fra ”beslutningsstøtte” i form af analyser og gode råd til ”instrukser” og afgørelser fra maskinen, som den menneskelige sagsbehandler ikke tør eller ikke har kompetencer til at udfordre.

Jo smartere maskinerne bliver, og jo mere komplekse problemstillinger de bliver sat til at vurdere, des sværere bliver det for mennesker at gennemskue, hvordan systemet finder frem til en afgørelse.

Det er problematisk, fordi det risikerer at fjerne det menneskelige skøn og empatien og dermed ironisk nok at reducere sagsbehandleren til en robot, der blot tager imod ordrer fra maskinen.

Men det er også problematisk, fordi det risikerer at underminere borgernes tillid til det offentlige.

Hvis ikke engang sagsbehandleren helt forstår de afgørelser, der træffes, bliver systemet umenneskeligt. Borgernes problemer eller behov bliver en slags matematiske opgaver, der kan løses effektivt og korrekt uden uformelt slinger, forhandlinger og undtagelser baseret på følelser. 

Nøgleordene er tillid og gennemskuelighed

Alle ved, at anvendelsen af kunstig intelligens er følsomt, fordi det i mange tilfælde går meget tæt på borgerne og overskrider vores hidtidige grænser for overvågning og privatliv.  

Danmark nyder godt af, at det offentliges brug af data er enestående velorganiseret, blandt andet i kraft af CPR-registeret. Men når en så høj grad af registrering har kunnet indføres og udnyttes, er det, fordi der har været den fornødne tillid i befolkningen.

Når den offentlige sektor tager de næste skridt i retning af mere detaljeret indsamling, samkørsel og analyser af personlige data, er det afgørende, at borgerne stadig har tillid til, at processen er gennemskuelig, når det indføres og anvendes. Det er desværre ikke en selvfølgelighed.

Hvor ringe det kan gribes an, blev demonstreret i april sidste år, da den forrige regering, som en del af ”loven om en aktiv beskæftigelsesindsats”, slog fast, at jobcentrene kan samkøre en lang række personlige oplysninger, inklusive herkomst, for at skabe profiler, der kan bruges til at hjælpe ledige i arbejde.

Allerede i 2014 bestemte folketinget, at der skulle udvikles et, på det tidspunkt, relativt løst beskrevet profileringsværktøj, og i 2015 blev en version taget i brug på nogle jobcentre.

I 2019, i forbindelse med loven om en aktiv beskæftigelsesindsats blev det præciseret, hvad profileringsværktøjet kunne bruges til, og at det var baseret på kunstig intelligens.

Den nærmere beskrivelse stod i bemærkningerne til lovforslaget på side 212. Efterfølgende udtalte politikere fra flere af de partier, der stemte for loven, at de ikke var opmærksomme på konsekvenserne.

Selv Datatilsynet blev taget på sengen. Den famøse paragraf var ikke indeholdt i det materiale, der blev sendt til høring i Datatilsynet – ifølge Arbejdsmarkedsstyrelsen på grund af en fodfejl.

Datatilsynet måtte, ganske usædvanligt, efterfølgende starte en ny gennemgang af loven for at vurdere, om den var i strid med reglerne for databeskyttelse. Det var den ikke, viste det sig, så loven er nu i brug. 

Alt i alt var der efterfølgende en udpræget følelse af, at regeringen havde lusket en lov igennem, der var langt mere vidtgående, end de fleste politikere ville have accepteret, hvis processen havde været åben. 

Det er selvsagt dræbende for tilliden til den offentlige administration. Egentlig er det ufatteligt, at der i Danmark sidder embedsmænd, der på den måde gambler med befolkningens tillid til systemet. Det er en kultur, man ville forvente i lande, hvor det offentlige ser det som sin opgave at kontrollere og styre befolkningen.

AI er stærke sager, og når det offentlige begynder at bruge teknologien i forhold til borgerne, må der spilles med åbne kort. Hvis det offentlige forsøger at snige kontroversielle tiltag igennem, får man blot følelsen af, at systemet bliver brugt til at udspionere og samle belastende materiale om de borgere, de skal betjene.

Et klassisk eksempel på eksponentiel udvikling

Det kan nemt komme til at lyde lidt skingert, når man advarer mod de uheldige effekter af kunstig intelligens.                                                                                     

Foreløbig er det jo ganske udramatisk. Vi mærker AI som lidt smart assistance i hverdagen, når vi laver googlesøgninger, når bilen kan parkere selv, eller vi kan tale til højttalerne i køkkenet for at få skiftet musik, mens vi står med hænderne i opvasken. Herregud, det er vel ikke noget at hidse sig op over …

Jo! Det er påtrængende, fordi AI er et klassisk eksempel på en teknologi, der udvikles eksponentielt: Det går hurtigere og hurtigere.

Det skorter ikke på dramatiske udtalelser om betydningen af AI fra folk, man må formode har en ganske god indsigt i, hvad det handler om.

Alphabets CEO, Sundar Pichai, gentog ved Davos-mødet i januar, at han anser AI for en lige så revolutionerende teknologi for menneskeheden som ilden.

Andrew Ng, tidligere chef for både Facebooks og den kinesiske it-gigant Baidus enheder for kunstig intelligens, har kaldt AI for den nye elektricitet – en kraft, den gennemstrømmer og forandrer alt vores grej og alle de tjenester, vi bruger.

Og så er der Putin, Ruslands præsident, der har konstateret, at den, der er førende inden for kunstig intelligens, vil få herredømmet i verden fremover.

Kort sagt: Hvis man vil forberede sig på det, der kommer imod os, bliver man nødt til at være ret radikal i sine fremskrivninger af de forandringer, der kan ske.

Forståelse for AI bør være en del af almendannelsen

Hvis vi skal skabe den tillid og tryghed, der er nødvendig for at udnytte mulighederne positivt, bør en grundlæggende forståelse for mekanismerne i kunstig intelligens fremover være en del af almendannelsen for det moderne menneske.

Den gode nyhed er, at der er en lang række projekter i gang, der skal belyse teknologiens betydning for samfundet. I efteråret fik Danmark et Dataetisk Råd, der som fokus for det første års arbejde har valgt samkøring af data.

Veluxfondene har netop startet et stort forskningsprojekt, der skal undersøge konsekvenserne af kunstig intelligens for demokratiet. Som en del af de 100 millioner kroner, fonden har bevilliget, skal der bruges 20 millioner på information om AI til offentligheden (en opgave, som Mandag Morgens tænketank i øvrigt er tovholder på).

I Sverige har Wallenbergfonden støttet et lignende projekt med, hvad der svarer til 470 millioner danske kroner – og dermed er undersøgelsen af kunstig intelligens’ konsekvenser for samfundet det største humanistiske forskningsprojekt i Sverige nogensinde. 

I Finland har regeringen fået udviklet et letforståeligt onlinekursus, der fortæller om de grundlæggende mekanismer bag kunstig intelligens. Kurset har været en stor succes, og nu bliver kurset oversat til alle EU’s sprog. Målet er, at én procent af EU’s befolkning skal gennemføre kurset.

Og endelig har EU-Kommissionen netop lanceret sit udspil til regulering af teknologien, og på linje med EU’s GDPR-direktiv om beskyttelse af persondata ser der nu ud til at komme etiske retningslinjer og normer for, hvad der er acceptabel og god praksis for AI.

Rettelse: Artiklen er rettet den 3. marts for at præcisere sagsforløbet om vedtagelsen af jobcentrenes profileringsværktøj. 


Få Mandag Morgens overskrifter direkte i din mail.

Tilmeld dig nyhedsbrevet nu




Få Mandag Morgens overskrifter direkte i din mail.

Tilmeld dig nyhedsbrevet nu