Chefredaktørens blog 
Tanja Nyrup Madsen

Er vi så enige om, at det er sidste gang, vi stoler blindt på algoritmerne?

De fejlagtige ejendomsvurderinger viser, hvor galt det kan gå, hvis vi bygger for store forventninger til algoritmer og AI ind i vores forvaltning. Lad det være det sandhedens øjeblik, der forhindrer, at vi konstruerer fremtidens systemer på en måde, så mennesker skrives ud af loopet.

Foto: Mandag Morgen i samarbejde med Midjourneys kunstige intelligens

Det fire milliarder kroner dyre, dysfunktionelle boligvurderingssystem er en skandale på så mange planer. Men det bør minimum lære os ikke at have blind tillid til algoritmer eller overdrive vores tro på, hvad de kan fikse i vores samfund.

Hvis det kan gå så galt, når algoritmer skal beregne en stillestående død ting som et hus på en grund, så forestil dig, hvor galt det kan gå, hvis vi har med mennesker at gøre. Derfor er det vigtigt, at vi nu lærer af de fejlantagelser, der har ført til endnu et offentligt fix-it-all-system.

UDVIKLINGS- OG FORENKLINGSSTYRELSEN har foreløbig brugt ti år at bygge et system, der skal gætte, hvad mennesker kunne tænkes at ville betale for en bolig – og bevist, at det er uden for algoritmens formåen. Det kunne man muligvis godt have forudset, hvilket nogle de mennesker, der har arbejdet med systemet, også har gjort og sagt – langt uden for citat. For problemet er ikke, at systemet ikke er færdigt eller fintunet nok. Problemet ligger i den enorme omvej, man har valgt at gå ved at forsøge at bygge en model, der imiterer markedet, i stedet for at tage udgangspunkt i markedet selv. 

Vi bliver nødt til at indse, at selvom algoritmer og data kan hjælpe os, så bliver der stadig nødt til at være et menneske i loopet.

For sagen er jo, at der hver eneste dag laves vurderinger af danske boliger foretaget af mennesker, der enten skal sælge, købe eller belåne boligen. De udmønter sig i faktiske salgspriser, hvor penge og bolig skifter hænder. Og i realkreditvurderinger, der danner udgangspunkt for faktiske overførsler af lånesummer.

På de ti år, der er gået, siden de første it-konsulenter begyndte at sende regninger for udviklingen af det nye ejendomsvurderingssystem til skatteyderne, kunne man i ro og mag have indført en systematisk indberetning af kreditforeningernes vurderinger, som sammen med faktiske salgspriser og menneskelig kvalitetskontrol kunne have dannet baggrund for langt mere troværdige vurderinger end de trylletal, der nu rammer boligejerne.

APROPOS TRYLLETAL, så lad os lige lege lidt med, hvad man ellers kunne have brugt de fire milliarder til, der skønnes at blive regningen for de algoritmebestemte vurderinger, som nu ligger til grund for indkrævningen af ejendomsskatter på knap 2 pct. af vores bnp.

For fire milliarder kunne man for eksempel have ansat 800 mennesker i ti år til at vurdere de ejendomme, der ikke for nylig var blevet hverken solgt eller vurderet. Det ville give dem ansvaret for vurderingen af 2.100 boliger hver i løbet af de ti år. 

Den lære har aldrig været vigtigere end nu, hvor vi står ved et historisk tipping point for det, vi kalder kunstig intelligens, og hvor der breder sig en opfattelse af, at computere nu er nået et niveau, hvor de faktisk kan tage ’intelligente’ beslutninger.

Men det er selvfølgelig kun, hvis udgangspunktet er, at vi skal bruge alle de fire milliarder, som Udviklings- og Forenklingsstyrelsens fejlslagne dataprojekt koster samfundet – udover et ukendt milliardbeløb i tabte skatteindtægter, fordi ejendomsskatterne har stået stille i så mange år.

Mindre kunne nok også gøre det, hvis man tog udgangspunkt i den faktiske værdi for alle de ejendomme, der faktisk er købt, solgt eller vurderet for nylig. Det vidunderlige ved at give mennesker ansvaret for at kvalitetssikre vurderingen er, at de – modsat algoritmen – kan forklare, hvordan de er nået frem til deres vurdering, og ovenikøbet kan møde op på adressen og se med selvsyn, om der er særlige grunde til, at mennesker i den virkelige verden vil betale mere eller mindre for netop denne bolig.

VI BLIVER NØDT TIL AT INDSE, at selvom algoritmer og data kan hjælpe os, så bliver der stadig nødt til at være et menneske i loopet. Fordi den menneskelige hjerne har muligheder for at inddrage uendelige variabler – og ikke mindst tale med andre mennesker og benytte sig af sund fornuft, der sikrer, at man for eksempel ikke spytter grundværdier på tocifrede millionbeløb ud på almindelige forstadsparcelhuse, fordi der teoretisk set kunne have ligget et højhus på grunden. 

Den lære har aldrig været vigtigere end nu, hvor vi står ved et historisk tipping point for det, vi kalder kunstig intelligens, og hvor der breder sig en opfattelse af, at computere nu er nået et niveau, hvor de faktisk kan tage ’intelligente’ beslutninger. I Holland har netop den fejlopfattelse ført til familietragedier blandt nogle af landets svageste borgere, som måtte se sig magtesløse over for algoritmers vurderinger af deres forældreevner eller sociale forhold. 

Hvis vi skal lære én ting af ti års forgæves forsøg på at beregne noget så banalt som værdien på en bolig, så er det, at vi aldrig må blive blinde i vores tiltro til algoritmer eller AI. Det er nu, den erkendelse skal bundfælde sig – også på det politiske niveau.

SNART KAN AI blive en fristende løsning, når jobcentrene og hjemmeplejen skal klare mere for færre midler. Men, hvis vi skal lære én ting af ti års forgæves forsøg på at beregne noget så banalt som værdien på en bolig, så er det, at vi aldrig må blive blinde i vores tiltro til algoritmer eller AI. Det er nu, den erkendelse skal bundfælde sig – også på det politiske niveau. Inden arbejdsløse danskere skal se sig selv sagsbehandlet af en algoritme, byggesager afgøres af AI, socialt svage profileres af en kodestreng, eller sygehuse lader AI afgøre, om du har ret til at se en læge. Og inden folk ender som stavnsbundne i et hus, som en algoritme har gjort usælgeligt.


Få Mandag Morgens overskrifter direkte i din mail.

Tilmeld dig nyhedsbrevet nu

Få Mandag Morgens overskrifter direkte i din mail.

Tilmeld dig nyhedsbrevet nu

Mandag Morgen logo

Læs mindre - forstå mere

  • ChefredaktørAndreas Baumann
  • Adm DirektørAnne Marie Kindberg
  • CFOAnders Jørning
  • Ansv. ChefredaktørJakob Nielsen
  • Kommerciel direktørMichael Thomsen
  • Formand og udgiverRasmus Nielsen
AdresseNy Kongensgade 101472 København KTlf. 33 93 93 23[email protected]CVR nr.: 38253395

Mandag Morgen leveres af Mandag Morgen ApS, der ejes af Alrow Media ApS.

Copyright © Mandag Morgen, 2024