INTERVIEW: Når Ursula Plesner underviser ledere i ’kunstig intelligens i organisationer’ på CBS, får de ofte lys i øjnene. Men der sker også ind imellem det, at flere af dem går direkte hjem og lukker ned for de projekter, de har gang i, som involverer kunstig intelligens.

For et af Ursula Plesners meget centrale budskaber er, at alt ikke bare entydigt bliver meget lettere og hurtigere, når maskinlæring og algoritmer rykker ind i organisationerne. Tværtimod. Digitaliseringen af opgaver, som normalt løses af mennesker, gør ikke alene ledelsesopgaven langt mere kompleks; den betyder også, at du får en række af nye opgaver, som det digitale værktøj skaber i sig selv. 

Vores forskning indtil nu viser, at implementering af nye teknologier som kunstig intelligens ofte skaber en lang række nye ledelsesopgaver og dilemmaer. Ligesom det faktisk ikke altid betyder, at man kan spare den arbejdskraft, man tror.

Ursula Plesner
Lektor, CBS

Lige nu leder Ursula Plesner sammen med Lise Justesen et forskningsprojekt, som har til formål at kortlægge alt det usynlige arbejde, der opstår i forbindelse med digitaliseringsprojekter, og som har fået titlen ’Valuing Invisible Work’. De to lektorer ved CBS er omkring halvvejs inde i projektet, som er finansieret af Danmarks Frie Forskningsfond og løber indtil 2024.

”Vores forskning indtil nu viser, at implementering af nye teknologier som kunstig intelligens ofte skaber en lang række nye ledelsesopgaver og dilemmaer. Ligesom det faktisk ikke altid betyder, at man kan spare den arbejdskraft, man tror. For der opstår en hel masse nye opgaver i kølvandet på de digitale systemer, som vi slet ikke har talt ret meget om,” forklarer Ursula Plesner.

Inden vi dykker ned i, hvilke skjulte opgaver de to forskere har fundet frem til, så lad os se på eksempler på de digitale værktøjer med kunstig intelligens, som lige nu rykker ind i danske virksomheder og skaber nye udfordringer for lederne:

Det kan være systemer, der scanner cv’er i en rekrutteringsproces for at finde de rigtige kandidater. Eller det kan være en app, der på baggrund af data peger på, hvad der er den næste opgave, en medarbejder skal udføre. Eller et system, der på baggrund af data om kunde- eller medarbejderadfærd kommer med anbefalinger til ledelsen om, hvilke handlinger der kunne udføres for at forbedre effektiviteten. Eller teknologi, der på få sekunder kan scanne røntgenbilleder for tegn på sygdom.

”Selvfølgelig har de her digitale værktøjer værdi, fordi de kan hjælpe os med at producere og organisere os mere effektivt. Men i vores foreløbige forskning er der en meget central pointe, som handler om, at man skal skille hype fra praksis. For langt hen ad vejen, så er mange af de her teknologier enormt oversolgte. Ofte ’glemmer’ dem, der sælger løsningerne, at forklare alle de opgaver, der følger med at udvikle, implementere, drifte og vedligeholde teknologien - plus alle dilemmaerne,” siger Ursula Plesner.

200.000 forkerte breve og etiske dilemmaer

Hvis du selv har forelsket dig i tanken om at implementere kunstig intelligens i din organisation med henblik på at effektivisere og øge produktiviteten, gør du derfor klogt i på forhånd at overveje en række situationer, som du med stor sandsynlighed kommer til at forholde dig til, forklarer Ursula Plesner: 

”Først og fremmest er der mange, der undervurderer det grundlæggende arbejde, der ligger i at omsætte fysiske begivenheder til binære datastrømme. Hvis vi tager et helt enkelt eksempel, såsom at du vil måle skridt via en app på en telefon – hvordan kan du så sikre dig, at det er skridt, der måles, og ikke cykling, armbevægelser eller noget andet? Og er det i øvrigt vigtigt i forhold til, hvad du vil bruge informationen til? Hvis du skal have noget intelligent ud af et digitalt værktøj, så er det jo ikke lige meget, hvilke data du fodrer det med, og hvad de data skal og kan omsættes til,” forklarer Ursula Plesner.

Hun erfarer, at masser af projekter med kunstig intelligens strander, netop fordi man ikke har adgang til nok data til, at modellerne kan lave relevante analyser, eller fordi dataene er af dårlig kvalitet.

”Det er et kompliceret arbejde, og jeg hører simpelthen folk bruge begrebet ’at vaske data’ eller ’at håndbrodere data’, som skal illustrere, at det faktisk er et ret detaljeret og omstændeligt arbejde. Så overvej, om du har den type data, der kan omsætte den fysiske begivenhed til en meningsfuld digital information? Hvis ikke, hvordan vil du så skaffe den, hvem skal sikre dens kvalitet, og hvordan vil du sikre dig, at den lander det rigtige sted?”

Du skal også forberede dig på, at den systematiske brug af data, som løsninger med kunstig intelligens benytter, potentielt kan synliggøre langt mere information, end du er vant til at få, forklarer Ursula Plesner, som kalder det ”en synlighedseksplosion”. Et eksempel kan være, hvis kunstig intelligens tages i brug på et hospitals lungeafdeling til at scanne røntgenbilleder og måske pludselig opdager langt flere sygdomstegn eller helt andre skavanker i kroppen end dem, som afdelingen reelt har mulighed for at behandle.

Et andet eksempel kan være, at du sætter algoritmer til at vurdere data fra din trivselsmåling, og du pludselig ser på dit ’dashboard’, at netop din afdelings medarbejdere mistrives i langt højere grad, end du troede.

Her kan man som leder faktisk gå hen og blive overinformeret i en grad, hvor man ikke har kompetencer, processer eller ressourcer til at handle på informationen. Som leder kan det stille dig i et dilemma om, hvad du så vil gøre med den information? Vil du undlade at handle på den, og kan du forsvare det etisk eller forretningsmæssigt? Eller er du gearet til at tilføre de processer og ressourcer, det kræver?

Og så ved vi alle, at selv digitale systemer laver fejl, og når de gør det, kan det være i meget stor skala.

”Du skal medregne, at der vil komme en del oprydnings- og kompensationsarbejde, når systemet laver fejl. Så du skal tage højde for – i dit budget, din bemanding og dine processer – hvad du vil gøre, når systemet for eksempel sender forkerte breve ud til 200.000  borgere. For den slags kommer til at ske,” lyder erfaringen fra Ursula Plesner.

Derudover er der selve driften og vedligeholdet af din nye digitale arbejdskraft. For selv maskiner passer som oftest ikke sig selv. Digitale systemer skal både trænes, vedligeholdes og opdateres ind imellem, og du skal overveje, hvem der skal gøre det, og hvad det koster i det lange løb. 

Hvad du vil gøre, når systemet for eksempel sender forkerte breve ud til 200.000  borgere. For den slags kommer til at ske.

Ursula Plesner
Lektor, CBS

I det hele taget skal du overveje, hvordan de digitale værktøjer ændrer din organisering og de kompetencer, som kræves.

”Du skal tænke på, at det, som kunstig intelligens kan løse, ofte vil være standardopgaver, baseret på mønstre i hyppige forekomster. Så måske kan du godt undvære et par medarbejdere nede i kundecenteret ved at sætte kunstig intelligens til at håndtere nogle af henvendelserne. Men husk på, at det er alle de opgaver, som ikke er standard, som kræver flest ressourcer – og de opgaver kan algoritmer, som er baseret på standarder, have svært ved at løse. Så ofte overvurderer virksomhederne på forhånd, hvor meget de kan effektivisere ved hjælp af digital teknologi,” siger Ursula Plesner. 

Nogle ting løses faktisk bedre af mennesker

Ursula Plesner understreger, at hun på ingen måde er ude i ’teknologi-bashing’. Hun er tværtimod begejstret for teknologiens mange muligheder. Men hun er bekymret for, at ledere får en teknologideterministisk tilgang, hvor de lader sig diktere for meget af måden, teknologien fungerer på, frem for at være dem, der sætter retningen og grænserne for teknologien. At de tager teknologien til sig, fordi de synes, de skal, snarere end fordi det reelt er en fordel lige nu.

”Jeg oplever, at mange ledere er lidt stressede ved tanken om at blive efterladt på perronen på det her område. De vil gerne være med på toget, og så sætter de gang i et fancy projekt eller hyrer konsulentfirmaer til at gøre det. Fordi de møder en hær af folk, der vil overbevise dem om, at teknologi kan løse deres problemer. Og når de så kaster sig ud i de her projekter, så bliver de virkelig overraskede over kompleksiteten i den ledelsesopgave, det medfører,” fortæller Ursula Plesner.

Hun er især skeptisk over for de såkaldte ’predictive tools’, altså værktøjer, der behandler data i en algoritme, der efter sigende skal kunne forudsige en lang række ting. Hvem der bliver langtidsledig, hvem der får en specifik sygdom, hvem der potentielt bliver stresset, siger op og så videre. 

Vi er i gang med at hive kunstig intelligens ind på nogle områder, som rummer en anden type ekstrem kompleksitet, fordi det handler om mennesker, relationer, kontekster og undtagelsessituationer.

Ursula Plesner
Lektor, CBS

”Jeg har til gode at se nogle rigtig gode cases på, at det her faktisk virker. Især hvis du bare kigger blindt på dit ’dashboard’ og glemmer at tale med borgeren, medarbejderen eller patienten. Jo, der er nogle gode cases, for eksempel i radiologi eller postsortering, men det ser ud til at handle om, at teknologien bliver brugt til nogle ret simple ting. Godt nok har kunstig intelligens store potentialer i forhold til at behandle enorme og komplekse datasæt, men vi er i gang med at hive kunstig intelligens ind på nogle områder, som rummer en anden type ekstrem kompleksitet, fordi det handler om mennesker, relationer, kontekster og undtagelsessituationer. Og med den type kompleksitet er der faktisk nogle ting, som mennesker bare stadig er bedre til at løse,” siger Ursula Plesner.

Vi skal intervenere tilbage

For Ursula Plesner handler ledelsesopgaven i digitalisering derfor om evnen til at analysere og tilrettelægge den måde, organisationen bedst arbejder på – og så få systemerne til at gøre det mere effektivt og bedre. Ikke om at løbe efter det, som systemerne dikterer.

For implementering af teknologi kommer altid til at påvirke måden, vi arbejder på; den vil forandre relationer mellem faggrupper og udløse en masse store dilemmaer og diskussioner, understreger hun. Og det er dig som leder, der kommer til at bestemme, hvor meget maskiner og systemer skal bestemme.

”Hvordan vil du som leder forholde dig, når du har implementeret et dyrt, stort værktøj med kunstig intelligens, og dine dygtige fagspecialister kommer og siger til dig, at det her system er helt hen i vejret? Vil du være klar til at lytte? Eller vil du tænke, at de er forandringsresistente og ikke klar til digitalisering?” spørger Ursula Plesner og fremlægger endnu en ledelsesudfordring:

”Implementering af systemer, der overvåger, måler og vurderer, har det ofte med at signalere en grad af mistillid fra ledelsen. Eller måske en utryghed hos medarbejderne. Hvordan vil du håndtere den? Husk på, at jo mere data, du får, som du skal forholde dig til og handle på, jo mere risikerer du at fjerne dig fra dine medarbejdere.”

Ursula Plesner understreger endnu en gang, at det her ikke handler om at modsætte sig teknologisk udvikling. Det handler om at være realistisk og om at være den, der har kontrollen. 

Vi skal passe på ikke at ignorere problemerne med teknologi, fordi vi er bange for at blive stemplet som teknologiresistente. Teknologien intervenerer så meget i arbejdslivet, at vi skal være klar til at intervenere tilbage.

Ursula Plesner
Lektor, CBS

”Vi skal passe på ikke at ignorere problemerne med teknologi, fordi vi er bange for at blive stemplet som teknologiresistente. Teknologien intervenerer så meget i arbejdslivet, at vi skal være klar til at intervenere tilbage i de teknologiske løsninger, så det er os, der definerer dem og ikke omvendt,” understreger hun.

Og hvis nogen skulle finde på at stille det lidt karikerede spørgsmål; bliver ledere nu overflødige, når algoritmerne tager over, er der vist ingen tvivl om, at svaret fra Ursula Plesner er et klart nej.

”Ledere bliver ikke arbejdsløse foreløbig. Tværtimod. I mange år har vi sagt, at det der med det digitale, det må it-afdelingen tage sig af. Og i de senere år har vi måske troet eller håbet på, at avancerede digitale teknologier kunne lette ledelsesarbejdet. Men det er en ny, stor ledelsesopgave at forholde sig til de nye digitale værktøjer, og den er kompleks og kræver en forståelse for, hvordan digitale teknologier altid bliver sammenfiltret med organisering og ledelse.”