En række af de vigtigste problemstillinger, vi står over for, kan sammenfattes i en ganske enkel figur: en kurve, der viser, hvordan teknologien med tiden kan udføre stadig mere komplekse opgaver lige så godt, som mennesker kan.         

Teknologiens udvikling er en linje, der rykker opad, og ligesom vand, der stiger, dækker stadig større, lavtliggende områder.

Over linjen er de opgaver, som kun mennesker kan klare.

Under linjen er alt det, vi lige så godt kan overlade til maskinerne.

I starten overgik teknologien mennesker i forhold til fysisk arbejde som at skovle, væve, samle eller sortere ting. Så overtog computerne regnearbejdet.

I morgen kan de tage sig af meget af den egentlige tænkning. Maskinerne vil analysere, komme med konklusioner og forslag til løsninger på komplekse problemer – og de vil tage ved lære af deres fejl og erfaringer, så de hele tiden bliver bedre.

Så linjen, der skiller computerens kompetencer fra menneskets, vil fortsætte med at rykke opad, og når den gør det, bliver menneskets rolle udfordret – på mange måder:

• Det, vi plejer at leve af at levere, kan udføres af maskiner til en brøkdel af prisen – og hvad skal vi så lave?
• Vi vil opleve, at de maskiner, der omgiver os, på et stigende antal områder har større viden og forståelse, end vi selv har.
• Beslutninger, som vi plejede at tage, bliver i stedet taget af maskiner – i mange tilfælde uden at vi helt forstår, hvordan systemet når frem til sine konklusioner
• Avanceret teknologi vil kunne hjælpe os med at opnå det, vi ønsker, hurtigere, mere effektivt og med færre fejl.
• Men stærkere teknologi kan også bruges til at lede, kontrollere og manipulere med mennesker.

Udviklingen bringer således både fordele og ulemper. Et kig på kurven giver et fingerpeg om, hvem der vil opleve de stadig smartere teknologier som fortrinsvis positive eller negative.

Hvis man formår at holde sig over algoritmen, kan man trække på stadig flere funktioner og ydelser, der bliver billige og bedre, i takt med at maskinerne udvikles.

Hvis man derimod falder under algoritmen, fordi man ikke forstår at bruge teknologien til bedre at nå sine mål, risikerer man at blive brugt af algoritmen til at nå de mål, den forfølger.

Det helt store spørgsmål er:

Hvordan holder mennesker sig over algoritmen?

Men når linjen stiger, er der mange andre, vigtige ubekendte at overveje:

• Hvad gør dem, der kommer under algoritmen?
• På hvilke områder bliver mennesker sidst overgået af maskiner?
• Hvilke kompetencer har vi brug for at styrke for at kunne trives fremover?
• Hvordan sikrer vi, at maskinerne gør os klogere, mere produktive og mere handlekraftige – snarere end at gøre os overflødige og passive?
• Hvad sker der med kulturen, demokratiet og vores livskvalitet, når maskiner træffer flere afgørelser?
• Hvad sker der med samfundet og økonomien, når måden vi skaber værdi, forandres og præges langt mere af enorme, intelligente systemer?

Livet under algoritmen

Hvis man vil vide, hvad det vil sige at komme under algoritmen, kan se på forholdene for en arbejder på et af Amazons enorme lagre, hvor de ansatte, side om side med robotter, flintrer rundt og finder varer frem og pakker dem.

De er udrustet med en skærm på håndleddet, der fortæller dem præcist, hvor på lageret de skal gå hen og hente varen, og de bliver løbende målt på, om de udfører ordrerne hurtigt nok. Hvis ikke, risikerer man at modtage en automatisk opsigelse.

Det kunne også være en Uber-chauffør, der modtager ture gennem sin app, sammen med præcise instrukser på GPS’en om, hvor vedkommende skal køre hen. Hvis ikke man gør det effektivt og høfligt, får man dårlige ratings, og så holder appen op med at sende flere opgaver.

Der er ikke meget at tænke over i de job. Man skal bare gøre, som algoritmen giver en besked på, og sørge for at gøre det inden for systemets krav. Den eneste grund til, at det er mennesker, der udfører dem, er, at robotterne endnu ikke er gode nok eller billige nok til at overtage arbejdet.

Sådan var det også, og sådan er det stadig for mange, ved fabrikkernes samlebånd. Men det bliver i stigende grad også i en helt anden type job, at mennesker reelt arbejder under algoritmen – ligesom Amazons totaltovervågede lagerarbejder.

Computeren kigger med over skulderen

Ansatte i callcentre eller servicedeske følger ofte et detaljeret script på skærmen, der fortæller dem, hvad de skal sige og hvad de skal spørge om i forskellige situationer. Der arbejdes på at udvikle systemer, der kan lytte med under samtalen og komme med forslag til, hvad medarbejderen skal sige.

Med tiden kan man sagtens forestille sig, at den form for understøttelse og vejledning kan bruges generelt af sagsbehandlere, og dermed vil de mere kvalificeret kunne tage sig af mange forskellige former for problemer og situationer.

Et meget positivt og avanceret eksempel er det kunstigt intelligente system, der lytter med på opkald til alarmtelefonen 112 i hovedstadsregionen. Ved at analysere stemmen og vejrtrækningen kan det vurdere, om der er tegn på, at den, der ringer ind, er ved at få et hjertetilfælde. Det kan systemet allerede i dag gøre med større sikkerhed end et menneske.

Et andet eksempel på, at systemerne kan ”kigge med over skulderen” og komme med gode råd og vurderinger, er brugen af augmented reality til trin for trin at understøtte teknikere og montører, når de skal udføre kompliceret arbejde som at bygge og reparere fly.

Ideen er, at teknikeren bærer et par augmented reality-briller, der kan overlejre et lag af data eller grafik i synsfeltet, eksempelvis for at udpege, hvor et modul skal monteres.

Endnu en mulighed er, at billederne fra de kameraer, som er monteret i brillen, løbende kan analyseres af en computer (eller i første omgang en menneskelig ekspert), så teknikeren kan få vejledning, der passer præcist til den situation, han eller hun står over for.

Det er teknologier, som også danske virksomheder – eksempelvis Grundfos og Vestas – i dag arbejder på at udvikle og anvende.

Hvis vi lige prøver at trække de scenarier en anelse længere ud i fremtiden, så kræver det ikke den store fantasi at forestille sig, at noget lignende kunne være nyttigt, også i professioner, der er endnu mere komplekse.
Mange amerikanske politibetjente går med bodycams, der konstant optager, når betjenten rykker ud. Måske det kunne være muligt og relevant også at sende betjenten vejledning og instrukser for at sikre, at alt foregår efter bogen.

Eller hvad med kirurger? Stadig flere operationer foregår med en robot, hvor kirurgen ser kroppen og styrer instrumenterne gennem en computer. Det er oplagt at understøtte med analyser og angivelser af, hvor snittet kan lægges.

Gør teknologien os klogere eller dummere?

Når computere på den måde kan hjælpe med viden og vejledning, bliver mennesket mere kompetent. Man kan udføre arbejdet med færre fejl, hurtigere og mere præcist.

Men der sker også noget andet. I starten vil mennesket bruge computerens råd som en støtte til selv at tage en bedre informeret beslutning. Men i takt med at computeren bliver mere kompetent, vænner man sig til, at man lige så godt kan følge dens anvisninger. Mennesket holder op med selv at tænke. Man gør bare, som maskinen foreslår.

Og det er præcist dér, man risikerer at ende under algoritmen.

For hvis man alligevel bare følger maskinen, hvorfor skal der så være et menneske i loopet? Så er det kun et spørgsmål om tid, før personen kan erstattes af en mere avanceret robot eller chatbot i direkte forlængelse af den computer, der overvåger processen. Det er formentlig både billigere og bedre.

Det rejser endnu et vigtigt spørgsmål:

Hvad er det, mennesker leverer, som kan retfærdiggøre, at vi stadig er med inde over en proces?

Eller sagt på en anden måde:

Er der noget, maskiner ikke kan forstå eller gøre, som indebærer, at det ikke er tilstrækkeligt med en fuldt automatisk løsning?

Hvornår kan vi slippe ansvaret og kontrollen?

Vi kommer til at møde den problemstilling i mange, vidt forskellige erhverv, hvor vi i dag har ansat højtuddannede og specialiserede mennesker.

• I takt med at der udvikles intelligente systemer i sundhedssektoren, som analyserer patienternes data, hvornår holder en læge op med at kontrollere og overveje, om den diagnose eller den behandling, som systemet foreslår, vitterligt er den bedste i situationen?
• Når det offentlige automatiserer administrationen: Hvornår holder en sagsbehandler op med at overveje, om der kunne være andre og bedre løsninger end at tildele eller nægte borgeren de ydelser, som systemet foreslår?
• Eller når retssystemet tager kunstigt intelligens i brug for automatisk at komme med forslag til afgørelser, hvornår holder dommeren op med at overveje, om der er andre vurderinger, som burde tages i betragtning, inden dommen falder?

Det lette svar er selvfølgelig, at vi overlader opgaver til maskinerne, når vi ved, at de kan klare dem bedre end os selv.

I praksis er det desværre ikke altid, at de systemer, der erstatter mennesker, reelt arbejder bedre. Det handler måske snarere om, at teknologien kan gøre arbejdet billigere. Men håbet om en økonomisk gevinst betyder desværre tit, at nye systemer presses igennem, før hverken teknologien eller de mennesker, den skal spille sammen med, er modne.

Set fra den offentlige administrations side er procedurerne blevet langt billigere af, at alle danskere har fået e-Boks og NemID, så man kan kommunikere med dem elektronisk. Men for rigtig mange ældre (og deres pårørende) har det været en frustrerende og meget tidskrævende oplevelse – og man kan overveje, om det havde været bedre og tryggere, hvis digitaliseringen havde været knapt så aggressiv over for dem, der har svært ved at gå online.

Det samme kan siges om mange kommuners meget optimistiske forsøg på at erstatte hjemmehjælpere med små rengøringsrobotter.

Tør vi være uenige med maskinen?

Man er også nødt til at overveje, om maskinerne udfører jobbet anderledes end mennesker – især når det ikke er veldefinerede, mekaniske opgaver, men vurderinger og sammensætning af løsninger, der skal afveje mange forskellige typer faktorer, eller problemstillinger, hvor der er følelser involveret.

Et sagsbehandlingssystem kan måske konkludere, at det ikke kan betale sig, at en mand på 85 år skal have en ny hofte – mens en menneskelig sagsbehandler, der har haft en snak med manden, kan fornemme, at det alligevel vil være af stor værdi.

Men hvem af de to bestemmer? Hvis systemet, på basis af tusindvis af andre lignende sager, foreslår en afgørelse, kræver det et vist mod for mennesket at gå imod maskinen.

Tør man følge sin egen vurdering? Hvad nu, hvis man tager fejl? Så vil det fremgå tydeligt, at den menneskelige sagsbehandler bevidst har valgt at overhøre systemet.

Som ansat skal man nok ikke lave ret mange skøn, der viser sig at være dårligere end det, maskinen foreslog, før man holder op med at forsøge at være bedrevidende. Desuden bliver computeren hele tiden bedre og bedre, mens sagsbehandleren gradvist overlader dele af sin ekspertise til systemet – og dermed mister rutinen og kompetencen.

Og dermed risikerer vi, at de elementer, der betød, at der var forskel på maskinen og menneskets vurdering, luges ud: Empatien, den sunde fornuft, tilliden, risikovilligheden, de skæve vinkler, det irrationelle og det, der ikke er strengt nødvendigt.

Det kolde klare blik har sine fordele

Vi kan være nervøse for, at systemet træffer umenneskelige afgørelser. Men det er ikke nødvendigvis dårligt at fjerne personlige skøn og fornemmelser fra beslutningsprocessen. Mennesker kan have fordomme og fikse ideer, og vores afgørelser kan være påvirket af helt uvedkommende faktorer eller bare det humør, vi tilfældigvis er i.

Undersøgelser har for eksempel vist, at dommere er tilbøjelige til at afsige hårdere straffe umiddelbart før frokost, når de er sultne. Dét problem har man ikke med maskiner.

Men maskiner kan også tage fejl, og deres afgørelser kan også være præget af fordomme, snæversyn eller mangel på forståelse.

I USA anvendes kunstigt intelligente systemer anvendes til at vurdere jobansøgninger, ansøgninger om huslån og endda til at vurdere mulighederne for, at fængslede kan prøveløslades. Det har vist sig, at systemerne ofte diskriminerer sorte, latinoer eller folk, der bor i fattige bydele. Den kunstige intelligens er trænet i at finde mønstre i data, og hvis der tidligere har været en tilbøjelighed til at afvise bestemte befolkningsgrupper, vil de fordomme over for bestemte befolkningsgrupper også blive overført den kunstige intelligens.

Vi tillægger måske også systemerne større indsigt og bedre forståelse, end de reelt har. Der er næppe nogen, der har adgang til flere data og ressourcer til at analysere dem end Google. Men om Google har hele min søgehistorie for de sidste mange år liggende, er det det nærmest lidt skuffende at læse den personlige profil, systemet har genereret som grundlag for at sende mig reklamer. (Prøv selv: adssettings.google.com)

De ved ganske rigtigt, at jeg er gift, men af uforklarlige årsager står jeg blandt andet som barnløs, interesseret i amerikansk fodbold, motorsport og romantiske film – hvilket må siges at være et godt stykke fra at ramme skiven.

Der er masser af elendige systemer, der er designet, så man dårligt kan finde vej igennem dem, eller så det er umuligt for systemet at modtage vigtige typer af oplysninger fra brugerne.

Hvem kender ikke klaustrofobien, når man bliver sendt rundt i de endeløse digitale labyrinter i en stor virksomheds selvbetjeningssystem? Så føler man sig virkelig underlagt en algoritme.

Der er stadig brug for at kunne komme igennem til et levende menneske, man kan tale med, og det er ekstremt frustrerende, hvis det ikke kan lade sig gøre – hvad enten det er for at stille spørgsmål til den dims, man har købt, som ikke virker, eller om det er en læge, en myndighed, eller en advokat, der skal hjælpe med et svært personligt problem.

Et effektivt spild af ressourcer

Ideelt skal samarbejdet mellem mennesker og maskiner føre til højere kvalitet, bedre informerede afgørelser og hurtigere betjening, fordi systemet understøtter mennesker i at skabe større værdi og opnå det, de ønsker. Og sådan er det jo i vidt omfang.

Men systemer kan lige så vel sende mennesker under algoritmen, enten ved at betjene dem på præmisser, der primært er bekvemme for systemet selv, eller ved at behandle mennesker, som var de robotter, der bare blindt følger ordrer.

Det er ubehageligt at arbejde under algoritmen, men det er også spild af ressourcer. Man går glip af at inddrage menneskelige kompetencer på netop de områder, hvor maskinen ikke fungerer – og man spilder muligheden for at bruge teknologien til at skabe en bedre oplevelse for brugerne.

Igen må stille et svært spørgsmål til den teknologiske udvikling:

- Hvorfor indfører vi ny teknologi? Er det for at frigøre mennesker fra rutinearbejdet og understøtte dem med bedre værktøjer til at nå deres mål – eller er det for at eliminere dem, fordi de er for dyre og besværlige at involvere, når opgaver skal løses mere effektivt?

Her kommer pengene ind i billedet. Der vil altid være et pres for at effektivisere og spare. Når det nye system, der kan forbedre servicen, skal vedtages, er der næsten altid en – måske lige lovlig – ambitiøs og optimistisk beregning af, hvor meget der kan spares ved at automatisere de ansattes arbejde eller ved at lade brugerne betjene sig selv.              

Og når budgetterne strammer, øges presset for at erstatte mennesker med maskiner og at flytte mennesker fra over algoritmen til under den.

Det er ikke marginaler, vi taler om. Vi kan snart i søvne citere rapporterne om, at robotterne i de kommende årtier vil automatisere 40 procent af arbejdstimerne i Danmark. Det vil vi allesammen kunne mærke – forhåbentlig mest på en positiv måde.

Spørgsmålet er:

Vil gevinsterne ved de kommende års omfattende automatisering blive bredt fordelt og føre til nye, mere interessante jobs for flertallet – eller vil det skubbe hundredtusinder af danskere under algoritmen?

Stil krav, stå fast, tænk selv

Der er en stærk tendens til, at nye teknologier fører til større koncentration af magt og rigdom, og jo mere det sker, des mere bliver algoritmen et redskab, som nogle få kan bruge til at opnå de mål, de definerer. Men for de fleste bliver den samme algoritme i højere grad en mekanisme, der bestemmer, fastholder, kontrollerer eller udkonkurrerer dem.

Allerhelst finder så mange som muligt en plads over algoritmen. Og dermed er vi tilbage ved det indledende, centrale spørgsmål: Hvordan holder man sig over algoritmen?

Noget af det har med politisk regulering at gøre. Myndighederne kan stille krav om, at systemerne er gennemskuelige, og at de ikke diskriminerer. Vi kan insistere på, at der skal være mennesker involveret i væsentlige beslutninger. Vi kan holde øje med, at dem, der kontroller de vigtigste algoritmer i samfundet, ikke bliver for magtfulde eller grådige.

Men vores rolle i forhold til algoritmerne er i høj grad også op til os selv. Det er et spørgsmål om kompetencer. Jo bedre indsigt og fornemmelse for, hvordan systemerne omkring os fungerer, des større muligheder har vi for at bruge dem som værktøjer, der udfører det, vi ønsker, de skal.

Det handler om, hvilken indstilling vi har til maskinerne, og hvordan vi omgås dem, i stort og småt.

- Lader vi os køre om hjørner af apps, der bipper og blinker for at tiltrække sig vores opmærksomhed og tid?

- Stoler vi blindt på, at det bedste svar på vores Google-søgning står på den første side med resultater – eller mere seriøst på, at det forslag til en diagnose eller den vurdering af en stak jobansøgninger, computeren præsenterer, er rigtig?

- Overvejer vi, om det, systemet anbefaler, også er det, vi selv synes, er det rigtige? Undersøger vi, om der kunne være andre, bedre løsninger eller omstændigheder, som også bør indgå i vurderingen?
- Eller slipper vi ansvaret og styringen, fordi ikke tør sige systemet imod, eller fordi vi ikke gider at tjekke det?

- Tør vi insistere på at være mennesker? På at vise tillid, på at vælge humor, tryghed, venskab og nysgerrighed fremfor det, der kan generere flest penge?

Vi går fra automatisering til autonomi

Vi nærmer os den filosofiske afdeling; der hvor man overvejer, hvad der giver livet mening, og hvilke værdier i tilværelsen vi sætter højest. Den slags, computere i hvert fald ikke har tålmodighed til.

Overvejelserne om at holde fast i de menneskelige værdier kan virke noget abstrakte og unødigt bekymrede. Herregud, så smarte er vores maskiner jo heller ikke endnu. Og desuden har vi alle dage forstået at bruge teknologien til at gøre livet mere bekvemt, trygt og interessant for de fleste af os.

Men der er en forskel på udviklingen hidtil, og det, der kommer, lige om lidt, med meget stor fart.

Indtil nu er nye teknologier blevet brugt til automatisering af funktioner, der er forudsigelige, og som kan standardiseres og sættes på en formel.

Kunstig intelligens og lærende systemer går et stort skridt videre. De vil kunne løse problemer, som ingen har set før, og de vil finde svar, som ikke førhen var kendte. Systemerne opbygger en forståelse og en selvstændig mening om verdens sammenhænge, og vi vil rådføre os med maskinerne og bede dem finde vurdere komplekse situationer og komme med forslag til løsninger.

Udviklingen i retning af mere og mere intelligente maskiner og systemer går ikke væk, og den vil ændre på verden, mindst ligeså meget som eksempel smartphones har forandret dagligdagen de seneste ti år.

Vi kan i praksis ikke vælge det fra – og derfor er det afgørende, at vi formår at styre det i en retning, vi kan leve med. Det er ikke en enten/eller-problemstilling.

Udviklingen af kunstig intelligens er det område, som i øjeblikket modtager langt flest tech-investeringer. Det er en teknologi, som både virksomheder og politikere har stor opmærksomhed på. Og med god grund: AI vil være et afgørende nyt redskab inden for alle samfundets sektorer: sundhed, finanser, forskning, smart cities, militæret …

Hvis mennesker kommer under algoritmen i forhold til den type beslutninger, gør det vores samfund til noget andet, og det er ikke sikkert, at det fører til noget, de fleste af os egentlig ønsker eller trives med. 

Omvendt: Hvis vi bevarer styringen, hvis vi insisterer på, at maskinerne skal støtte det, vi ønsker som mennesker, så får vi redskaber til rådighed, der kan gøre os klogere, mere effektive og i stand til at løse vores udfordringer og nå vores mål langt bedre end nogensinde.

Teknologien er fantastisk, men den opleves bedst set fra oven.