For nylig skulle min kone og jeg besøge nogle venner et par timers kørsel fra os. Jeg kender egentlig godt vejen, men vi satte alligevel GPS’en til. Da vi nærmede os, fortalte den os, at vi skulle køre ad en anden vej, end vi plejer.

”Det skal Google ikke bestemme,” erklærede jeg handlekraftigt, ”jeg har kørt den her tur masser af gange, der må være noget, de har misforstået.”

… Og så kom vi ellers ud på nogle meget snørklede små veje, som jeg overhovedet ikke kunne genkende – inden jeg måtte overgive mig til Google, som tålmodigt beregnede en ny rute, der bragte os frem.

For mig er episoden et billede på vores forhold til de stadig mere vidende og intelligente apparater, der omgiver os – og som vi efterhånden er fuldstændigt afhængige af.

Jeg bilder mig ind, at jeg er kompetent til selv at finde vej, og at jeg i hvert fald i nogle situationer kan vurdere, om der skulle være en smartere løsning end den, GPS’en foreslår.

Men hvor mange gange skal man opleve, at det er omsonst at forsøge at navigere bedre end Google Maps, før man overgiver sig, læner sig tilbage og derefter stoler blindt på GPS’ens instrukser?

I de nærmeste år vil vi støde på tilsvarende dilemmaer på alle mulige andre områder – i privatlivet såvel som professionelt.  Vi vil opleve, at maskinen gang på gang har det rette svar, og at tingene kun bliver mere besværlige, hvis vi forsøger at gå vores egne veje.

Vi har brug for hjælp

En dag vil selvkørende biler være så gode, at de kører bedre og sikrere end mennesker. En dag vil vi slippe rattet, fjerne blikket fra trafikken og i stedet læse e-mails og glo på Facebook. 

Et stykke tid endnu vil der stadig sidde et rat i bilerne for at gøre os trygge og bevare forestillingen om, at vi kunne gribe ind, hvis nu computeren ikke kan finde ud af det. Men i den næste bil dropper vi rattet helt – det sidder bare i vejen.

Det er jo præcis det, vi gerne vil. Vi har brug for hjælp. Verden omkring os bliver mere kompleks. Der er flere informationer at tage stilling til, og sammenhængene, de indgår i, ændrer sig hastigere og hastigere.

Formålet med automatiseringen og indførelsen af kunstig intelligens er netop at effektivisere beslutningstagning, så mennesker slipper for at bruge hjernekraft på noget, maskinen lige så godt kan regne ud.

I stedet kan vi koncentrere os om sager, der er mere interessante og kræver kreativitet, empati og alle de egenskaber, kun mennesker har.

Men hver gang et nyt område eller en ny kompetence kan overtages af computerne, er der en tøvende overgangsperiode, hvor det ikke er helt tydeligt, om det er mennesket eller maskinen, der er mest kompetent – og hvem af os der er den rette til at sidde bag rattet. 

Bliver vi klogere eller dummere af at slippe rattet?

Udviklingen forandrer både computerne og mennesker. Systemerne bliver hastigt mere kompetente – samtidig med at vi selv glemmer de færdigheder, vi plejede at bruge.

Man kan mærke, hvordan GPS'en fra måned til måned får mere detaljeret viden om landskabet, og hvad der findes af butikker og seværdigheder undervejs – samtidig med at systemet i forbløffende grad er opdateret, så det kan fortælle om vejarbejde og trafikpropper to kilometer længere ned ad vejen og foreslå mig at tage en anden vej udenom for at spare 23 minutter.         

Med den form for klarsyn og ekspertise ville det være dumt ikke at overlade navigationen til maskinen – men det betyder også, at man slipper sin egen kompetence.

Tidligere syntes jeg i al beskedenhed, at jeg havde opbygget lidt af en sjette sans for at finde vej de mærkeligste steder. Men nu klynger jeg mig til GPS’en og får instrukser for hvert gadehjørne, når jeg skal finde vej i en fremmed by.

Engang kunne jeg regne lange talrækker i hovedet, engang kunne jeg huske telefonnumre, engang kunne jeg selv finde rundt. Gad vide, om jeg også glemmer at stave og tale tysk og fransk, når jeg oplever, at det er nemmere og bedre at overlade dét til maskinen?

Spørgsmålet er, om jeg bliver klogere eller dummere af det. Bliver jeg et bedre, mere kompetent menneske, hvis jeg forstår at bruge de redskaber, der står til rådighed? Eller bliver jeg en zombie, der blindt følger det, systemet fortæller mig, at jeg skal

Forhåbentlig mest det første.

Husk nu: Systemet kan tage fejl

Af og til bliver man lige mindet om, at systemet ikke er ufejlbarligt. Vi kan sikkert alle sammen fortælle historier om, hvordan GPS’en har sendt os på de mærkeligste omveje. Når den sender os til en anden by med det samme navn som den, vi vil hen til, eller hvis den taber sporingen og bliver upræcis, lige netop medens man kæmper sig igennem den mest forbistrede myldretidstrafik i verdens mest komplicerede storby.

Oh boy, så er man på den!

Det kan have meget ubehagelige konsekvenser, hvis man stoler blindt på et system, der ikke kan leve op til tilliden. Et forfærdeligt eksempel er de to fatale flystyrt med Boeing 737 MAX, hvor softwaren fløj maskinerne i jorden, selvom piloterne forsøgte at gribe ind. I’m sorry, Dave, I’m afraid I can’t do that.

Det giver naturligvis ikke mening, at alle stadig skal vide, hvordan man klarede sig førhen. Der er ingen praktisk grund til at vide, hvordan man går på jagt, rider en hest eller bruger et brændekomfur. På et tidspunkt er teknologien så moden, stabil og uundværlig for at leve et tidssvarende liv, at vi må tage den for givet.

Men hvornår kan vi slippe rattet og læne os trygt tilbage? Måske lidt senere, end vi tror.  Det er 2019, og i IC3-togene forsvinder Wi-Fi-signalet rutinemæssigt på lange stræk af Vestsjælland og i Storebæltstunnellen. Det er irriterende og for dårligt – men hvad nu hvis vi virkelig mister signalet, mister strømmen, eller alle vores intelligente dimser pludselig bliver inficeret af en ondsindet virus?

Vi skal lede computerne, og vi skal bruge dem – ikke omvendt

Det handler også om at bevare styringen i en anden forstand. Sammenlignet med udviklingen førhen er der det særlige ved de kommende teknologier som kunstig intelligens, maskinlæring og brugen af big data, at systemerne begynder at få deres egen vilje og mening om, hvad der bør ske – og det vil ikke altid være klart for os mennesker, hvorfor systemet skubber os i en bestemt retning.

Maskinen vil opbygge en forestilling om, hvordan verden hænger sammen, og ud fra den logik vil den forsøge at løse de opgaver og nå de mål, vi har givet den. Problemet er, at de antagelser og de værdier, som maskinen arbejder ud fra, ikke nødvendigvis matcher med de værdier, vi selv har. Eller at det mål, maskinen forfølger, ikke er det, vi egentlig ønsker.

GPS’ens mål er at få os frem så hurtigt som muligt, så den vælger gerne en langt længere rute ad en motorvej, hvis den kan se, at der er to minutter at spare, fremfor at køre en smukkere, fredeligere og mindre brændstofkrævende rute.

Og fordi vi har lært ikke længere at stille spørgsmålstegn ved teknologien, får den lov at bestemme −selv om vi måske egentlig hellere ville køre mere miljøvenligt igennem et pænere landskab.

De værdier, der er programmeret ind i systemet, kan være indlagt i den bedste mening, eller alt efter hvad ingeniørerne tilfældigvis syntes gav mest mening. Men systemets værdier kan også bevidst fremme bestemte interesser. Hvad nu hvis GPS’en, eller med tiden den selvkørende bil, ikke vælger den direkte rute, men sender os omkring det supermarked, som kører kampagne i dag?

Ja, så bliver vi ført rundt ved næsen, fordi det system, der skulle hjælpe os med at styre, har overtaget styringen.

Det handler selvfølgelig ikke kun om GPS’en. Det handler om, at vi har en teknologisk revolution på vej, der vil give os helt nye og meget kraftige værktøjer til at nå det, vi vil. Men hvis ikke vi er meget bevidste om, at det er os, der bestemmer, hvor vi skal hen, så risikerer vi at blive kørt om hjørner.

Vi kan droppe rattet, men vi må ikke miste styringen.