Den tyske fremtidsforsker Gerd Leonhard er en mester i at fremmane billeder af den superavancerede teknologiske verden, som vi hvirvler ind i – samtidig med at han påpeger de mange grundlæggende dilemmaer, der opstår, når teknologien forandrer kulturen, økonomien og selve det at være et menneske.

Noget er godt: Med lidt held vil teknologien løse vores behov for mad, energi og vand. Vi vil udrydde sygdomme, leve længere og blive langt klogere.

Men noget er skidt, og hvis ikke vi bærer os fornuftigt ad, risikerer de negative konsekvenser helt at overskygge det gode. Vi kan ende i en supereffektiv verden, hvor menneskers materielle behov er dækket, men hvor alt det, vi virkelig sætter pris på, er forsvundet: privatlivet, fejlene, mysterierne – alt det ineffektive.

”Den største fare er ikke, at maskinerne tager vores jobs eller dræber os. Det er, at vi bliver som dem,” siger Gerd Leonhard, der i 2016 udgav bogen ’Technology vs. Humanity’.

Leonhard var hovedtaler ved Altinget og Mandag Morgens Arena Summit i Tivolis Koncertsal forleden. Gennem en time bombarderede han publikum med fascinerende, men også skræmmende glimt af, hvor meget virtual reality, selvkørende biler, 5G-netværk, blockchain, internet of things og ikke mindst kunstig intelligens kan udvikle sig i løbet af blot 5-10 år.

Som fremtidsforsker er Gerd Leonhard af den skole, der tager udgangspunkt i eksponentiel vækst, når han skal beskrive, hvad vi kan forvente.

Udviklingen af kvantecomputere vil efter Leonhards vurdering betyde, at computerkraften – som hidtil beskrevet med Moores lov – vil fortsætte med at blive fordoblet hvert andet år, og det vil drive en teknologisk forandring, der i løbet af de næste 20 år vil være lige så radikal som det, vi har oplevet de sidste 300 år.

”Teknologien vil være ubegrænset. Vi vil kunne gøre nærmest hvad som helst. Men det tvinger os til at overveje, hvad vi vil, og hvad vi ikke vil. Som Apples CEO Tim Cook siger: Hvilken verden vil vi leve i?” siger Leonhard.

Teknologien er blevet for meget af det gode

Gerd Leonhard bor i Zürich, og når han ikke flyver kloden rundt og giver keynotes, leder han et konsulentfirma, som rådgiver store virksomheder i at forholde sig til forandringerne.

Med et smil kalder Leonhard det for ”fremtidsterapi”, for meningen er, at virksomhederne bliver ført igennem en dyb analyse af, hvordan de teknologiske drivkræfter kan ændre hele forretningsmodellen.

”Langt det meste af mit arbejde handler om at se på mulighederne. Min tommelfingerregel er, at teknologien er 90 procent god og 10 procent dårlig. Udfordringen, især når udviklingen virkelig tager fart, bliver at sørge for, at andelen af uheldige konsekvenser ikke bliver større,” siger Leonhard.

I hans præsentationer, og når man interviewer ham, fylder truslerne imidlertid langt mere end 10 procent – og det virker, som om farerne har fået en mere fremtrædende plads i hans præsentationer i løbet af de seneste par år.

”I dag tager vi det som selvfølgeligheder, at vi kan tale til maskinen, eller at videotelefoni er gratis. Det, der var science fiction, er blevet til facts. Men samtidig begynder teknologi også at skifte karakter – fra magisk til giftig,” siger Gerd Leonhard.

Vi fjerner det menneskelige

”Medierne plejede at være en kommunikation fra mennesker til mennesker. Men i dag får 40 procent deres nyheder fra Facebook, hvor det er en algoritme, der bestemmer, hvad vi bliver præsenteret for. En stigende del af indholdet i medierne er designet til at manipulere os og gøre os afhængige af tjenesterne. Og samtidig mister vi evnen til selv at vælge, til at være kreative, til at tale ordentligt sammen og til at være opmærksomme i den virkelige verden,” siger Leonhard.                  

”Der er forsikringsselskaber, som tilbyder en lavere præmie, hvis ejeren af en bil går med til at installere en sort boks, der holder øje med, om man kører ordentligt. Der vil sikkert komme noget lignende med sundhedsforsikringer, så folk, der spiser fornuftigt, motionerer og overholder lægens instrukser, slipper billigere,” påpeger han.

”Det giver god mening umiddelbart, men vi lægger dårligt mærke til, at det også betyder, at vi giver afkald på vores frihed. Vi ved, at vi bliver overvåget hele tiden, så vi holder os på måtten, retter ind og gør, som algoritmen synes, vi skal gøre. Vi bliver compliant. Når det breder sig til alle mulige områder af livet, bliver det giftigt, for vi mister det, der gør os til mennesker: den fri vilje, det ineffektive og irrationelle,” siger Gerd Leonhard.

Med kunstig intelligens risikerer vi også at skabe systemer, der træffer væsentlige afgørelser uden at forstå de grundlæggende menneskelig værdier.

”I dag bruger man kunstig intelligens til at gennemføre og analysere jobsamtaler eller til at afsige domme. Der er utvivlsomt allerede lande og virksomheder, der arbejder på at udvikle droner og robotter til krig, der selv kan beslutte, om en person skal dræbes. Vi bliver underlagt maskiner, der ikke har menneskelig indsigt og empati,” advarer Leonhard.          

Vi skal slippe tanken om at udnytte teknologien til det yderste

Dilemmaet er, at hvis man ikke investerer i at holde sig på omgangshøjde og helst foran i den teknologiske udvikling, så klarer man sig dårligere i konkurrencen.

I Europa findes der ikke platforme som Google, Facebook, Amazon, Alibaba eller Tencent. Her uddeler EU-Kommissionen bøder, når platformene bliver lige lovligt effektive.

Vi insisterer på at regulere brugen af vores data gennem persondataforordningen. Og EU-Kommissionen og mange enkeltlande, inklusive Danmark, er i gang med at udarbejde etiske retningslinjer for brugen af kunstig intelligens. 

I Kina og USA har de gigantiske platforme langt friere rammer til at indsamle, analysere og styre alle aspekter af milliarder af menneskers digitale liv. Til sammenligning kan Europa virke som en gammel mand, der ikke længere kan følge med i alt det nye og tilmed insisterer på, at alt skal blive ved at være, som det var engang.

Var det ikke bedre at overgive sig til udviklingen, trække ankeret op og lade mennesker og teknologi forandre sig til noget helt nyt – sådan som evolutionen altid har gjort?

”Jeg har ikke lyst til at smelte sammen med teknologien og blive overmenneskelig. Jeg tror ikke, det vil være en opgradering – snarere end forringelse,” svarer Gerd Leonhard.

”Maskiner er effektive til at tjene penge, men penge alene er ikke til nytte for os, hvis vi mister noget andet, der har værdi. Hidtil har alt, hvad der kunne skabe vækst og penge, været regnet for helligt. Olie- og gasindustrien har tjent enormt, men vi kan se, at det også har bivirkninger. På samme måde med selskaber som Facebook. Det er en guldmine, men vi kan se, at det bliver for meget af det gode. Hvis det bare handler om at tjene masser af penge, vil den logiske konsekvens være, at vi allesammen får forbundet vores hjerne direkte til internettet. Men vi er nødt til at spørge, om det er godt for os,” siger Gerd Leonhard. 

”Vi er nødt til at komme fri af tanken om, at vi går i stå eller går glip af noget afgørende ved ikke at udnytte teknologien til det yderste. Vi behøver ikke at gøre verden umenneskelig for at have et godt liv og et job. Vi skal ikke forsøge at konkurrere med computerne. Mennesker er lineære, og maskiner er eksponentielle. Alt, hvad de kan, udvikler sig hurtigere og længere, end mennesker kan.” 

”Vi kan være mennesker, det er vores vigtigste aktiv, og hvis vi sælger ud af det, har vi ingenting at byde på,” mener Leonhard.

Kunstig intelligens skal reguleres globalt – ligesom atomvåben

Gerd Leonhards ekspertise er at beskrive de dilemmaer, vi står overfor. Når det kommer til løsningerne er han mere tilbageholdende. Det er svært at få ham til sige mere præcist, hvor det er, han trækker grænsen mellem at udvikle de mange positive muligheder og at stoppe, før de uheldige konsekvenser overtager.

Leonhard forestiller sig, at der vil komme en form for global regulering af de nye teknologier svarende til den regulering, der findes omkring atomkraft og atomvåben.

”Teknologier som kunstig intelligens, genmanipulering eller geo-engineering (bevidst påvirkning af vejret eller klimaet, red.) er uden grænser. Når først de bliver taget i brug, påvirker de os alle sammen. De kan bruges som våben, og hvis ikke vi regulerer dem globalt, ender vi i et våbenkapløb – og så dør vi,” siger han.

”Vi er nødt til at formulere nogle regler for, hvad der er acceptabelt. Men ligesom med atomvåben er jeg bange for, at vi først skal igennem nogle katastrofer, før vi for alvor begynder at tænke på det. Dybest set har vi brug for det, de gamle grækere kaldte fronesis – praktisk visdom til at forstå, hvordan vi skal handle,” konkluderer Gerd Leonhard.