”Forestil dig en situation om tyve år, hvor nogen i Beijing eller San Francisco kender hele den seksuelle og medicinske historie for alle politikere, journalister og dommere i et land som Brasilien og Egypten.

Eller at man kender hele den personlige historie for den næste kandidat til den amerikanske højesteret. De kender dine psykiske svagheder. De ved, hvad du gjorde, da du var 20 år. Alt det der … Er det så stadig et frit land, eller er det en datakoloni?” spørger Harari.

Yuval Noah Harari er kendt for sine bestsellere ’Sapiens’ og den yderst tankevækkende ’Homo Deus’, hvor han forudser og beskriver, hvordan bioteknologi og kunstig intelligens tilsammen vil føre til, at mennesket deler sig i en ny art, en slags overmennesker, der har magt over data og adgang til at bruge avanceret bioteknologi til at forbedre deres egen tænkning og sundhed.

Ved årets Davos-møde var en af de mest interessante sessioner en diskussion mellem Yuval Harari og Ren Zhengfei, stifter og CEO for den kontroversielle kinesiske techgigant Huawei.

Emnet for diskussionen var, hvorvidt verden er på vej ind i et teknologisk våbenkapløb inden for kunstig intelligens?

Det korte svar er ja. Verden bliver i stigende grad splittet i flere teknologiske økosystemer, og politikerne ser digital teknologi som et våben i imperiernes kamp om den globale magt.

Regeringer og selskaber kan hacke mennesker

Yuval Harari mener, at udviklingen vil føre til ”datakolonialisme”, hvor erobringer sker ved at ”hacke mennesker”.

I dag kan man hacke folks data eller bryde ind og overtage kontrollen med deres computere, men Harari taler om at hacke selve mennesket, i den forstand at man har så stor viden om en person, at man er i stand til at få vedkommende til at gøre det, man ønsker.

I den mildeste version manipulerer man med folks følelser, ligesom reklamer gør, men det er målrettet langt mere præcist mod en enkelt person. Men at hacke en persons liv kan også indebære, at man bruger de personlige data til at skræmme, afpresse eller direkte skade.

I en noget fjernere fremtid kan det at hacke et menneske indebære, at man direkte sender eller aflæser signaler fra en persons hjerne, fordi personens nervesystem og hjerne er koblet sammen med computere – sådan som blandt andet Tesla-stifteren Elon Musk arbejder på at gøre gennem sit Neuralink-projekt. 

”For at hacke et menneske skal man bruge biologisk viden, computerkraft og masser af data. Vi er meget tæt på at systemerne vil kende mig bedre, end jeg kender mig selv. Vi har ingen anelse om, hvad der sker med demokratiet eller det frie marked, når vi kommer til det punkt, hvor selskaber eller regeringer systematisk kan hacke millioner af mennesker,” sagde Harari i Davos. 

For Harari er det foruroligende, at udviklingen af teknologier, der som kunstig intelligens og bioteknolog kan have store konsekvenser for menneskeheden, sker i en tid, der er præget af et accelererende våbenkapløb mellem to vidt forskellige politiske systemer: den statslige overvågning i Kina og overvågningskapitalismen i USA. Begge er ekstremt sofistikerede overvågningssystemer, mener Harari. 

Huaweis CEO nedtoner teknologiens risici

Ren Zhenfei har om nogen mærket, at digital teknologi er blevet et vigtigt sikkerhedspolitisk anliggende.

Den amerikanske Trump-administration har specifikt fremhævet Huaweis 5G-netværk og mobiltelefoner som en sikkerhedsrisiko, og USA har lagt pres på sine allierede for at få dem til at droppe Huawei som leverandør.

Ren Zhenfei selv har fået rollen som overskurken, der i lande over hele verden installerer kritisk infrastruktur, som måske kan fungere som en bagdør for, at den kinesiske stat kan spionere eller sabotere.

Ren Zhenfei er medlem af det kommunistiske parti, og før han stiftede Huawei, arbejdede han i den kinesiske hær. Han og Huawei bedyrer naturligvis, at selskabet ikke er den kinesiske stats forlængede arm, og til dato er der ikke fundet konkrete beviser på, at Huaweis produkter indeholder skjulte bagdøre.

Ganske forudsigeligt er Huawei-chefen i forsvarsposition på Davos-mødet, og han nedtoner farerne ved teknologien.

”Vi står over for en eksplosion i den teknologiske udvikling. Der er store gennembrud på vej inden for computerteknologi og bioteknologi, og udviklingen sker på tværs af domæner og forstærker hinanden. Det gør mange nervøse, men jeg mener, at den teknologiske udvikling er et gode, ikke et onde. Menneskeheden vil bruge det til sin fordel, for de fleste ønsker sig et godt liv, ikke et elendigt liv.” 

”Da der kom dampmaskiner og jernbaner, var folk også bekymrede, men efterhånden som det industrielle samfund udviklede sig, forsvandt de bekymringer.

Jeg blev født, da atombomberne faldt over Japan, og da jeg var seks-syv år, var der en global frygt for atomvåben. Men hvis vi ser det lidt på afstand nu, så endte det med, at vi forstod at håndtere teknologien. Mennesker har haft enorme fordele af atomkraft eller af forståelsen af stråling indenfor medicin,” sagde Ren Zhengfei.

Under et våbenkapløb overskrides de etiske grænser

Under diskussionen i Davos brugte Yuval Harari også sammenligningen med atomvåben.  

”Det er åbenlyst, at ingen kan vinde en storstilet atomkrig. Farerne ved kunstig intelligens, er derimod ikke så tydelige, og der er mange, der ser enormt store fordele ved at anvende den. Det kan få nogen til at tro – og måske endda med rette – at man kan vinde et AI-våbenkapløb. Men i den krig vil taberen være hele menneskeheden.”

”Både inden for bioteknologi og kunstig intelligens kan man forsøge sig med anvendelser, som alle forstår kan være farlige eller moralsk betænkelige, og alle vil sige, at vi egentlig ikke har lyst til at bruge teknologien sådan – for vi er jo de gode – men vi er nødt til at gøre det alligevel, fordi de andre måske gør det, og så sakker vi bagud. Sådan er logikken i et våbenkapløb, og det breder sig til flere og flere områder.”

”Man skal ikke være et geni for at se, at udviklingen af stadig smartere autonome våbensystemer er en farlig vej at gå, men alle parterne undskylder sig med, at de er nødt til at udvikle teknologien for at kunne forsvare sig,” sagde Yuval Harari. 

For ikke ret mange år siden gik verden mod større integration, og teknologien, ikke mindst internettet, var en central faktor i at få det globale samfund til at spille sammen. I dag er det internet, man oplever i Kina og i Vesten, reelt to parallelle systemer med hver deres tjenester, sprog og spilleregler.

Opdelingen kan hurtigt blive mere markant, og Huawei mærker det tydeligere end nogen. Det er eksempelvis uvist, om Huaweis fremtidige modeller af mobiltelefoner og laptops kan få adgang til Googles Android og Microsofts Windows software. 

Alligevel var Ren Zhenfei den mest optimistiske af de to debattører:

”Jeg tror ikke, at verden bliver delt i forskellige teknologiske universer, for videnskab handler om sandhed, og der er kun én sandhed. På den måde hænger vi mennesker sammen på et dybt plan.

Vi kommer måske ikke til at bruge præcist samme digitale teknologi overalt, men sådan er det også med bilmodeller. Der er mange forskellige modeller, der konkurrerer på markedet, og det skaber fremskridt for samfundet. På samme måde behøver vi ikke kun at have en teknologisk standard.”