Prøv at forlænge den digitale udvikling med ti år eller så.

Der bliver formentlig en hel del flere overvågningskameraer og langt flere devices med indbyggede kameraer – lige fra mobiltelefoner til droner og dørtelefoner. De vil hænge sammen og udveksle data i internet of things, så hvis der er brug for at følge en mistænkt, kan det gøres med høj opløsning, overalt og i real time.

De mange kameraer vil være understøttet af stadigt mere avanceret software til at analysere mønstrene i billederne. Desuden vil systemet til nogle formål bruge ansigtsgenkendelse, der betyder, at man reelt aldrig færdes anonymt. 

Det er svært at forestille sig, at det ikke bliver sådan – faktisk er en stor del af scenariet allerede realiseret i nogle dele af verden.

Det drives frem af en mægtig kraft. Dels er der den rent tekniske udvikling – computerne, der år for år bliver kraftigere, mindre, billigere, mere udbredte og tættere forbundne. 

Men der også en stærk motivation til at øge og forbedre præcision og effektiviteten af overvågning med stadig flere data. Det er usikre tider, og vi vil gerne sikre os selv. Allerhelst vil vi gerne forebygge problemer, før de får lov at udvikle sig – og derfor vil scenariet for fremtiden også byde på kunstig intelligens, der gradvis lærer at se, når noget er unormalt, eller der er ved at opstå problemer et sted i den smarte by.

Så spørgsmålet er: Hvis det er sådan, det bliver, hvad afgør, om det bliver et godt scenarie – med større tryghed, ansvarlighed og færre alvorlige hændelser – eller et skrækscenarie, hvor befolkningen holdes i skak af et system, der ser alt og griber ind, før man overhovedet får tænkt på at træde uden for normerne? 

Det er dét dilemma, to danskere med en helt særlig indsigt og position i forhold til at præge udviklingen, forsøger at tackle i den nye bog ’Tech for Life’. 

Forfatterne er Jim Hagemann Snabe, der med topposter i SAP og som bestyrelsesformand i både Siemens og Mærsk er en af de danskere, der nået længst i det internationale erhvervsliv, og Lars Thinggaard, der indtil april gennem knap 20 år har været direktør for Milestone Systems, et af verdens førende selskaber inden for overvågningssystemer.

Man er nødt til at forholde sig til det 

”Når man har arbejdet med at levere teknologiske løsninger, ser man, at det kan have utilsigtede konsekvenser, og på et eller andet tidspunkt begynder man vel at reflektere over det – ellers er man jo bare, ja, et dumt svin,” siger Lars Thinggaard.

For Thinggaards vedkommende satte det skub i overvejelserne om de etiske aspekter af teknologi, da han for et par år siden sammen med 150 andre teknologieksperter fra det meste af verden deltog i en 48-timers session under den årlige Techfestival i Kødbyen i København. I løbet af de tog døgn forfattede deltagerne ’The Copenhagen Letter’ – et kort manifest om, hvad der er god og dårlig brug af digital teknologi.

Sidste år blev manifestet fulgt op af et ’Techløfte’, en slags lægeløfte for folk, der arbejder i tech-branchen, hvor man lover ikke at medvirke til at udvikle og udbrede teknologier, der skaber afhængighed, bedrag eller kontrol.

I Milestone omsatte Lars Thinggaard sidste år principperne til en Copenhagen Clause, en klausul, der er en del af den brugerlicens, som selskabets software sælges under.

Klausulen specificerer, at softwaren kun må bruge til formål, der er forenelige med Milestones formål om at beskytte aktiver og mennesker, eller som overholder menneskerettighederne. Hvis ikke Milestone mener, at softwaren bliver brugt på en acceptabel måde, har man ret til at tilbagekalde licensen. 

Har I sagt nej til kunder, fordi I ikke mente, at de kunne leve op til jeres Copenhagen Clause? 

”Ja, vi havde løbende den type overvejelser på bordet. Der har været store ordrer, som vi har sagt nej til. Og så har vi nedskaleret samarbejdet med nogle producenter, især i Asien, hvor der eksempelvis er selskaber, som leverer udstyr, der bruges til social kontrol.

Vi har undervist vores personale i moral og etik for at give alle en forståelse for, at det er vigtigt at være vågne over for problemerne. Og så har vi kørt kampagner over for vores samarbejdspartere og forhandlere, og vi har fulgt op over for slutkunderne for at få dem til at overveje det. Det har været vigtigt for os, at de forstår, at vi har en holdning til ikke at blive misbrugt,” siger Lars Thinggaard. 

Er det svært at sige nej?

”Det kan være super svært. Der er situationer, hvor det er vanskeligt at sige, om en anvendelse er god eller dårlig. Man kan ikke bare lave en dilemmakonfigurator, hvor man siger ja eller nej fire gange, og så er svaret givet.

Det råd, jeg synes, jeg kan give videre, lyder måske banalt, men det er at tænke mere langsigtet. Og så skal du gøre dig klar over, hvad du optimerer for. I Milestones optimerede jeg for langsigtet bæredygtighed og profitabel vækst. Det bæredygtige er vigtigt, men man er også nødt til at tjene penge, ellers er der ikke nogen forretning. Men hvis man kun optimerer for kortsigtet profit, så gør man både sig selv og samfundet en bjørnetjeneste. Det giver ikke samfundsmæssig værdi.” 

Tillid er den centrale værdi 

I bogen ’Tech for Life’ beskriver Thinggaard og Hagemann Snabe de værdier, der som et kompas skal guide virksomheder, når de udvikler og anvender teknologi: åbenhed, respekt, relevans, ansvarlighed og tillid.

Tillid er den helt centrale værdi. Man skal kunne stole på en virksomhed, og man skal stole på teknologien – ellers vil kunderne ikke turde købe en selvkørende bil, og ingen vil bruge de anbefalinger, der kommer fra tjenester som Trustpilot, hvis ikke man stoler på, at de er ærlige og neutrale. 

Lars Thinggaard fremhæver deep fake-videoer som en teknologi, der er med til at undergrave tilliden.

Den kinesiske app Zao blev sidste år en af de mest downloadede i Kina. Appen kan ud fra et todimensionelt foto af en person, for eksempel en selfie, danne en 3D-model, som kan indsættes i en eksisterende video. På den måde kan man more sig med at indsætte sit eget ansigt i stedet for Leonardo DiCaprios i Titanic.

Men man kan naturligvis også få politikere til at sige ting på video, de aldrig har sagt i virkeligheden, eller indsætte en persons ansigt i en pornovideo. 

”Det ender med, at vi som individer ikke har tillid til hinanden og til det, vi hører i nyhederne. Vi mister troen på, hvad der er rigtig og forkert, af det vi ser. Det er vi nødt til at gøre op med,” siger Lars Thinggaard. 

Som et eksempel på, hvor avanceret den teknologi, der allerede bruges, er, nævner Thinggaard en episode, hvor Milestones direktør i Bulgarien, hvor Milestone har en stor udviklingsafdeling, blev ringet op af Lars Thinggaard, som bad hende om at overføre 300.000 euro på grund af en ekstraordinær likviditetskrise.

Troede hun. Da hun for en sikkerheds skyld ringede til Lars Thinggaard i Danmark, blev det klart, at svindlere havde brugt software til at overføre Thinggaards stemme på samtalen.         

”Det er afgørende at bibeholde tilliden, for hvis den først bliver tabt, er det svært at reparere. Tillid er fundamentet for demokratiet. Derfor må tillid veje lige så tungt som bæredygtighed og profitabilitet, når man som leder i en tech-virksomhed spørger sig selv, om det er det rigtige, vi har gang i.

Jeg tror stadig, at teknologi er for the good. Men hvis vi bare lader udviklingen ske uden at tænke over, hvad man optimerer for, så ender vi i en dystopi, hvor vi ikke har lyst til at være,” siger Lars Thinggaard.