ANALYSE: Etik er svaret på digitaliseringens dilemmaer

Efter den første begejstring over Google, Facebook, smartphones og selvkørende biler begynder tømmermændene at melde sig. Skandalen med Cambridge Analytica, vores afhængighed af konstant at tjekke mobilen og den voksende frygt for at kunstig intelligens tager magten fra mennesket og minder os om, at teknologien altid har en bagside.

Om Peter Hesseldahl

Af Peter Hesseldahl, journalist, forfatter, fremtidsforsker og foredragsholder 

Bag hvert plusord, man kan nævne om digitaliseringens muligheder, gemmer sig et negativt ord, der fortæller om de uheldige bivirkninger og trusler, som teknologien fører med sig.

Sådan er det med al teknologi; den kan bruges til det gode og – sat på spidsen – til det onde. Problemet med de nye teknologier er, at vi stadig har svært ved at overskue, hvad der afgør, om de får den ene eller den anden effekt. Samtidig har vi ikke lovgivning og kulturelle normer på plads, der kan sikre, at ulemperne ikke tager overhånd.

Vi befinder os midt i et techlash, hvor det er gået op for flere, at vi med eksponentielt stigende fart bevæger os mod en teknologisk fremtid, hvor mange grundlæggende menneskelige værdier bliver udfordret.

Det kan blive helt fantastisk eller helt fantastisk uhyggeligt. Og jo kraftigere og bedre teknologien bliver, desto mere vokser udsvingene i begge retninger.

Derfor har vi brug for at udvikle en fælles digital etik, der kan hjælpe os til at træffe de valg, der betyder, at teknologien overvejende bliver en positiv kraft. 

Vi forbindes, men mister sammenhængen: Med den digitale teknologi kan vi slippe for industrisamfundets masseproducerede varer og standardiserede tjenester. Systemerne kender hver enkelt af os helt ned i detaljen og kan understøtte os med præcis de løsninger, vi ønsker og har brug for nu og her.

Ironien er imidlertid, at samtidig med at vi bliver intenst forbundet til internettet, mister vi kontakten til hinanden. Sammenhængskraften i samfundet svækkes, for den verden, vi hver især oplever, er ikke den samme. Vi befinder os i hver vores filterboble, vi modtager med stigende præcision netop det, vi plejer at kunne lide, og vi bliver ikke konfronteret med noget, der er anderledes.

Vi har alt til rådighed, men i praksis ser vi kun et nøje udvalgt udsnit af virkeligheden. Det modtager vi til gengæld i solide doser i alle vågne timer som en strøm af beskeder og forstyrrelser. Vi har en mangfoldighed af viden, men vi er alt for distraherede til at koncentrere os om og forstå, hvad det egentlig betyder.

Overvågning kan både beskytte den, der overvåges, og den, der overvåger: Engang var det almindelig god opførsel, at man ikke læste andres breve. Ja, faktisk er det ifølge Grundlovens § 72 strafbart at bryde post- og brevhemmeligheden. I dag scanner Google (og formentlig diverse nationale sikkerhedstjenester) som en selvfølge vores e-mail. Facebook, Twitter og LinkedIn kan følge vores opslag, vores telefoner gemmer samtaler, søgninger og data om, hvor vi har befundet os, og vi har formentligt selv på et eller andet tidspunkt sagt o.k. til det.

Det har sine fordele.

Vi kan ikke forvente, at de systemer, der omgiver og understøtter os, kan komme med nogenlunde intelligente svar på vores behov, hvis ikke de ved noget om os. Logikken er klar. Jo mere maskinen ved, desto mere præcis og smart bliver den. Jo flere data vi har om en by, om borgerne og alt, hvad de foretager sig, desto mere effektivt kan vi målrette ressourcerne på at få alt til at fungere til alles bedste. Jo mere vi ved om patienterne, om de studerende, om de socialt udsatte, om de ansatte, om kunderne osv., desto bedre kan vi hjælpe dem til at opnå netop det, de hver især ønsker eller har behov for.

Indsamling og analyse af data er en magtkamp, hvor den, der ved mest, har magten. Derfor kan man også anlægge det omvendte syn på udviklingen.

Vi står som enkeltpersoner over for techgiganter og instanser, der dybest set ved alt om os selv og alle andre, hvis de vil. Det store overblik og den dybe indsigt gør det muligt at hjælpe dem, der overvåges, men det giver lige så gode muligheder for manipulation og kontrol.

Det er betryggende for mig som borger, at der er overvågning, så forbrydere kan blive fanget og stillet til regnskab. Men kun indtil der er nogen med en anden mening om, hvad der er acceptabelt, som begynder at overvåge og stille mig til regnskab.

Fællesskabet er stærkt og sårbart: Den store computerdrøm er en verden af globalt samarbejde, hvor det er helt naturligt at dele viden og ideer. Der er alt at vinde og meget lidt at tabe, for når man deler bits, kan man give dem væk og stadig beholde dem. Jo flere, der er forbundet, og jo tættere vi er i samspil med hinanden, desto større vækst og værdi skaber vi sammen. Det er et plussums-spil, som styrkes af stadigt bedre og billigere internetforbindelser. Videnskab og innovation blomstrer, det samme gør kunst og kultur.

Men når vi deler i det digitale fællesskab, blotter vi os samtidig for mange andre end vores ’venner’. Når vi viser tillid, åbner vi os for snyltere, der intet giver igen, men blot trækker det ud af systemet, som andre skaber. Vi bliver sårbare over for hackere og for virus, der blot skal have den mindste sprække for at komme ind og brede sig overalt, og som ofte er afhængig af netop den åbenhed og tillid, som fællesskabet udviser.

Jo tættere vi er koblet sammen og koordineret, sådan som alle vores apparater eksempelvis enten er eller er ved at blive det gennem Internet of Things, desto større bliver faren for angreb eller bare systemfejl, der kan skabe enorme ødelæggelser. Det virker som et ret sikkert gæt, at vi i fremtiden kommer til at se meget mere til den slags forstyrrelser og nedbrud.

Samtidig med denne udvikling betyder det forhold, at vi slutter os til hinanden i stadigt større systemer, at afstanden mellem top og bund øges. I et digitalt univers uden afstande flokkes brugerne om de førende udbydere, som alle andre også bruger, og som derfor får enorme gevinster og adgang til mængder af data, der kan sikre dem en endnu stærkere position i en winner-takes-all-økonomi. Næsten som en naturlov synes teknologien at føre os til en verden domineret af ganske få, men gigantiske organisationer.

Algoritmer frisætter og fastholder: Algoritmer er centrale i det digitale samfund, og de bliver naturligvis mere og mere intelligente. På basis af enorme datamængder kan algoritmer diagnosticere sygdomme, påvirke valgkampe, ansætte og fyre folk eller beslutte om en robot eller drone skal affyre et missil.

Ikke alene automatiserer og billiggør algoritmer arbejdsopgaver, som førhen krævede en menneskelig indsats; på flere og flere områder bliver algoritmer endda bedre end mennesket til at forstå en kompleks situation og tage beslutninger ud fra det. De kan vurdere ekstreme mængder af data, og så er algoritmer ’objektive’ i den forstand, at de ikke bliver trætte eller følelsesmæssigt involveret. Ovenikøbet kan algoritmer tage ved lære, opbygge erfaringer og gradvist optimere deres metoder til at omsætte data til brugbare beslutninger med færre fejl.

Men, lærende algoritmer kan også få fikse ideer. Modsat mennesker glemmer algoritmer ikke. De kan ikke tilgive. Tværtimod, hvis de snubler over noget unormalt, kan de være tilbøjelige til at gå i et selvforstærkende feedbackloop. En dårlig kreditvurdering fra en banks algoritme kan føre til dyrere lån og hårdere betingelser, som gør det endnu sværere for låneren at præstere et godt regnskab.

På den måde kan algoritmer være tilbøjelige til at forstærke fortidens mønstre. Der er ikke plads til at slå skæverter. Hvis man afviger – eller engang har afveget – i forhold til det, som algoritmen anser for acceptabelt, bliver man sorteret fra, uden at nogen nødvendigvis ved præcist hvorfor.

Omvendt kan teknologien også frisætte os. Vi slipper for rutinearbejdet, så vi kan koncentrere os om at være menneskelige, empatiske og nyskabende. Men samtidig låser teknologien os, stiller os til ansvar for alt, hvad vi foretager os, og fastholder nuværende magtstrukturer og normer i samfundet. Stillet over for algoritmens konstant analyserende blik lærer vi at disciplinere os selv og holde os på måtten.

Jubi, robotterne tager vores arbejde: Umiddelbart burde vi vel fejre, hver gang robotter og algoritmer overtager opgaver og frisætter os til at koncentrere os om det, kun vi mennesker kan udføre. Men for mange opleves det sådan, at automatiseringen tager arbejdet fra os og dermed gør os overflødige.

Ideelt set er det menneskets opgave at definere, hvad der skal udføres og opnås, og ved at bruge robotter og algoritmer kan man mangedoble sin evne til at skabe det, man vil. Hvis man er en af dem, der benytter sig af robotterne og bestemmer, hvad de skal gøre, er automatisering og kunstig intelligens stærke redskaber til at komme fremad.

Men hvis man f.eks. er en Uber-chauffør, der venter på at få en ordre fra en app på sin smartphone, og dermed er en af dem, der modtager instrukser og kontrolleres og står til regnskab over for et uigennemskueligt computersystem, så er det nærliggende at føle, at maskinerne begynder at bestemme over mennesket.

Det ultimative dilemma er naturligvis, at vi risikerer at gøre teknologien så intelligent og kraftig, at den får ’sin egen’ vilje, og at vi mennesker ikke længere har evnerne til at stoppe den. Der er mange visioner om the singularity, dvs. det punkt, hvor maskinerne et kort øjeblik er jævnbyrdige med mennesker, hvorefter maskinerne flintrer videre i en hurtigere og hurtigere teknologisk evolution, der efterlader os som en slags husdyr på en ny herremands gods.

Det lyder langt ude, men hvor langt?                

Det går ikke over: Hvis den teknologiske udvikling er så farlig, hvorfor gør vi det så? Behøver vi absolut at lave maskiner, der er så smarte, at de truer os som art? Hvorfor skal vi udvide indsamlingen af data ned til det mindste atom? Kan vi ikke bare stoppe udviklingen, når vi kan se, at den fører i retning af et samfund, de færreste af os ønsker?

Held og lykke, siger jeg bare.

Ud over en total nedsmeltning af den eksisterende samfundsorden er det svært at se, hvordan vi kan ændre kurs, eftersom de teknologiske fremskridt netop giver dem, der tager dem til sig, fordele hele vejen rundt. Udviklingen drives frem, fordi hvert eneste lille skridt i retning af bedre forbindelser, flere data og smartere analyser giver en konkurrencefordel til dem, der bruger det. Og omvendt, hvis man stiger af, vil man hurtigt få særdeles vanskeligt ved at leve et nogenlunde moderne liv.

Samtidig er det ikke en udvikling, vi bliver påtvunget. Folk ligger i kø hele natten for at få den nyeste iPhone, der kan registrere brugerens gøren og laden i endnu flere detaljer. Jeg er selv storkunde, for jeg vil ikke undvære alle de fordele, jeg får, selv om jeg hader følelsen af, at (inter)nettet omkring mig strammes, hver gang jeg igen afgiver en hel skærmfuld af personlige data til nogen eller noget et sted derude.

Og det er her etikken kommer ind. Vi er nødt til at udvikle og beslutte nogle normer og finde en fælles forståelse for, hvad der er god dataskik, og hvad der er acceptable måder at bruge data og digitale teknologier på. Hvilke rettigheder vil vi ikke give køb på, og hvilke værdier vil vi sikre og beskytte?

Teknologien kommer hurtigere og hurtigere. Digitaliseringen går ikke over, slet ikke. Derfor er vi nødt til at diskutere, hvad vi vil – og ikke vil – med den.

LÆS OGSÅ: Hvordan fik et datafirma fat i 50 millioner Facebookbrugeres personlige oplysninger?

LÆS OGSÅ: Du sælger ud af dit privatliv, når du beder om karriererådgivning på Facebook

LÆS OGSÅ: Sådan kan du beskytte dit privatliv på Facebook

LÆS OGSÅ: DET ER FUP: ‘Skriv BFF og se om din Facebookkonto er beskyttet’

LÆS OGSÅ: Derfor er Facebook en trussel mod demokratiet

LÆS OGSÅ: Eksperternes dom: Der er intet alternativ til Facebook - endnu

Forrige artikel ANMELDELSE: Genfødsel af den objektive journalistik ANMELDELSE: Genfødsel af den objektive journalistik Næste artikel ANALYSE: Trumps dæmonisering af medierne har konsekvenser ANALYSE: Trumps dæmonisering af medierne har konsekvenser