Etik er svaret på digitaliseringens dilemmaer

Efter den første begejstring over Google, Facebook, smartphones og selvkørende biler begynder tømmermændene at melde sig. Skandalen med Cambridge Analytica, vores afhængighed af konstant at tjekke mobilen og den voksende frygt for at kunstig intelligens tager magten fra mennesket og minder os om, at teknologien altid har en bagside.

Bag hvert plusord, man kan nævne om digitaliseringens muligheder, gemmer sig et negativt ord, der fortæller om de uheldige bivirkninger og trusler, som teknologien fører med sig.

Sådan er det med al teknologi; den kan bruges til det gode og – sat på spidsen – til det onde. Problemet med de nye teknologier er, at vi stadig har svært ved at overskue, hvad der afgør, om de får den ene eller den anden effekt. Samtidig har vi ikke lovgivning og kulturelle normer på plads, der kan sikre, at ulemperne ikke tager overhånd.

Vi befinder os midt i et techlash, hvor det er gået op for flere, at vi med eksponentielt stigende fart bevæger os mod en teknologisk fremtid, hvor mange grundlæggende menneskelige værdier bliver udfordret.

Det kan blive helt fantastisk eller helt fantastisk uhyggeligt. Og jo kraftigere og bedre teknologien bliver, desto mere vokser udsvingene i begge retninger.

Derfor har vi brug for at udvikle en fælles digital etik, der kan hjælpe os til at træffe de valg, der betyder, at teknologien overvejende bliver en positiv kraft.

MM Special: Essensen om dataetik

Vi forbindes, men mister sammenhængen: Med den digitale teknologi kan vi slippe for industrisamfundets masseproducerede varer og standardiserede tjenester. Systemerne kender hver enkelt af os helt ned i detaljen og kan understøtte os med præcis de løsninger, vi ønsker og har brug for nu og her.

Ironien er imidlertid, at samtidig med at vi bliver intenst forbundet til internettet, mister vi kontakten til hinanden. Sammenhængskraften i samfundet svækkes, for den verden, vi hver især oplever, er ikke den samme. Vi befinder os i hver vores filterboble, vi modtager med stigende præcision netop det, vi plejer at kunne lide, og vi bliver ikke konfronteret med noget, der er anderledes.

Vi har alt til rådighed, men i praksis ser vi kun et nøje udvalgt udsnit af virkeligheden. Det modtager vi til gengæld i solide doser i alle vågne timer som en strøm af beskeder og forstyrrelser. Vi har en mangfoldighed af viden, men vi er alt for distraherede til at koncentrere os om og forstå, hvad det egentlig betyder.

Overvågning kan både beskytte den, der overvåges, og den, der overvåger: Engang var det almindelig god opførsel, at man ikke læste andres breve. Ja, faktisk er det ifølge Grundlovens § 72 strafbart at bryde post- og brevhemmeligheden. I dag scanner Google (og formentlig diverse nationale sikkerhedstjenester) som en selvfølge vores e-mail. Facebook, Twitter og LinkedIn kan følge vores opslag, vores telefoner gemmer samtaler, søgninger og data om, hvor vi har befundet os, og vi har formentligt selv på et eller andet tidspunkt sagt o.k. til det.

Det har sine fordele.

Vi kan ikke forvente, at de systemer, der omgiver og understøtter os, kan komme med nogenlunde intelligente svar på vores behov, hvis ikke de ved noget om os. Logikken er klar. Jo mere maskinen ved, desto mere præcis og smart bliver den. Jo flere data vi har om en by, om borgerne og alt, hvad de foretager sig, desto mere effektivt kan vi målrette ressourcerne på at få alt til at fungere til alles bedste. Jo mere vi ved om patienterne, om de studerende, om de socialt udsatte, om de ansatte, om kunderne osv., desto bedre kan vi hjælpe dem til at opnå netop det, de hver især ønsker eller har behov for.

Indsamling og analyse af data er en magtkamp, hvor den, der ved mest, har magten. Derfor kan man også anlægge det omvendte syn på udviklingen.

Vi står som enkeltpersoner over for techgiganter og instanser, der dybest set ved alt om os selv og alle andre, hvis de vil. Det store overblik og den dybe indsigt gør det muligt at hjælpe dem, der overvåges, men det giver lige så gode muligheder for manipulation og kontrol.

Det er betryggende for mig som borger, at der er overvågning, så forbrydere kan blive fanget og stillet til regnskab. Men kun indtil der er nogen med en anden mening om, hvad der er acceptabelt, som begynder at overvåge og stille mig til regnskab.

Fællesskabet er stærkt og sårbart: Den store computerdrøm er en verden af globalt samarbejde, hvor det er helt naturligt at dele viden og ideer. Der er alt at vinde og meget lidt at tabe, for når man deler bits, kan man give dem væk og stadig beholde dem. Jo flere, der er forbundet, og jo tættere vi er i samspil med hinanden, desto større vækst og værdi skaber vi sammen. Det er et plussums-spil, som styrkes af stadigt bedre og billigere internetforbindelser. Videnskab og innovation blomstrer, det samme gør kunst og kultur.

Men når vi deler i det digitale fællesskab, blotter vi os samtidig for mange andre end vores ’venner’. Når vi viser tillid, åbner vi os for snyltere, der intet giver igen, men blot trækker det ud af systemet, som andre skaber. Vi bliver sårbare over for hackere og for virus, der blot skal have den mindste sprække for at komme ind og brede sig overalt, og som ofte er afhængig af netop den åbenhed og tillid, som fællesskabet udviser.

Jo tættere vi er koblet sammen og koordineret, sådan som alle vores apparater eksempelvis enten er eller er ved at blive det gennem Internet of Things, desto større bliver faren for angreb eller bare systemfejl, der kan skabe enorme ødelæggelser. Det virker som et ret sikkert gæt, at vi i fremtiden kommer til at se meget mere til den slags forstyrrelser og nedbrud.

Samtidig med denne udvikling betyder det forhold, at vi slutter os til hinanden i stadigt større systemer, at afstanden mellem top og bund øges. I et digitalt univers uden afstande flokkes brugerne om de førende udbydere, som alle andre også bruger, og som derfor får enorme gevinster og adgang til mængder af data, der kan sikre dem en endnu stærkere position i en winner-takes-all-økonomi. Næsten som en naturlov synes teknologien at føre os til en verden domineret af ganske få, men gigantiske organisationer.

Algoritmer frisætter og fastholder: Algoritmer er centrale i det digitale samfund, og de bliver naturligvis mere og mere intelligente. På basis af enorme datamængder kan algoritmer diagnosticere sygdomme, påvirke valgkampe, ansætte og fyre folk eller beslutte om en robot eller drone skal affyre et missil.

Ikke alene automatiserer og billiggør algoritmer arbejdsopgaver, som førhen krævede en menneskelig indsats; på flere og flere områder bliver algoritmer endda bedre end mennesket til at forstå en kompleks situation og tage beslutninger ud fra det. De kan vurdere ekstreme mængder af data, og så er algoritmer ’objektive’ i den forstand, at de ikke bliver trætte eller følelsesmæssigt involveret. Ovenikøbet kan algoritmer tage ved lære, opbygge erfaringer og gradvist optimere deres metoder til at omsætte data til brugbare beslutninger med færre fejl.

Men, lærende algoritmer kan også få fikse ideer. Modsat mennesker glemmer algoritmer ikke. De kan ikke tilgive. Tværtimod, hvis de snubler over noget unormalt, kan de være tilbøjelige til at gå i et selvforstærkende feedbackloop. En dårlig kreditvurdering fra en banks algoritme kan føre til dyrere lån og hårdere betingelser, som gør det endnu sværere for låneren at præstere et godt regnskab.

På den måde kan algoritmer være tilbøjelige til at forstærke fortidens mønstre. Der er ikke plads til at slå skæverter. Hvis man afviger – eller engang har afveget – i forhold til det, som algoritmen anser for acceptabelt, bliver man sorteret fra, uden at nogen nødvendigvis ved præcist hvorfor.

Omvendt kan teknologien også frisætte os. Vi slipper for rutinearbejdet, så vi kan koncentrere os om at være menneskelige, empatiske og nyskabende. Men samtidig låser teknologien os, stiller os til ansvar for alt, hvad vi foretager os, og fastholder nuværende magtstrukturer og normer i samfundet. Stillet over for algoritmens konstant analyserende blik lærer vi at disciplinere os selv og holde os på måtten.

Jubi, robotterne tager vores arbejde: Umiddelbart burde vi vel fejre, hver gang robotter og algoritmer overtager opgaver og frisætter os til at koncentrere os om det, kun vi mennesker kan udføre. Men for mange opleves det sådan, at automatiseringen tager arbejdet fra os og dermed gør os overflødige.

Ideelt set er det menneskets opgave at definere, hvad der skal udføres og opnås, og ved at bruge robotter og algoritmer kan man mangedoble sin evne til at skabe det, man vil. Hvis man er en af dem, der benytter sig af robotterne og bestemmer, hvad de skal gøre, er automatisering og kunstig intelligens stærke redskaber til at komme fremad.

Men hvis man f.eks. er en Uber-chauffør, der venter på at få en ordre fra en app på sin smartphone, og dermed er en af dem, der modtager instrukser og kontrolleres og står til regnskab over for et uigennemskueligt computersystem, så er det nærliggende at føle, at maskinerne begynder at bestemme over mennesket.

Det ultimative dilemma er naturligvis, at vi risikerer at gøre teknologien så intelligent og kraftig, at den får ’sin egen’ vilje, og at vi mennesker ikke længere har evnerne til at stoppe den. Der er mange visioner om the singularity, dvs. det punkt, hvor maskinerne et kort øjeblik er jævnbyrdige med mennesker, hvorefter maskinerne flintrer videre i en hurtigere og hurtigere teknologisk evolution, der efterlader os som en slags husdyr på en ny herremands gods.

Det lyder langt ude, men hvor langt?                

Det går ikke over: Hvis den teknologiske udvikling er så farlig, hvorfor gør vi det så? Behøver vi absolut at lave maskiner, der er så smarte, at de truer os som art? Hvorfor skal vi udvide indsamlingen af data ned til det mindste atom? Kan vi ikke bare stoppe udviklingen, når vi kan se, at den fører i retning af et samfund, de færreste af os ønsker?

Held og lykke, siger jeg bare.

Ud over en total nedsmeltning af den eksisterende samfundsorden er det svært at se, hvordan vi kan ændre kurs, eftersom de teknologiske fremskridt netop giver dem, der tager dem til sig, fordele hele vejen rundt. Udviklingen drives frem, fordi hvert eneste lille skridt i retning af bedre forbindelser, flere data og smartere analyser giver en konkurrencefordel til dem, der bruger det. Og omvendt, hvis man stiger af, vil man hurtigt få særdeles vanskeligt ved at leve et nogenlunde moderne liv.

Samtidig er det ikke en udvikling, vi bliver påtvunget. Folk ligger i kø hele natten for at få den nyeste iPhone, der kan registrere brugerens gøren og laden i endnu flere detaljer. Jeg er selv storkunde, for jeg vil ikke undvære alle de fordele, jeg får, selv om jeg hader følelsen af, at (inter)nettet omkring mig strammes, hver gang jeg igen afgiver en hel skærmfuld af personlige data til nogen eller noget et sted derude.

Og det er her etikken kommer ind. Vi er nødt til at udvikle og beslutte nogle normer og finde en fælles forståelse for, hvad der er god dataskik, og hvad der er acceptable måder at bruge data og digitale teknologier på. Hvilke rettigheder vil vi ikke give køb på, og hvilke værdier vil vi sikre og beskytte?

Teknologien kommer hurtigere og hurtigere. Digitaliseringen går ikke over, slet ikke. Derfor er vi nødt til at diskutere, hvad vi vil – og ikke vil – med den.

Forrige artikel Når virksomheden ikke længere er rammen om arbejdet Når virksomheden ikke længere er rammen om arbejdet Næste artikel Det ikoniske æble Det ikoniske æble
Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Økonomisk vækst og CO2-reduktioner er ikke modsætninger – tværtimod. Verden har brug for, at det går ekstremt stærkt med omstillingen af energien, transporten, byggeriet, landbruget osv. Derfor skal speederen i bund nu, lyder det fra både ngo'er, McKinsey og World Economic Forum.

Degrowth: En verden uden vækst

Degrowth: En verden uden vækst

Vi har travlt, hvis kloden skal være beboelig i år 2100. Derfor må vi stoppe udvindingen af naturressourcer, stoppe forbruget og stoppe stigningen i BNP. Væksten må aflyses, bremsen skal i bund. Det er ekstremt, men ekstremt nødvendigt, lyder det fra degrowth-bevægelsen og de økologiske økonomer, der står bag dem.

12 teknologier  der kan redde klimaet

12 teknologier der kan redde klimaet

Skal vi redde klimaet gennem grøn vækst, bliver en række nuværende og fremtidige teknologier helt afgørende for, om det lykkes. Her er 12 af dem.

10 veje til en vækstfri verden

10 veje til en vækstfri verden

Det kan ikke lade sig gøre at bremse væksten uden fundamentale ændringer af hele den måde, vi har indrettet vores samfund på, påpeger degrowth-folket.

Ny FN-rapport kræver barsk omstilling af virksomheder

Ny FN-rapport kræver barsk omstilling af virksomheder

Internationale forskere dokumenterer i en ny FN-rapport, at vi er ved at tabe verdensmålene, og foreslår en hurtig, barsk og effektiv genopretningsplan. Det konfronterer virksomheder i hele verden med skelsættende og eksistentielle valg.

Isen sprækker under BNP som mål for fremgang

Isen sprækker under BNP som mål for fremgang

Bruttonationalproduktet er i dag det vigtigste mål for, hvordan det går med økonomien i et land. Men der er voksende bevidsthed om problemerne med at styre efter et mål, som hverken afspejler miljøets tilstand, sociale forhold eller værdien af den hastigt voksende digitale økonomi. Flere steder, herunder i Danmark, arbejdes der på alternative eller supplerende mål.

Stil bedre spørgsmål og bliv en bedre leder

Stil bedre spørgsmål og bliv en bedre leder

De fleste chefer tror, at de har alle svarene. Men de bedste chefer formår at stille spørgsmål, der inspirerer til nytænkning. Her er seks råd til, hvordan du kan stille bedre spørgsmål.  

Gør Danmark til talenternes stormagt

Gør Danmark til talenternes stormagt

KOMMENTAR: Visionen om Danmark som talenternes stormagt er et oplagt og nødvendigt “velfærdsløfte” til næste generation. Det er også en mulighed for at undgå en kompetencenedslidning af fremtidens arbejdskraft og bør være et hovedpunkt i næste regeringsgrundlag.

Modens klimatopmøde anklages for greenwashing

Modens klimatopmøde anklages for greenwashing

I et helt årti har Copenhagen Fashion Summit været modeindustriens eget internationale klimatopmøde. Men det har ikke for alvor gjort tøjbranchen mere bæredygtig, lyder kritikken fra en lang række forskere, som beskylder organisationen for greenwashing. Forskerne ser kun én vej frem: Færre varer af bedre kvalitet.

Venstrefløjen er klar til klimaafgift på tøj

Venstrefløjen er klar til klimaafgift på tøj

En af klodens største klimasyndere er stort set gået under radaren, når politikerne taler grønne afgifter og regulering. Men nu er alle Mette Frederiksens støttepartier klar til at bruge afgifter til at sætte en bremse på tøjforbruget.