Etik er svaret på digitaliseringens dilemmaer

Efter den første begejstring over Google, Facebook, smartphones og selvkørende biler begynder tømmermændene at melde sig. Skandalen med Cambridge Analytica, vores afhængighed af konstant at tjekke mobilen og den voksende frygt for at kunstig intelligens tager magten fra mennesket og minder os om, at teknologien altid har en bagside.

Bag hvert plusord, man kan nævne om digitaliseringens muligheder, gemmer sig et negativt ord, der fortæller om de uheldige bivirkninger og trusler, som teknologien fører med sig.

Sådan er det med al teknologi; den kan bruges til det gode og – sat på spidsen – til det onde. Problemet med de nye teknologier er, at vi stadig har svært ved at overskue, hvad der afgør, om de får den ene eller den anden effekt. Samtidig har vi ikke lovgivning og kulturelle normer på plads, der kan sikre, at ulemperne ikke tager overhånd.

Vi befinder os midt i et techlash, hvor det er gået op for flere, at vi med eksponentielt stigende fart bevæger os mod en teknologisk fremtid, hvor mange grundlæggende menneskelige værdier bliver udfordret.

Det kan blive helt fantastisk eller helt fantastisk uhyggeligt. Og jo kraftigere og bedre teknologien bliver, desto mere vokser udsvingene i begge retninger.

Derfor har vi brug for at udvikle en fælles digital etik, der kan hjælpe os til at træffe de valg, der betyder, at teknologien overvejende bliver en positiv kraft.

MM Special: Essensen om dataetik

Vi forbindes, men mister sammenhængen: Med den digitale teknologi kan vi slippe for industrisamfundets masseproducerede varer og standardiserede tjenester. Systemerne kender hver enkelt af os helt ned i detaljen og kan understøtte os med præcis de løsninger, vi ønsker og har brug for nu og her.

Ironien er imidlertid, at samtidig med at vi bliver intenst forbundet til internettet, mister vi kontakten til hinanden. Sammenhængskraften i samfundet svækkes, for den verden, vi hver især oplever, er ikke den samme. Vi befinder os i hver vores filterboble, vi modtager med stigende præcision netop det, vi plejer at kunne lide, og vi bliver ikke konfronteret med noget, der er anderledes.

Vi har alt til rådighed, men i praksis ser vi kun et nøje udvalgt udsnit af virkeligheden. Det modtager vi til gengæld i solide doser i alle vågne timer som en strøm af beskeder og forstyrrelser. Vi har en mangfoldighed af viden, men vi er alt for distraherede til at koncentrere os om og forstå, hvad det egentlig betyder.

Overvågning kan både beskytte den, der overvåges, og den, der overvåger: Engang var det almindelig god opførsel, at man ikke læste andres breve. Ja, faktisk er det ifølge Grundlovens § 72 strafbart at bryde post- og brevhemmeligheden. I dag scanner Google (og formentlig diverse nationale sikkerhedstjenester) som en selvfølge vores e-mail. Facebook, Twitter og LinkedIn kan følge vores opslag, vores telefoner gemmer samtaler, søgninger og data om, hvor vi har befundet os, og vi har formentligt selv på et eller andet tidspunkt sagt o.k. til det.

Det har sine fordele.

Vi kan ikke forvente, at de systemer, der omgiver og understøtter os, kan komme med nogenlunde intelligente svar på vores behov, hvis ikke de ved noget om os. Logikken er klar. Jo mere maskinen ved, desto mere præcis og smart bliver den. Jo flere data vi har om en by, om borgerne og alt, hvad de foretager sig, desto mere effektivt kan vi målrette ressourcerne på at få alt til at fungere til alles bedste. Jo mere vi ved om patienterne, om de studerende, om de socialt udsatte, om de ansatte, om kunderne osv., desto bedre kan vi hjælpe dem til at opnå netop det, de hver især ønsker eller har behov for.

Indsamling og analyse af data er en magtkamp, hvor den, der ved mest, har magten. Derfor kan man også anlægge det omvendte syn på udviklingen.

Vi står som enkeltpersoner over for techgiganter og instanser, der dybest set ved alt om os selv og alle andre, hvis de vil. Det store overblik og den dybe indsigt gør det muligt at hjælpe dem, der overvåges, men det giver lige så gode muligheder for manipulation og kontrol.

Det er betryggende for mig som borger, at der er overvågning, så forbrydere kan blive fanget og stillet til regnskab. Men kun indtil der er nogen med en anden mening om, hvad der er acceptabelt, som begynder at overvåge og stille mig til regnskab.

Fællesskabet er stærkt og sårbart: Den store computerdrøm er en verden af globalt samarbejde, hvor det er helt naturligt at dele viden og ideer. Der er alt at vinde og meget lidt at tabe, for når man deler bits, kan man give dem væk og stadig beholde dem. Jo flere, der er forbundet, og jo tættere vi er i samspil med hinanden, desto større vækst og værdi skaber vi sammen. Det er et plussums-spil, som styrkes af stadigt bedre og billigere internetforbindelser. Videnskab og innovation blomstrer, det samme gør kunst og kultur.

Men når vi deler i det digitale fællesskab, blotter vi os samtidig for mange andre end vores ’venner’. Når vi viser tillid, åbner vi os for snyltere, der intet giver igen, men blot trækker det ud af systemet, som andre skaber. Vi bliver sårbare over for hackere og for virus, der blot skal have den mindste sprække for at komme ind og brede sig overalt, og som ofte er afhængig af netop den åbenhed og tillid, som fællesskabet udviser.

Jo tættere vi er koblet sammen og koordineret, sådan som alle vores apparater eksempelvis enten er eller er ved at blive det gennem Internet of Things, desto større bliver faren for angreb eller bare systemfejl, der kan skabe enorme ødelæggelser. Det virker som et ret sikkert gæt, at vi i fremtiden kommer til at se meget mere til den slags forstyrrelser og nedbrud.

Samtidig med denne udvikling betyder det forhold, at vi slutter os til hinanden i stadigt større systemer, at afstanden mellem top og bund øges. I et digitalt univers uden afstande flokkes brugerne om de førende udbydere, som alle andre også bruger, og som derfor får enorme gevinster og adgang til mængder af data, der kan sikre dem en endnu stærkere position i en winner-takes-all-økonomi. Næsten som en naturlov synes teknologien at føre os til en verden domineret af ganske få, men gigantiske organisationer.

Algoritmer frisætter og fastholder: Algoritmer er centrale i det digitale samfund, og de bliver naturligvis mere og mere intelligente. På basis af enorme datamængder kan algoritmer diagnosticere sygdomme, påvirke valgkampe, ansætte og fyre folk eller beslutte om en robot eller drone skal affyre et missil.

Ikke alene automatiserer og billiggør algoritmer arbejdsopgaver, som førhen krævede en menneskelig indsats; på flere og flere områder bliver algoritmer endda bedre end mennesket til at forstå en kompleks situation og tage beslutninger ud fra det. De kan vurdere ekstreme mængder af data, og så er algoritmer ’objektive’ i den forstand, at de ikke bliver trætte eller følelsesmæssigt involveret. Ovenikøbet kan algoritmer tage ved lære, opbygge erfaringer og gradvist optimere deres metoder til at omsætte data til brugbare beslutninger med færre fejl.

Men, lærende algoritmer kan også få fikse ideer. Modsat mennesker glemmer algoritmer ikke. De kan ikke tilgive. Tværtimod, hvis de snubler over noget unormalt, kan de være tilbøjelige til at gå i et selvforstærkende feedbackloop. En dårlig kreditvurdering fra en banks algoritme kan føre til dyrere lån og hårdere betingelser, som gør det endnu sværere for låneren at præstere et godt regnskab.

På den måde kan algoritmer være tilbøjelige til at forstærke fortidens mønstre. Der er ikke plads til at slå skæverter. Hvis man afviger – eller engang har afveget – i forhold til det, som algoritmen anser for acceptabelt, bliver man sorteret fra, uden at nogen nødvendigvis ved præcist hvorfor.

Omvendt kan teknologien også frisætte os. Vi slipper for rutinearbejdet, så vi kan koncentrere os om at være menneskelige, empatiske og nyskabende. Men samtidig låser teknologien os, stiller os til ansvar for alt, hvad vi foretager os, og fastholder nuværende magtstrukturer og normer i samfundet. Stillet over for algoritmens konstant analyserende blik lærer vi at disciplinere os selv og holde os på måtten.

Jubi, robotterne tager vores arbejde: Umiddelbart burde vi vel fejre, hver gang robotter og algoritmer overtager opgaver og frisætter os til at koncentrere os om det, kun vi mennesker kan udføre. Men for mange opleves det sådan, at automatiseringen tager arbejdet fra os og dermed gør os overflødige.

Ideelt set er det menneskets opgave at definere, hvad der skal udføres og opnås, og ved at bruge robotter og algoritmer kan man mangedoble sin evne til at skabe det, man vil. Hvis man er en af dem, der benytter sig af robotterne og bestemmer, hvad de skal gøre, er automatisering og kunstig intelligens stærke redskaber til at komme fremad.

Men hvis man f.eks. er en Uber-chauffør, der venter på at få en ordre fra en app på sin smartphone, og dermed er en af dem, der modtager instrukser og kontrolleres og står til regnskab over for et uigennemskueligt computersystem, så er det nærliggende at føle, at maskinerne begynder at bestemme over mennesket.

Det ultimative dilemma er naturligvis, at vi risikerer at gøre teknologien så intelligent og kraftig, at den får ’sin egen’ vilje, og at vi mennesker ikke længere har evnerne til at stoppe den. Der er mange visioner om the singularity, dvs. det punkt, hvor maskinerne et kort øjeblik er jævnbyrdige med mennesker, hvorefter maskinerne flintrer videre i en hurtigere og hurtigere teknologisk evolution, der efterlader os som en slags husdyr på en ny herremands gods.

Det lyder langt ude, men hvor langt?                

Det går ikke over: Hvis den teknologiske udvikling er så farlig, hvorfor gør vi det så? Behøver vi absolut at lave maskiner, der er så smarte, at de truer os som art? Hvorfor skal vi udvide indsamlingen af data ned til det mindste atom? Kan vi ikke bare stoppe udviklingen, når vi kan se, at den fører i retning af et samfund, de færreste af os ønsker?

Held og lykke, siger jeg bare.

Ud over en total nedsmeltning af den eksisterende samfundsorden er det svært at se, hvordan vi kan ændre kurs, eftersom de teknologiske fremskridt netop giver dem, der tager dem til sig, fordele hele vejen rundt. Udviklingen drives frem, fordi hvert eneste lille skridt i retning af bedre forbindelser, flere data og smartere analyser giver en konkurrencefordel til dem, der bruger det. Og omvendt, hvis man stiger af, vil man hurtigt få særdeles vanskeligt ved at leve et nogenlunde moderne liv.

Samtidig er det ikke en udvikling, vi bliver påtvunget. Folk ligger i kø hele natten for at få den nyeste iPhone, der kan registrere brugerens gøren og laden i endnu flere detaljer. Jeg er selv storkunde, for jeg vil ikke undvære alle de fordele, jeg får, selv om jeg hader følelsen af, at (inter)nettet omkring mig strammes, hver gang jeg igen afgiver en hel skærmfuld af personlige data til nogen eller noget et sted derude.

Og det er her etikken kommer ind. Vi er nødt til at udvikle og beslutte nogle normer og finde en fælles forståelse for, hvad der er god dataskik, og hvad der er acceptable måder at bruge data og digitale teknologier på. Hvilke rettigheder vil vi ikke give køb på, og hvilke værdier vil vi sikre og beskytte?

Teknologien kommer hurtigere og hurtigere. Digitaliseringen går ikke over, slet ikke. Derfor er vi nødt til at diskutere, hvad vi vil – og ikke vil – med den.

Forrige artikel Når virksomheden ikke længere er rammen om arbejdet Når virksomheden ikke længere er rammen om arbejdet Næste artikel Det ikoniske æble Det ikoniske æble
22 sundhedsklynger skal hjælpe patienter fra sygehus til kommuner

22 sundhedsklynger skal hjælpe patienter fra sygehus til kommuner

Sygehuse, kommuner og praktiserende læger skal samarbejde mere om patienterne. De har i ti år mødtes i 22 sundhedsklynger, der erbygget op omkring akutsygehuse i hele landet. Ingen har evalueret klyngernes arbejde. Alligevel kan de få en nøglerolle i en kommende reform.

Derfor er min kalender offentlig

Derfor er min kalender offentlig

En åben kalender fremmer gennemsigtighed i hele firmaet, tvinger dig til at tage stilling til hvert punkt i din tidsplan og gør dig lettilgængelig, skriver iværksætter David Kalt.

Kina vil have verdens smarteste byer

Kina vil have verdens smarteste byer

KOMMENTAR: Kina er i fuld gang med at samle alle tænkelige data fra sensorer, kameraer og mobiltelefoner i byrummet sammen og skabe smart cities. Det sker i et tæt samarbejde mellem myndighederne og de store tech-virksomheder.

Klichéen holder. Kultur æder alt andet

Klichéen holder. Kultur æder alt andet

KOMMENTAR: Det er efterhånden bredt anerkendt, at virksomhedskultur er nøglen til at tiltrække og fastholde de rigtige medarbejdere. Her er, hvordan vi arbejder med det i Milestone Systems.

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

I en gennemført digital offentlig administration behøver borgerne ikke at gøre opmærksomme på deres situation for at blive betjent – systemet ved allerede, at der er et behov. Det er filosofien bag det offentlige system i Estland, hvor man også er opmærksomme på risikoen for kafkaske bivirkninger.

Estland, den digitale stat

Estland, den digitale stat

Efter murens fald gik Estland all in på digitalisering. I dag er Estlands offentlige administration en inspiration for andre.
Færøerne – og flere andre lande – har overtaget softwaren bag systemet.

Estland er Europas digitale frontløber

Estland er Europas digitale frontløber

Estland har siden sovjettiden satset hårdt på digital teknologi som vejen til udvikling og vækst. Den offentlige sektors tjenester er blandt de mest avancerede i verden og på mange måder foran de tjenester, vi har i Danmark. Og borgerne har kontrol over egne data – og hvem der tilgår dem.

Færøerne har valgt den estiske model

Færøerne har valgt den estiske model

Da Færøerne i 2015 lavede en digitaliseringsstrategi, valgte de at bruge Estlands X-road som den grundlæggende infrastruktur for udveksling af data i det offentlige. Tendensen peger mod større integration og dataudveksling mellem de nordiske landes systemer.

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Den danske offentlige sektor ligger i den internationale top, hvad digitalisering angår. I de nærmeste år skal tjenesterne forbedres yderligere gennem den såkaldte digitaliseringspagt. Mange af de kommende digitale tilbud svarer til tjenester, som allerede findes i Estland.

Haves: Ny regering. Efterlyses: Digital strategi

Haves: Ny regering. Efterlyses: Digital strategi

KOMMENTAR: Det havde været på tide at få en digitaliseringsminister, der kunne lægge en kurs for et retfærdigt Danmark på den digitale front. Men i mangel af sådan en, så må man håbe, at statsminister Mette Frederiksen har en plan.

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Halvdelen af klodens befolkning er nu på Internettet

Halvdelen af klodens befolkning er nu på Internettet

Microsoft er det mest værdifulde it-selskab. 39 procent af unge amerikanere er ”næsten konstant online”.

Det – og meget mere – kan man læse i den amerikanske investor Mary Meekers nyeste trendanalyse.

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

I sidste måned afviste Facebook at fjerne en falsk video med formanden for Repræsentanternes Hus Nancy Pelosi. Nu spreder endnu en falsk video sig på det sociale medie – denne gang af Facebooks egen stifter Mark Zuckerburg. Men vil de fjerne den?