Etik er svaret på digitaliseringens dilemmaer

Efter den første begejstring over Google, Facebook, smartphones og selvkørende biler begynder tømmermændene at melde sig. Skandalen med Cambridge Analytica, vores afhængighed af konstant at tjekke mobilen og den voksende frygt for at kunstig intelligens tager magten fra mennesket og minder os om, at teknologien altid har en bagside.

Bag hvert plusord, man kan nævne om digitaliseringens muligheder, gemmer sig et negativt ord, der fortæller om de uheldige bivirkninger og trusler, som teknologien fører med sig.

Sådan er det med al teknologi; den kan bruges til det gode og – sat på spidsen – til det onde. Problemet med de nye teknologier er, at vi stadig har svært ved at overskue, hvad der afgør, om de får den ene eller den anden effekt. Samtidig har vi ikke lovgivning og kulturelle normer på plads, der kan sikre, at ulemperne ikke tager overhånd.

Vi befinder os midt i et techlash, hvor det er gået op for flere, at vi med eksponentielt stigende fart bevæger os mod en teknologisk fremtid, hvor mange grundlæggende menneskelige værdier bliver udfordret.

Det kan blive helt fantastisk eller helt fantastisk uhyggeligt. Og jo kraftigere og bedre teknologien bliver, desto mere vokser udsvingene i begge retninger.

Derfor har vi brug for at udvikle en fælles digital etik, der kan hjælpe os til at træffe de valg, der betyder, at teknologien overvejende bliver en positiv kraft.

MM Special: Essensen om dataetik

Vi forbindes, men mister sammenhængen: Med den digitale teknologi kan vi slippe for industrisamfundets masseproducerede varer og standardiserede tjenester. Systemerne kender hver enkelt af os helt ned i detaljen og kan understøtte os med præcis de løsninger, vi ønsker og har brug for nu og her.

Ironien er imidlertid, at samtidig med at vi bliver intenst forbundet til internettet, mister vi kontakten til hinanden. Sammenhængskraften i samfundet svækkes, for den verden, vi hver især oplever, er ikke den samme. Vi befinder os i hver vores filterboble, vi modtager med stigende præcision netop det, vi plejer at kunne lide, og vi bliver ikke konfronteret med noget, der er anderledes.

Vi har alt til rådighed, men i praksis ser vi kun et nøje udvalgt udsnit af virkeligheden. Det modtager vi til gengæld i solide doser i alle vågne timer som en strøm af beskeder og forstyrrelser. Vi har en mangfoldighed af viden, men vi er alt for distraherede til at koncentrere os om og forstå, hvad det egentlig betyder.

Overvågning kan både beskytte den, der overvåges, og den, der overvåger: Engang var det almindelig god opførsel, at man ikke læste andres breve. Ja, faktisk er det ifølge Grundlovens § 72 strafbart at bryde post- og brevhemmeligheden. I dag scanner Google (og formentlig diverse nationale sikkerhedstjenester) som en selvfølge vores e-mail. Facebook, Twitter og LinkedIn kan følge vores opslag, vores telefoner gemmer samtaler, søgninger og data om, hvor vi har befundet os, og vi har formentligt selv på et eller andet tidspunkt sagt o.k. til det.

Det har sine fordele.

Vi kan ikke forvente, at de systemer, der omgiver og understøtter os, kan komme med nogenlunde intelligente svar på vores behov, hvis ikke de ved noget om os. Logikken er klar. Jo mere maskinen ved, desto mere præcis og smart bliver den. Jo flere data vi har om en by, om borgerne og alt, hvad de foretager sig, desto mere effektivt kan vi målrette ressourcerne på at få alt til at fungere til alles bedste. Jo mere vi ved om patienterne, om de studerende, om de socialt udsatte, om de ansatte, om kunderne osv., desto bedre kan vi hjælpe dem til at opnå netop det, de hver især ønsker eller har behov for.

Indsamling og analyse af data er en magtkamp, hvor den, der ved mest, har magten. Derfor kan man også anlægge det omvendte syn på udviklingen.

Vi står som enkeltpersoner over for techgiganter og instanser, der dybest set ved alt om os selv og alle andre, hvis de vil. Det store overblik og den dybe indsigt gør det muligt at hjælpe dem, der overvåges, men det giver lige så gode muligheder for manipulation og kontrol.

Det er betryggende for mig som borger, at der er overvågning, så forbrydere kan blive fanget og stillet til regnskab. Men kun indtil der er nogen med en anden mening om, hvad der er acceptabelt, som begynder at overvåge og stille mig til regnskab.

Fællesskabet er stærkt og sårbart: Den store computerdrøm er en verden af globalt samarbejde, hvor det er helt naturligt at dele viden og ideer. Der er alt at vinde og meget lidt at tabe, for når man deler bits, kan man give dem væk og stadig beholde dem. Jo flere, der er forbundet, og jo tættere vi er i samspil med hinanden, desto større vækst og værdi skaber vi sammen. Det er et plussums-spil, som styrkes af stadigt bedre og billigere internetforbindelser. Videnskab og innovation blomstrer, det samme gør kunst og kultur.

Men når vi deler i det digitale fællesskab, blotter vi os samtidig for mange andre end vores ’venner’. Når vi viser tillid, åbner vi os for snyltere, der intet giver igen, men blot trækker det ud af systemet, som andre skaber. Vi bliver sårbare over for hackere og for virus, der blot skal have den mindste sprække for at komme ind og brede sig overalt, og som ofte er afhængig af netop den åbenhed og tillid, som fællesskabet udviser.

Jo tættere vi er koblet sammen og koordineret, sådan som alle vores apparater eksempelvis enten er eller er ved at blive det gennem Internet of Things, desto større bliver faren for angreb eller bare systemfejl, der kan skabe enorme ødelæggelser. Det virker som et ret sikkert gæt, at vi i fremtiden kommer til at se meget mere til den slags forstyrrelser og nedbrud.

Samtidig med denne udvikling betyder det forhold, at vi slutter os til hinanden i stadigt større systemer, at afstanden mellem top og bund øges. I et digitalt univers uden afstande flokkes brugerne om de førende udbydere, som alle andre også bruger, og som derfor får enorme gevinster og adgang til mængder af data, der kan sikre dem en endnu stærkere position i en winner-takes-all-økonomi. Næsten som en naturlov synes teknologien at føre os til en verden domineret af ganske få, men gigantiske organisationer.

Algoritmer frisætter og fastholder: Algoritmer er centrale i det digitale samfund, og de bliver naturligvis mere og mere intelligente. På basis af enorme datamængder kan algoritmer diagnosticere sygdomme, påvirke valgkampe, ansætte og fyre folk eller beslutte om en robot eller drone skal affyre et missil.

Ikke alene automatiserer og billiggør algoritmer arbejdsopgaver, som førhen krævede en menneskelig indsats; på flere og flere områder bliver algoritmer endda bedre end mennesket til at forstå en kompleks situation og tage beslutninger ud fra det. De kan vurdere ekstreme mængder af data, og så er algoritmer ’objektive’ i den forstand, at de ikke bliver trætte eller følelsesmæssigt involveret. Ovenikøbet kan algoritmer tage ved lære, opbygge erfaringer og gradvist optimere deres metoder til at omsætte data til brugbare beslutninger med færre fejl.

Men, lærende algoritmer kan også få fikse ideer. Modsat mennesker glemmer algoritmer ikke. De kan ikke tilgive. Tværtimod, hvis de snubler over noget unormalt, kan de være tilbøjelige til at gå i et selvforstærkende feedbackloop. En dårlig kreditvurdering fra en banks algoritme kan føre til dyrere lån og hårdere betingelser, som gør det endnu sværere for låneren at præstere et godt regnskab.

På den måde kan algoritmer være tilbøjelige til at forstærke fortidens mønstre. Der er ikke plads til at slå skæverter. Hvis man afviger – eller engang har afveget – i forhold til det, som algoritmen anser for acceptabelt, bliver man sorteret fra, uden at nogen nødvendigvis ved præcist hvorfor.

Omvendt kan teknologien også frisætte os. Vi slipper for rutinearbejdet, så vi kan koncentrere os om at være menneskelige, empatiske og nyskabende. Men samtidig låser teknologien os, stiller os til ansvar for alt, hvad vi foretager os, og fastholder nuværende magtstrukturer og normer i samfundet. Stillet over for algoritmens konstant analyserende blik lærer vi at disciplinere os selv og holde os på måtten.

Jubi, robotterne tager vores arbejde: Umiddelbart burde vi vel fejre, hver gang robotter og algoritmer overtager opgaver og frisætter os til at koncentrere os om det, kun vi mennesker kan udføre. Men for mange opleves det sådan, at automatiseringen tager arbejdet fra os og dermed gør os overflødige.

Ideelt set er det menneskets opgave at definere, hvad der skal udføres og opnås, og ved at bruge robotter og algoritmer kan man mangedoble sin evne til at skabe det, man vil. Hvis man er en af dem, der benytter sig af robotterne og bestemmer, hvad de skal gøre, er automatisering og kunstig intelligens stærke redskaber til at komme fremad.

Men hvis man f.eks. er en Uber-chauffør, der venter på at få en ordre fra en app på sin smartphone, og dermed er en af dem, der modtager instrukser og kontrolleres og står til regnskab over for et uigennemskueligt computersystem, så er det nærliggende at føle, at maskinerne begynder at bestemme over mennesket.

Det ultimative dilemma er naturligvis, at vi risikerer at gøre teknologien så intelligent og kraftig, at den får ’sin egen’ vilje, og at vi mennesker ikke længere har evnerne til at stoppe den. Der er mange visioner om the singularity, dvs. det punkt, hvor maskinerne et kort øjeblik er jævnbyrdige med mennesker, hvorefter maskinerne flintrer videre i en hurtigere og hurtigere teknologisk evolution, der efterlader os som en slags husdyr på en ny herremands gods.

Det lyder langt ude, men hvor langt?                

Det går ikke over: Hvis den teknologiske udvikling er så farlig, hvorfor gør vi det så? Behøver vi absolut at lave maskiner, der er så smarte, at de truer os som art? Hvorfor skal vi udvide indsamlingen af data ned til det mindste atom? Kan vi ikke bare stoppe udviklingen, når vi kan se, at den fører i retning af et samfund, de færreste af os ønsker?

Held og lykke, siger jeg bare.

Ud over en total nedsmeltning af den eksisterende samfundsorden er det svært at se, hvordan vi kan ændre kurs, eftersom de teknologiske fremskridt netop giver dem, der tager dem til sig, fordele hele vejen rundt. Udviklingen drives frem, fordi hvert eneste lille skridt i retning af bedre forbindelser, flere data og smartere analyser giver en konkurrencefordel til dem, der bruger det. Og omvendt, hvis man stiger af, vil man hurtigt få særdeles vanskeligt ved at leve et nogenlunde moderne liv.

Samtidig er det ikke en udvikling, vi bliver påtvunget. Folk ligger i kø hele natten for at få den nyeste iPhone, der kan registrere brugerens gøren og laden i endnu flere detaljer. Jeg er selv storkunde, for jeg vil ikke undvære alle de fordele, jeg får, selv om jeg hader følelsen af, at (inter)nettet omkring mig strammes, hver gang jeg igen afgiver en hel skærmfuld af personlige data til nogen eller noget et sted derude.

Og det er her etikken kommer ind. Vi er nødt til at udvikle og beslutte nogle normer og finde en fælles forståelse for, hvad der er god dataskik, og hvad der er acceptable måder at bruge data og digitale teknologier på. Hvilke rettigheder vil vi ikke give køb på, og hvilke værdier vil vi sikre og beskytte?

Teknologien kommer hurtigere og hurtigere. Digitaliseringen går ikke over, slet ikke. Derfor er vi nødt til at diskutere, hvad vi vil – og ikke vil – med den.

Forrige artikel Når virksomheden ikke længere er rammen om arbejdet Når virksomheden ikke længere er rammen om arbejdet Næste artikel Derfor endte aftale om erhvervsfremme som et smalt forlig Derfor endte aftale om erhvervsfremme som et smalt forlig
Demokratiske virksomheder er som skabt til Generation Z

Demokratiske virksomheder er som skabt til Generation Z

Demokratiske virksomheder er ikke noget nyt fænomen i Danmark. Alligevel aner ingen, hvor udbredte de er. Ny tænketank skal afdække omfanget af virksomhedsformen, der ifølge forskningen er mere stabil og kan skabe højere produktivitet.

Verdens fattige har brug for højteknologi til lavpris

Verdens fattige har brug for højteknologi til lavpris

Danske virksomheder skal tænke på en helt anden måde, hvis de ikke skal tabe konkurrencen om avancerede løsninger på fremtidens globale markeder. Danske løsninger er rettet mod den høje ende af markedet, men en stor del af klodens forbrugere efterspørger teknologi, der kan opfylde deres basale behov til en lav pris.

Teknologi er en gamechanger for verdensmålene

Teknologi er en gamechanger for verdensmålene

Selv klodens fattigste kan få gavn af digital teknologi. I afrikanske flygtningelejre udbetales nødhjælpen som elektroniske penge, og hjælpeorganisationerne deler mobiltelefoner ud. Fremover skal den danske udviklingsbistand have et klarere fokus på at udnytte teknologi. Det kaldes techvelopment.

Regeringen taler med to tunger om europæisk forsvar

Regeringen taler med to tunger om europæisk forsvar

Forsvarsminister Claus Hjort Frederiksen afviser kategorisk, at Danmark støtter fransk-tyske planer om en EU-hær. Men regeringen roser i sin nye udenrigs- og sikkerhedspolitiske strategi øget militært samarbejde i EU og vil have forsvarsforbeholdet afskaffet.

Mobilen er øjenlægens forkontor

Mobilen er øjenlægens forkontor

Den teknologiske hjælp er helt afhængig af at spille sammen med det lokale sundhedsvæsen. Peek Vision har udviklet en app til øjenundersøgelser i udviklingslande ved hjælp af smartphones. Den skal sortere de raske fra, så øjenlægerne bruger tiden på de rigtige patienter.

Dansk startup laver billige høreapparater til verdens fattige

Dansk startup laver billige høreapparater til verdens fattige

Danske høreapparater plejer at være blandt de dyreste og mest avancerede i verden. Startup-virksomheden Audientes satser i stedet på at sælge billige høreapparater til lande, hvor millioner af mennesker ikke har råd til at få afhjulpet deres høretab.

Pisk til 15-årig gjorde Europas menneskeret dynamisk

Pisk til 15-årig gjorde Europas menneskeret dynamisk

ANALYSE: Den omdiskuterede såkaldte ’dynamiske fortolkning’ af menneskeretten har fundet sted så længe, at de fleste har glemt, hvordan den opstod. Mandag Morgens Europaredaktør tager dig fire årtier tilbage til en sag om en 15-årig skoledreng, der blev dømt til korporlig afstraffelse i Storbritannien.

Socialministeriets regnemodeller er ikke retvisende

Socialministeriets regnemodeller er ikke retvisende

KOMMENTAR: Hvis investeringer i sociale indsatser skal give allerstørst gevinst, så er det de yngste børn og tidlig indsats i familierne, der skal satses på. Derfor er det også bekymrende, at netop de investeringer nedtones i Socialstyrelsens nye regnemodel, som kan blive afgørende for, hvor det offentlige fremover lægger pengene.

Kinas rivende udvikling kræver nye svar fra Danmark

Kinas rivende udvikling kræver nye svar fra Danmark

Danmark er nødt til at reagere offensivt på, at Kina lige nu tager stormskridt på den teknologiske front, siger topforskere, der er tilknyttet Akademiet for Tekniske Videnskaber. Vi kan begynde med et opgør med den kollektive blinde vinkel mod Kina, lyder et bud.

Medicinrådet blåstempler ny medicin for millioner

Medicinrådet blåstempler ny medicin for millioner

Efter det første års arbejde har Medicinrådet anbefalet 25 af 35 undersøgte lægemidler som standardbehandling på sygehusene. De 15 af anbefalingerne skaber dog ingen eller kun lille merværdi for patienterne. For "gavmildt" lyder kritikken fra sundhedsøkonom, der efterlyser nyt grundlag for Medicinrådets vurderinger.

Analyse af gener åbner for personlige diagnoser

Analyse af gener åbner for personlige diagnoser

Stærkt specialiserede virksomheder tilbyder nu så omfattende analyser af det enkelte menneskes genom, at de kan sætter navn på de gener, der forårsager bestemte sygdomme. Prisen for analyser af genomet og diagnose svinger mellem 20.000 og 30.000 kr. per patient.

Tysk virksomhed: Skræddersyet medicin er fremtiden

Tysk virksomhed: Skræddersyet medicin er fremtiden

I dag kan ordet cancer være et forvarsel om en tidlig død. Om 20 år vil kun de færreste dø af kræft. Sådan lyder visionen fra en af verdens største farmaceutiske virksomheder, Roche. Gensekventering og big data er nøglen.

Ny analyse: Iværksættere giver erhvervsikonerne baghjul

Ny analyse: Iværksættere giver erhvervsikonerne baghjul

Virksomheder, der er under 20 år gamle, tegner sig for 50 pct. af værdiskabelsen i Danmark, viser ny analyse fra DI, som selv kalder undersøgelsen en mytedræber. Nye virksomheder har mere fleksibilitet og er bedre til at innovere, siger forsker.

Stram så op på etikken

Stram så op på etikken

KOMMENTAR: Danske virksomheder er ikke så hvidskurede, som vi gik og troede. Når nogen præsterer en kynisk forretningsmoral, bryder de tilliden og samfundskontrakten her til lands.

Vi skal have en bedre diskussion om velfærden

Vi skal have en bedre diskussion om velfærden

KOMMENTAR: Vi flytter os ikke fra status quo, hvis vi fortsætter debatten om velfærd med entydigt at fokusere på de penge, vi bruger på “velfærd”, fremfor hvad vi får ud af det.

Er det snart slut med de absurde gyldne håndtryk?

Er det snart slut med de absurde gyldne håndtryk?

ANALYSE: Topchef efter topchef forlader virksomheder med gyldne håndtryk, selv om de er ansvarlige for skandaløs ageren. Google er slået ind på en ny kurs, og det kan der være gode økonomiske grunde til. I Danmark er spørgsmålet, hvordan Danske Bank vil vise, at de har forstået alvoren.

Andelstanken er en spændetrøje for landbrugets grønne omstilling

Andelstanken er en spændetrøje for landbrugets grønne omstilling

ANALYSE: Mens globale frontløbere i fødevareindustrien investerer i udvikling af kunstigt kød og plantebaserede alternativer til produkter fra dyr, tøver Danish Crown og Arla. Det er kun naturligt, når nu ejerne lever af at opdrætte dyr til fødevareproduktion. Men det kan blive et problem.

Sådan knuste 'Tropernes Trump' sandheden i det brasilianske valg

Sådan knuste 'Tropernes Trump' sandheden i det brasilianske valg

KOMMENTAR: Den nyvalgte brasilianske præsident Jair Bolsonaros valgkamp formåede at fabrikere sin egen virkelighed gennem velkoordineret brug af sociale medier til at misinformere offentligheden for at vinde valget - et valg, der blev et eksempel på, hvordan politiske sejre opnås gennem viralitet.

Dansk startup: Lad medarbejderne stille diagnosen i din virksomhed

Dansk startup: Lad medarbejderne stille diagnosen i din virksomhed

Det lyder næsten for letkøbt. Lad medarbejderne stille spørgsmål til hinanden og øg sandsynligheden for din strategi bliver gennemført. Men bag det, der umiddelbart virker banalt, ligger en dyb viden om spørgsmålets natur, som ny virksomhed efter millionindsprøjtning satser på at udbrede.

Til svinekongres med fremmedgjorte landmænd på rente-coke

Til svinekongres med fremmedgjorte landmænd på rente-coke

REPORTAGE: Bæredygtighed skal løfte danske svineproducenter ud af mudderet. Men en dyb afhængighed af lave flexrenter og en voksende fremmedgørelse truer det stolte danske erhverv. ”Landbrugskulturen er død,” mener en svineproducent. Mandag Morgen har været på svinekongres i Herning.

Dansk landbrug melder pas på kødrevolutionen

Dansk landbrug melder pas på kødrevolutionen

Danmarks animalske fødevareindustri er produktiv, men den er ikke bæredygtig i klimamæssig forstand. Og spørgsmålet er, hvor længe den er det i økonomisk forstand. En gigant som Danish Crown risikerer at misse kapløbet om fremtidens fødevarer.

Laboratorie-bøffer har kurs mod verdens kølediske

Laboratorie-bøffer har kurs mod verdens kølediske

Hollænderen Mark Post præsenterede i 2013 verdens første laboratoriefremstillede hakkebøf. Nu har store tyske og schweiziske koncerner investeret godt 55 mio. kr. i selskabet Mosa Meat, der i 2021 sender de første reagensglasbøffer i handlen.

Hvad skal landbruget nu leve af?

Hvad skal landbruget nu leve af?

Klimaforandringerne truer en række erhverv på deres eksistens, bl.a. hele kødindustrien. Det kan tvinge dansk landbrug til at nytænke, hvad det skal leve af i fremtiden. Danish Crown har taget udfordringen op og kan blive rollemodel.

Kommunerne råder over 3.500 sengepladser til syge

Kommunerne råder over 3.500 sengepladser til syge

Syge danskere ender stadig oftere i en kommunal sygeseng. Faktisk råder landets borgmestre nu over flere sengepladser, end der står på samtlige sygehuse i en typisk dansk region. For en del af patienterne betyder det brugerbetaling og dårligere kontrol med kvaliteten af behandlingen. 

Topmødet for dem der tror på eksponentielle teknologier

Topmødet for dem der tror på eksponentielle teknologier

REPORTAGE: Ved Singularity University Summit i Stockholm i sidste uge blev deltagerne bombarderet med præsentationer om de nyeste teknologier, og hvordan de radikalt vil forandre tilværelsen på kloden – og i rummet – lige om lidt. Men der var også plads til indlæg og diskussion om de sociale og politiske konsekvenser.