Kunstig intelligens – dommedag eller Safe AI nu?

Hvis ikke Danmark skal ende som et frilandsmuseum af i går, skal der investeres massivt i forskning i AI. Ellers ryger de danske toptalenter til it-giganterne, mens Kina kommer til at udkonkurrere os.

MM Special: Kunstig intelligens er den nye elektricitet

Af Lars Kai Hansen, professor, DTU Compute

En selvkørende Tesla crasher og dræber føreren – den amerikanske færdselsstyrelse er i gang med at undersøge hændelsesforløbet.

Den kendte fysiker Stephen Hawking blev i 2014 interviewet af BBC og fortalte om sine bekymringer for menneskets fremtid med kunstig intelligens. Hawking var nervøs for, at AI kunne udvikle generel intelligens, bare meget dybere, hurtigere og uden værdier. Resultatet kunne blive en marginaliseret menneskehed – udkonkurreret og irrelevant.

Alexa, Amazons kunstigt intelligente assistent, er programmeret til at kunne foretage indkøb og udføre servicer for sin ejer. Et amerikansk par står foran Alexa og fører en personlig samtale; Alexa misforstår situationen, optager samtalen og sender udskriften i en mail til en af deres venner.  Samme Alexa er kendt for at kunne begynde at grine på mærkelige tidspunkter og jage en skræk i livet på sine ejere.

De tre eksempler sammenfatter på mange måder den situation, vi som individer, borgere og samfund står midt i med kunstig intelligens: Er AI en livsfarlig flirt med dødbringende våben eller simpelthen bare til grin?

Manden bag Tesla, entreprenøren Elon Musk, har udtalt, at AI er den største eksistentielle trussel mod mennesket. Bekymringerne har deres udgangspunkt i bøger skrevet af Ray Kurzweil, grundlæggeren af Singularity-bevægelsen, og analyser af Nick Bostrøm, filosoffen, der leder Oxfords Future of Humanity Institute.

Giganterne omfavner AI

Filosofferne er bekymrede, mens andre skaber imperier baseret på kunstig intelligens. Googles CEO, Sundar Pichai, har f.eks. sagt til CNBC:

“AI er en af de vigtigste ting, menneskeheden arbejder på. Det er mere vidtrækkende end, hvad ved jeg, elektricitet eller ild.”

Google har erklæret sig ’AI first’ og har omdøbt sin berømte forskningsafdeling til Google AI. Facebook har reorganiseret sin forskning i og udvikling af AI her i 2018 som opfølgning på Zuckerbergs vision fra 2016, hvor han forudså, at AI ville redde liv ved at opdage sygdomme tidligere, udvikle mere sikker transport og forbedre forståelsen af klimaets udvikling.

“Vi skal ikke frygte AI. I stedet skal vi håbe på alle de fantastiske ting, som AI vil kunne gøre i verden.”

I det centralt styrede kinesiske samfund er der heller ingen tvivl om, at AI er vejen frem, og man har igangsat en omfattende 2030-plan, der skal lede til en global førerposition for kinesisk AI. Den kinesiske version af AI får stor opmærksomhed, dels på grund af den enorme skala, dels på grund af de rapporterede angreb på privatlivets fred og udstrakte eksperimenter med social engineering.

I den vestlige offentlighed er Facebook i alvorlige problemer. Den er gal med håndteringen af brugernes data. Zuckerberg har sværget foran den amerikanske kongres, at man ikke sælger brugernes data. Nu viser det sig, at man tilsyneladende har givet dem væk. Tidligere har et af Facebooks eksperimenter med brugernes humør været stærkt kritiseret for manglende etisk evaluering.

Amazon og Google er nu ikke meget bedre, men har måske bare været heldigere end Facebook og har bedre kunnet holde sig under radaren. Google har dog mærket det øgede fokus på etik og har formuleret et nyt etisk kodeks, der blev offentliggjort for nogle uger siden.

Dommedag lurer forude

Situationen ser alvorlig ud. Vi har på den ene side den enorme opbygning af AI-kompetencer i de amerikanske it-giganter. De er så dygtige til at trække værdi ud af brugernes data, at de kan købe sig til de bedste AI-talenter.

På den anden side har vi en enorm opbygning af AI-ressourcer i Kina, der i hvert fald på overfladen ser ud til at bygge på værdier, der sætter systemet langt over individet. Kort sagt: Talenterne ryger til it-giganterne, og Kina kommer til at udkonkurrere os.

Hvad er ’Safe AI’?

Men dommedag er ikke indtrådt endnu, og vi kan stadig nå at afværge den. Der ligger en kæmpe mulighed for Danmark, Norden og Europa. Lad os træde i karakter, udnytte momentet og investere stort i udvikling af Safe AI, som kollegaer på DTU Compute og jeg foreslog i en kronik i Børsen for nylig. Den europæiske vinkel er yderligere beskrevet i det stort anlagte initiativ ELLIS med nordiske og europæiske forskere. Ideen i ELLIS er at skabe en række europæiske forskningsmiljøer, der kan fastholde talenter og skabe grundlag for AI-innovation baseret på europæiske værdier.

Som Lars Frelle-Petersen fra Dansk Industri forudser vi en enorm efterspørgsel efter samfundsmæssigt ansvarlige løsninger. En særlig dansk, nordisk og europæisk model inden for kunstig intelligens vil have fokus på demokratiske værdier. Der er grund til at være optimist. Nye privacy-forskningsresultater gør det praktisk muligt at skabe kunstig intelligens, der både virker og kan holde på en hemmelighed! AI-teknologi skal være åben, så alle kan anvende den og evaluere den kritisk. Dermed kan Safe AI bidrage til at genskabe magtbalancen mellem it-virksomheder og brugere. Tilliden til det digitale vil kunne genetableres med klare regler for databeskyttelse, både på nettet og i det offentlige.

Stor rift efter talenter

Men vi er også nødt til at sikre, at AI-toptalenterne finder det spændende at arbejde i Europa. Hvis vi definerer et AI-toptalent som en forsker, der har fået sine ideer optaget på en af de store AI-konferencer, ja, så er der under 50 toptalenter i Danmark. Efterspørgslen på disse talenter er meget større end kapaciteten.

Her på DTU Compute er der hver eneste dag firmaer og organisationer, der ringer, skriver eller banker på min dør for at få hjælp til AI. Mine kollegaer er i samme situation – efterspørgslen er meget, meget større, end vi kan efterkomme på danske universiteter.

Hvis ikke Danmark skal blive et frilandsmuseum, hvor man kan underholde sig med at studere verden fra før, der kom AI, så er vi er nødt til at gøre noget ved det. Det kunne være at udbygge de danske og europæiske AI-forskningsmiljøer med et ELLIS-center. Et dansk eller nordisk ELLIS-center kan blive en motorvej fra frontforskningen til samfundet og sikre, at etablerede virksomheder, startups, organisationer, det offentlige og helt menige borgere får adgang til de nyeste metoder fra det globale udviklingsmiljø.

Storebæltsbroen kostede i sin tid cirka én million kr. per meter, i alt godt 20 milliarder. Vi burde investere et tilsvarende beløb på at sikre fremtiden med ’Safe AI – Made in Denmark’.

Forrige artikel Hildebrandt: Ikkebæredygtig adfærd er taberadfærd Hildebrandt: Ikkebæredygtig adfærd er taberadfærd Næste artikel Jagten på talenter kræver indsigt i din virksomheds DNA Jagten på talenter kræver indsigt i din virksomheds DNA
Hvordan skal vi forstå Viktor Orbán og hans ligesindede?

Hvordan skal vi forstå Viktor Orbán og hans ligesindede?

POLITIK OG VELFÆRD Polen og Ungarn er EU’s problembørn: De respekterer ikke basale demokratiske rettigheder, og knægter den frie presse og domstolene. Senest har de to lande nedlagt veto mod det samlede EU-budget og coronahjælpepakken. Men hvordan ser konflikten ud set fra Orbáns Ungarn? Er der noget, vi har misforstået i Vesten? 

Deep tech er fremtidens sammensmeltning af teknologier

Deep tech er fremtidens sammensmeltning af teknologier

DIGITAL OMSTILLING Der kommer en tid, hvor digitalisering ikke længere driver den teknologiske udvikling. Fremtidens løsninger vil være digitale – men samtidig en blanding af mange nye avancerede teknologier og videnskaber. Og måden, de udvikles på, vil inddrage langt flere og mere forskelligartede aktører.

ICDK: High tech byfarme skal forny Sydkoreas landbrug

ICDK: High tech byfarme skal forny Sydkoreas landbrug

GRØN OMSTILLING Den rekordhurtige økonomiske udvikling, som Sydkorea har gennemlevet de seneste årtier, har sat sit præg på alle aspekter af hverdagen. En af de sektorer, der har oplevet den største forandring, er landbruget og fødevareproduktionen, skriver Innovation Centre Denmark fra Seoul. 

Missioner er ledelsesbrændstof til tiden

Missioner er ledelsesbrændstof til tiden

LEDELSE Missioner kan hjælpe ledere og medarbejdere med at navigere efter langsigtede mål og udvikle forretningen i en tid, hvor sigtbarheden for mange organisationer er stærkt reduceret, skriver Christian Bason.

Søren Henriksen anbefaler

Søren Henriksen anbefaler

KULTURANBEFALING KMD's Søren Henriksen giver et indblik i tech-entusiastens kulturforbrug. Og så er han fascineret af renæssancemenneskets dyder.

Det er hele systemet, den er gal med

Det er hele systemet, den er gal med

POLITIK OG VELFÆRD Når man skal løse samfundets mest genstridige problemer, kan det hjælpe at træde et skridt tilbage og forsøge at forstå hele det system, som problemet er opstået i. Men hvordan forandrer man et helt system? Det skal et stort nyt projekt fra Rockwoolfonden undersøge.

Sociale detektiver finder udsatte kvinders motivation

Sociale detektiver finder udsatte kvinders motivation

POLITIK OG VELFÆRD Radikalt nybrud i tilgangen til kvinder, der får fjernet deres barn ved fødslen, reducerer antallet af tvangsfjernelser. ”Alt for ofte definerer vi kvinderne gennem deres problemer og ser dem ikke som borgere eller individer,” siger Sophie Humphrey, kvinden bag den britiske succeshistorie.

På Næstved Rådhus gentænker direktøren hele systemet

På Næstved Rådhus gentænker direktøren hele systemet

POLITIK OG VELFÆRD Over hele landet bakser kommuner med sociale udfordringer, som kører i ring. I Næstved gør kommunaldirektør Rie Perry klar til at tune hele sin organisation for at bryde det frustrerende mønster. I samarbejde med medarbejdere vil hun udvikle en praksis, der sætter borgeren og ikke borgerens problem i centrum.

Fonde vil ikke længere finansiere et defekt system

Fonde vil ikke længere finansiere et defekt system

POLITIK OG VELFÆRD Trods mange års fokus er det svært at rykke udsatte borgere. Organisationer og flere fonde vil derfor ikke blot finansiere sociale projekter – de vil også rette op på de fejl i systemet, der er med til at fastholde borgere i udsatte positioner.

Drejebog for en grøn fremtid

Drejebog for en grøn fremtid

GRØN OMSTILLING Danmark har alle forudsætninger for at blive rollemodel for bæredygtig omstilling. Men der mangler en fælles fortælling, der kan binde de mange gode aktiviteter og strategier sammen. Et nyt ambitiøst projekt, ledet af tænketanken Sustainia, skal skabe et samlingspunkt, som viser verden, at klimakrisen er en mulighed for udvikling.

Tema: Demokrati og borgerrettigheder under corona

Tema: Demokrati og borgerrettigheder under corona

Når de gule bjælker blinker og røgen står ud af nyhedsredaktørernes tastaturer, er der ekstra grund til at stoppe op og spørge, hvad det egentlig er for dagsordner, der er i spil neden under alle mellemregningerne.

I disse uger kan det næsten ikke blive større: Tilliden til samfundets institutioner. Respekt for demokratiet. Og vores samfunds resiliens og danskernes evne til at komme styrket og samlet gennem en krise.

Vi har samlet en stribe artikler og debatindlæg fra Mandag Morgen, der gør dig klogere på netop de store spørgsmål.

Farvel, Trump – nu er EU's demokrati på spil

Farvel, Trump – nu er EU's demokrati på spil

EU Kampen om demokratiet i EU går under radaren for de fleste, men der er afgørende ting på spil. I længden kan EU ikke acceptere at finansiere korruption og falske nyheder i Ungarn og Polen.

Hun skal skabe tillid

Hun skal skabe tillid

LEDELSE Nu var der endelig ved at være skabt ro på bassinkanten. Men så blussede balladen op igen. Derfor skal Merete Riisager få genskabt tilliden hurtigst muligt.

Regeringen spiller en grøn defensiv

Regeringen spiller en grøn defensiv

GRØN OMSTILLING Udspillet til en grøn skattereform viser med stadig større tydelighed en regering, der i klimapolitikken lytter mere til traditionalisterne i fagbevægelsen end til erhvervslivets grønne frontløbere. Måske kommer der slet ikke noget udspil til CO2-afgift i denne regeringsperiode. 

EU's ombudsmand: Kommissionen har ikke styr på interessekonflikter hos sine rådgivere

EU's ombudsmand: Kommissionen har ikke styr på interessekonflikter hos sine rådgivere

EU bør sikre sig langt bedre mod interessekonflikter, skriver EU’s ombudsmand i en afgørelse på en klage over valget af Blackrock som rådgiver om bæredygtig finans. Verdens største kapitalforvalter har indlysende egne interesser på spil i det område, som den nu skal rådgive kommissionen om. Men Kommissionens retningslinjer forhindrer i dag ikke, at Blackrock kan gå direkte fra lobbyist til rådgiver.  

Pandemi-udbrændthed og hvad du kan gøre ved det

Pandemi-udbrændthed og hvad du kan gøre ved det

LEDELSE Ledere prøver at støtte deres medarbejdere med alt fra overraskende fridage til 30 timers-uger under pandemien. Nogle gange handler det bare om at spørge ”Hvordan har du det, helt oprigtigt?”

Veganerpartiet ønsker et opgør med den menneskelige kødæder

Veganerpartiet ønsker et opgør med den menneskelige kødæder

GRØN OMSTILLING Hvis det nyligt opstillingsberettigede Veganerpartiet kommer til magten i morgen, bliver Danmark over 200 millioner individer fattigere. Partiets mærkesag er at lukke det konventionelle dyrelandbrug, servere bønnepostej for leverpostejsdanskerne og sætte naturen og dyrene i centrum – på lige fod med mennesket. For nogle et skrækscenarie. For Veganerpartiets forperson Lisel Vad Olsson det eneste scenarie for et medfølende og grønt land, som kan tage kampen op med klimakrise og døende økosystemer.

Verdens rige lande hamstrer coronavacciner

Verdens rige lande hamstrer coronavacciner

POLITIK OG VELFÆRD Allerede før den første coronavaccine har ramt markedet, er kampen om doserne i fuld gang. Et studie fra Duke University viser, at USA og EU har sat sig hårdt på den forventede produktion, skarpt efterfulgt af Indien, hvilket kan betyde færre og senere vacciner til milliarder af mennesker i andre og mindre velstående lande.

Grøn omstilling vil styrke EU på verdensscenen

Grøn omstilling vil styrke EU på verdensscenen

GRØN OMSTILLING Vedvarende energi er ikke kun godt for klodens klima. Det er også en nødvendig vej for Europa til regulær selvstændighed i forhold til USA og Rusland. Der kan også være sikkerhedsmæssige risici ved en udvikling, der svækker oliestater som Rusland og Saudi-Arabien og efterlader afrikanske lande med fossil energi. 

USA har stoppet russisk-europæisk energiprojekt til 75 milliarder

USA har stoppet russisk-europæisk energiprojekt til 75 milliarder

GRØN OMSTILLING Amerikanske politikere har truet europæiske virksomheder til at stoppe byggeriet af gasrørledningen Nord Stream 2. Sagen er et voldsomt geopolitisk sammenstød mellem USA på det ene side og Tyskland, Rusland og EU på den anden side om Europas energiforsyning.

Nye energikilder forskyder verdens magtbalancer

Nye energikilder forskyder verdens magtbalancer

GRØN OMSTILLING USA er blevet selvforsynende med olie. Dét faktum kombineret med den accelererede grønne omstilling betyder, at de gamle oliegiganter som Rusland og Saudi-Arabien mister indflydelse, mens Kina og andre lande, der satser på rene energiteknologier, styrkes.

Koks i regeringens maskinrum

Koks i regeringens maskinrum

LEDELSE Minksagen kommer ikke alene til at trække dybe politiske spor. Det må også blive en anledning til et kritisk eftersyn af ministeriernes topledelser. Det er ikke kun et Fødevareministerium og en fødevareminister, der har et problem.

Velkommen til skandaleministeriet

Velkommen til skandaleministeriet

LEDELSE Rasmus Prehn overtager et ministerium, hvor den tidligere departementscchef har beklaget fejl i ministerbetjeningen. Det er ikke første gang, Fødevareministeriets sagsbehandling halter efter almindelige forvaltningsretlige standarder. Rasmus Prehn skal sørge for, at det bliver den sidste gang.

Kent Damsgaard anbefaler

Kent Damsgaard anbefaler

KULTURANBEFALING Corona kan heldigvis ikke aflyse efterårets flotte farver. Ny administrerende direktør i Forsikring & Pension, Kent Damsgaard, mærker årstiden og anbefaler filmklassiker, der i den grad tåler et gensyn – også sammen med teenagebørnene.

Macron-doktrinen: Europa skal samle koalitioner af villige

Macron-doktrinen: Europa skal samle koalitioner af villige

POLITIK OG VELFÆRD Frankrigs præsident og Tysklands kansler vil øge EU’s autonomi over for USA og Kina. EU skal stille sig i spidsen for globale koalitioner om sundhed, terror, menneskerettigheder, sådan som man har gjort det på klimaområdet.

Den næste industrielle revolution er biologisk

Den næste industrielle revolution er biologisk

DIGITAL OMSTILLING Industrialiseringen bygger på ingeniørkunst. De teknologier, vi har brugt til fremstilling, har været præget af mekanik og kemi – og drevet af fossile brændsler. Men fremtidens industriproduktion kan for en stor dels vedkommende blive baseret på et helt andet teknologisk paradigme; på biologi.

Innovation Centre Denmark: Indien vil være førende på vacciner

Innovation Centre Denmark: Indien vil være førende på vacciner

KOMMENTAR Indien har været hårdt ramt af pandemien, men indsatsen for at bekæmpe covid-19 har også udviklet det indiske sundhedssystem, forskningssystem og den medicinske industri med ekspresfart, skriver det danske innovationscenter i Indien.

Hyldest til forstyrrelsen

Hyldest til forstyrrelsen

LEDELSE Prisen for hjemmearbejdets uforstyrrede fokus er mindre innovation og færre løbende småjusteringer af mål, strategier og processer. Coronakrisen har understreget, at en vigtig ledelsesopgave er blot at være til stede og “åben for forstyrrelse”, skriver Mads Thimmer.

Eksperter: Økonomisk genopretning uden grøn slagkraft

Eksperter: Økonomisk genopretning uden grøn slagkraft

GRØN OMSTILLING Regeringens økonomiske genstart af Danmark har indtil videre ikke formået at gribe en række grønne muligheder. Sådan lyder kritikken fra en lang række eksperter og DI, som opfordrer regeringen til at udnytte hjælpepakkernes grønne potentialer.

Nina Smith: Kom med alle jeres gode idéer

Nina Smith: Kom med alle jeres gode idéer

POLITIK OG VELFÆRD Som ny kommissionsformand får økonomiprofessor Nina Smith et stort ansvar for at forme fremtidens Danmark med en ny generation af reformer, så flere borgere på kanten af arbejdsmarkedet kommer i job. I et interview med Mandag Morgen løfter hun sløret for, hvordan hun vil forberede reformerne. Det danske uddannelseslandskab kan stå over for store forandringer.

Fra dimittend til direktør

Fra dimittend til direktør

POLITIK OG VELFÆRD Den tårnhøje ledighed blandt dimittender får universitet, jobcenter og erhvervskontorer til at samarbejde om at finde job til de unge. Nu skal dimittenderne også selv tænke på jobmuligheder i små og mellemstore virksomheder – eller starte deres egen virksomhed.

Der er brug for en vejviser i junglen af efteruddannelser

Der er brug for en vejviser i junglen af efteruddannelser

POLITIK OG VELFÆRD Man kan få fuld løn under et kursus, men mulighederne bliver ikke brugt. Ekspert efterlyser en personlig uddannelseskonto og et farvel til et uoverskueligt system af efteruddannelser. Jysk kommune bryder fødekæde fra fravær i folkeskolen til et liv med ufaglærte job.

Frivillige hjælper udsatte unge ud på karrieresporet

Frivillige hjælper udsatte unge ud på karrieresporet

POLITIK OG VELFÆRD Over 600 drenge fra udsatte boligområder har etableret knap 70 mikrovirksomheder i samarbejde med erhvervsfolk og andre frivillige i løbet af ti år. Skoledirektør opfordrer til at skrue ned for skoler og i stedet flytte undervisning ud, hvor borgerne er, for at få flere til at tage en uddannelse. Halvdelen af hans 3.000 kursister bliver undervist andre steder end på skolen. Men incitamenterne halter.

Netværk erstatter isolation

Netværk erstatter isolation

POLITIK OG VELFÆRD Mange års en-til-en-møder mellem jobcentre og kvinder med en ikkevestlig baggrund har ikke fået kvinderne i job eller uddannelse. Nu samler jobcentret i Svendborg kvinder i ti-personersgrupper, hvor de kan støtte hinanden. De har fejret den første mønsterbryder, der har fået et arbejde.

Regeringens nye nødvendighedens politik giver bagslag

Regeringens nye nødvendighedens politik giver bagslag

POLITIK OG VELFÆRD Minksagen har givet en gedigen forskrækkelse til en regering, der har været fristet til at lede enerådigt. Når presset øges på borgerens rettigheder, skal den demokratiske legitimitet styrkes. Den balance er tippet for regeringen, mener eksperter. 

Coronakrisen sætter fart på it-investeringer

Coronakrisen sætter fart på it-investeringer

DIGITAL OMSTILLING Under finanskrisen faldt virksomhedernes it-investeringer, men effekten af coronakrisen er en ganske anden. Trods forventet negativt BNP på næsten fire procent i 2020 forventer danske virksomheder at investere mere end 70 milliarder kroner i it i 2020, viser en rundspørge foretaget af DI.

Set, læst og hørt: Rasmus Brandt Lassen

Set, læst og hørt: Rasmus Brandt Lassen

LEDELSE Bygningsstyrelsens direktør har set, hvor vigtigt et tætnet vandrør kan være for det amerikanske valg. Og så mener han, at en svensk professor burde komme på ungdomsuddannelsernes pensum.

Panikminister Frederiksen

Panikminister Frederiksen

LEDELSE Mette Frederiksen gør en dyd ud af sit politiske lederskab. Men handlekraften stiller særlige krav til både statsministeren og hendes øverste embedsfolk. Ellers ender det med panikløsninger.