Kunstig intelligens – dommedag eller Safe AI nu?

Hvis ikke Danmark skal ende som et frilandsmuseum af i går, skal der investeres massivt i forskning i AI. Ellers ryger de danske toptalenter til it-giganterne, mens Kina kommer til at udkonkurrere os.

MM Special: Kunstig intelligens er den nye elektricitet

Af Lars Kai Hansen, professor, DTU Compute

En selvkørende Tesla crasher og dræber føreren – den amerikanske færdselsstyrelse er i gang med at undersøge hændelsesforløbet.

Den kendte fysiker Stephen Hawking blev i 2014 interviewet af BBC og fortalte om sine bekymringer for menneskets fremtid med kunstig intelligens. Hawking var nervøs for, at AI kunne udvikle generel intelligens, bare meget dybere, hurtigere og uden værdier. Resultatet kunne blive en marginaliseret menneskehed – udkonkurreret og irrelevant.

Alexa, Amazons kunstigt intelligente assistent, er programmeret til at kunne foretage indkøb og udføre servicer for sin ejer. Et amerikansk par står foran Alexa og fører en personlig samtale; Alexa misforstår situationen, optager samtalen og sender udskriften i en mail til en af deres venner.  Samme Alexa er kendt for at kunne begynde at grine på mærkelige tidspunkter og jage en skræk i livet på sine ejere.

De tre eksempler sammenfatter på mange måder den situation, vi som individer, borgere og samfund står midt i med kunstig intelligens: Er AI en livsfarlig flirt med dødbringende våben eller simpelthen bare til grin?

Manden bag Tesla, entreprenøren Elon Musk, har udtalt, at AI er den største eksistentielle trussel mod mennesket. Bekymringerne har deres udgangspunkt i bøger skrevet af Ray Kurzweil, grundlæggeren af Singularity-bevægelsen, og analyser af Nick Bostrøm, filosoffen, der leder Oxfords Future of Humanity Institute.

Giganterne omfavner AI

Filosofferne er bekymrede, mens andre skaber imperier baseret på kunstig intelligens. Googles CEO, Sundar Pichai, har f.eks. sagt til CNBC:

“AI er en af de vigtigste ting, menneskeheden arbejder på. Det er mere vidtrækkende end, hvad ved jeg, elektricitet eller ild.”

Google har erklæret sig ’AI first’ og har omdøbt sin berømte forskningsafdeling til Google AI. Facebook har reorganiseret sin forskning i og udvikling af AI her i 2018 som opfølgning på Zuckerbergs vision fra 2016, hvor han forudså, at AI ville redde liv ved at opdage sygdomme tidligere, udvikle mere sikker transport og forbedre forståelsen af klimaets udvikling.

“Vi skal ikke frygte AI. I stedet skal vi håbe på alle de fantastiske ting, som AI vil kunne gøre i verden.”

I det centralt styrede kinesiske samfund er der heller ingen tvivl om, at AI er vejen frem, og man har igangsat en omfattende 2030-plan, der skal lede til en global førerposition for kinesisk AI. Den kinesiske version af AI får stor opmærksomhed, dels på grund af den enorme skala, dels på grund af de rapporterede angreb på privatlivets fred og udstrakte eksperimenter med social engineering.

I den vestlige offentlighed er Facebook i alvorlige problemer. Den er gal med håndteringen af brugernes data. Zuckerberg har sværget foran den amerikanske kongres, at man ikke sælger brugernes data. Nu viser det sig, at man tilsyneladende har givet dem væk. Tidligere har et af Facebooks eksperimenter med brugernes humør været stærkt kritiseret for manglende etisk evaluering.

Amazon og Google er nu ikke meget bedre, men har måske bare været heldigere end Facebook og har bedre kunnet holde sig under radaren. Google har dog mærket det øgede fokus på etik og har formuleret et nyt etisk kodeks, der blev offentliggjort for nogle uger siden.

Dommedag lurer forude

Situationen ser alvorlig ud. Vi har på den ene side den enorme opbygning af AI-kompetencer i de amerikanske it-giganter. De er så dygtige til at trække værdi ud af brugernes data, at de kan købe sig til de bedste AI-talenter.

På den anden side har vi en enorm opbygning af AI-ressourcer i Kina, der i hvert fald på overfladen ser ud til at bygge på værdier, der sætter systemet langt over individet. Kort sagt: Talenterne ryger til it-giganterne, og Kina kommer til at udkonkurrere os.

Hvad er ’Safe AI’?

Men dommedag er ikke indtrådt endnu, og vi kan stadig nå at afværge den. Der ligger en kæmpe mulighed for Danmark, Norden og Europa. Lad os træde i karakter, udnytte momentet og investere stort i udvikling af Safe AI, som kollegaer på DTU Compute og jeg foreslog i en kronik i Børsen for nylig. Den europæiske vinkel er yderligere beskrevet i det stort anlagte initiativ ELLIS med nordiske og europæiske forskere. Ideen i ELLIS er at skabe en række europæiske forskningsmiljøer, der kan fastholde talenter og skabe grundlag for AI-innovation baseret på europæiske værdier.

Som Lars Frelle-Petersen fra Dansk Industri forudser vi en enorm efterspørgsel efter samfundsmæssigt ansvarlige løsninger. En særlig dansk, nordisk og europæisk model inden for kunstig intelligens vil have fokus på demokratiske værdier. Der er grund til at være optimist. Nye privacy-forskningsresultater gør det praktisk muligt at skabe kunstig intelligens, der både virker og kan holde på en hemmelighed! AI-teknologi skal være åben, så alle kan anvende den og evaluere den kritisk. Dermed kan Safe AI bidrage til at genskabe magtbalancen mellem it-virksomheder og brugere. Tilliden til det digitale vil kunne genetableres med klare regler for databeskyttelse, både på nettet og i det offentlige.

Stor rift efter talenter

Men vi er også nødt til at sikre, at AI-toptalenterne finder det spændende at arbejde i Europa. Hvis vi definerer et AI-toptalent som en forsker, der har fået sine ideer optaget på en af de store AI-konferencer, ja, så er der under 50 toptalenter i Danmark. Efterspørgslen på disse talenter er meget større end kapaciteten.

Her på DTU Compute er der hver eneste dag firmaer og organisationer, der ringer, skriver eller banker på min dør for at få hjælp til AI. Mine kollegaer er i samme situation – efterspørgslen er meget, meget større, end vi kan efterkomme på danske universiteter.

Hvis ikke Danmark skal blive et frilandsmuseum, hvor man kan underholde sig med at studere verden fra før, der kom AI, så er vi er nødt til at gøre noget ved det. Det kunne være at udbygge de danske og europæiske AI-forskningsmiljøer med et ELLIS-center. Et dansk eller nordisk ELLIS-center kan blive en motorvej fra frontforskningen til samfundet og sikre, at etablerede virksomheder, startups, organisationer, det offentlige og helt menige borgere får adgang til de nyeste metoder fra det globale udviklingsmiljø.

Storebæltsbroen kostede i sin tid cirka én million kr. per meter, i alt godt 20 milliarder. Vi burde investere et tilsvarende beløb på at sikre fremtiden med ’Safe AI – Made in Denmark’.

Forrige artikel Fodbold og hundeliv på brasiliansk Fodbold og hundeliv på brasiliansk Næste artikel Sydkorea – fremtidens globale teknologicentrum Sydkorea – fremtidens globale teknologicentrum
22 sundhedsklynger skal hjælpe patienter fra sygehus til kommuner

22 sundhedsklynger skal hjælpe patienter fra sygehus til kommuner

Sygehuse, kommuner og praktiserende læger skal samarbejde mere om patienterne. De har i ti år mødtes i 22 sundhedsklynger, der erbygget op omkring akutsygehuse i hele landet. Ingen har evalueret klyngernes arbejde. Alligevel kan de få en nøglerolle i en kommende reform.

Derfor er min kalender offentlig

Derfor er min kalender offentlig

En åben kalender fremmer gennemsigtighed i hele firmaet, tvinger dig til at tage stilling til hvert punkt i din tidsplan og gør dig lettilgængelig, skriver iværksætter David Kalt.

Kina vil have verdens smarteste byer

Kina vil have verdens smarteste byer

KOMMENTAR: Kina er i fuld gang med at samle alle tænkelige data fra sensorer, kameraer og mobiltelefoner i byrummet sammen og skabe smart cities. Det sker i et tæt samarbejde mellem myndighederne og de store tech-virksomheder.

Klichéen holder. Kultur æder alt andet

Klichéen holder. Kultur æder alt andet

KOMMENTAR: Det er efterhånden bredt anerkendt, at virksomhedskultur er nøglen til at tiltrække og fastholde de rigtige medarbejdere. Her er, hvordan vi arbejder med det i Milestone Systems.

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

I en gennemført digital offentlig administration behøver borgerne ikke at gøre opmærksomme på deres situation for at blive betjent – systemet ved allerede, at der er et behov. Det er filosofien bag det offentlige system i Estland, hvor man også er opmærksomme på risikoen for kafkaske bivirkninger.

Estland, den digitale stat

Estland, den digitale stat

Efter murens fald gik Estland all in på digitalisering. I dag er Estlands offentlige administration en inspiration for andre.
Færøerne – og flere andre lande – har overtaget softwaren bag systemet.

Estland er Europas digitale frontløber

Estland er Europas digitale frontløber

Estland har siden sovjettiden satset hårdt på digital teknologi som vejen til udvikling og vækst. Den offentlige sektors tjenester er blandt de mest avancerede i verden og på mange måder foran de tjenester, vi har i Danmark. Og borgerne har kontrol over egne data – og hvem der tilgår dem.

Færøerne har valgt den estiske model

Færøerne har valgt den estiske model

Da Færøerne i 2015 lavede en digitaliseringsstrategi, valgte de at bruge Estlands X-road som den grundlæggende infrastruktur for udveksling af data i det offentlige. Tendensen peger mod større integration og dataudveksling mellem de nordiske landes systemer.

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Den danske offentlige sektor ligger i den internationale top, hvad digitalisering angår. I de nærmeste år skal tjenesterne forbedres yderligere gennem den såkaldte digitaliseringspagt. Mange af de kommende digitale tilbud svarer til tjenester, som allerede findes i Estland.

Haves: Ny regering. Efterlyses: Digital strategi

Haves: Ny regering. Efterlyses: Digital strategi

KOMMENTAR: Det havde været på tide at få en digitaliseringsminister, der kunne lægge en kurs for et retfærdigt Danmark på den digitale front. Men i mangel af sådan en, så må man håbe, at statsminister Mette Frederiksen har en plan.

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Halvdelen af klodens befolkning er nu på Internettet

Halvdelen af klodens befolkning er nu på Internettet

Microsoft er det mest værdifulde it-selskab. 39 procent af unge amerikanere er ”næsten konstant online”.

Det – og meget mere – kan man læse i den amerikanske investor Mary Meekers nyeste trendanalyse.

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

I sidste måned afviste Facebook at fjerne en falsk video med formanden for Repræsentanternes Hus Nancy Pelosi. Nu spreder endnu en falsk video sig på det sociale medie – denne gang af Facebooks egen stifter Mark Zuckerburg. Men vil de fjerne den?