Kunstig intelligens – dommedag eller Safe AI nu?

Hvis ikke Danmark skal ende som et frilandsmuseum af i går, skal der investeres massivt i forskning i AI. Ellers ryger de danske toptalenter til it-giganterne, mens Kina kommer til at udkonkurrere os.

MM Special: Kunstig intelligens er den nye elektricitet

Af Lars Kai Hansen, professor, DTU Compute

En selvkørende Tesla crasher og dræber føreren – den amerikanske færdselsstyrelse er i gang med at undersøge hændelsesforløbet.

Den kendte fysiker Stephen Hawking blev i 2014 interviewet af BBC og fortalte om sine bekymringer for menneskets fremtid med kunstig intelligens. Hawking var nervøs for, at AI kunne udvikle generel intelligens, bare meget dybere, hurtigere og uden værdier. Resultatet kunne blive en marginaliseret menneskehed – udkonkurreret og irrelevant.

Alexa, Amazons kunstigt intelligente assistent, er programmeret til at kunne foretage indkøb og udføre servicer for sin ejer. Et amerikansk par står foran Alexa og fører en personlig samtale; Alexa misforstår situationen, optager samtalen og sender udskriften i en mail til en af deres venner.  Samme Alexa er kendt for at kunne begynde at grine på mærkelige tidspunkter og jage en skræk i livet på sine ejere.

De tre eksempler sammenfatter på mange måder den situation, vi som individer, borgere og samfund står midt i med kunstig intelligens: Er AI en livsfarlig flirt med dødbringende våben eller simpelthen bare til grin?

Manden bag Tesla, entreprenøren Elon Musk, har udtalt, at AI er den største eksistentielle trussel mod mennesket. Bekymringerne har deres udgangspunkt i bøger skrevet af Ray Kurzweil, grundlæggeren af Singularity-bevægelsen, og analyser af Nick Bostrøm, filosoffen, der leder Oxfords Future of Humanity Institute.

Giganterne omfavner AI

Filosofferne er bekymrede, mens andre skaber imperier baseret på kunstig intelligens. Googles CEO, Sundar Pichai, har f.eks. sagt til CNBC:

“AI er en af de vigtigste ting, menneskeheden arbejder på. Det er mere vidtrækkende end, hvad ved jeg, elektricitet eller ild.”

Google har erklæret sig ’AI first’ og har omdøbt sin berømte forskningsafdeling til Google AI. Facebook har reorganiseret sin forskning i og udvikling af AI her i 2018 som opfølgning på Zuckerbergs vision fra 2016, hvor han forudså, at AI ville redde liv ved at opdage sygdomme tidligere, udvikle mere sikker transport og forbedre forståelsen af klimaets udvikling.

“Vi skal ikke frygte AI. I stedet skal vi håbe på alle de fantastiske ting, som AI vil kunne gøre i verden.”

I det centralt styrede kinesiske samfund er der heller ingen tvivl om, at AI er vejen frem, og man har igangsat en omfattende 2030-plan, der skal lede til en global førerposition for kinesisk AI. Den kinesiske version af AI får stor opmærksomhed, dels på grund af den enorme skala, dels på grund af de rapporterede angreb på privatlivets fred og udstrakte eksperimenter med social engineering.

I den vestlige offentlighed er Facebook i alvorlige problemer. Den er gal med håndteringen af brugernes data. Zuckerberg har sværget foran den amerikanske kongres, at man ikke sælger brugernes data. Nu viser det sig, at man tilsyneladende har givet dem væk. Tidligere har et af Facebooks eksperimenter med brugernes humør været stærkt kritiseret for manglende etisk evaluering.

Amazon og Google er nu ikke meget bedre, men har måske bare været heldigere end Facebook og har bedre kunnet holde sig under radaren. Google har dog mærket det øgede fokus på etik og har formuleret et nyt etisk kodeks, der blev offentliggjort for nogle uger siden.

Dommedag lurer forude

Situationen ser alvorlig ud. Vi har på den ene side den enorme opbygning af AI-kompetencer i de amerikanske it-giganter. De er så dygtige til at trække værdi ud af brugernes data, at de kan købe sig til de bedste AI-talenter.

På den anden side har vi en enorm opbygning af AI-ressourcer i Kina, der i hvert fald på overfladen ser ud til at bygge på værdier, der sætter systemet langt over individet. Kort sagt: Talenterne ryger til it-giganterne, og Kina kommer til at udkonkurrere os.

Hvad er ’Safe AI’?

Men dommedag er ikke indtrådt endnu, og vi kan stadig nå at afværge den. Der ligger en kæmpe mulighed for Danmark, Norden og Europa. Lad os træde i karakter, udnytte momentet og investere stort i udvikling af Safe AI, som kollegaer på DTU Compute og jeg foreslog i en kronik i Børsen for nylig. Den europæiske vinkel er yderligere beskrevet i det stort anlagte initiativ ELLIS med nordiske og europæiske forskere. Ideen i ELLIS er at skabe en række europæiske forskningsmiljøer, der kan fastholde talenter og skabe grundlag for AI-innovation baseret på europæiske værdier.

Som Lars Frelle-Petersen fra Dansk Industri forudser vi en enorm efterspørgsel efter samfundsmæssigt ansvarlige løsninger. En særlig dansk, nordisk og europæisk model inden for kunstig intelligens vil have fokus på demokratiske værdier. Der er grund til at være optimist. Nye privacy-forskningsresultater gør det praktisk muligt at skabe kunstig intelligens, der både virker og kan holde på en hemmelighed! AI-teknologi skal være åben, så alle kan anvende den og evaluere den kritisk. Dermed kan Safe AI bidrage til at genskabe magtbalancen mellem it-virksomheder og brugere. Tilliden til det digitale vil kunne genetableres med klare regler for databeskyttelse, både på nettet og i det offentlige.

Stor rift efter talenter

Men vi er også nødt til at sikre, at AI-toptalenterne finder det spændende at arbejde i Europa. Hvis vi definerer et AI-toptalent som en forsker, der har fået sine ideer optaget på en af de store AI-konferencer, ja, så er der under 50 toptalenter i Danmark. Efterspørgslen på disse talenter er meget større end kapaciteten.

Her på DTU Compute er der hver eneste dag firmaer og organisationer, der ringer, skriver eller banker på min dør for at få hjælp til AI. Mine kollegaer er i samme situation – efterspørgslen er meget, meget større, end vi kan efterkomme på danske universiteter.

Hvis ikke Danmark skal blive et frilandsmuseum, hvor man kan underholde sig med at studere verden fra før, der kom AI, så er vi er nødt til at gøre noget ved det. Det kunne være at udbygge de danske og europæiske AI-forskningsmiljøer med et ELLIS-center. Et dansk eller nordisk ELLIS-center kan blive en motorvej fra frontforskningen til samfundet og sikre, at etablerede virksomheder, startups, organisationer, det offentlige og helt menige borgere får adgang til de nyeste metoder fra det globale udviklingsmiljø.

Storebæltsbroen kostede i sin tid cirka én million kr. per meter, i alt godt 20 milliarder. Vi burde investere et tilsvarende beløb på at sikre fremtiden med ’Safe AI – Made in Denmark’.

Forrige artikel Fodbold og hundeliv på brasiliansk Fodbold og hundeliv på brasiliansk Næste artikel Sydkorea – fremtidens globale teknologicentrum Sydkorea – fremtidens globale teknologicentrum
  • Anmeld

    Steen Rasmussen · Professor i fysik

    Kai har ret.

    Klar og veldokumenteret tekst. Vi halter langt bagefter her. Dog skal der ikke kun investeres i AI og big data, som IT giganterne allerede har kommercialiseret. Da udviklingen foregår med eksplosionsagtig hast, skal der investeres mere bredt og fremadrettet i og omkring de videnskabelige og tekniske discipliner samt undervisning, der inkluderer AI og big data. Ellers investerer vi i fortiden. Bevillingeren bør dels gives (1) direkte til universiteterne som et ekstraordinært tilskud til basisbevillingerne, og dels som en øget bevillingspulje både for (2) det frie forskningsråd og for (3) de mere anvendelsesorienterede forskningsråd.

De kreative erhverv kræver politisk bevågenhed

De kreative erhverv kræver politisk bevågenhed

Den kreative sektor i Danmark boomer og klarer sig målt på eksportvækst bedre end andre sektorer. Alligevel tøver politikerne med at anerkende vækstpotentialet, lyder kritikken. Det sker imidlertid i lande som Holland, Storbritannien og Finland.

LEO Pharma-app diagnosticerer hudsygdomme bedre end lægen

LEO Pharma-app diagnosticerer hudsygdomme bedre end lægen

Inden længe vil mange hudsygdomme kunne blive diagnosticeret af en app på din smartphone med stor præcision. Ifølge LEO Innovation Lab, der udvikler en app til formålet, er kunstig intelligens og øget patientinddragelse en vigtig del af fremtidens sundhedssystem.

Kvantecomputere kan drive den næste IT-revolution

Kvantecomputere kan drive den næste IT-revolution

Der kan gå ti-tyve år før kvantecomputerne er klar, men der bliver brug for dem.
Film, musik og computerspil er en stor dansk eksportsektor, men på mange måder stadig meget umodent organiseret.

Forskere forbereder computerkraftens kvantespring

Forskere forbereder computerkraftens kvantespring

Vi har vænnet os til, at computere og alt, hvad der har med digital teknologi at gøre, bliver bedre, hurtigere og billigere år for år. Men hvis udviklingen skal fortsætte, er der snart behov for at skifte til helt nye teknologier. Den mest lovende er kvantecomputere.

Danske film- og animationsselskaber mister ordrer for en halv milliard

Danske film- og animationsselskaber mister ordrer for en halv milliard

Danmark er sammen med Bulgarien og Luxembourg snart de eneste EU-lande i Europa uden statsstøtte til film- og animationsbranchen. Det koster på ordrebogen. Venstres erhvervsordfører erkender, at man kan blive nødt til at følge trop og uddele millioner i statsstøtte til internationale filmgiganter.

Spilfirma: Svært at skaffe talenter

Spilfirma: Svært at skaffe talenter

Sybo Games er en dansk spilvirksomhed med vækstpotentiale. Men bl.a. jagten på talenter er en udfordring, siger CEO Mathias Gredal Nørvig, der er formand for den nye forening Vision Denmark.

Den næste bølge af deletransport er på vej

Den næste bølge af deletransport er på vej

Der kommer masser af nye dele-cykler og dele-løbehjul til Danmark – men i andre byer bliver de smidt ud.
Virtual Reality kan give en enestående naturoplevelse, men det er ny form for natur.

Globalt slagsmål om deletransport

Globalt slagsmål om deletransport

Udlejning af cykler og elektriske løbehjul er på ganske få år blevet en global milliardforretning, og markedet domineres af techgiganter fra Kina og USA. Men også en lille dansk spiller gør sig bemærket med sine orange cykler i flere af Europas hovedstæder.

Med en virtuel håndgranat som kunstnerisk virkemiddel

Med en virtuel håndgranat som kunstnerisk virkemiddel

Den danske kunstner Morten Rockford Ravn har skabt en fotoreportage fra computerspillet Grand Theft Auto.
Som enhver anden fotograf måtte han udsøge sig interessante steder og vente tålmodigt på at de rette situationer opstod. I den virtuelle verden er der dog noget videre rammer for, hvad man kan gøre for at fremkalde de helt rigtige fotogene situationer.

Podcast: 1.3 milliarder indere har fået digital ID

Podcast: 1.3 milliarder indere har fået digital ID

Globalt set er det indiske Aadhaar projekt blandt de største og mest betydningsfulde IT-projekter – men meget få i vores del af verden har hørt om det. På under ti år er det lykkes at give 1.3 milliarder indere en digital identitet. 

Han forudså æraen af falske nyheder. Nu frygter han, det hele bliver meget værre!

Han forudså æraen af falske nyheder. Nu frygter han, det hele bliver meget værre!

Nye teknologier vil i fremtiden kunne fremstille videoer, billeder og tekster, der ser så troværdige ud, at vi får endnu større problemer med misinformation. Det kan i sidste ende betyde, at demokratiet kommer i fare, advarer teknologiekspert, der forudså problemer med ‘fake news’ på internettet, før fænomenet eksploderede.

Sikke en voldsom trængsel

Sikke en voldsom trængsel

I dag planlægger danskerne deres transport ved hjælp af Rejseplanen og Rejsekortet. Men Uber, Google og mange andre er for længst gået ind i kampen om at være de selskaber, der koordinerer fremtidens mobilitet.

Nye trafikanter vender op og ned på byplanlægning

Nye trafikanter vender op og ned på byplanlægning

En ny trafikhandlingsplan i Aalborg Kommune gør op med gamle trafikdogmer og gør dermed klar til at favne de mange nye typer af køretøjer, der åbnes for i en forsøgsordning fra nytår. Men især i Århus og København volder den nye lov også kvaler.

Manden bag digital transportrevolution: Lovgivere skal på banen

Manden bag digital transportrevolution: Lovgivere skal på banen

Teknologien bag nye avancerede løsninger til at organisere persontransport er langt fremme i Finland. Siden 2011 har den finske regering arbejdet på at tilpasse lovgivningen til en ny transportæra. Og det er ekstremt vigtigt at have lovgiverne med på sidelinjen i en af de næste store digitale revolutioner, siger administrerende direktør og stifter af virksomheden MaaS Global, Sampo Hietanen.

Bilens tid som byens konge rinder ud

Bilens tid som byens konge rinder ud

Den måde, vi færdes i byerne på, vil forandres væsentligt. Nye, små elektriske køretøjer er begyndt at dukke op, og samtidig bliver mobilitet i stigende grad en tjeneste; en løsning, som sammensættes til lejligheden alt efter den enkeltes behov. Bytrafikken kan blive mere effektiv, fleksibel og klimavenlig. Det er der hårdt brug for.

Hvad i alverden er det, der kører dér?

Hvad i alverden er det, der kører dér?

En mangfoldighed af nye, små elektriske køretøjer, med eksotiske navne som hoverboards, uniwheels og speed pedelecs, vil i den nærmeste fremtid blande sig i storbyernes mylder. Sammen med selvkørende biler og busser, små udbringningsrobotter, robothunde og droner kan de med tiden fortrænge bilerne som byernes konger.

What’s next – i 2019?

What’s next – i 2019?

Virksomheder skal tage forbrugernes værdier alvorligt – for det er blevet alvor med klimaet, miljøet og datasikkerheden.
Det er muligt at nyhederne er dårlige, men i gamle dage var de også kedelige.

7 trends for 2019 - det handler om værdier

7 trends for 2019 - det handler om værdier

Hvis der er ét ord, der i 2019 vil præge forbrugernes krav og forventninger til  de produkter og tjenester de bruger, er det ”værdier”. Det skriver Fjord, konsulentvirksomheden Accentures designbureau, i deres årlige trendrapport.

Telefonen, der konkurrerer på det, det den ikke kan

Telefonen, der konkurrerer på det, det den ikke kan

Det måtte komme: En telefon, der skiller sig ud ved at have meget få funktioner. Light phone kaldes den, og som selskabet bag den lille telefon siger, så er den ”designet til at blive brugt så lidt som muligt”.

Kinas nye eksportvare: digital autoritarisme

Kinas nye eksportvare: digital autoritarisme

KOMMENTAR: Kina bruger de amerikanske techselskabers krise med datalæk og fake news til at eksportere sin model for styring af internettet og software til kontrol og overvågning.

Whistlebloweren fra Mærsk: Man er medskyldig hvis man tier stille

Whistlebloweren fra Mærsk: Man er medskyldig hvis man tier stille

Den tidligere Mærsk-laborant Dorte Jensen blev whistleblower i 2010, da hun gik til pressen med en optagelse, der afslørede, hvordan Mærsk pressede ansatte til at fuske med målinger af spildevand og oliespildsrapporter. Det har haft store konsekvenser for hende, men hun ville gøre det igen.

Jurister og 'cyber-tropper' bekæmper desinformation i Tyskland

Jurister og 'cyber-tropper' bekæmper desinformation i Tyskland

Tyskland er et af de få lande, der har valgt at indføre lovgivning som led i kampen mod desinformation. ”Facebook-loven” som den populært kaldes er imidlertid blot ét af flere initiativer, som tyskerne har indført for at bekæmpe indflydelsesoperationer, desinformation og propaganda.

Danske whistleblowere er retsløse

Danske whistleblowere er retsløse

655 danske virksomheder har en whistleblowerordning, men hvem beskytter de egentlig? Ordningerne kan ende som et parallelt retssystem, hvor virksomheder klarer kritisable sager internt, så offentlighed og myndigheder aldrig får kendskab til dem.

Højsæson for spåkoner

Højsæson for spåkoner

Bliver Tesla overtaget af Apple? Finder du det næste job gennem Google?
Og hvad kan danske hospitaler lære af deres israelske kolleger?

Spådomme for tech-verdenen i 2019

Spådomme for tech-verdenen i 2019

Det er ved at være den tid på året, hvor tænketanke og andre kloge hoveder forsøger at komme med forudsigelser for næste år. Det første kuld af spådomme er ude.