En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

I sidste måned afviste Facebook at fjerne en falsk video med formanden for Repræsentanternes Hus Nancy Pelosi. Nu spreder endnu en falsk video sig på det sociale medie – denne gang af Facebooks egen stifter Mark Zuckerburg. Men vil de fjerne den? 

Han kigger dig i øjnene, og hans læber bevæger sig i takt med stemmen: 

"Forestil dig dette i et sekund: En mand med total kontrol over milliarder af menneskers stjålne data, alle deres hemmeligheder, deres liv, deres fremtid.”  

Det er næsten ikke til at se det, hvis man ikke lige ved det. Men videoen med Facebooks grundlægger og direktør Mark Zuckerberg fra den 7. juni i år er en såkaldt deepfake; en video, der er manipuleret, så Mark Zuckerberg får lagt ord i sin mund, han aldrig har sagt. Det skriver det amerikanske nyhedsmedie CNN. 

 
 
 
 
 
Vis dette opslag på Instagram
 
 
 
 
 
 
 
 
 

‘Imagine this...’ (2019) Mark Zuckerberg reveals the truth about Facebook and who really owns the future... see more @sheffdocfest VDR technology by @cannyai #spectreknows #privacy #democracy #surveillancecapitalism #dataism #deepfake #deepfakes

Et opslag delt af Bill Posters (@bill_posters_uk) den

Og videoen dukker op på et højst ubelejligt tidspunkt for Facebook.  

I sidste måned afslog Facebook nemlig at fjerne en falsk video af formanden for Repræsentanternes Hus Nancy Pelosi. Og her opstår dilemmaet, for hvad skal Facebook gøre nu, hvor det er det sociale medies egen stifter og direktør, der er offer for manipulation?  

Manipuleret video måtte gerne være på Facebook 

Ifølge data på Facebook blev en enkelt version af videoen med Nancy Pelosi set mere end 2,5 millioner gange. 

Videoen var ikke decideret falsk, men tempoet er sat ned til 75 procent, hvilket får Nancy Pelosi til at lyde fuld. 

Youtube, der også huserede videoen af Nancy Pelosi, valgte efterfølgende at fjerne den fra platformen. Men Facebook afviste at gøre det samme. I stedet nedprioriterede de videoen, så den kom op i færre brugeres feed.  

Det var ikke en beslutning, der faldt i Nancy Pelosis smag:  “Jeg mener, at de (Facebook, red.) har bevist – ved ikke at tage noget ned, de ved er falsk – at de var villige til at lade russerne blande sig i vores valg,” sagde hun. 

Formanden for Repræsentanternes Hus, Nancy Pelosi, den 11. juni 2019. (Foto: Jonathan Ernst / Reuters / Ritzau Scanpix)

Ifølge repræsentanter fra Facebook, som CNN har talt med, har det sociale medie ikke nogen retningslinjer for, om information, som brugere lægger op, nødvendigvis skal være sandt.  

Ser vi deepfakes på Facebook i fremtiden? 

Det 16 sekunder lange klip af den falske Mark Zuckerberg var set færre end 5.000 gange, før nyhedsmedier gik ind i sagen, skriver CNN. I dag er den set 73.984 gange på Instagram, men vi ved ikke, hvor meget den er set på Facebooks egen platform. 

Spørgsmålet er nu, om videoerne af Mark Zuckerberg og Nancy Pelosi bliver behandlet ens af de sociale medier.  

En talsperson for Instagram, som også er ejet af Facebook, sagde til CNN, at det sociale medie vil behandle videoen “på samme måde som vi behandler al misinformation på Instagram” - det vil sige, at hvis den bliver markeret som falsk af tredjepart faktatjek-medier, så vil Instagrams algoritmer ikke længere anbefale brugere at se videoen. Indtil da bliver den på det sociale medie. 

Artiklen fortsætter under videoen

Hvad er en deepfake-video? Se og få svaret

Hos Facebook slår Neil Potts, der er direktør for Facebooks offentlige politikker, fast, at manipulerede videoer bliver behandlet ens - uanset, hvem offeret er.

“Hvis det var den helt samme video, hvor Zuckerberg talte i stedet for Pelosi, så ville videoen få samme behandling,” sagde han til en journalist på avisen Toronto Star i maj, altså før de kendte til deepfake videoen af Mark Zuckerberg.

Den falske video får altså - helt på linje med den manipulerede Pelosi-video – lov at forblive på Facebook. 

Fremtiden vil sandsynligvis byde på flere deepfake videoer på de sociale medier. Og Facebook er da også allerede i fuld gang med at ruste sig til kampen.

I sidste måned, før palaveren med de to videoer opstod, annoncerede det sociale medie, at de vil bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet. Her forsker de nemlig også i, hvordan man tackler deepfakes.  

Sådan kom videoen af Mark Zuckerberg til verden

Den blev først lagt på Instagram af profilen @bill_posters_uk, som har 6.246 følgere dags dato.

Den blev til i forbindelse med en engelsk kunstudstilling, som hedder Spectre og blev vist fra den 6-11 juni i år.

Formålet med videoerne var at vise, hvor let teknologi kan blive brugt til at manipulere med data.

Videoerne er lavet af den israelsk startup virksomhed Canny Al og blev lagt op med hashtagget #deepfake.

Optagelserne er fra 2017 og er blevet tilføjet kunstig intelligens, også kaldet deepfake teknologi, til at manipulere Mark Zuckerbergs mimik. Hans stemme er erstattet med en skuespillers.

Skuespilleren Morgan Freeman, tv-personligheden Kim Kardashian og kunstneren Marina Abramovic optræder i lignende videoer på instagramprofilen, hvor de også taler positivt om kunstudstillingen Spectre.

Forrige artikel Forsvarets Efterretningstjeneste nedtoner cybertruslen frem mod valget Forsvarets Efterretningstjeneste nedtoner cybertruslen frem mod valget
Derfor er min kalender offentlig

Derfor er min kalender offentlig

En åben kalender fremmer gennemsigtighed i hele firmaet, tvinger dig til at tage stilling til hvert punkt i din tidsplan og gør dig lettilgængelig, skriver iværksætter David Kalt.

Kina vil have verdens smarteste byer

Kina vil have verdens smarteste byer

KOMMENTAR: Kina er i fuld gang med at samle alle tænkelige data fra sensorer, kameraer og mobiltelefoner i byrummet sammen og skabe smart cities. Det sker i et tæt samarbejde mellem myndighederne og de store tech-virksomheder.

Klichéen holder. Kultur æder alt andet

Klichéen holder. Kultur æder alt andet

KOMMENTAR: Det er efterhånden bredt anerkendt, at virksomhedskultur er nøglen til at tiltrække og fastholde de rigtige medarbejdere. Her er, hvordan vi arbejder med det i Milestone Systems.

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

Proaktiv forvaltning: Gå ikke til staten – staten kommer til dig

I en gennemført digital offentlig administration behøver borgerne ikke at gøre opmærksomme på deres situation for at blive betjent – systemet ved allerede, at der er et behov. Det er filosofien bag det offentlige system i Estland, hvor man også er opmærksomme på risikoen for kafkaske bivirkninger.

Estland, den digitale stat

Estland, den digitale stat

Efter murens fald gik Estland all in på digitalisering. I dag er Estlands offentlige administration en inspiration for andre.
Færøerne – og flere andre lande – har overtaget softwaren bag systemet.

Estland er Europas digitale frontløber

Estland er Europas digitale frontløber

Estland har siden sovjettiden satset hårdt på digital teknologi som vejen til udvikling og vækst. Den offentlige sektors tjenester er blandt de mest avancerede i verden og på mange måder foran de tjenester, vi har i Danmark. Og borgerne har kontrol over egne data – og hvem der tilgår dem.

Færøerne har valgt den estiske model

Færøerne har valgt den estiske model

Da Færøerne i 2015 lavede en digitaliseringsstrategi, valgte de at bruge Estlands X-road som den grundlæggende infrastruktur for udveksling af data i det offentlige. Tendensen peger mod større integration og dataudveksling mellem de nordiske landes systemer.

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Digitaliseringspagt opdaterer Danmarks offentlige tjenester

Den danske offentlige sektor ligger i den internationale top, hvad digitalisering angår. I de nærmeste år skal tjenesterne forbedres yderligere gennem den såkaldte digitaliseringspagt. Mange af de kommende digitale tilbud svarer til tjenester, som allerede findes i Estland.

Haves: Ny regering. Efterlyses: Digital strategi

Haves: Ny regering. Efterlyses: Digital strategi

KOMMENTAR: Det havde været på tide at få en digitaliseringsminister, der kunne lægge en kurs for et retfærdigt Danmark på den digitale front. Men i mangel af sådan en, så må man håbe, at statsminister Mette Frederiksen har en plan.

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Halvdelen af klodens befolkning er nu på Internettet

Halvdelen af klodens befolkning er nu på Internettet

Microsoft er det mest værdifulde it-selskab. 39 procent af unge amerikanere er ”næsten konstant online”.

Det – og meget mere – kan man læse i den amerikanske investor Mary Meekers nyeste trendanalyse.

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

I sidste måned afviste Facebook at fjerne en falsk video med formanden for Repræsentanternes Hus Nancy Pelosi. Nu spreder endnu en falsk video sig på det sociale medie – denne gang af Facebooks egen stifter Mark Zuckerburg. Men vil de fjerne den?