En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

I sidste måned afviste Facebook at fjerne en falsk video med formanden for Repræsentanternes Hus Nancy Pelosi. Nu spreder endnu en falsk video sig på det sociale medie – denne gang af Facebooks egen stifter Mark Zuckerburg. Men vil de fjerne den? 

Han kigger dig i øjnene, og hans læber bevæger sig i takt med stemmen: 

"Forestil dig dette i et sekund: En mand med total kontrol over milliarder af menneskers stjålne data, alle deres hemmeligheder, deres liv, deres fremtid.”  

Det er næsten ikke til at se det, hvis man ikke lige ved det. Men videoen med Facebooks grundlægger og direktør Mark Zuckerberg fra den 7. juni i år er en såkaldt deepfake; en video, der er manipuleret, så Mark Zuckerberg får lagt ord i sin mund, han aldrig har sagt. Det skriver det amerikanske nyhedsmedie CNN. 

Og videoen dukker op på et højst ubelejligt tidspunkt for Facebook.  

I sidste måned afslog Facebook nemlig at fjerne en falsk video af formanden for Repræsentanternes Hus Nancy Pelosi. Og her opstår dilemmaet, for hvad skal Facebook gøre nu, hvor det er det sociale medies egen stifter og direktør, der er offer for manipulation?  

Manipuleret video måtte gerne være på Facebook 

Ifølge data på Facebook blev en enkelt version af videoen med Nancy Pelosi set mere end 2,5 millioner gange. 

Videoen var ikke decideret falsk, men tempoet er sat ned til 75 procent, hvilket får Nancy Pelosi til at lyde fuld. 

Youtube, der også huserede videoen af Nancy Pelosi, valgte efterfølgende at fjerne den fra platformen. Men Facebook afviste at gøre det samme. I stedet nedprioriterede de videoen, så den kom op i færre brugeres feed.  

Det var ikke en beslutning, der faldt i Nancy Pelosis smag:  “Jeg mener, at de (Facebook, red.) har bevist – ved ikke at tage noget ned, de ved er falsk – at de var villige til at lade russerne blande sig i vores valg,” sagde hun. 

Formanden for Repræsentanternes Hus, Nancy Pelosi, den 11. juni 2019. (Foto: Jonathan Ernst / Reuters / Ritzau Scanpix)

Ifølge repræsentanter fra Facebook, som CNN har talt med, har det sociale medie ikke nogen retningslinjer for, om information, som brugere lægger op, nødvendigvis skal være sandt.  

Ser vi deepfakes på Facebook i fremtiden? 

Det 16 sekunder lange klip af den falske Mark Zuckerberg var set færre end 5.000 gange, før nyhedsmedier gik ind i sagen, skriver CNN. I dag er den set 73.984 gange på Instagram, men vi ved ikke, hvor meget den er set på Facebooks egen platform. 

Spørgsmålet er nu, om videoerne af Mark Zuckerberg og Nancy Pelosi bliver behandlet ens af de sociale medier.  

En talsperson for Instagram, som også er ejet af Facebook, sagde til CNN, at det sociale medie vil behandle videoen “på samme måde som vi behandler al misinformation på Instagram” - det vil sige, at hvis den bliver markeret som falsk af tredjepart faktatjek-medier, så vil Instagrams algoritmer ikke længere anbefale brugere at se videoen. Indtil da bliver den på det sociale medie. 

Artiklen fortsætter under videoen

Hvad er en deepfake-video? Se og få svaret

Hos Facebook slår Neil Potts, der er direktør for Facebooks offentlige politikker, fast, at manipulerede videoer bliver behandlet ens - uanset, hvem offeret er.

“Hvis det var den helt samme video, hvor Zuckerberg talte i stedet for Pelosi, så ville videoen få samme behandling,” sagde han til en journalist på avisen Toronto Star i maj, altså før de kendte til deepfake videoen af Mark Zuckerberg.

Den falske video får altså - helt på linje med den manipulerede Pelosi-video – lov at forblive på Facebook. 

Fremtiden vil sandsynligvis byde på flere deepfake videoer på de sociale medier. Og Facebook er da også allerede i fuld gang med at ruste sig til kampen.

I sidste måned, før palaveren med de to videoer opstod, annoncerede det sociale medie, at de vil bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet. Her forsker de nemlig også i, hvordan man tackler deepfakes.  

Sådan kom videoen af Mark Zuckerberg til verden

Den blev først lagt på Instagram af profilen @bill_posters_uk, som har 6.246 følgere dags dato.

Den blev til i forbindelse med en engelsk kunstudstilling, som hedder Spectre og blev vist fra den 6-11 juni i år.

Formålet med videoerne var at vise, hvor let teknologi kan blive brugt til at manipulere med data.

Videoerne er lavet af den israelsk startup virksomhed Canny Al og blev lagt op med hashtagget #deepfake.

Optagelserne er fra 2017 og er blevet tilføjet kunstig intelligens, også kaldet deepfake teknologi, til at manipulere Mark Zuckerbergs mimik. Hans stemme er erstattet med en skuespillers.

Skuespilleren Morgan Freeman, tv-personligheden Kim Kardashian og kunstneren Marina Abramovic optræder i lignende videoer på instagramprofilen, hvor de også taler positivt om kunstudstillingen Spectre.

Forrige artikel Forsvarets Efterretningstjeneste nedtoner cybertruslen frem mod valget Forsvarets Efterretningstjeneste nedtoner cybertruslen frem mod valget
Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Økonomisk vækst og CO2-reduktioner er ikke modsætninger – tværtimod. Verden har brug for, at det går ekstremt stærkt med omstillingen af energien, transporten, byggeriet, landbruget osv. Derfor skal speederen i bund nu, lyder det fra både ngo'er, McKinsey og World Economic Forum.

Degrowth: En verden uden vækst

Degrowth: En verden uden vækst

Vi har travlt, hvis kloden skal være beboelig i år 2100. Derfor må vi stoppe udvindingen af naturressourcer, stoppe forbruget og stoppe stigningen i BNP. Væksten må aflyses, bremsen skal i bund. Det er ekstremt, men ekstremt nødvendigt, lyder det fra degrowth-bevægelsen og de økologiske økonomer, der står bag dem.

12 teknologier  der kan redde klimaet

12 teknologier der kan redde klimaet

Skal vi redde klimaet gennem grøn vækst, bliver en række nuværende og fremtidige teknologier helt afgørende for, om det lykkes. Her er 12 af dem.

10 veje til en vækstfri verden

10 veje til en vækstfri verden

Det kan ikke lade sig gøre at bremse væksten uden fundamentale ændringer af hele den måde, vi har indrettet vores samfund på, påpeger degrowth-folket.

Ny FN-rapport kræver barsk omstilling af virksomheder

Ny FN-rapport kræver barsk omstilling af virksomheder

Internationale forskere dokumenterer i en ny FN-rapport, at vi er ved at tabe verdensmålene, og foreslår en hurtig, barsk og effektiv genopretningsplan. Det konfronterer virksomheder i hele verden med skelsættende og eksistentielle valg.

Isen sprækker under BNP som mål for fremgang

Isen sprækker under BNP som mål for fremgang

Bruttonationalproduktet er i dag det vigtigste mål for, hvordan det går med økonomien i et land. Men der er voksende bevidsthed om problemerne med at styre efter et mål, som hverken afspejler miljøets tilstand, sociale forhold eller værdien af den hastigt voksende digitale økonomi. Flere steder, herunder i Danmark, arbejdes der på alternative eller supplerende mål.

Stil bedre spørgsmål og bliv en bedre leder

Stil bedre spørgsmål og bliv en bedre leder

De fleste chefer tror, at de har alle svarene. Men de bedste chefer formår at stille spørgsmål, der inspirerer til nytænkning. Her er seks råd til, hvordan du kan stille bedre spørgsmål.  

Gør Danmark til talenternes stormagt

Gør Danmark til talenternes stormagt

KOMMENTAR: Visionen om Danmark som talenternes stormagt er et oplagt og nødvendigt “velfærdsløfte” til næste generation. Det er også en mulighed for at undgå en kompetencenedslidning af fremtidens arbejdskraft og bør være et hovedpunkt i næste regeringsgrundlag.

Modens klimatopmøde anklages for greenwashing

Modens klimatopmøde anklages for greenwashing

I et helt årti har Copenhagen Fashion Summit været modeindustriens eget internationale klimatopmøde. Men det har ikke for alvor gjort tøjbranchen mere bæredygtig, lyder kritikken fra en lang række forskere, som beskylder organisationen for greenwashing. Forskerne ser kun én vej frem: Færre varer af bedre kvalitet.

Venstrefløjen er klar til klimaafgift på tøj

Venstrefløjen er klar til klimaafgift på tøj

En af klodens største klimasyndere er stort set gået under radaren, når politikerne taler grønne afgifter og regulering. Men nu er alle Mette Frederiksens støttepartier klar til at bruge afgifter til at sætte en bremse på tøjforbruget.