Forud for amerikansk præsidentvalg: Facebook vil deepfake-videoer til livs

Det skal være slut med deepfake-videoer på Facebook. Det sociale medie melder ud, at videoer manipuleret af kunstig intelligens, tjekkes for at være på forkant af næste præsidentvalg. Nye retningslinjer har været undervejs længe. 

Facebook oplyser i et blogindlæg fra 6. januar, at de fremover vil fjerne videoer, der er manipuleret af kunstig intelligens og har til hensigt at vildlede. Deepfake-videoer, som de kaldes, er spået til at blive den næste store udfordring i kampen mod fake news, fordi teknologien er ved at være så veludviklet, at det kan være svært at se forskel på sande og falske videoer.

Facebook forsøger med forbuddet at være på forkant, inden den amerikanske præsidentvalgkamp intensiveres frem mod november, så de ikke bliver taget på sengen som ved præsidentvalget i 2016. Og for at gardere sig yderligere er det ikke kun almindelige opslag, men også videoer i reklamer, der bliver fjernet, hvis de viser sig at være manipulerede af kunstig intelligens.

Artiklen fortsætter under videoen.

TjekDets kolleger på ungemediet Spektrum forklarer her, hvad en deepfake-video er.

Facebooks indholdschef, Monika Bickert, skriver i blogindlægget, at selvom meget af indholdet på deres platform er manipuleret af “godartede grunde”, som ved for eksempel at gøre billedet skarpere eller lyden klarere, så er der også folk, som gør det for at vildlede.

Ikke alle manipulerede videoer fjernes

Fordi begge dele forekommer, er det ikke alle manipulerede videoer, der bliver fjernet som følge af det nye forbud. Hvis der er tale om, at nogle ord er redigeret ud, eller hvis rækkefølgen af ord er byttet om, bliver videoen ikke automatisk fjernet, ligesom parodier og satiriske indslag også får lov til at blive. Alle videoer vil dog stadig blive tjekket af Facebooks faktatjeksamarbejdspartnere.

“Denne tilgang er afgørende for vores strategi og en, som vi har hørt helt specifikt fra samtaler med eksperter. Hvis vi bare fjernede alle manipulerede videoer, der er markeret som falske af vores faktatjekkere, ville videoerne stadig være tilgængelige andre steder på internettet eller økosystemet af sociale medier. Ved at lade dem blive og markere dem som falske forsyner vi folk med vigtig information og kontekst,” skriver Monika Bickert, der er indholdschef hos Facebook.

Hun forklarer videre, at denne strategi også drager fordel af deres indsats for at finde frem til folkene bag det vildledende indhold, som de i forvejen arbejder hårdt på.

“Sidste måned identificerede og fjernede vi et netværk, der brugte billeder manipuleret ved brug af kunstig intelligens til at skjule deres falske brugere. Vores teams fortsætter med proaktivt at jagte falske brugere og andet koordineret falsk adfærd,” fastslår Monika Bickert.

Lang tid undervejs

Tilbage i maj 2019 annoncerede Facebook, at de ville bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet og samtidig forsker i, hvordan man tackler deepfake-videoer. Facebook fortæller nu, at de samlet set har rådført sig med mere end 50 eksperter i forskellige lande.

Artiklen fortsætter under videoen.

Eksempel på en deepfake-video, hvor Barack Obama kalder Donald Trump for en "dipshit".

Kort efter Facebooks annoncering i maj sidste år blussede debatten for alvor op, da en manipuleret video af ingen ringere end Facebooks stifter, Mark Zuckerberg, gik viralt. Videoen blev til i forbindelse med en kunstudstilling og havde til formål at vise folk, hvor let det er at manipulere med nutidens teknologi.

Det var dog ikke første gang, at en deepfake-video blev fremstillet med den hensigt. I april 2018 florerede en manipuleret video af Barack Obama, der blandt andet kaldte Donald Trump en “dipshit” (idiot eller uintelligent person, red.), og det viste sig at være det amerikanske netmedie Buzzfeed og den oscarvindende instruktør Jordan Peele, som stod bag.

Har tidligere varslet ændringer

På en konference i København sidste år afholdt af Alliance for Democracies Foundation sagde Facebooks politiske chef, Nick Clegg, at deres holdning til manipulerede videoer var den samme som til misinformation generelt.

“Hvis opslag bryder reglerne og gør skade, så vil vi eliminere den slags ved at bede faktatjekkere om at undersøge, om der er tale om en falsk video og linke til den faktuelle information, hvis folk prøver at dele den slags tvivlsomme indhold. Vi prøver også på at eskalere indsatsen for at opdage den slags videoer, allerede inden det når til faktatjekkerne, hvis vi kan, så det ikke får viralitet på platformen og bliver delt af mange,” lød det dengang fra Nick Clegg.

Artiklen fortsætter under videoen.

Manipuleret video af Nancy Pelosi, demokrat og formand for repræsentanternes hus, der fremstiller hende beruset.

Facebook blev sidste sommer kritiseret for ikke at fjerne en manipuleret video af formanden for repræsentanternes hus, demokraten Nancy Pelosi. I videoen virker hun beruset, men ud fra Facebooks nye retningslinjer ville den video heller ikke blive fjernet i dag, da manipulationen dengang skete ved blot at sænke hastigheden i et oprindeligt klip af demokraten. Der blev altså ikke brugt kunstig intelligens.

Facebooks kriterier for en deepfake-video

Videoer bliver fjernet af Facebook, hvis de lever op til disse to kriterier:

Det er blevet redigeret eller syntetiseret – ud over justeringer for klarhedens eller kvalitetens skyld – på måder, der ikke er åbenbare for en gennemsnitlig person og sandsynligvis ville vildlede nogen til at tænke, at en person i videoen sagde noget, som de i virkeligheden ikke sagde. 

Det er produktet af kunstig intelligens eller maskinindlæring, der fletter, erstatter eller indkopierer indhold ind i en video, der får den til at fremstå ægte.

 

Forrige artikel Især familier i Gentofte gør brug af au pair-ordningen Især familier i Gentofte gør brug af au pair-ordningen Næste artikel Twitter undskylder for at tillade målrettede hadefulde reklamer Twitter undskylder for at tillade målrettede hadefulde reklamer
Falsk video: Saddam Hussein siger, at USA truede med coronavirus

Falsk video: Saddam Hussein siger, at USA truede med coronavirus

På den indiske del af Facebook florerer der i øjeblikket et opsigtsvækkende videoklip fra 1990’erne, hvori den afdøde irakiske diktator Saddam Hussein fortæller, at USA har truet med at sprede coronavirus i Irak. Men videoen er ifølge det franske nyhedsbureau AFP manipuleret.

Sådan ser coronavirussen ud i virkeligheden

Sådan ser coronavirussen ud i virkeligheden

De fleste har en idé om, hvordan coronavirussen ser ud. Den samme illustration er nemlig brugt igen og igen i medierne - den ligner en kugle, som har en slags antenner fordelt ud over sig. Men virkeligheden er en helt anden. 

Styrelse advarer mod hjemmelavet håndsprit

Styrelse advarer mod hjemmelavet håndsprit

Efter de første smittetilfælde af covid-19 blev konstateret i landet, gik der ikke lang tid før, der blev meldt udsolgt af håndsprit i danske supermarkeder. Flere har derfor tyet til hjemmelavede løsninger, men myndighederne advarer om falsk tryghed. 

DF-medie tager fejl: Tyskland har ikke indført asylstop

DF-medie tager fejl: Tyskland har ikke indført asylstop

Flygtninge, der søger asyl i Tyskland, bliver ikke længere registreret, og derfor kan de frit drage nordpå mod Danmark, skriver netmediet Dit Overblik, der forudser et øget pres på vores grænser. Men Tyskland registrerer fortsat asylansøgere, og Udlændinge- og Integrationsministeriet beretter om ganske få ansøgere. 

Kinesisk embedsmand deler falsk video med taknemmelige italienere

Kinesisk embedsmand deler falsk video med taknemmelige italienere

"Mens den kinesiske nationalmelodi spiller i Rom, råber italienerne 'Tak, Kina!'," skriver talskvinde fra det kinesiske udenrigsministerium på Twitter, hvor hun deler en video med angiveligt jublende italienere. Men videoen er en manipulation.

Kan neglelak og kunstige negle gemme på coronavirus?

Kan neglelak og kunstige negle gemme på coronavirus?

Kunstige negle og neglelak udgør en massiv smitterisiko. Derfor skal lakken og de falske negle af med det samme, lyder det i et viralt kædebrev på sociale medier. Det kan være en god idé, lyder det fra eksperter, men der er ingen grund til alarm.

Når krisen rammer, skal du være ekstra kritisk

Når krisen rammer, skal du være ekstra kritisk

BLOGINDLÆG: Under kriser har vores kommunikationskanaler en tendens til at blive overfyldt af rygter, gisninger og misinformation. Det så vi under Første Verdenskrig, og vi ser det nu under coronakrisen.