Forud for amerikansk præsidentvalg: Facebook vil deepfake-videoer til livs

Det skal være slut med deepfake-videoer på Facebook. Det sociale medie melder ud, at videoer manipuleret af kunstig intelligens, tjekkes for at være på forkant af næste præsidentvalg. Nye retningslinjer har været undervejs længe. 

Facebook oplyser i et blogindlæg fra 6. januar, at de fremover vil fjerne videoer, der er manipuleret af kunstig intelligens og har til hensigt at vildlede. Deepfake-videoer, som de kaldes, er spået til at blive den næste store udfordring i kampen mod fake news, fordi teknologien er ved at være så veludviklet, at det kan være svært at se forskel på sande og falske videoer.

Facebook forsøger med forbuddet at være på forkant, inden den amerikanske præsidentvalgkamp intensiveres frem mod november, så de ikke bliver taget på sengen som ved præsidentvalget i 2016. Og for at gardere sig yderligere er det ikke kun almindelige opslag, men også videoer i reklamer, der bliver fjernet, hvis de viser sig at være manipulerede af kunstig intelligens.

Artiklen fortsætter under videoen.

TjekDets kolleger på ungemediet Spektrum forklarer her, hvad en deepfake-video er.

Facebooks indholdschef, Monika Bickert, skriver i blogindlægget, at selvom meget af indholdet på deres platform er manipuleret af “godartede grunde”, som ved for eksempel at gøre billedet skarpere eller lyden klarere, så er der også folk, som gør det for at vildlede.

Ikke alle manipulerede videoer fjernes

Fordi begge dele forekommer, er det ikke alle manipulerede videoer, der bliver fjernet som følge af det nye forbud. Hvis der er tale om, at nogle ord er redigeret ud, eller hvis rækkefølgen af ord er byttet om, bliver videoen ikke automatisk fjernet, ligesom parodier og satiriske indslag også får lov til at blive. Alle videoer vil dog stadig blive tjekket af Facebooks faktatjeksamarbejdspartnere.

“Denne tilgang er afgørende for vores strategi og en, som vi har hørt helt specifikt fra samtaler med eksperter. Hvis vi bare fjernede alle manipulerede videoer, der er markeret som falske af vores faktatjekkere, ville videoerne stadig være tilgængelige andre steder på internettet eller økosystemet af sociale medier. Ved at lade dem blive og markere dem som falske forsyner vi folk med vigtig information og kontekst,” skriver Monika Bickert, der er indholdschef hos Facebook.

Hun forklarer videre, at denne strategi også drager fordel af deres indsats for at finde frem til folkene bag det vildledende indhold, som de i forvejen arbejder hårdt på.

“Sidste måned identificerede og fjernede vi et netværk, der brugte billeder manipuleret ved brug af kunstig intelligens til at skjule deres falske brugere. Vores teams fortsætter med proaktivt at jagte falske brugere og andet koordineret falsk adfærd,” fastslår Monika Bickert.

Lang tid undervejs

Tilbage i maj 2019 annoncerede Facebook, at de ville bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet og samtidig forsker i, hvordan man tackler deepfake-videoer. Facebook fortæller nu, at de samlet set har rådført sig med mere end 50 eksperter i forskellige lande.

Artiklen fortsætter under videoen.

Eksempel på en deepfake-video, hvor Barack Obama kalder Donald Trump for en "dipshit".

Kort efter Facebooks annoncering i maj sidste år blussede debatten for alvor op, da en manipuleret video af ingen ringere end Facebooks stifter, Mark Zuckerberg, gik viralt. Videoen blev til i forbindelse med en kunstudstilling og havde til formål at vise folk, hvor let det er at manipulere med nutidens teknologi.

Det var dog ikke første gang, at en deepfake-video blev fremstillet med den hensigt. I april 2018 florerede en manipuleret video af Barack Obama, der blandt andet kaldte Donald Trump en “dipshit” (idiot eller uintelligent person, red.), og det viste sig at være det amerikanske netmedie Buzzfeed og den oscarvindende instruktør Jordan Peele, som stod bag.

Har tidligere varslet ændringer

På en konference i København sidste år afholdt af Alliance for Democracies Foundation sagde Facebooks politiske chef, Nick Clegg, at deres holdning til manipulerede videoer var den samme som til misinformation generelt.

“Hvis opslag bryder reglerne og gør skade, så vil vi eliminere den slags ved at bede faktatjekkere om at undersøge, om der er tale om en falsk video og linke til den faktuelle information, hvis folk prøver at dele den slags tvivlsomme indhold. Vi prøver også på at eskalere indsatsen for at opdage den slags videoer, allerede inden det når til faktatjekkerne, hvis vi kan, så det ikke får viralitet på platformen og bliver delt af mange,” lød det dengang fra Nick Clegg.

Artiklen fortsætter under videoen.

Manipuleret video af Nancy Pelosi, demokrat og formand for repræsentanternes hus, der fremstiller hende beruset.

Facebook blev sidste sommer kritiseret for ikke at fjerne en manipuleret video af formanden for repræsentanternes hus, demokraten Nancy Pelosi. I videoen virker hun beruset, men ud fra Facebooks nye retningslinjer ville den video heller ikke blive fjernet i dag, da manipulationen dengang skete ved blot at sænke hastigheden i et oprindeligt klip af demokraten. Der blev altså ikke brugt kunstig intelligens.

Facebooks kriterier for en deepfake-video

Videoer bliver fjernet af Facebook, hvis de lever op til disse to kriterier:

Det er blevet redigeret eller syntetiseret – ud over justeringer for klarhedens eller kvalitetens skyld – på måder, der ikke er åbenbare for en gennemsnitlig person og sandsynligvis ville vildlede nogen til at tænke, at en person i videoen sagde noget, som de i virkeligheden ikke sagde. 

Det er produktet af kunstig intelligens eller maskinindlæring, der fletter, erstatter eller indkopierer indhold ind i en video, der får den til at fremstå ægte.

 

Forrige artikel Især familier i Gentofte gør brug af au pair-ordningen Især familier i Gentofte gør brug af au pair-ordningen
Nej, gluten ødelægger ikke raske menneskers tarme

Nej, gluten ødelægger ikke raske menneskers tarme

Gluten er skadeligt for alle menneskers tarmsystem. Sådan lyder det i en artikel, der florerer på Facebook, og som lægger et amerikansk studie til grund. Men gluten er ikke skadeligt for raske mennesker, lyder det fra flere forskere.  

Forestiller dette billede virkelig Australien i brand set fra rummet?

Forestiller dette billede virkelig Australien i brand set fra rummet?

Et satellitfoto, der viser Australien i omfattende flammer, florerer i stor stil på sociale medier. Folk fra nær og fjern bruger det skræmmende foto til at vise sympati for australierne og understrege naturbrandenes omfang. Men billedet er ikke en retvisende fremstilling af omfanget af de mange brande. 

Advarslen mod facebook-hackeren fra Skåne er det rene vås

Advarslen mod facebook-hackeren fra Skåne er det rene vås

Godkender du en anmodning om Facebook-venskab med Magnus fra Skåne, lænser han din bankkonto for penge. Sådan slår facebookbrugere i øjeblikket alarm på stribe. Men advarslen har intet på sig, og den har i øvrigt flere år på bagen.

Vi søger universitetspraktikant til faktatjek

Vi søger universitetspraktikant til faktatjek

Mandag Morgens faktatjekmedie TjekDet søger universitetspraktikant, der vil være en del af redaktionen i første halvår 2020, og være med til at udfordre falske nyheder og påstande i den offentlige debat.

Ny bølge af falske Ray-Ban-annoncer skyller ind over danskerne

Ny bølge af falske Ray-Ban-annoncer skyller ind over danskerne

Helt uden at være klar over det deler adskillige danskere på sociale medier lige nu reklamer for absurd billige Ray-Ban-solbriller. Og der skulle angiveligt være tale om den ægte vare. Men det hele er fup. De digitale spor fører os blandt andet til Kina.

PostNord advarer: Falske pakkebeskeder hitter i juletiden

PostNord advarer: Falske pakkebeskeder hitter i juletiden

Flere danskere modtager i øjeblikket sms'er og mails om, at de har en pakke liggende hos Postnord. Den kan de få udleveret, hvis bare de lige betaler 20 kroner. Men henvendelserne er fra svindlere, der forsøger at malke din bankkonto. 

Nej, Expert har ikke sat et par Apple Airpods på højkant

Nej, Expert har ikke sat et par Apple Airpods på højkant

Julen kan blive lidt sødere, hvis du deltager i en konkurrence om AirPods på Facebook, som elektronikkæden Expert står bag. Men både konkurrencen og facebooksiden, hvor opslaget med konkurrencen er slået op, er falsk.