Forud for amerikansk præsidentvalg: Facebook vil deepfake-videoer til livs

Det skal være slut med deepfake-videoer på Facebook. Det sociale medie melder ud, at videoer manipuleret af kunstig intelligens, tjekkes for at være på forkant af næste præsidentvalg. Nye retningslinjer har været undervejs længe. 

Facebook oplyser i et blogindlæg fra 6. januar, at de fremover vil fjerne videoer, der er manipuleret af kunstig intelligens og har til hensigt at vildlede. Deepfake-videoer, som de kaldes, er spået til at blive den næste store udfordring i kampen mod fake news, fordi teknologien er ved at være så veludviklet, at det kan være svært at se forskel på sande og falske videoer.

Facebook forsøger med forbuddet at være på forkant, inden den amerikanske præsidentvalgkamp intensiveres frem mod november, så de ikke bliver taget på sengen som ved præsidentvalget i 2016. Og for at gardere sig yderligere er det ikke kun almindelige opslag, men også videoer i reklamer, der bliver fjernet, hvis de viser sig at være manipulerede af kunstig intelligens.

Artiklen fortsætter under videoen.

TjekDets kolleger på ungemediet Spektrum forklarer her, hvad en deepfake-video er.

Facebooks indholdschef, Monika Bickert, skriver i blogindlægget, at selvom meget af indholdet på deres platform er manipuleret af “godartede grunde”, som ved for eksempel at gøre billedet skarpere eller lyden klarere, så er der også folk, som gør det for at vildlede.

Ikke alle manipulerede videoer fjernes

Fordi begge dele forekommer, er det ikke alle manipulerede videoer, der bliver fjernet som følge af det nye forbud. Hvis der er tale om, at nogle ord er redigeret ud, eller hvis rækkefølgen af ord er byttet om, bliver videoen ikke automatisk fjernet, ligesom parodier og satiriske indslag også får lov til at blive. Alle videoer vil dog stadig blive tjekket af Facebooks faktatjeksamarbejdspartnere.

“Denne tilgang er afgørende for vores strategi og en, som vi har hørt helt specifikt fra samtaler med eksperter. Hvis vi bare fjernede alle manipulerede videoer, der er markeret som falske af vores faktatjekkere, ville videoerne stadig være tilgængelige andre steder på internettet eller økosystemet af sociale medier. Ved at lade dem blive og markere dem som falske forsyner vi folk med vigtig information og kontekst,” skriver Monika Bickert, der er indholdschef hos Facebook.

Hun forklarer videre, at denne strategi også drager fordel af deres indsats for at finde frem til folkene bag det vildledende indhold, som de i forvejen arbejder hårdt på.

“Sidste måned identificerede og fjernede vi et netværk, der brugte billeder manipuleret ved brug af kunstig intelligens til at skjule deres falske brugere. Vores teams fortsætter med proaktivt at jagte falske brugere og andet koordineret falsk adfærd,” fastslår Monika Bickert.

Lang tid undervejs

Tilbage i maj 2019 annoncerede Facebook, at de ville bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet og samtidig forsker i, hvordan man tackler deepfake-videoer. Facebook fortæller nu, at de samlet set har rådført sig med mere end 50 eksperter i forskellige lande.

Artiklen fortsætter under videoen.

Eksempel på en deepfake-video, hvor Barack Obama kalder Donald Trump for en "dipshit".

Kort efter Facebooks annoncering i maj sidste år blussede debatten for alvor op, da en manipuleret video af ingen ringere end Facebooks stifter, Mark Zuckerberg, gik viralt. Videoen blev til i forbindelse med en kunstudstilling og havde til formål at vise folk, hvor let det er at manipulere med nutidens teknologi.

Det var dog ikke første gang, at en deepfake-video blev fremstillet med den hensigt. I april 2018 florerede en manipuleret video af Barack Obama, der blandt andet kaldte Donald Trump en “dipshit” (idiot eller uintelligent person, red.), og det viste sig at være det amerikanske netmedie Buzzfeed og den oscarvindende instruktør Jordan Peele, som stod bag.

Har tidligere varslet ændringer

På en konference i København sidste år afholdt af Alliance for Democracies Foundation sagde Facebooks politiske chef, Nick Clegg, at deres holdning til manipulerede videoer var den samme som til misinformation generelt.

“Hvis opslag bryder reglerne og gør skade, så vil vi eliminere den slags ved at bede faktatjekkere om at undersøge, om der er tale om en falsk video og linke til den faktuelle information, hvis folk prøver at dele den slags tvivlsomme indhold. Vi prøver også på at eskalere indsatsen for at opdage den slags videoer, allerede inden det når til faktatjekkerne, hvis vi kan, så det ikke får viralitet på platformen og bliver delt af mange,” lød det dengang fra Nick Clegg.

Artiklen fortsætter under videoen.

Manipuleret video af Nancy Pelosi, demokrat og formand for repræsentanternes hus, der fremstiller hende beruset.

Facebook blev sidste sommer kritiseret for ikke at fjerne en manipuleret video af formanden for repræsentanternes hus, demokraten Nancy Pelosi. I videoen virker hun beruset, men ud fra Facebooks nye retningslinjer ville den video heller ikke blive fjernet i dag, da manipulationen dengang skete ved blot at sænke hastigheden i et oprindeligt klip af demokraten. Der blev altså ikke brugt kunstig intelligens.

Facebooks kriterier for en deepfake-video

Videoer bliver fjernet af Facebook, hvis de lever op til disse to kriterier:

Det er blevet redigeret eller syntetiseret – ud over justeringer for klarhedens eller kvalitetens skyld – på måder, der ikke er åbenbare for en gennemsnitlig person og sandsynligvis ville vildlede nogen til at tænke, at en person i videoen sagde noget, som de i virkeligheden ikke sagde. 

Det er produktet af kunstig intelligens eller maskinindlæring, der fletter, erstatter eller indkopierer indhold ind i en video, der får den til at fremstå ægte.

 

Forrige artikel Især familier i Gentofte gør brug af au pair-ordningen Især familier i Gentofte gør brug af au pair-ordningen Næste artikel Twitter undskylder for at tillade målrettede hadefulde reklamer Twitter undskylder for at tillade målrettede hadefulde reklamer

Redaktionen holder sommerpause

TjekDets redaktion holder ferie frem til den 3. august, hvor vi vender stærkt tilbage. Du kan stadig tippe os om påstande i den offentlige debat, som du mener fortjener et faktatjek. Du kan skrive til os på tip@tjekdet.dk eller udfylde vores tipformular.

Underholdningsbranchens genåbning udnyttes groft af svindlere

Underholdningsbranchens genåbning udnyttes groft af svindlere

Adskillige virksomheder får deres navn misbrugt af svindlere, der gennem falske konkurrencer og tilbud forsøger at udnytte underholdningsbranchens genåbning efter coronanedlukningen. Legoland i Billund er seneste offer for fupmagernes forsøg på at snyde godtroende danskere.

Pensionist blev ikke fyret på grund af upassende joke om kunde

Pensionist blev ikke fyret på grund af upassende joke om kunde

En spøjs artikel om en ældre mand, der angiveligt har fået en fyreseddel fra den amerikanske supermarkedskæde Walmart blot to timer, efter han var ansat, spreder sig på sociale medier. Han fyrede angiveligt en grov joke af om en kunde, men historien er med al sandsynlighed ren fiktion. 

Fupmagere jagter kreditkortoplysninger i falsk Disney-konkurrence

Fupmagere jagter kreditkortoplysninger i falsk Disney-konkurrence

I en facebookkonkurrence, som filmgiganten Disney tilsyneladende står bag, udloves 200 gratis konti til den kommende streamingtjeneste Disney+. Men opslaget er det rene fup, der intet har med Disney at gøre, og svindlerne bag er blot ude efter godtroende danskeres penge.

Nej, smittetrykket er næppe lavere i Skåne end i Region Hovedstaden

Nej, smittetrykket er næppe lavere i Skåne end i Region Hovedstaden

Rejsebegrænsningerne mellem Danmark og Sverige debatteres heftigt for tiden, og adskillige både danske og svenske politikere påstår, at smittetrykket for covid-19 er lavere i Skåne end i Region Hovedstaden. Men det er der ikke noget, der tyder på, vurderer flere forskere.