Deepfake-videoer er nu et varmt emne blandt amerikanske politikere

Manipuleret video med formanden for Repræsentanternes Hus i USA fremkalder en stribe forslag til lovgivning og erstatningsansvar i forbindelse med deepfake-videoer. 

En ny type manipulation, de såkaldte deepfakes, har sat den amerikanske kongres i bevægelse. Flere senatorer overvejer at få gennemført lovgivning om syntetiske medier eller AI-genererede videoer, som det kaldes, inden næste års præsidentvalg.

En første senatshøring blev afholdt forleden om deepfakes, som er en teknik til menneskelig billedsyntese baseret på kunstig intelligens. Den bruges til at kombinere eksisterende billeder og videoer med et helt andet lydbillede end det, personen på video oprindeligt siger, uden at man kan se forskel på mundbevægelserne. 

Det er den hurtige spredning af en manipuleret video af formanden for repræsentanternes hus, demokraten Nancy Pelosi, der har skræmt lovgiverne. Videoen er faktisk ikke engang et ægte deepfake eksempel. Den er redigeret for at få hende til at fremstå beruset ved at nedsætte hendes talehastighed.

Den rigtige og den falske udgave af videoen kan ses her

I sidste måned besluttede Facebook ikke at fjerne videoen med Nancy Pelosi. I stedet meddelte Facebook, at hvis tredjepart fakta-tjekker havde fundet den værende falsk, så ville brugerne blive informeret om det, og så ville videoen blive nedprioriteret i folks facebookfeeds.  

I januar endte en anden manipuleret video rettet mod præsident Donald Trump på en tv-station i Seattle. Den er nu fjernet. Senest er en AI-generet video med Mark Zuckerberg uploadet til Instagram, som Facebook faktisk selv ejer. I klippet taler Zuckerberg om at være "en mand med total kontrol over milliarder af folks stjålne data, alle deres hemmeligheder, deres liv, deres fremtid." Den er lavet ved hjælp af et to år gammelt klip af Zuckerberg, hvor han taler om russisk indblanding i 2016 i det amerikanske valg. Den kan stadig ses her

Facebooks politiske chef, Nick Clegg, head of Global Policy and Communications, blev forleden på en konference her i København afholdt af Alliance for Democracies Foundation konfronteret med en fremtid med flere deepfakes på Facebooks platform.  

”I øjeblikket er vores holdning meget den samme som med misinformation generelt. Hvis opslag bryder reglerne og gør skade, så vil vi eliminere den slags ved at bede faktatjekkere om at undersøge, om der er tale om en falsk video og linke til den faktuelle information, hvis folk prøver at dele den slags dubiøse indhold. Vi prøver også på at eskalere indsatsen for at opdage den slags videoer, allerede inden det når til faktatjekkerne, hvis vi kan, så det ikke får viralitet på platformen og bliver delt af mange,” sagde Nick Clegg. 

Clegg indrømmede på mødet i København, at Facebook ikke var hurtige nok til at identificere den manipulerede video med Nancy Pelosi og advare brugerne på den rette måde. 

Forberedelse fremfor panik

Det er ikke første gang, at amerikanske politikere har forsøgt at gøre noget ved deepfakes. I december 2018 introducerede den republikanske senator Ben Sasse et lovforslag, der forsøgte at forbyde ondsindede deepfakes. Senator Marco Rubio, ligeledes fra republikanerne, har også gentagne gange advaret om teknologien og truet med lovgivning. Men med senatshøringen forleden er der nu for første gang noget, der ligner en samordnet indsats fra de amerikanske lovgivere.  

De er bare ikke enige om, hvad der skal gøres. Heller ikke om, hvorvidt tech-platformene skal tvinges til at udbygge deres forsvarsberedskaber mod deepfakes. Eller hvilke sanktioner der skal være, hvis de ikke fjerner ondsindede deepfakes, der skader enkeltpersoner eller truer den nationale sikkerhed. Der er en særlig interesse for at forsøge at indføre en ny sanktion, hvis folks omdømme beskadiges af såkaldte syntetiske medier. 

Den uafhængige organisation Witness Media Lab har udgivet en ny forskningsrapport om deepfakes. Deepfakes er i øjeblikket ikke mainstream. Men teknologien har udviklet sig i et hastigt tempo. Og mængden af data, der kræves for at fake en video, er faldet så dramatisk, at det skønnes at være mainstream teknologi i løbet af få år.

Mange af henstillingerne og en stor del af den supplerende dokumentation stemmer også overens med de forslag, der er drøftet i den amerikanske kongreshøring. En del eksperter mener, at det er for tidligt at lovgive om deepfakes, fordi teknologien endnu ikke fuldt og helt har vist, hvad den formår. Det er også anbefalingen fra Witness Media Lab. Lad være med at gå i panik, men vær forberedt, lyder anbefalingen. 



Lisbeth Knudsen@KnudsenLisbeth

Tværgående chefredaktør for Mandag Morgen og Altinget. Har tilbragt godt 40 år i mediebranchen inden for både print, radio, tv og digitale platforme. Det meste af tiden som leder på forskellige niveauer.

LÆS MERE
Forrige artikel Da en dansk folkeskoleklasse bad til Allah og satte internettet i flammer Da en dansk folkeskoleklasse bad til Allah og satte internettet i flammer Næste artikel Facebookchef: Politikerne må stå for at regulere sociale medier, ikke Facebook selv Facebookchef: Politikerne må stå for at regulere sociale medier, ikke Facebook selv
Nej, Rigshospitalet efterspørger slet ikke tøj til hjemløse

Nej, Rigshospitalet efterspørger slet ikke tøj til hjemløse

Adskillige velmenende danskere deler lige nu en tekst på de sociale medier, hvor Rigshospitalet angiveligt efterspørger tøj til deres hjemløse patienter, så de kan holde varmen, når de bliver udskrevet. Men hospitalet hverken indsamler eller modtager tøj.

Skal en elbil køre 219.000 km for at være grønnere end en dieselbil?

Skal en elbil køre 219.000 km for at være grønnere end en dieselbil?

Ifølge et østrigsk studie skal en elbil køre 219.000 kilometer, før den er grønnere end en dieselbil, skriver Jyllands-Posten. Men tallet stammer slet ikke fra det østrigske studie. I stedet står en interesseorganisation for tyske bilejere bag tallet, der ifølge forskere er overdrevet.

De glemsomme har (stadig) ikke en højere intelligens

De glemsomme har (stadig) ikke en højere intelligens

En viral historie fra 2018, der påstår, at glemsomhed er tegn på høj intelligens, har fået fornyet liv, efter en genudgivelse af artiklen har fået flere tusinde delinger på Facebook. Men det er stadig noget vrøvl.

Er du sødere, hvis du er født i december? Niks!

Er du sødere, hvis du er født i december? Niks!

Et studie viser, at børn født i december er sødere end personer født i årets første 11 måneder. Det kan man læse i en artikel, der har fanget tusindvis af danskeres opmærksomhed. Men påstanden rammer ved siden af, fastslår forskeren bag studiet. 

Nordisk Film Biografer er under massivt angreb fra svindlerne

Nordisk Film Biografer er under massivt angreb fra svindlerne

Du kan slippe for vintermørket i en stund og vinde en tur i biografen, lyder det i et opslag på et socialt medie, som Nordisk Film Biografer skulle stå bag. Det gør de bare ikke. Biografkæden er ramt af en storm af svindelkonkurrencer på både sms, mail og falske sider på sociale medier.

Geodata fra mobiler sladrer om vælgerne  i amerikansk valgkamp

Geodata fra mobiler sladrer om vælgerne i amerikansk valgkamp

De færreste amerikanske vælgere ved, at apps på deres mobil sender geodata til firmaer, som bruger dem til at målrette politiske kampagner mod dem. Noget, der er ulovligt i EU. Lokalitetsdata kan for eksempel afsløre, om man ofte går i kirke, til lægen eller i skydeklub.

Nej, en buttet kvinde får dig ikke til at leve længere

Nej, en buttet kvinde får dig ikke til at leve længere

Er du mand, og har du en kvindelig og buttet kæreste, kan du se frem til et både langt og lykkeligt liv, viser ny forskning ifølge netmediet Dagens.dk. Men forskningen eksisterer ikke, og sammenhængen er alt for forsimplet. 

Har hver femte elev i hotel- og restaurationsbranchen oplevet sexchikane?

Har hver femte elev i hotel- og restaurationsbranchen oplevet sexchikane?

Hver femte elev, der uddanner sig til kok, tjener eller receptionist, har været udsat for sexchikane på lærepladsen, hævder en rapport fra Institut for Menneskerettigheder. Men rapporten er ikke repræsentativ og kan derfor ikke sige noget generelt om omfanget, slår eksperter fast.

Fupmagere udlover både el-løbehjul og biografture

Fupmagere udlover både el-løbehjul og biografture

Hele to angivelige computerreparatører lover på Facebook, at en heldig vinder kan erhverve sig et el-løbehjul. Et andet opslag sætter et par biografture på højkant. Men både siderne bag opslagene og konkurrencerne er falske.  

Har vinter erstattet jul? Nu hagler kritikken ned over Aldis medister

Har vinter erstattet jul? Nu hagler kritikken ned over Aldis medister

Aldi har droppet sin klassiske julemedister til fordel for en vintermedister, lyder et budskab på sociale medier, som er delt mere end 11.000 gange. Flere kalder det et knæfald for islam. Men Aldi fejrer skam jul i alle deres butikker, og i kølediskene ligger metervis af julemedister.

Hverken Ikea eller Føtex dropper julen

Hverken Ikea eller Føtex dropper julen

Både Ikea og Føtex er under anklage for at "gå på knæ for muslimer". Det skyldes, at Ikea kalder en kollektion for "vinterfest", og Føtex falder en bolle for vinterbolle i stedet for noget med jul. Men navnene er slet ikke opstået af religiøse hensyn, siger både Føtex og Ikea.  

Falsk Smartbox-side lokker danskere i kreditkortfælde

Falsk Smartbox-side lokker danskere i kreditkortfælde

I et facebookopslag udlodder oplevelsesvirksomheden Smartbox angiveligt gratis biografture til heldige vindere. Men opslaget er det rene fup. Svindlere står bag facebooksiden, der udgiver sig for at være Smartbox, men intet har med virksomheden at gøre.