Facebook sletter milliarder af falske brugere. Men ny rapport tyder på, at det ikke er godt nok

En Nato-enhed har i månedsvis eksperimenteret med falske profiler på sociale medier. Forsøget udmunder i en ny rapport, der viser, at sociale medier ikke gør nok for at bekæmpe falske profiler, siger ekspert. Vi må stramme op, erkender Facebook. 

Facebook og andre sociale medier har ikke været dygtige nok til at rydde ud i falske profiler på egne platforme.

Sådan lyder konklusionen i en ny rapport fra Nato-enheden Strategic Communications Centre of Excellence (Stratcom), der bekæmper desinformation online.

Efter at have undersøgt, hvor vakse de sociale medier egentlig er til at opdage potentielt “ondsindet aktivitet” på egne platforme, sår Stratcom i skarpe vendinger tvivl om, hvorvidt de sociale medier nu også er så kompetente til at løfte opgaven, som de ellers har brystet sig af.

“Selvregulering virker ikke. Manipulationsindustrien vokser år for år. Vi ser ingen tegn på, at det er blevet væsentligt dyrere eller sværere at udføre omfangsrig manipulation på sociale medier,” skriver Stratcom i den nye rapport.

Sletter ikke anmeldte profiler

Med et budget på 300 Euro (2.250 kroner) købte Nato-enheden sig til 25.750 likes, 3.530 kommentarer, 20.000 visninger og 5.100 følgere på tværs af Facebooks, Twitters, Youtubes og Instagrams platforme.

Interaktionerne erhvervede Stratcom sig gennem lyssky leverandører af falske likes og følgere, og interaktionerne blev fordelt på 105 forskellige opslag på sociale medier. Heriblandt et par fra EU-kommissær Margrethe Vestager.

Fire uger efter købet var fire ud af fem af de falske interaktioner dog stadig ikke fjernet fra platformene. Og på baggrund af de tusindvis af interaktioner identificerede holdet bag forsøget i alt 18.739 falske profiler.

Herefter anmeldte Stratcom et udsnit af de falske profiler til de sociale medier. Men tre uger efter anmeldelsen var 95 procent af profilerne stadig online, og flere af dem interagerede fortsat på de sociale medier – blandt andet med politikere og politiske partier.

Artiklen fortsætter under billederne

 
Margrethe Vestagers julehilsen på Facebook var et af de opslag, som Stratcom købte likes og kommentarer til i forsøget.

 

 
Et halvt år efter EU-kommissærens julehilsen bliver opslaget pludselig populært blandt facebookbrugere, hvis navne er stavet med kyrilliske bogstaver.

 

 
Margrethe Vestagers opslag lader stadig til at være populært blandt disse profiler. Om netop de er anmeldt til Facebook, eller om de er vurderet af det sociale medie, ved vi ikke. (Skærmbilleder fra Facebook 16. december 2019)

“På baggrund af dette eksperiment og andre studier, vi har udført de seneste to år, vurderer vi, at Facebook, Instagram, Twitter og Youtube stadig ikke yder uautentisk adfærd på platformene tilstrækkelig modstand,” skriver Stratcom i rapporten.

Johan Farkas, ph.d-studerende ved Malmø Universitet med speciale i propaganda på sociale medier, kalder forsøget “vigtigt arbejde.”

“Helt i tråd med hvad forskere på området siger, påpeger rapporten, at der reelt ikke er styr på, hvordan sociale medier griber falske profiler an,” siger han.

Ikke kampdygtige nok

I sin seneste "gennemsigtighedsrapport" fra november kunne Facebook ellers oplyse, at de alene i 2019 har slettet 5,4 milliarder falske profiler i bekæmpelsen af manipulation og misinformation på platforme som Facebook og Instagram.

I rapporten fremgår det, at Facebook har forbedret deres evne til at opspore og blokere forsøg på at skabe falske profiler. Også Twitter og Google, der står bag Youtube, har tilkendegivet af at slette konti i massevis.

Ifølge Johan Farkas er der ikke grund til at tro, at techgiganter som Facebook pynter på tallene. Snarere plukker de blot "de lavthængende frugter":

"Facebook rammer jo primært falske konti i oprettelsesprocessen. Der er formentlig folk, der forsøger at oprette 100 konti på en gang, eller måske får software til det, og så er der tydelige tegn på, at de konti er falske. Men så snart vi taler om en mere sofistikeret brug af falske konti, er Facebook formentlig ikke så kampdygtige, som de gerne vil give udtryk for," siger han.

Artiklen fortsætter under billedet

Johan Farkas er ph.d.-studerende ved Malmø Universitet med speciale i nye former for propaganda. (Foto: Altinget.dk)

Johan Farkas peger på, at Altinget tidligere har afdækket, hvordan Facebook ikke skred til handling, efter at flere såkaldte ‘bots’ var blevet udpeget af Udenrigsministeriet. Botsene var mistænkt for at spille en rolle i opstandelsen mod FN’s migrationspagt, men fik lov at leve videre online, selv efter at de var blevet afsløret.

“Det mest tankevækkende og problematiske er, at selv blandt de profiler, som bliver meldt til Facebook for at være falske, bliver kun en brøkdel fjernet,” siger Johan Farkas

Facebook: "Det er ikke godt nok"

Martin Ruby, Facebooks politiske chef for Norden og Benelux, mener, at Stratcoms fund giver anledning til at stramme platformen op.

"Det er ikke godt nok. Lige præcis i forhold til falske profiler har vi de seneste par år forsøgt at lave klapjagt på dem. Vores seneste Transparency Report viser, at vi i år alene har fjernet over fem milliarder profiler. Så det er noget, vi slår ned på nu. Derfor overrasker det mig, at de stadig er der, uger efter de er blevet anmeldt. Det er selvfølgelig ikke godt nok," siger Martin Ruby.

Stratcom-rapporten siger, at I ikke stiller meget op over for de mere sofistikerede falske profiler. Er der ikke en sandhed i det?

"Det er klart, at de profiler, der er nemmest at fjerne, er dem, der bliver skabt mest klodset. Hvis samme IP-adresse laver en hel masse profiler på en gang, ringer vores alarmklokke. De (profiler, red.) bliver fjernet hurtigst. Der er også en god chance for, at vi får øje på profiler, der spammer helt vildt."

Hvis jeg anmelder en profil, hvad sætter det så i gang hos jer?

"Så er der nogen, der kigger på dem og vurderer, om profilen ser rigtig ud eller ej. Det gør de blandt andet ved at kigge på navn og billede. Det har vi forskellige metoder til."

Så det er den del, der ikke fungerer?

"Hvad der præcis er foregået med de profiler fra rapporten, kan jeg ikke sige. Men der er et eller andet, der ikke fungerer godt nok. Det er helt tydeligt. Vi har jo ikke interesse i at have alle de her falske profiler på platformen. Det er noget, der stadig ikke er godt nok. Det må vi konstatere."

Kan du være mere specifik om, hvad I vil gøre ved det problem, som rapporten beskriver?

"Jeg kan sige, at vi kommer helt sikkert til at kigge på det her. Og vores cybersikkerheds-teams kommer helt sikkert til at beskæftige sig med det. Vi kan ikke være tjent med det her."

Også Twitter og YouTube tager sagen alvorligt

Yoel Roth, Twitters ansvarlige for platformens integritet, peger ligesom Facebook på platformens gennemsigtighedsrapport.

“At oprette falske konti, betale for interaktioner og bevidst at manipulere vores tjeneste er alt sammen forbudt. Vi er glade for, at rapporten anerkender Twitters proaktive arbejde med at slå ned på uautentisk aktivitet. Det er en løbende udfordring, men vi har investeret betydelige tekniske ressourcer og forpligtet os til at forbedre os,” siger han ifølge Buzzfeed.

En talsperson fra YouTube udtaler til Buzzfeed, at videotjenesten har et værn mod de falske visninger, og at de løbende luer ud i dem.

“Vi tager en hver form for misbrug af vores systemer meget alvorligt, også forsøg på kunstigt at forhøje antallet af visninger. I mere end et årti har Youtube udviklet, indsat og investeret i teknologi, der skal forebygge manipulation med antallet af afspilninger. Intet anti-spam system er perfekt, men vi arbejder hårdt på at holde falske visninger nede på en procent af de samlede visninger,” siger talsmanden til Buzzfeed.

Forrige artikel Interesseorganisation foreslår ny lov: Sociale medier skal kunne straffes for deling af børneporno Interesseorganisation foreslår ny lov: Sociale medier skal kunne straffes for deling af børneporno Næste artikel Især familier i Gentofte gør brug af au pair-ordningen Især familier i Gentofte gør brug af au pair-ordningen

Redaktionen holder sommerpause

TjekDets redaktion holder ferie frem til den 3. august, hvor vi vender stærkt tilbage. Du kan stadig tippe os om påstande i den offentlige debat, som du mener fortjener et faktatjek. Du kan skrive til os på tip@tjekdet.dk eller udfylde vores tipformular.

Underholdningsbranchens genåbning udnyttes groft af svindlere

Underholdningsbranchens genåbning udnyttes groft af svindlere

Adskillige virksomheder får deres navn misbrugt af svindlere, der gennem falske konkurrencer og tilbud forsøger at udnytte underholdningsbranchens genåbning efter coronanedlukningen. Legoland i Billund er seneste offer for fupmagernes forsøg på at snyde godtroende danskere.

Pensionist blev ikke fyret på grund af upassende joke om kunde

Pensionist blev ikke fyret på grund af upassende joke om kunde

En spøjs artikel om en ældre mand, der angiveligt har fået en fyreseddel fra den amerikanske supermarkedskæde Walmart blot to timer, efter han var ansat, spreder sig på sociale medier. Han fyrede angiveligt en grov joke af om en kunde, men historien er med al sandsynlighed ren fiktion. 

Fupmagere jagter kreditkortoplysninger i falsk Disney-konkurrence

Fupmagere jagter kreditkortoplysninger i falsk Disney-konkurrence

I en facebookkonkurrence, som filmgiganten Disney tilsyneladende står bag, udloves 200 gratis konti til den kommende streamingtjeneste Disney+. Men opslaget er det rene fup, der intet har med Disney at gøre, og svindlerne bag er blot ude efter godtroende danskeres penge.

Nej, smittetrykket er næppe lavere i Skåne end i Region Hovedstaden

Nej, smittetrykket er næppe lavere i Skåne end i Region Hovedstaden

Rejsebegrænsningerne mellem Danmark og Sverige debatteres heftigt for tiden, og adskillige både danske og svenske politikere påstår, at smittetrykket for covid-19 er lavere i Skåne end i Region Hovedstaden. Men det er der ikke noget, der tyder på, vurderer flere forskere.