Facebook sletter milliarder af falske brugere. Men ny rapport tyder på, at det ikke er godt nok

En Nato-enhed har i månedsvis eksperimenteret med falske profiler på sociale medier. Forsøget udmunder i en ny rapport, der viser, at sociale medier ikke gør nok for at bekæmpe falske profiler, siger ekspert. Vi må stramme op, erkender Facebook. 

Facebook og andre sociale medier har ikke været dygtige nok til at rydde ud i falske profiler på egne platforme.

Sådan lyder konklusionen i en ny rapport fra Nato-enheden Strategic Communications Centre of Excellence (Stratcom), der bekæmper desinformation online.

Efter at have undersøgt, hvor vakse de sociale medier egentlig er til at opdage potentielt “ondsindet aktivitet” på egne platforme, sår Stratcom i skarpe vendinger tvivl om, hvorvidt de sociale medier nu også er så kompetente til at løfte opgaven, som de ellers har brystet sig af.

“Selvregulering virker ikke. Manipulationsindustrien vokser år for år. Vi ser ingen tegn på, at det er blevet væsentligt dyrere eller sværere at udføre omfangsrig manipulation på sociale medier,” skriver Stratcom i den nye rapport.

Sletter ikke anmeldte profiler

Med et budget på 300 Euro (2.250 kroner) købte Nato-enheden sig til 25.750 likes, 3.530 kommentarer, 20.000 visninger og 5.100 følgere på tværs af Facebooks, Twitters, Youtubes og Instagrams platforme.

Interaktionerne erhvervede Stratcom sig gennem lyssky leverandører af falske likes og følgere, og interaktionerne blev fordelt på 105 forskellige opslag på sociale medier. Heriblandt et par fra EU-kommissær Margrethe Vestager.

Fire uger efter købet var fire ud af fem af de falske interaktioner dog stadig ikke fjernet fra platformene. Og på baggrund af de tusindvis af interaktioner identificerede holdet bag forsøget i alt 18.739 falske profiler.

Herefter anmeldte Stratcom et udsnit af de falske profiler til de sociale medier. Men tre uger efter anmeldelsen var 95 procent af profilerne stadig online, og flere af dem interagerede fortsat på de sociale medier – blandt andet med politikere og politiske partier.

Artiklen fortsætter under billederne

 
Margrethe Vestagers julehilsen på Facebook var et af de opslag, som Stratcom købte likes og kommentarer til i forsøget.

 

 
Et halvt år efter EU-kommissærens julehilsen bliver opslaget pludselig populært blandt facebookbrugere, hvis navne er stavet med kyrilliske bogstaver.

 

 
Margrethe Vestagers opslag lader stadig til at være populært blandt disse profiler. Om netop de er anmeldt til Facebook, eller om de er vurderet af det sociale medie, ved vi ikke. (Skærmbilleder fra Facebook 16. december 2019)

“På baggrund af dette eksperiment og andre studier, vi har udført de seneste to år, vurderer vi, at Facebook, Instagram, Twitter og Youtube stadig ikke yder uautentisk adfærd på platformene tilstrækkelig modstand,” skriver Stratcom i rapporten.

Johan Farkas, ph.d-studerende ved Malmø Universitet med speciale i propaganda på sociale medier, kalder forsøget “vigtigt arbejde.”

“Helt i tråd med hvad forskere på området siger, påpeger rapporten, at der reelt ikke er styr på, hvordan sociale medier griber falske profiler an,” siger han.

Ikke kampdygtige nok

I sin seneste "gennemsigtighedsrapport" fra november kunne Facebook ellers oplyse, at de alene i 2019 har slettet 5,4 milliarder falske profiler i bekæmpelsen af manipulation og misinformation på platforme som Facebook og Instagram.

I rapporten fremgår det, at Facebook har forbedret deres evne til at opspore og blokere forsøg på at skabe falske profiler. Også Twitter og Google, der står bag Youtube, har tilkendegivet af at slette konti i massevis.

Ifølge Johan Farkas er der ikke grund til at tro, at techgiganter som Facebook pynter på tallene. Snarere plukker de blot "de lavthængende frugter":

"Facebook rammer jo primært falske konti i oprettelsesprocessen. Der er formentlig folk, der forsøger at oprette 100 konti på en gang, eller måske får software til det, og så er der tydelige tegn på, at de konti er falske. Men så snart vi taler om en mere sofistikeret brug af falske konti, er Facebook formentlig ikke så kampdygtige, som de gerne vil give udtryk for," siger han.

Artiklen fortsætter under billedet

Johan Farkas er ph.d.-studerende ved Malmø Universitet med speciale i nye former for propaganda. (Foto: Altinget.dk)

Johan Farkas peger på, at Altinget tidligere har afdækket, hvordan Facebook ikke skred til handling, efter at flere såkaldte ‘bots’ var blevet udpeget af Udenrigsministeriet. Botsene var mistænkt for at spille en rolle i opstandelsen mod FN’s migrationspagt, men fik lov at leve videre online, selv efter at de var blevet afsløret.

“Det mest tankevækkende og problematiske er, at selv blandt de profiler, som bliver meldt til Facebook for at være falske, bliver kun en brøkdel fjernet,” siger Johan Farkas

Facebook: "Det er ikke godt nok"

Martin Ruby, Facebooks politiske chef for Norden og Benelux, mener, at Stratcoms fund giver anledning til at stramme platformen op.

"Det er ikke godt nok. Lige præcis i forhold til falske profiler har vi de seneste par år forsøgt at lave klapjagt på dem. Vores seneste Transparency Report viser, at vi i år alene har fjernet over fem milliarder profiler. Så det er noget, vi slår ned på nu. Derfor overrasker det mig, at de stadig er der, uger efter de er blevet anmeldt. Det er selvfølgelig ikke godt nok," siger Martin Ruby.

Stratcom-rapporten siger, at I ikke stiller meget op over for de mere sofistikerede falske profiler. Er der ikke en sandhed i det?

"Det er klart, at de profiler, der er nemmest at fjerne, er dem, der bliver skabt mest klodset. Hvis samme IP-adresse laver en hel masse profiler på en gang, ringer vores alarmklokke. De (profiler, red.) bliver fjernet hurtigst. Der er også en god chance for, at vi får øje på profiler, der spammer helt vildt."

Hvis jeg anmelder en profil, hvad sætter det så i gang hos jer?

"Så er der nogen, der kigger på dem og vurderer, om profilen ser rigtig ud eller ej. Det gør de blandt andet ved at kigge på navn og billede. Det har vi forskellige metoder til."

Så det er den del, der ikke fungerer?

"Hvad der præcis er foregået med de profiler fra rapporten, kan jeg ikke sige. Men der er et eller andet, der ikke fungerer godt nok. Det er helt tydeligt. Vi har jo ikke interesse i at have alle de her falske profiler på platformen. Det er noget, der stadig ikke er godt nok. Det må vi konstatere."

Kan du være mere specifik om, hvad I vil gøre ved det problem, som rapporten beskriver?

"Jeg kan sige, at vi kommer helt sikkert til at kigge på det her. Og vores cybersikkerheds-teams kommer helt sikkert til at beskæftige sig med det. Vi kan ikke være tjent med det her."

Også Twitter og YouTube tager sagen alvorligt

Yoel Roth, Twitters ansvarlige for platformens integritet, peger ligesom Facebook på platformens gennemsigtighedsrapport.

“At oprette falske konti, betale for interaktioner og bevidst at manipulere vores tjeneste er alt sammen forbudt. Vi er glade for, at rapporten anerkender Twitters proaktive arbejde med at slå ned på uautentisk aktivitet. Det er en løbende udfordring, men vi har investeret betydelige tekniske ressourcer og forpligtet os til at forbedre os,” siger han ifølge Buzzfeed.

En talsperson fra YouTube udtaler til Buzzfeed, at videotjenesten har et værn mod de falske visninger, og at de løbende luer ud i dem.

“Vi tager en hver form for misbrug af vores systemer meget alvorligt, også forsøg på kunstigt at forhøje antallet af visninger. I mere end et årti har Youtube udviklet, indsat og investeret i teknologi, der skal forebygge manipulation med antallet af afspilninger. Intet anti-spam system er perfekt, men vi arbejder hårdt på at holde falske visninger nede på en procent af de samlede visninger,” siger talsmanden til Buzzfeed.

Forrige artikel Interesseorganisation foreslår ny lov: Sociale medier skal kunne straffes for deling af børneporno Interesseorganisation foreslår ny lov: Sociale medier skal kunne straffes for deling af børneporno Næste artikel Især familier i Gentofte gør brug af au pair-ordningen Især familier i Gentofte gør brug af au pair-ordningen
Bilka er lige nu et populært mål for fupkonkurrencer

Bilka er lige nu et populært mål for fupkonkurrencer

For at sprede lidt glæde i coronakrisetiden, udlover Bilka i Skalborg spritnye høretelefoner til 10 heldige vindere. Sådan lyder det i et populært opslag på sociale medier. Men Bilka har intet med konkurrencen at gøre - den er et fupnummer. I øjeblikket lægger flere af kædens varehuse ufrivilligt navn til svindelnummeret.

Helle Thorning-Schmidt bliver medlem af Facebooks nye

Helle Thorning-Schmidt bliver medlem af Facebooks nye "højesteret"

Jurister, menneskerettighedssaktivister, digitale eksperter og en tidligere dansk statsminister er blandt de udpegede medlemmer af Facebooks nye tilsynsråd. De skal tage stilling til, hvilke typer indhold der løbende skal fjernes på det sociale medie. 

Forvirring om (falsk) coronaskilt: Mener hun virkelig det helt alvorligt?

Forvirring om (falsk) coronaskilt: Mener hun virkelig det helt alvorligt?

En amerikansk demonstrant hånes på sociale medier for at holde et protestskilt med et konspirerende budskab, der beskylder Barack Obama for at stå bag coronakrisen. Men billedet er manipuleret. I virkeligheden står der noget helt andet på skiltet, som hun brugte til at demonstrere mod nedlukningen af Californien under coronakrisen. 

Hvor mange muslimer er der i Danmark?

Hvor mange muslimer er der i Danmark?

Antallet af muslimer i Danmark er ofte genstand for debat på sociale medier. Ikke mindst fordi der ikke findes officielle danske opgørelser. Nye beregninger viser nu, at tallet sandsynligvis er lavere end tidligere vurderet.