Bots fylder i den danske Rusland-debat på Twitter

Computerstyrede brugerprofiler, også kaldet bots, blander sig i den danske Ruslands-debat på Twitter. Deres tweets udgør 60 pct. af den samlede debat, og de spreder f.eks. links til russiske medier. Bots kan få betydning for den demokratiske debat, mener forsker.

Falske profiler, fake news og troldehære. Vi har hørt om det i forbindelse med både den amerikanske valgkamp i 2016 og under de franske og tyske valgkampe sidste år.

Men det er ikke kun i udlandet, at falske eller computerstyrede profiler blander sig i debatten. Også på dansk Twitter kan du finde bots, særligt i Ruslands-debatten, der f.eks. retweeter russiskejede mediers historier, og flere af disse bots ser ud til at være en del af et større netværk.

En analyse fra dataanalyse-virksomheden Augmento.ai viser, at ni af de ti mest aktive brugere i Ruslands-debatten på Twitter er bots, og ud af de hundredevis af brugere, der tweeter om Rusland, udgør botternes tweets 60 pct. af det samlede antal.

Analysen dækker alle tweets fra september 2017 til og med februar 2018, som både indeholder hashtagget #dkpol, og som relaterer sig til Rusland gennem udvalgte keywords, der henviser til Rusland eller områder, Rusland er i konflikt med. Læs mere om metoden under artiklen.

Analysen er den første, der identificerer bots i den danske Twitter-debat om Rusland, og selvom antallet af bots, som er omkring 20, endnu ikke er så stort, og de ikke er overvældende aktive, betyder eksistensen af dem, at der er skabt en infrastruktur for manipulation.

Hvis Danmark i fremtiden kommer på tværs af Rusland, f.eks. i en konflikt om rettigheder til den arktiske havbund, vil Rusland være i stand til at manipulere den danske Twitter-debat.

Rusland har indrømmet at føre informationskrig mod Vesten, og det kom for et par år siden til offentlighedens kendskab, at der ligger en statsfinansieret troldefabrik i Skt. Petersborg, som har ansat folk til at producere falske nyheder og sprede misinformation via bl.a. bots.

Selv om Rusland mistænkes for at have forsøgt at infiltrere debatten i flere lande, kan man ikke med sikkerhed vide, om det er Rusland, som står bag nogle af botterne på dansk Twitter. Twitter har i januar 2018 udrenset op til en million russiske bots fra Twitter.

Bots på Twitter

Bots er ansvarlige for 52 pct. af al trafik på internettet. Tallet er stigende, og det betyder, at der sandsynligvis vil komme flere bots i fremtiden. Der findes ’gode’ bots, der f.eks. kan have små underholdende samtaler med brugerne eller give gode råd. Men der findes også ’onde’ bots, som f.eks. trækker information fra hjemmesider for at hacke dem.

Der findes tre former for brugere på Twitter: ’Mennesker’, ’Cyborgs’ og ’Bots’. ’Mennesker’ giver sig selv, og de udgør 48,7 pct. af brugerne. ’Cyborgs’ udgør 37,5 pct. og dækker over en blanding af et menneske og en bot. Det betyder, at botterne kan være styret direkte af mennesker, der bruger bots til at videregive holdninger, eller det kan være udtryk for, at mennesker assisterer bots for at få dem til at øge deres rækkevidde. ’Bots’ udgør 13,8 pct. og betegner fuldstændigt automatiserede programmer.

Nogle bots er ærlige om, at de er bots, som det f.eks. er tilfældet med mange mediers Twitter-bots, der videregiver nyheder til brugerne. Men andre bots forsøger at skjule, at de er bots, for at kunne udgive sig for at være mennesker med rigtige holdninger. Bots kan også bruges til at sprede spam eller chikanere andre brugere. Med al sandsynlighed vil bots kun blive klogere i fremtiden, og det er derfor nødvendigt at være opmærksom på dem.

Kilder:

Imperva Incapsula Bot Traffic Report”, 2017

Who is Tweeting on Twitter: Human, Bot, or Cyborg?”,2010

Samtidig er bots i Twitter-debatten ikke et særsyn. Et nyligt studie fra Indiana University viser, at op mod 15 pct. af alle konti på Twitter udgøres af bots, ligesom et stort projekt på Oxford University fra 2017 viste, at omkring halvdelen af deltagerne i den politiske debat i den russiske Twitter-sfære er bots eller falske profiler.

Ben Nimmo, senioranalytiker for informationsforsvar ved Atlantic Council og tidligere NATO-pressechef for Rusland og Østeuropa, peger på, at 60 pct. er en hel normal forekomst af bots på Twitter:

”Bots er en del af hverdagslivet på Twitter. Nogle bruges politisk, mens andre bruges til reklame og hopper på politiske hashtags for at tiltrække rigtige brugeres interesse. Det faktum, at halvdelen af tweetene blev genereret af bots, er ret normalt, og det faktum, at mange af botterne var en del af et enkelt netværk, tyder på, at der står en enkelt person bag den indsats,” siger Ben Nimmo.

Hvis man spørger Vincent F. Hendricks, professor på Institut for Information og Boblestudier på KU og forfatter til studiet “Opinions, Bots, and Public Spaces, vurderer han, at de 60 procent er en relativt høj andel, og han peger på, at bot-aktiviteten har indflydelse på den offentlige debat, men at det er vanskeligt at sige hvor meget:

”Hvis så meget er bot-genereret, og folk ikke er opmærksomme på det, så kan det godt betyde noget for politisk deltagelse og opmærksomhed. Der er ingen tvivl om, at det betyder noget, men hvor meget det betyder i praksis, ved vi ikke, for de resultater har vi ikke endnu.”

En kodestump, der forvrænger debatten 

Måske har du slet ikke hørt om bots før. Ordet kommer af ’robot’ og dækker teknisk set et program, som udfører automatiserede opgaver på internettet.

De kan både være venligtsindede chatbots, der hjælper dig med at finde varer, når du shopper online, eller de kan være ondsindede og have til formål at aflure dine personlige informationer. Bots på sociale medier bruges til at forstærke et signal, og de kan være problematiske, påpeger Ben Nimmo:

”Bots kan fundamentalt forvrænge demokratisk debat. De er skabt for at manipulere med folk og få folk til at tænke, at en lille gruppe er en stor gruppe, eller at et emne, som ingen rigtig interesserer sig for, i virkeligheden er meget populært,” siger han. 

Den samme skadelige effekt på demokratiet ser Vincent F. Hendricks også. Hvis bots kommer til at bestemme, hvilke debatter der tages i det offentlige rum, og man i stedet for realpolitik fokuserer på skinproblemstillinger og fake news, kan det undergrave den demokratiske debat, fordi beslutningstagerne ikke får den nødvendige viden om samfundets problematikker til at kunne tage kvalificerede beslutninger.

”Problemet med bots er, at de i og for sig ikke har nogen eksistensberettigelse til at deltage i debatten. Det allerstørste aktiv er folks opmærksomhed, og den får man ved, at mange læser, tweeter eller retweeter det, man poster. Og det kan godt skabe opmærksomhed om ting, som måske ikke er sandfærdige eller repræsentative for debatten. Bots kan dreje debatten og opmærksomheden i bestemte retninger og dermed være med til at bestemme, hvad der er på dagsordenen, selv om de ikke repræsenterer andet end en kodestump,” siger han.

Russiske bots på dansk Twitter

Mange af tweetene i den danske Ruslands-debat ser ret ens ud. Nogle indeholder links til YouTube-videoer, andre linker til artikler fra de russisk statsfinansierede medier RT og Sputnik, mens andre alene indeholder ord som Ukraine og Baltikum. Det refererer til områder, hvor der er latent eller direkte konflikt med Rusland, men tweetene er ikke nødvendigvis prorussiske, ligesom de ikke alle forholder sig til russisk politik eller konflikter. 

”Det er interessant, at så mange af hashtaggene er målrettet mod regional sikkerhed og politiske emner. Jeg tror, at vi kan forvente at se mere bottrafik i fremtiden og måske flere forsøg på at influere debatten på nøgletidspunkter som valg og forsvar,” siger Ben Nimmo.

Det er forholdsvist nemt at komme ind i den danske Twitter-debat udefra. For det første kræver det kun, at man bruger det rigtige hashtag som for eksempel #dkpol for automatisk at blive synlig i debatten. Dermed kan udenlandske brugere få lettere ved at florere i den danske debat.

Derudover er formatet på Twitter på maksimum 280 tegn, hvilket ikke efterlader meget plads til at afgøre, om brugere er bots. Hvis botterne alene poster slogans som “Go Putin” eller lignende, og andre brugere ikke interagerer med dem, kan det være vanskeligt at opdage, at de er bots. De vil f.eks. bare se ud til at være prorussiske brugere. Derudover er flere af Twitter-kontiene i undersøgelsen skabt i juli 2014.

”Juli 2014 er et interessant tidspunkt, hvor der blev opsat mange pro-Kreml-konti. Det skete efter annekteringen af Krim; tingene gik ikke så godt med Ukraine, og der var brug for at intensivere informationskrigen,” siger Ben Nimmo.

Det betød, at der florerede langt flere prorussiske holdninger, og det kunne dermed for de proukrainske beboere på Krim se ud, som om der ikke var mange, som delte deres proukrainske holdninger. Men mange af de prorussiske brugere var bots og ikke mennesker, og det kan måske have medvirket til, at der var mindre modstand på annekteringen, end der ellers ville have været.

Politiske bots forstyrrer debatten

Det er ikke kun i Danmark, bots blander sig i debatten. Under det amerikanske valg gik bølgerne højt på Twitter, men et studie fra 2016 viser, at de ikke alle var menneskeskabte. Faktisk var en femtedel af debatten på de sociale medier igangsat af bots, hvilket ifølge undersøgelsen havde en negativ indflydelse på debatten og satte hele valgets integritet i fare. 

Personer kan også øge deres popularitet. Et eksempel er den amerikanske politiker Newt Gingrichs 1,3 mio. følgere på Twitter, hvoraf 92 pct. ifølge en undersøgelse fra søgemaskinevirksomheden PeekYou var bots.

Vincent F. Hendricks peger på, at særligt amerikanske alt-right-medier, det vil sige medier på den yderste højrefløj, var gode til at plante historier under den amerikanske valgkamp og få opmærksomhed på dem gennem bots.

”Der er et økosystem af alt-right-nyhedsmedier bestående af f.eks. Breitbart News, The Gateway Pundit osv. En interessant undersøgelse viste, at det økosystem var i stand til at tale lige ned i Trumps vælgerbase. Samtidig var historierne så lammende og opmærksomhedssugende, bl.a. ved hjælp af bots, at de etablerede medier ikke kunne lade være med at tage dem op, for hvis CNN ikke gjorde det, gjorde ABC det osv. Det gjorde, at de blev dagsordenssættende over hele spektret,” siger han. 

Også op til afstemningen om Brexit var der høj bot-aktivitet. Ifølge The Times tweetede 150.000 russiske bots positivt om Brexit omkring valdagen. Under det franske valg sidste år kunne man også se en meget lille gruppe på Twitter, for hvem det lykkedes at få hashtags, der støttede Marine Le Pen, til at trende, hvilket betyder meget for synligheden. 

”Når du får et hashtag til at trende, vil alle de mennesker, der er online, se dit hashtag i deres trending-liste. Det betyder, at alle, selv dem, der ikke følger dig, vil se det, og det er en virkningsfuld måde at få sit budskab ud, hvor man normalt ikke vil se det,” fortæller Ben Nimmo. 

De fleste brugere tjekker nok ikke i første omgang, om det er bots eller rigtige mennesker, der står bag de forskellige tweets i en debat, og hvis et emne trender, vil de fleste nok antage, at det er et emne, der er interesse for, selvom interessen i virkeligheden er kunstigt skabt.

Når der først er interesse for et emne, starter det en cirkelbevægelse, som gør, at flere mennesker får øjnene op for emnet, måske lader sig overbevise osv. 

Menneske, bot eller cyborg?

Det kan være yderst vanskeligt at beslutte, hvorvidt en bruger er et menneske, en bot eller en cyborg. Det problem har også været til stede i Augmentos Twitter-undersøgelse. Bots kan være relativt begavede, og selv eksperter på området kan have vanskeligt ved at afgøre, om der er tale om en bot eller et menneske.

Der findes dog forskellige værktøjer til at afsløre dem. Man kan f.eks. bruge ’Botometer’, der er udarbejdet af Indiana University, som en indledende hjælp til at vurdere Twitter-brugere ud fra en række parametre, herunder karakteristika ved brugeren og dens udsagn. Det kan f.eks. være antal følgere, antal fulgte, mængden af tweets etc. Værktøjet giver en score fra 0 til 100, hvor 100 angiver størst sandsynlighed for, at der er tale om en bot. 

Det sikreste er dog at foretage sin egen vurdering. Man kan bl.a. kigge på antal følgere, da en bot tit vil følge flere, end der følger den. Samtidig tyder det også på, at der er tale om en bot, hvis et tweet fra en konto med få følgere får flere tusinde retweets.

En bot har derudover ikke brug for at sove, så den vil både tweete nat og dag, ligesom den ofte alene tweeter links og retweeter. Samtidig viser studiet fra Indiana University fra sidste år, at bots har mindre interaktion med andre brugere, da mennesker har tendens til at have mest interaktion med mennesker.

Nogle bots kan også kendes på fællestræk. Augmentos undersøgelse viste f.eks., at flere brugere med navne som oliv917 og 3xxRu var aktive i debatten med bl.a. hashtaggene #dkpol og #Russia. Flere af dem er oprettet i juli 2014, og de har profilbilleder af f.eks. dyr og planeter. 

”Det er et klassisk tegn på, at der er tale om bots, når brugere har enslydende navne. Et sådant botnet er sikkert lavet af et menneske, som har prøvet at være lidt kreativ. Hvis du finder konti med enslydende navne, fotos eller det samme navn og foto, er du nok kommet forbi et netværk af bots. Hvis du finder en solokonto, som ikke giver nogen form for personlig information, men tweeter hundrede gange om dagen, og kun retweeter, er den nok en bot. Efter et stykke tid lærer man at lede efter mistænkelige tegn,” siger Ben Nimmo.

Selvom det er vanskeligt, kan man ikke undgå at skulle forholde sig til bots, da der sandsynligvis ikke bliver færre af dem fremover, ligesom de ikke kun begrænser sig til at være relateret til Rusland. 

”Jeg har set meget bot-aktivitet, som forstærker pro-Kreml-udsagn, men jeg har også set dem brugt i Qatar, Saudi-Arabien etc. Der er masser af bots i USA; de er overalt, og det er en ret let og billig måde at forstærke en besked på. Der er også folk, som skaber store bot-nets med kommercielle formål og lejer dem ud til folk. Men jeg vil tro, Danmark vil være et dyrt område at komme ind på. Bot-servicer er et relativt lille marked, og hvis du ser på kommercielle bots, er mange af dem på engelsk,” siger Ben Nimmo.  

Samtidig er det et helt nyt område, og der er brug for flere undersøgelser for at vide, hvilken effekt bots reelt har:

”Det her er så nyt for os, at selv forskerne ikke har haft tid til at kigge på det. Det kører lige nu, og vi er alle sammen en del af informationens tidsalder. Det er først inden for de sidste fem år, der er begyndt at komme store undersøgelser om det.  Vi ved ret beset ikke, hvor skadeligt det er,” siger Vincent F. Hendricks.

Sådan er undersøgelsen lavet

Analyse af aktivitet på Twitter, september 2017 til februar 2018.

Først er alle tweets med hashtagget #dkpol udtrukket. Valget skyldes, at #dkpol ifølge Overskrift.dk og monitoreringstjenesten Overblik er det suverænt største hashtag i Danmark, idet det blev brugt over 800.000 gange i 2016. Da den danske politiske debat derudover i høj grad centrerer sig om #dkpol, bruges det som udgangspunkt.

Herefter er der udvalgt tweets, som indeholdt søgeordene ’Rusland’, ’Russia’, ’Putin’, ’Ukraine’, ’Nord Stream’, ’Krim’, ’Crimea’. De er udvalgt efter at være emner, som enten direkte relaterer sig til Rusland, eller som Rusland er i konflikt om.

Denne indsnævring gennem hashtagget #dkpol og alene en generel søgning på ‘Rusland’ betyder, at mange mulige tweets i Ruslands-debatten ikke vil blive medtaget, men en generel søgning på bredere termer som ‘Rusland’ eller ‘Russia’ vil give et meget større materiale, hvoraf størstedelen ikke vil være en del af den danske debat.

Derefter er brugerne i debatten rangeret efter antal tweets, og de ‘mest aktive’ er defineret som de ti brugere, der udsendte flest tweets. Vurderingen af, hvilke konti der udgøres af bots, er foretaget så grundigt som muligt, men kan indeholde fejl eller fejltolkninger, da det kan være meget vanskelig at skelne mellem bots og mennesker.

#dkpol –> filtrer efter ’Rusland’, ’Russia’, ’Putin’, ’Ukraine’, ’Nord Stream’, ’Krim’, ’Crimea’ -> datasæt

LÆS OGSÅ: Hver syvende Twitter-profil er en robot

LÆS OGSÅ: USA-valg: Russiske Facebook-profiler købte politiske reklamer

LÆS OGSÅ: Facebook blæser til kamp mod falske nyheder i Danmark

LÆS OGSÅ: Robotter spiller en markant rolle i spredningen af falske nyheder

LÆS OGSÅ: Fake news er ikke problem Danmark – men misinformation er

Forrige artikel Den danske tillid inviterer til cyberkriminalitet Den danske tillid inviterer til cyberkriminalitet Næste artikel Forskere afliver myten om velfærdsturister Forskere afliver myten om velfærdsturister