Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og som Ugebrevet Mandag Morgen tidligere har beskrevet, rykker annonceindtægter i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

Forrige artikel Nesta: Disse ti trends vil dominere 2018 Nesta: Disse ti trends vil dominere 2018 Næste artikel Fake news er ikke problem i Danmark – men misinformation er Fake news er ikke problem i Danmark – men misinformation er