Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og annonceindtægter rykker i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

LÆS OGSÅ: Facebook blæser til kamp mod falske nyheder i Danmark

LÆS OGSÅ: Du gætter aldrig, hvad Facebook nu vil gøre mod nogle danske medier!!!

LÆS OGSÅ: Google og Facebook i kamp mod fake news

LÆS OGSÅ: Sociale medier giver dig flere og mere forskellige nyheder

Forrige artikel Emmanuel Macron klar med lov mod falske nyheder Emmanuel Macron klar med lov mod falske nyheder Næste artikel Guide: Undgå at blive snydt under januarudsalget Guide: Undgå at blive snydt under januarudsalget
Pisk til 15-årig gjorde Europas menneskeret dynamisk

Pisk til 15-årig gjorde Europas menneskeret dynamisk

ANALYSE: Den omdiskuterede såkaldte ’dynamiske fortolkning’ af menneskeretten har fundet sted så længe, at de fleste har glemt, hvordan den opstod. Mandag Morgens Europaredaktør tager dig fire årtier tilbage til en sag om en 15-årig skoledreng, der blev dømt til korporlig afstraffelse i Storbritannien.

Hvornår må du bruge det lange lys på motorvejen?

Hvornår må du bruge det lange lys på motorvejen?

Hvis du er i tvivl om, om du skal eller overhovedet må bruge det lange lys, når du kører på motorvejen, så er du ikke den eneste. Spørgsmålet har nemlig skabt stor debat på de sociale medier og i avisernes spalter. Og svaret er da heller ikke helt så enkelt, siger eksperterne.

Sverige er frontløber i kampen mod desinformation og propaganda

Sverige er frontløber i kampen mod desinformation og propaganda

Svenskerne ville ikke stå uforberedt tilbage, hvis valgkampen op til rigsdagsvalget i september skulle blive ramt af russisk desinformation. Og i dag er Sverige derfor blandt de europæiske lande, der har taget de længste skridt i forsøget på at hindre påvirkningskampagner fra fremmede magter.

Fødder med uhyggelig hudsygdom er ét stort fupnummer

En video med et menneskes fødder, der angiveligt er ramt af en eller anden gevækst, cirkulerer lige nu på Facebook. Men det hele er svindel. Videoen findes slet ikke, og i sidste ende risikerer du at blive flået for penge.

Er regeringens klimaudspil tal-fifleri?

Er regeringens klimaudspil tal-fifleri?

Regeringens klimaudspil er tal-fifleri, fordi de medregner den CO2, der automatisk bliver optaget af jord og planter i den samlede CO2-reduktion. Det mener SF’s formand Pia Olsen Dyhr i hvert fald. Men regeringens måde at udregne CO2-reduktionen er helt efter bogen, slår forskere fast. 

Sandheden tabte i det brasilianske valg

Sandheden tabte i det brasilianske valg

BLOG: Den nyvalgte brasilianske præsident Jair Bolsonaros valgkamp formåede at fabrikere sin egen virkelighed gennem velkoordineret brug af sociale medier til at misinformere offentligheden for at vinde valget - et valg, der blev et eksempel på, hvordan politiske sejre opnås gennem viralitet, skriver forsker i dette blogindlæg.

Bogundersøgelse overdriver danskernes læselyst

Bogundersøgelse overdriver danskernes læselyst

Et flertal af danskerne vil gerne læse flere bøger, lyder det i en ny undersøgelse. Men undersøgelsen minder mest om en reklame og kan reelt ikke bruges til noget, siger forsker. Faktisk læser danskerne bøger sjældnere end tidligere, viser en anden undersøgelse.

Skattetrykket er dykket, men kan LA tage æren?

Skattetrykket er dykket, men kan LA tage æren?

I et opslag på Twitter i forrige uge kunne udenrigsminister Anders Samuelsen (LA) påvise, at det danske skattetryk steg under SRSF-regeringen, men er faldet markant, siden Liberal Alliance fik de afgørende mandater i 2015. Men det faldende skattetryk skyldes primært andet end politiske beslutninger.

Nej, pomfritter giver dig ikke mere hår på hovedet

Nej, pomfritter giver dig ikke mere hår på hovedet

Hvis man ikke har så meget hår på hovedet, skal man bare spise pomfritter fra McDonald’s. Et nyt studie viser nemlig, at de friturestegte kartoffelstave kan kurere skaldethed. Sådan lyder det pudsige budskab på flere hjemmesider. Men det er en komplet misforståelse, slår forsker bag studiet fast.

To våben bekæmper forureningen af vores nyhedsstrøm

To våben bekæmper forureningen af vores nyhedsstrøm

KOMMENTAR: Kampen mod forureningen af vores informationsmiljø med misinformation og disinformation må føres med to slags våben. Det ene våben har vi talt rigtig meget om, det andet våben taler vi alt for lidt om, skriver TjekDets chefredaktør Lisbeth Knudsen.

Nej, du kan altså ikke drikke dellerne væk i rødvin

Nej, du kan altså ikke drikke dellerne væk i rødvin

Et glas rødvin har samme positive virkning på kroppen som en rask løbetur. Det skulle et canadisk forskningsprojekt vise, fortæller flere danske og internationale netmedier. Men den konklusion er skudt helt ved siden af.

Hvem er de ikke-vestlige udlændinge alle taler om?

Hvem er de ikke-vestlige udlændinge alle taler om?

Følger man udlændingedebatten i Danmark, kan man næsten ikke undgå at støde på begreberne vestlige og ikke-vestlige indvandrere og efterkommere. Men hvem er de 'ikke-vestlige' egentlig? Og hvilke lande kommer de fra?

Jo, veganere må godt spise mandler og avocado

Jo, veganere må godt spise mandler og avocado

Du må hverken spise avocado, mandler, kiwi eller en lang række andre frugter og grøntsager, hvis du er veganer. De er nemlig alle sammen bestøvede af bier på en “unaturlig måde”, lyder budskabet i en video, der florerer på Facebook. Men hos Dansk Vegetarisk Forening stopper de ikke med at spise avocado.

Nyt studie har desværre ikke løst 'fibromyalgimysteriet'

Nyt studie har desværre ikke løst 'fibromyalgimysteriet'

Forskere har fundet en forklaring på den mystiske sygdom fibromyalgi, der giver massevis af danskere muskel- og ledsmerter. Det hævder en artikel, der er blevet delt tusindvis af gange på Facebook. Men budskabet er (desværre) forkert, fastslår forskere.