Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og annonceindtægter rykker i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

LÆS OGSÅ: Facebook blæser til kamp mod falske nyheder i Danmark

LÆS OGSÅ: Du gætter aldrig, hvad Facebook nu vil gøre mod nogle danske medier!!!

LÆS OGSÅ: Google og Facebook i kamp mod fake news

LÆS OGSÅ: Sociale medier giver dig flere og mere forskellige nyheder

Forrige artikel Emmanuel Macron klar med lov mod falske nyheder Emmanuel Macron klar med lov mod falske nyheder Næste artikel “Han kan lave 20 cannabis-videoer mere, men det er stadig ikke dokumentation” “Han kan lave 20 cannabis-videoer mere, men det er stadig ikke dokumentation”
Er du sødere, hvis du er født i december? Niks!

Er du sødere, hvis du er født i december? Niks!

Et studie viser, at børn født i december er sødere end personer født i årets første 11 måneder. Det kan man læse i en artikel, der har fanget tusindvis af danskeres opmærksomhed. Men påstanden rammer ved siden af, fastslår forskeren bag studiet. 

Nordisk Film Biografer er under massivt angreb fra svindlerne

Nordisk Film Biografer er under massivt angreb fra svindlerne

Du kan slippe for vintermørket i en stund og vinde en tur i biografen, lyder det i et opslag på et socialt medie, som Nordisk Film Biografer skulle stå bag. Det gør de bare ikke. Biografkæden er ramt af en storm af svindelkonkurrencer på både sms, mail og falske sider på sociale medier.

Geodata fra mobiler sladrer om vælgerne  i amerikansk valgkamp

Geodata fra mobiler sladrer om vælgerne i amerikansk valgkamp

De færreste amerikanske vælgere ved, at apps på deres mobil sender geodata til firmaer, som bruger dem til at målrette politiske kampagner mod dem. Noget, der er ulovligt i EU. Lokalitetsdata kan for eksempel afsløre, om man ofte går i kirke, til lægen eller i skydeklub.

Nej, en buttet kvinde får dig ikke til at leve længere

Nej, en buttet kvinde får dig ikke til at leve længere

Er du mand, og har du en kvindelig og buttet kæreste, kan du se frem til et både langt og lykkeligt liv, viser ny forskning ifølge netmediet Dagens.dk. Men forskningen eksisterer ikke, og sammenhængen er alt for forsimplet. 

Har hver femte elev i hotel- og restaurationsbranchen oplevet sexchikane?

Har hver femte elev i hotel- og restaurationsbranchen oplevet sexchikane?

Hver femte elev, der uddanner sig til kok, tjener eller receptionist, har været udsat for sexchikane på lærepladsen, hævder en rapport fra Institut for Menneskerettigheder. Men rapporten er ikke repræsentativ og kan derfor ikke sige noget generelt om omfanget, slår eksperter fast.

Fupmagere udlover både el-løbehjul og biografture

Fupmagere udlover både el-løbehjul og biografture

Hele to angivelige computerreparatører lover på Facebook, at en heldig vinder kan erhverve sig et el-løbehjul. Et andet opslag sætter et par biografture på højkant. Men både siderne bag opslagene og konkurrencerne er falske.  

Har vinter erstattet jul? Nu hagler kritikken ned over Aldis medister

Har vinter erstattet jul? Nu hagler kritikken ned over Aldis medister

Aldi har droppet sin klassiske julemedister til fordel for en vintermedister, lyder et budskab på sociale medier, som er delt mere end 11.000 gange. Flere kalder det et knæfald for islam. Men Aldi fejrer skam jul i alle deres butikker, og i kølediskene ligger metervis af julemedister.

Hverken Ikea eller Føtex dropper julen

Hverken Ikea eller Føtex dropper julen

Både Ikea og Føtex er under anklage for at "gå på knæ for muslimer". Det skyldes, at Ikea kalder en kollektion for "vinterfest", og Føtex falder en bolle for vinterbolle i stedet for noget med jul. Men navnene er slet ikke opstået af religiøse hensyn, siger både Føtex og Ikea.  

Falsk Smartbox-side lokker danskere i kreditkortfælde

Falsk Smartbox-side lokker danskere i kreditkortfælde

I et facebookopslag udlodder oplevelsesvirksomheden Smartbox angiveligt gratis biografture til heldige vindere. Men opslaget er det rene fup. Svindlere står bag facebooksiden, der udgiver sig for at være Smartbox, men intet har med virksomheden at gøre. 

Det er altså stadig tilladt at klappe på Oxford University

Det er altså stadig tilladt at klappe på Oxford University

Det britiske Oxford University forbyder de studerende at klappe for ikke at genere studerende, der bruger høreapparat eller har en angstlidelse, beretter flere medier. Men det er forkert. Det anerkendte universitet tillader fortsat klapsalver. 

Får danske svin mindre antibiotika end svin i andre lande?

Får danske svin mindre antibiotika end svin i andre lande?

Danske grise får mindre antibiotika end grise i andre europæiske lande, hævder Landbrug & Fødevarer og henviser til en opgørelse over antibiotikaforbrug på dyr i Europa. Men man kan slet ikke drage den konklusion på baggrund af opgørelsen, siger forskere.