Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og som Ugebrevet Mandag Morgen tidligere har beskrevet, rykker annonceindtægter i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

Forrige artikel Nesta: Disse ti trends vil dominere 2018 Nesta: Disse ti trends vil dominere 2018 Næste artikel Fake news er ikke problem i Danmark – men misinformation er Fake news er ikke problem i Danmark – men misinformation er
Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Harvardprofessor: Vi kan tæmme overvågningskapitalismen

Med begrebet ”overvågningskapitalisme” har den amerikanske økonomiprofessor Shoshana Zuboff sat fokus på spillereglerne i den nye digitale økonomi. Her handler det ikke længere kun om at analysere og forudsige din adfærd, men også om at styre den. Vi kan dog ændre på spillereglerne, hvis vi vil, fastslår hun. Det har vi gjort før.

Hvad sker der, når Facebook også får magten over pengene?

Hvad sker der, når Facebook også får magten over pengene?

Facebooks planer om at starte sin egen valuta kan være starten på kryptovalutaernes æra. Endnu ved ingen, hvordan den nye møntfod skal reguleres, eller hvordan Facebook præcist har tænkt sig at linke den til nationalbankernes valutaer og andre faste aktiver. 

Samskabelse for alle: Hvad du bør vide, før du går i gang

Samskabelse for alle: Hvad du bør vide, før du går i gang

Co-creation er en samskabelsesmetode, som typisk bruges til at skabe større grundlæggende forandringer. Men metoden kan også med fordel anvendes på projekter af mindre skala. Mandag Morgen giver dig her en introduktion til metoden – med kemotasken som det gode og konkrete eksempel.

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Kunstig intelligens kan gøre Indiens kompleksitet til en fordel

Det indiske marked kan virke overvældende. Inden for få hundrede kilometer kan sprog, kultur og kvaliteten af infrastrukturen ændre sig markant. Det er komplekst og kaotisk, men for udviklere af kunstig intelligens er Indiens diversitet også en rig kilde til data.

Holder Ray Kurzweils forudsigelser for 2019?

Holder Ray Kurzweils forudsigelser for 2019?

I en bestseller bog fra 1999 gav den amerikanske opfinder Ray Kurzweil en række konkrete bud på udviklingen i 2019.

Men holder hans forudsigelser? Vi ser på, hvordan det faktisk gik.

Volvos nye liv som succesrig kineser

Volvos nye liv som succesrig kineser

Lone Fønss Schrøder har som næstformand i Volvos bestyrelse oplevet sammenlægningen af et aldrende svensk ikon og en kinesisk opkomling i bilindustrien på tæt hold. En lektion i markedsforståelse, forenkling og eksekvering – og hvordan ’goldplating’ kan være en fælde for de kvalitetsbevidste.

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Vi klarer kun klimakrisen med fuld fart på grøn vækst

Økonomisk vækst og CO2-reduktioner er ikke modsætninger – tværtimod. Verden har brug for, at det går ekstremt stærkt med omstillingen af energien, transporten, byggeriet, landbruget osv. Derfor skal speederen i bund nu, lyder det fra både ngo'er, McKinsey og World Economic Forum.

Degrowth: En verden uden vækst

Degrowth: En verden uden vækst

Vi har travlt, hvis kloden skal være beboelig i år 2100. Derfor må vi stoppe udvindingen af naturressourcer, stoppe forbruget og stoppe stigningen i BNP. Væksten må aflyses, bremsen skal i bund. Det er ekstremt, men ekstremt nødvendigt, lyder det fra degrowth-bevægelsen og de økologiske økonomer, der står bag dem.

12 teknologier  der kan redde klimaet

12 teknologier der kan redde klimaet

Skal vi redde klimaet gennem grøn vækst, bliver en række nuværende og fremtidige teknologier helt afgørende for, om det lykkes. Her er 12 af dem.

10 veje til en vækstfri verden

10 veje til en vækstfri verden

Det kan ikke lade sig gøre at bremse væksten uden fundamentale ændringer af hele den måde, vi har indrettet vores samfund på, påpeger degrowth-folket.

Ny FN-rapport kræver barsk omstilling af virksomheder

Ny FN-rapport kræver barsk omstilling af virksomheder

Internationale forskere dokumenterer i en ny FN-rapport, at vi er ved at tabe verdensmålene, og foreslår en hurtig, barsk og effektiv genopretningsplan. Det konfronterer virksomheder i hele verden med skelsættende og eksistentielle valg.

Isen sprækker under BNP som mål for fremgang

Isen sprækker under BNP som mål for fremgang

Bruttonationalproduktet er i dag det vigtigste mål for, hvordan det går med økonomien i et land. Men der er voksende bevidsthed om problemerne med at styre efter et mål, som hverken afspejler miljøets tilstand, sociale forhold eller værdien af den hastigt voksende digitale økonomi. Flere steder, herunder i Danmark, arbejdes der på alternative eller supplerende mål.

Stil bedre spørgsmål og bliv en bedre leder

Stil bedre spørgsmål og bliv en bedre leder

De fleste chefer tror, at de har alle svarene. Men de bedste chefer formår at stille spørgsmål, der inspirerer til nytænkning. Her er seks råd til, hvordan du kan stille bedre spørgsmål.  

Gør Danmark til talenternes stormagt

Gør Danmark til talenternes stormagt

KOMMENTAR: Visionen om Danmark som talenternes stormagt er et oplagt og nødvendigt “velfærdsløfte” til næste generation. Det er også en mulighed for at undgå en kompetencenedslidning af fremtidens arbejdskraft og bør være et hovedpunkt i næste regeringsgrundlag.

Modens klimatopmøde anklages for greenwashing

Modens klimatopmøde anklages for greenwashing

I et helt årti har Copenhagen Fashion Summit været modeindustriens eget internationale klimatopmøde. Men det har ikke for alvor gjort tøjbranchen mere bæredygtig, lyder kritikken fra en lang række forskere, som beskylder organisationen for greenwashing. Forskerne ser kun én vej frem: Færre varer af bedre kvalitet.

Venstrefløjen er klar til klimaafgift på tøj

Venstrefløjen er klar til klimaafgift på tøj

En af klodens største klimasyndere er stort set gået under radaren, når politikerne taler grønne afgifter og regulering. Men nu er alle Mette Frederiksens støttepartier klar til at bruge afgifter til at sætte en bremse på tøjforbruget.