Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og som Ugebrevet Mandag Morgen tidligere har beskrevet, rykker annonceindtægter i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

Forrige artikel Nesta: Disse ti trends vil dominere 2018 Nesta: Disse ti trends vil dominere 2018 Næste artikel Fake news er ikke problem i Danmark – men misinformation er Fake news er ikke problem i Danmark – men misinformation er
Verdens fattige har brug for højteknologi til lavpris

Verdens fattige har brug for højteknologi til lavpris

Danske virksomheder skal tænke på en helt anden måde, hvis de ikke skal tabe konkurrencen om avancerede løsninger på fremtidens globale markeder. Danske løsninger er rettet mod den høje ende af markedet, men en stor del af klodens forbrugere efterspørger teknologi, der kan opfylde deres basale behov til en lav pris.

Mobilen er øjenlægens forkontor

Mobilen er øjenlægens forkontor

Den teknologiske hjælp er helt afhængig af at spille sammen med det lokale sundhedsvæsen. Peek Vision har udviklet en app til øjenundersøgelser i udviklingslande ved hjælp af smartphones. Den skal sortere de raske fra, så øjenlægerne bruger tiden på de rigtige patienter.

Dansk startup laver billige høreapparater til verdens fattige

Dansk startup laver billige høreapparater til verdens fattige

Danske høreapparater plejer at være blandt de dyreste og mest avancerede i verden. Startup-virksomheden Audientes satser i stedet på at sælge billige høreapparater til lande, hvor millioner af mennesker ikke har råd til at få afhjulpet deres høretab.

En bredside mod tech-giganterne

En bredside mod tech-giganterne

Forfatteren til bogen ”Verden fra forstanden”, den amerikanske journalist Franklin Foer, leverer i en samtale med Danmarks tech-ambassadør en solid bredside med tech-giganterne, som han mener har fået en alt for stor rolle i vores liv.

Kinas første robot-restaurant

Kinas første robot-restaurant

En af Kinas store restaurantkæder, Haidilao, har åbnet den første restaturant, hvor robotter i vidt omfang har erstattet både kokke og tjenere.

Tysk virksomhed: Skræddersyet medicin er fremtiden

Tysk virksomhed: Skræddersyet medicin er fremtiden

I dag kan ordet cancer være et forvarsel om en tidlig død. Om 20 år vil kun de færreste dø af kræft. Sådan lyder visionen fra en af verdens største farmaceutiske virksomheder, Roche. Gensekventering og big data er nøglen.

Kineserne overhaler

Kineserne overhaler

Det er skræmmende at se hvor hurtigt den kinesiske teknologiudvikling går sammenlignet tempoet i Danmark.
Kræftbehandlinger baseret på den enkelte patients gener plus Big Data tegner lovende.

Kinas rivende udvikling kræver nye svar fra Danmark

Kinas rivende udvikling kræver nye svar fra Danmark

Danmark er nødt til at reagere offensivt på, at Kina lige nu tager stormskridt på den teknologiske front, siger topforskere, der er tilknyttet Akademiet for Tekniske Videnskaber. Vi kan begynde med et opgør med den kollektive blinde vinkel mod Kina, lyder et bud.

Er det gyldne håndtryk på vej ud?

Er det gyldne håndtryk på vej ud?

Danske Bank kunne lære af Googles nye retningslinjer for fyring af skandaleramte chefer. I Brasilien er de vilde med Big Data – ikke mindst skattevæsenet.

Er det snart slut med de absurde gyldne håndtryk?

Er det snart slut med de absurde gyldne håndtryk?

ANALYSE: Topchef efter topchef forlader virksomheder med gyldne håndtryk, selv om de er ansvarlige for skandaløs ageren. Google er slået ind på en ny kurs, og det kan der være gode økonomiske grunde til. I Danmark er spørgsmålet, hvordan Danske Bank vil vise, at de har forstået alvoren.

Dansk landbrug melder pas på kødrevolutionen

Dansk landbrug melder pas på kødrevolutionen

Danmarks animalske fødevareindustri er produktiv, men den er ikke bæredygtig i klimamæssig forstand. Og spørgsmålet er, hvor længe den er det i økonomisk forstand. En gigant som Danish Crown risikerer at misse kapløbet om fremtidens fødevarer.

Laboratorie-bøffer har kurs mod verdens kølediske

Laboratorie-bøffer har kurs mod verdens kølediske

Hollænderen Mark Post præsenterede i 2013 verdens første laboratoriefremstillede hakkebøf. Nu har store tyske og schweiziske koncerner investeret godt 55 mio. kr. i selskabet Mosa Meat, der i 2021 sender de første reagensglasbøffer i handlen.

Briterne vil indføre en skat på digitale giganters omsætning

Briterne vil indføre en skat på digitale giganters omsætning

Briterne vil nu indføre en indføre en skat, som direkte er møntet på de globale digitale giganter. Danmark var sidste efterår med til at bremse et lignende forslag fra EU-kommissionen, men selvom EU-forslaget har flere mangler, er det dog bedre end ikke at gøre noget, mener både SF’s Lisbeth Bech Poulsen og Mellemfolkeligt Samvirke.

En rigtig øl i en virtuel pub

En rigtig øl i en virtuel pub

Da det irske bryggeri Old Irish lancerede deres øl på det georgiske marked brugte de virtual reality til markedsføringen – på en særdeles overraskende måde

Apple er oplagt køber af Tesla

Apple er oplagt køber af Tesla

KOMMENTAR: Efter en tur i rutschebanen kan det ende med, at Tesla bliver en del af noget større. For måske venter Apple i kulissen. Et opkøb vil være en god løsning på mange af Apples udfordringer med udviklingen af en elektrisk bil.

Klog brug af data gør Amazon stærk

Klog brug af data gør Amazon stærk

KOMMENTAR: Amazon har gennem en nærmest manisk fokus på at gøre livet nemmere for kunden, udviklet sig fra at være verdens største boghandler til verdens største detailhandelsplatform.

Ledelseskonsulent: Alle firmaer bør have to direktører

Ledelseskonsulent: Alle firmaer bør have to direktører

En af verdens førende ledelseskonsulenter, Alex Osterwalder, forsøger i ny bog at opklare, hvordan etablerede firmaer bliver ved med at forny sig. En del af løsningen kan være en todelt ledelse samt modet til at begå masser af fejl.

Topmødet for dem der tror på eksponentielle teknologier

Topmødet for dem der tror på eksponentielle teknologier

REPORTAGE: Ved Singularity University Summit i Stockholm i sidste uge blev deltagerne bombarderet med præsentationer om de nyeste teknologier, og hvordan de radikalt vil forandre tilværelsen på kloden – og i rummet – lige om lidt. Men der var også plads til indlæg og diskussion om de sociale og politiske konsekvenser.

Coops milliardplan: Fra brugsforening til tech-virksomhed

Coops milliardplan: Fra brugsforening til tech-virksomhed

Det gamle supermarkedskoncept er presset af nethandel og nye indkøbsvaner hos forbrugerne. Konceptet skal genopfindes, hvis Coop skal overleve i en digital fremtid, mener virksomhedens nye teknologidirektør, Morten Holm Christiansen: "Coop er en startup med 550.000 kunder. Og det er jo helt unikt."

Tyskland erobrer (alligevel) Verdensmesterskabet

Tyskland erobrer (alligevel) Verdensmesterskabet

World Economic Forum har netop udpeget Tyskland til verdensmester i Innovation. Det skyldes især den hastige omstilling i retning af Industri 4.0, som i Tyskland ses som afgørende for at sikre fortsat konkurrencedygtighed, arbejdspladser og vækst.
Det er også en omstilling, der rummer muligheder for danske virksomheder og start-ups.

Angst for at blive Amazoned

Angst for at blive Amazoned

Lige om lidt kommer Amazon og rusker op i den danske detailhandel med en kombination af rå styrke og en ekstremt effektiv forretningsmodel. Og så bør danske produktionsvirksomheder overveje hvordan 3D kan bringe dem ind i den digitale økonomi.

Kongen af e-handel kommer: Sådan suger Amazon kunderne til sig

Kongen af e-handel kommer: Sådan suger Amazon kunderne til sig

I dansk detailhandel er Amazons lige ved og næsten-indtog i Norden det, alle taler om, fordi e-handelsgigantens buldrende vækst indgyder både respekt og frygt. På uforlignelig vis er det lykkedes Amazon at suge kunder til sig ved at udnytte teknologi, rabatter og ifølge kritikere ufine tricks.

Fire ingredienser i Amazons succesopskrift

Fire ingredienser i Amazons succesopskrift

Amazons succes kan forklares på mange måder, men lad os zoome ind på de fire vigtigste komponenter: De lave varepriser, det tillokkende loyalitetskoncept, den gigantiske kundebase, samt muligheden for at køre med underskud og finansiere det med andre dele af forretningen.

Danske virksomheder skal lære at sælge via Amazon

Danske virksomheder skal lære at sælge via Amazon

Kun én ud af 10 danske handels-og producentvirksomheder har undersøgt muligheden for at sælge varer og services via globale onlinemarkedspladser som Amazon, eBay og Alibaba. Nyt projekt skal lære virksomhederne om platformsalg for dermed at styrke dansk e-eksport.