Algoritme skal gøre Instagram mere sikker

Instagram introducerer i løbet af 2018 funktioner for de danske brugere, der kan frasortere krænkende kommentarer og spam ved hjælp af kunstig intelligens.

De fleste af os har stiftet bekendtskab med ‘trolls’ på de sociale medier; brugere, der ene og alene har det formål at chikanere, mobbe og ødelægge opslag og debatter med nedladende ord og vendinger eller ulovlige reklamer. 

Det vil den Facebook-ejede fotodelings- og sociale netværkstjeneste Instagram, som er verdens hurtigst voksende med over 800 mio. aktive brugere på verdensplan om måneden, nu forsøge at gøre op med.

Nye funktioner udviklet på baggrund af maskinlæringsteknologi skal give brugerne af det sociale medie mulighed for automatisk at frasortere uønskede kommentarspor og beskeder med reklamemæssigt indhold.

“Vi vil bruge maskinlæring som et værktøj til at opretholde Instagram som et sikkert sted at benytte for brugerne,” skriver CEO og medstifter af Instagram Kevin Systrom i et blogindlæg på det sociale medie.

Instagram bruges hovedsageligt til at dele og uploade billeder og videoer, som andre brugere kan kommentere.

Teknologi vil brede sig

Baggrunden for tiltagene er, at mange brugere har henvendt sig til Instagram og beklaget sig over, at stødende kommentarer og opslag er medvirkende til at begrænse mulighederne for at udtrykke sig frit, uden risiko for at blive nedgjort eller krænket.

Derfor har holdet bag Instagram gennem en længere periode udviklet og ‘trænet’ en maskine i at kunne genkende visse former for nedladende sprogbrug og reklamemæssigt indhold, så det automatisk slettes, inden brugerne når at opdage det.

Maskinen har fået inkorporeret en meget stor mængde af ord og sætningskonstruktioner med nedladende eller krænkende indhold. Herefter har maskinen lært at genkende de uønskede sætninger, og resultatet er blevet en algoritme – eller et program – der kan sortere i de store mængder data, der hver dag bliver uploadet på det sociale medie. 

Brugerne kommer også selv til at spille en aktiv og vigtig rolle i processen. De vil kunne markere visse ord som ‘spam’ eller ‘anstødelige’, og på baggrund af de tilbagemeldinger vil maskinen kunne opbygge endnu mere viden og dermed blive i stand til at sortere endnu bedre.

Men udviklingen stopper ikke med det skrevne sprog.

“Snart vil de sociale medier også kunne analysere og sortere i indhold med video og lyd. Det er noget, brugerne efterlyser, og derfor investerer de sociale medier meget for at komme det til livs,” siger Lars Damgaard Nielsen, cand.it i digital design og kommunikation fra it-universitetet.

Kommer lovkrav i forkøbet

Lars Damgaard Nielsen er chef for digitale medier i Folkekirkens Nødhjælp og ekspert i sociale medier. Han mener ikke, at virksomhederne bag de sociale medier nødvendigvis skal være varsomme med de nye automatiske teknologier til at sortere i kommentarer. Man vil helt sikkert lave vildskud og komme til at censurere og udelade indhold i starten, som hverken er krænkende eller har reklamemæssigt øjemed, men fremtidens værktøj for medier som Instagram er ifølge ham maskinlæring.

“Hvis en maskine begår fejl, kan man forbedre den. På sigt tror jeg, at maskinlæring kan være mere neutral i forhold til eksempelvis at sortere kommentarer om politiske emner, end hvis der sidder et menneske af kød og blod og udfører samme opgave,” siger Lars Damgaard Nielsen. 

Pernille Tranberg driver virksomheden Digital Identitet, hvorfra hun rådgiver virksomheder, myndigheder og organisationer i dataetik. 

Hun mener ikke, at Instagram indfører disse teknologier for brugernes blå øjnes skyld. Førsteprioriteten for Instagram er ifølge Pernille Tranberg at få virksomhedens omsætning i plus, og derfor vil man ikke skræmme annoncørerne væk.

Det handler udelukkende om omdømme, og hvis de sociale medier ikke gør noget, risikerer de at blive upopulære og miste brugere, mener Pernille Tranberg.

“Brugerne kan ikke få indsigt i algoritmerne, og måden, behandlingen af data foregår på, er ikke transparent og tydelig. Derfor kan det være svært ikke at mistænke Instagram for at have til formål at optimere indtjeningen fra annoncørerne med denne funktion frem for at øge brugernes ytringsfrihed,” siger Pernille Tranberg. 

Nok så vigtig for udbyderne af de sociale medier er risikoen for at komme i myndighedernes søgelys. I Tyskland diskuterer man for tiden, hvordan man kan konstruere en lov, der skal tvinge sociale medier til at fjerne krænkende indhold og fake news inden for kort tid. Tysklands justitsminister, Heiko Maas, har foreslået, at virksomhederne bag de sociale medier skal tildeles bøder helt op til 50 mio. euro, eller hvad der svarer til 370 mio. kr., og andre sanktioner, hvis ikke de tager brugernes anmeldelser af hadefulde og krænkende indhold alvorligt.

“De sociale medier vil gøre alt for ikke at overtræde lovgivningerne i de lande, hvori de opererer. Derfor investerer de kraftigt i at udvikle algoritmer, der på den billigste måde skal kunne fjerne stødende indhold,” siger Pernille Tranberg.

Indtil videre har funktionen, der skal sortere i krænkende og ulovligt reklamemæssigt indhold, kun været udbredt til store verdenssprog som engelsk, spansk, russisk og kinesisk, men ifølge Instagrams CEO Kevin Systrom vil algoritmen i løbet af 2018 brede sig til flere sprog, herunder dansk.

Kamp om brugerne

Sociale medier er en milliardindustri, og som Ugebrevet Mandag Morgen tidligere har beskrevet, rykker annonceindtægter i større grad fra den etablerede trykpresse til de nye sociale medier – ikke mindst i Danmark. 

Derfor har de sociale medier en klar egeninteresse i, at deres brugere ikke føler sig sprogligt krænket eller udsat for såkaldt spam, så man risikerer, at de søger hen til konkurrenternes platform.

“Sociale medier vil med tiden blive bedre til at sortere skidt indhold fra godt. Brugerne er små guldgruber, men de gider ikke ulovligt indhold og krænkende kommentarer, og derfor er det altafgørende for de digitale virksomheder, at brugerne føler sig sikre og glade på de platforme, som de benytter,” siger Lars Damgaard Nielsen.

Forrige artikel Nesta: Disse ti trends vil dominere 2018 Nesta: Disse ti trends vil dominere 2018 Næste artikel Fake news er ikke problem i Danmark – men misinformation er Fake news er ikke problem i Danmark – men misinformation er
Internettet er en slagmark mellem Kina og USA

Internettet er en slagmark mellem Kina og USA

Verdens to digitale supermagter står for vidt forskellige tilgange til ny teknologi og 5G. Det kan blive afgørende for vores digitale liv, om det bliver den amerikanske eller den kinesiske tilgang, der vinder.

Overblik: Internettets to parallelle universer

Overblik: Internettets to parallelle universer

Der findes et andet internet, der er lige så stort og avanceret som det, der er domineret af Google, Facebook og Amazon. Det er kinesisk. I Silicon Valley vokser det frem med online-uddannelsesplatforme, der kan afhjælpe behovet for livslang læring.

Fremtidens uddannelse til fremtidens arbejde

Fremtidens uddannelse til fremtidens arbejde

Det moderne arbejdsliv har generelt været opdelt i tre faser: først uddannelse, derefter arbejde og endelig pensionsalderen. Men den opdeling af livet passer efterhånden dårligt til en stadigt stigende forventet levealder og et hastigt skiftende arbejdsmarked.

Den største danske erhvervssucces du aldrig har hørt om

Den største danske erhvervssucces du aldrig har hørt om

Det er en af de største danske erhvervssucceser i nyere tid. Siden starten i 2000 har firmaet været på én lang og stejl vækstkurve. I dag er de to stiftere begge blandt de 25 rigeste danskere, og firmaet er verdens førende på deres marked. Men de færreste har hørt om 3Shape.

AI-laboratoriet Tel Aviv

AI-laboratoriet Tel Aviv

Strandpromenaden og plateauskoene er shinet op til det forestående Eurovision melodigrandprix i Tel Aviv, men det virkelig banebrydende i byen sker ikke på musikscenen, men snarere blandt de mange hightech-startups i små gyder og støvede computerrum andetsteds i byen

Urrem af edderkoppesilke

Urrem af edderkoppesilke

Det schweiziske luksus ur-mærke Omega har netop lanceret en urrem, der er vævet af edderkoppe silke

Google vil levere varer med droner i Finland

Google vil levere varer med droner i Finland

Til foråret begynder Googles søsterselskab Wing at levere varer i Finland med droner. Wing har drevet servicen som et forsøg i Australien og USA og har leveret tusinder af pakker.
Nu skal tjenesten prøves af i et koldere klima.

Sydkorea henter inspiration i den nordiske velfærdsmodel

Sydkorea henter inspiration i den nordiske velfærdsmodel

Sydkoreas store satsninger på teknologiudvikling og innovation har båret landet frem til en plads som teknologisk og innovationsmæssig supermagt. Men Sydkorea er også blevet et meget ulige land. Derfor forsøger præsident Moon Jae-in at skubbe i retning mod en ”velfærdsstat light” med højere lønninger, større social sikkerhed og grøn omstilling.

Manhattans trafikmønstre ligner et bankende hjerte

Manhattans trafikmønstre ligner et bankende hjerte

Gode visualiseringer formår at gøre det usynlige synligt. Enorme samlinger af data kan gøres overskuelige, så man pludselig ser mønstre i informationerne og kan forstå en situation på et mere overordnet plan.

Flydende bydele kan lette presset på verdens storbyer

Flydende bydele kan lette presset på verdens storbyer

Ved at bygge boligkvarterer, kontorbygninger og hele bydele på store, flydende pramme kan man afhjælpe noget af pladsmanglen i verdens storbyer, mener en hollandsk arkitekt. I det statslige norske energiselskab Equinor undersøger man, om flydende byer kan være en stor ny forretningsmulighed.

Nybyggerne på havet

Nybyggerne på havet

Seasteading Institute arbejder på at skabe kolonier til søs, fri for statsmagtens indblanding. Silicon Valley milliardæren Peter Thiel støtter projektet, der nu vil opstille de første flydende bygninger i Fransk Polynesien.

Microsoft CEO håber på et globalt GDPR

Microsoft CEO håber på et globalt GDPR

GDPR er et af de få eksempler på at EU har formået at præge udviklingen af den digitale økonomi. Ved Davos-mødet for nylig meldte Microsofts CEO ud, at han gerne så en lignende regulering på globalt niveau.

Nye spilleregler, nye udfordringer, nye kompetencer

Nye spilleregler, nye udfordringer, nye kompetencer

I denne uge forsøger vi at forstå hvad der ligger efter industrisamfundet.
Det er tydeligt at masseproduktion af fysiske genstande ikke bliver det, der driver den næste bølge af vækst – hverken hvad angår arbejdspladser, økonomien eller værdien for forbrugerne.

Tue Mantoni: Sådan revolutionerer 3D-print forretningen

Tue Mantoni: Sådan revolutionerer 3D-print forretningen

3D-print gør det muligt at skabe værdi på tværs af de sædvanlige forretningsområder. Det skal man forstå, hvis man for alvor vil udnytte fordelene ved teknologien, siger Tue Mantoni, tidligere CEO for Triumph Motorcycles og B&O. 

Topøkonomer: Ny velstand afhænger af, at vi alle lærer hele livet

Topøkonomer: Ny velstand afhænger af, at vi alle lærer hele livet

Livslang læring er afgørende, hvis vi skal drage nytte af nye teknologier. Sådan lyder det fra to topøkonomer, hvis analyse lagde en af grundstenene under Disruptionrådets arbejde. Nu håber de, at politikerne og virksomhederne husker udfordringen: At det kræver massiv omskoling, når 40 procent af arbejdsopgaverne bliver automatiseret.

Den tyske industri skal lære at lytte til forbrugerne

Den tyske industri skal lære at lytte til forbrugerne

Industri 4.0 begrebet opstod i Tyskland, hvor man er langt fremme med at koble både maskiner og virksomheder tæt sammen i ekstremt tæt koordinerede værdikæder. Den næste udfordring bliver at få forbrugerne med i kommunikationen.

De forlader nu industrisamfundet…

De forlader nu industrisamfundet…

Den type værdi, vi producerer, og måden, vi organiserer værdiskabelsen på er så forskellige fra traditionel masseproduktion at det snart ikke giver mening at tale om ”industri” længere.

Industrisamfundet synger på sidste vers

Industrisamfundet synger på sidste vers

Den industrielle økonomi er gået fra 1.0 til 4.0 – fra kulkraft og dampmaskiner til digital koordination af alle aspekter af produktionen. Nu er vi ved at bevæge os så langt fra den oprindelige form for masseproduktion, at det ikke længere giver mening at kalde det industri.

Robot-pioner: Fremtidens værdiskabelse er ’anti-industriel’

Robot-pioner: Fremtidens værdiskabelse er ’anti-industriel’

Vi er knap nået i gang med industri 4.0, men Universal Robots' tekniske direktør og medstifter Esben Østergaard har allerede blikket rettet mod fremtidens produktionsform. Han forventer, at avancerede robotter i fremtiden vil frisætte og støtte mennesker i en form for fremstilling, der er præget af personlighed, håndværk og variation snarere end masseproduktion.

Kom til læsermøde: Dogmeregler for Danmark 4.0

Kom til læsermøde: Dogmeregler for Danmark 4.0

INVITATION: Kom til læsermøde den 6. februar og deltag i debatten om Danmarks og den teknologiske fremtid med bl.a. Berlingskes politiske kommentator Thomas Larsen, formanden for ATV’s tænketank, professor Maja Horst, og Mandag Morgens redaktør for digital omstilling, Peter Hesseldahl.

Googles etiske vagthund

Googles etiske vagthund

Sidste år lancerede Google en række etiske principper for brug af kunstig intelligens – og startede en afdeling til at håndhæve dem.
Måske kan open source hardware være en mulighed for danske producenter.

Er fremtidens danske fremstillingsvirksomhed open source?

Er fremtidens danske fremstillingsvirksomhed open source?

Der er en open source revolution på vej. Elon Musk og hans virksomhed Tesla har smidt patenterne til side og givet andre adgang til deres teknologi. Også giganter som Google, Facebook, Microsoft og IBM vælger ofte at frigive kildekoden til deres software. 
I den næste bølge af open source produkter handler det om fysiske produkter, som enhver kan kopiere og forbedre.

Datavisualisering skaber ny velfærd i Gladsaxe

Datavisualisering skaber ny velfærd i Gladsaxe

I Gladsaxe Kommune har data forladt regnearkene og indtaget storskærmene i både direktion og jobcenter, så de bliver synlige og brugbare for alle, også de borgere, det hele handler om. Visualiseringerne udvikles af en særlig enhed for Datadrevet Forretningsudvikling.

Topchefers fokus på data hjælper unge i arbejde

Topchefers fokus på data hjælper unge i arbejde

En gang om måneden gennemgår direktion i Gladsaxe Kommune en tsunami af data for at følge udviklingen på 29 vigtige udvalgte områder. De diskuterer og justerer kursen, hvis udviklingen går i den forkerte retning. Mandag Morgen sad med ved bordet på direktionens første møde i år.

De kreative erhverv kræver politisk bevågenhed

De kreative erhverv kræver politisk bevågenhed

Den kreative sektor i Danmark boomer og klarer sig målt på eksportvækst bedre end andre sektorer. Alligevel tøver politikerne med at anerkende vækstpotentialet, lyder kritikken. Det sker imidlertid i lande som Holland, Storbritannien og Finland.

LEO Pharma-app diagnosticerer hudsygdomme bedre end lægen

LEO Pharma-app diagnosticerer hudsygdomme bedre end lægen

Inden længe vil mange hudsygdomme kunne blive diagnosticeret af en app på din smartphone med stor præcision. Ifølge LEO Innovation Lab, der udvikler en app til formålet, er kunstig intelligens og øget patientinddragelse en vigtig del af fremtidens sundhedssystem.