Siden Mark Zuckerberg fik den store tur i vridemaskinen, efter at Facebook delte 87 millioner brugeres personlige data med Cambridge Analytica, har Facebook lovet bod og bedring.

Mark Zuckerberg har i diverse taler og manifester erklæret, at Facebook fremover vil gøre langt mere for at bremse fake news og ekstremistiske hadkampagner.

Forleden kom det første konkrete udspil i den retning: et sæt af retningslinjer for et nyt oversight board – et tilsynsråd, der skal være den øverste dommer, i forhold til hvilke typer indhold der skal fjernes, og hvad der får lov til at blive liggende på Facebook.

Panelet skal bestå af 40 personer, der er udvalgt, så de kommer fra hele kloden og fra et repræsentativt udsnit af kulturelle baggrunde. Facebook har forpligtet sig til at rette sig efter de afgørelser, rådet træffer.

Mark Zuckerberg har selv talt om panelet som en slags højesteret, og de retningslinjer, som panelet skal træffe afgørelser ud fra, er ofte blevet sammenlignet med en forfatning.

Højeste instans for 2,4 milliarder brugere

Det er højstemte ord, men Facebook er også en tjeneste med knap 2,4 milliarder brugere, hvoraf der på ethvert givet tidspunkt i gennemsnit er 350 millioner online samtidig.

Facebook har en helt central betydning for den globale kultur og for demokratiet, og når det går galt med at styre, hvad der udveksles og diskuteres på Facebook, kan det have drastiske følger – som vi så det i forbindelse med uddrivelsen af rohingyaerne i Myanmar eller livestreaming af massakren i en moské i Christchurch, New Zealand.  

Derfor får tilsynsrådet en meget stor og global indflydelse på ytringsfriheden og på, hvad der kan diskuteres, og hvordan man kan diskutere det. Men Facebooks panel er vel at mærke ikke en statslig højesteret, og de arbejder ikke efter en demokratisk vedtaget forfatning.

Facebook har gjort sig store anstrengelser for at organisere tilsynsrådet på en måde, der er uafhængig, repræsentativ og troværdig.

Men til syvende og sidst sættes betingelserne for panelets arbejde imidlertid af Facebook – en benhård kommerciel virksomhed, den ottendestørste i verden – og hvor magten i øvrigt også i usædvanlig grad er koncentreret hos den 35-årige Mark Zuckerberg, der både er CEO, bestyrelsesformand, og som, selv om han kun ejer 16 procent af aktierne, kontrollerer 60 procent af stemmerettighederne blandt aktionærerne.

En langvarig, global proces bag udformningen af rådets funktion

Man må sige, at Facebook er gået både grundigt og konsekvent til værks i arbejdet med at udforme tilsynsrådet.

Gennem det sidste år har Facebook afholdt seks to-dages-workshops og 22 seminarer rundtom i verden, og de har interviewet og indhentet ideer og kommentarer fra omkring 2.000 personer. 

Resultatet var en rapport, der blev udgivet i august, som meget åbent også gennemgår den kritik og mistænksomhed, som Facebook har mødt i løbet af processen.

Tirsdag blev selve charteret offentliggjort. Det beskriver præcist rådets opgaver, forholdet til Facebook, hvordan medlemmerne udvælges – og ikke mindst i hvilket omfang Facebook skal være forpligtet til at følge rådets afgørelser.

Det kommende panel skal ikke bestemme, hvordan Facebook skal drive virksomheden, det er fortsat Facebooks aktionærer, der står for det.

Mark Zuckerberg beskriver det sådan, at ”ligesom vores bestyrelse holder Facebook ansvarlig over for vores aktionærer, mener vi, at tilsynsrådet kan gøre det samme for vores community af brugere”.

Kun de vanskeligste og alvorligste sager vurderes

Rådet skal alene tage stilling til de vanskeligste dilemmaer, i forhold til hvilket indhold der kan tillades på Facebook.

Det er naturligvis kun en lille brøkdel af de klager, som Facebook modtager, som panelet kommer til at vurdere. I den daglige drift har Facebook 15.000 ansatte, der hver dag rutinemæssigt vurderer to millioner stumper af indhold på over 50 sprog i forhold til Facebooks retningslinjer – de såkaldte fællesskabsregler.

Tilsynsrådet skal fungere som en øverste instans, og charteret specificerer, at det skal vurdere sager, der er væsentlige, alvorlige, med konsekvenser i stor skala og en væsentlig plads i den offentlige debat.

Facebooks brugere skal kunne foreslå sager til rådet, men Facebook vil også selv kunne forelægge sager. Ligesom ved retssager eller offentlige høringer vil rådet kunne indkalde udsagn fra sagens parter, de kan lave selvstændige undersøgelser, og de kan forlange at få indsigt i de meget detaljerede oplysninger, Facebook har om, hvordan indholdet bruges og spredes.

Vi har selv givet Facebook retten til at være dommer

Dia Kayyali, der er programleder i ngo’en Witness.org, har været involveret i flere af de workshops, som Facebook har afholdt for at hente inspiration til organiseringen af tilsynsrådet.

Hun har også tidligere arbejdet for den amerikanske ngo Electronic Frontier Foundation, der beskæftiger sig med borgerrettigheder i cyberspace.

Kayyali er grundlæggende positiv over for Facebooks arbejde og den grundighed, de er gået til værks med, og hun mener, at mange af de krav og ønsker, som civilsamfundet præsenterede Facebook for i processen, er blevet hørt og indarbejdet i konstruktionen.

”Det er stadig et åbent spørgsmål, om de virkelig vil forandre sig. Men man kan mærke, at de virkelig har skruet op for dialogen og for, hvor mange ansatte de sender til konferencer og workshops,” konstaterer hun.

For Kayyali er den største betænkelighed, at tilsynsrådet risikerer at blive en måde at legitimere Facebooks forretningsmetoder, så Facebook ved at henvise til tilsynsrådet kan fralægge sig ansvaret, når deres aktiviteter fører til problemer.

”Vi er nødt til at huske, at det her kommer fra et selskab, der skal tjene penge, og at der vil være situationer, hvor de rigtige beslutninger vil føre omkostninger og begrænsninger med sig for Facebook,” siger Kayyali.

Hun er noget usikker over for det grundlæggende udgangspunkt: at en af verdens største private virksomheder opbygger en instans, der skal tage vigtige beslutninger, som traditionelt ville være forbeholdt stater.

”De beslutninger, rådet skal tage, vil have lige så stor betydning som dem, der træffes i regeringer eller domstole. I den forstand er det en udvidelse af de store selskabers rolle, og det er bekymrende. Man kunne mene, at det var en funktion, der var bedre placeret i en organisation som FN,” siger Dia Kayyali.

Hun påpeger dog også, at der straks opstår andre problemer med at skabe en overnational, politisk styret instans, der kan regulere ytringsfriheden online, fordi der er så store nationale og politiske uenigheder om, hvad der er acceptabelt, og hvad der skal censureres.

Det er et dilemma, som hun selv i høj grad oplever gennem sit arbejde i Witness.org, hvis arbejdsmetode er at hjælpe undertrykte med at dokumentere overgreb på video og sprede det på nettet.

”Man kan spørge, hvad der giver Facebook ret til at påtage sig rollen som dommer – men svaret er måske, at vi selv har givet dem den magt, i og med at så mange af os bruger deres tjeneste. Vi har ladet dem få monopol på en helt ny og vigtig funktion. Og så bliver resultatet lidt som i det vilde vesten: at der opstår et privat retssystem – for hvem ellers skal varetage det?” siger Dia Kayyali.

Facebook skal følge rådets afgørelser – for det meste

Når rådet træffer en afgørelse i en sag, er den bindende for Facebook. I mange tilfælde vil der formentlig være mange andre parallelle tilfælde af den samme konflikt, som rådet har taget stilling til – det kunne være grænser for nøgenhed, grænser for racistiske udtalelser eller religiøse fornærmelser.

Ved afgørelser, der har en mere principiel karakter, er Facebook ikke direkte forpligtet til at fjerne alle de tilfælde, hvor indholdet er i modstrid med rådets vurdering. Som der står i charteret, skal Facebook undersøge, om det er ”teknisk og operationelt gennemførligt” at efterleve rådets vurdering. Det samme gælder, hvis rådet laver en anbefaling om en ændring af Facebooks betingelser og politik.

Der er således en kattelem for Facebook til at afvise rådets krav. Man kunne forestille sig en situation, hvor rådet anbefaler, at en meget almindelig type krænkelser, som ovenikøbet har en tendens til at blive set og delt meget og hurtigt, kan være vanskelig og omkostningstung at fjerne – og at Facebook derfor vælger at afvise at gennemføre det.

En anden tænkelig konflikt kunne være, at rådet foreslår, at en bestemt funktion indskrænkes for at undgå uheldige episoder – men at det indgreb vil forringe tjenesten og mulighederne for mange brugere og dermed gøre Facebook mindre attraktivt at bruge. 

Det oplagte eksempel er livestreaming-funktionen, som mange bruger, men som også kan være meget vanskelig at bremse øjeblikkeligt, hvis den pludselig bliver brugt til at streame en massakre som i Christchurch.

Der er dog en høj gennemsigtighed i processen, så Facebook vil ikke ubemærket kunne handle i modstrid med rådets vurderinger. Alle afgørelser i rådet skal begrundes og lægges på rådets website i et alment forståeligt sprog.

Ligesom for domstole er det tanken, at rådets afgørelser med tiden indgår i en pulje, der danner præcedens og former et grundlag for kommende afgørelser.

Rådet holder omhyggeligt afstand til Facebook

Rådets arbejde bliver i sidste ende betalt af Facebook, og dermed bliver medlemmerne, som formentlig får rigeligt at lave, også lønnet af Facebook. For at sikre, at medlemmer ikke lader sig påvirke af den økonomiske afhængighed, har man indskudt en tredje instans, en selvstændig fond. Facebook finansierer fonden, men det er fonden, der betaler rådets arbejde.

Fonden udnævner også tilsynsrådets medlemmer, men det er rådet selv, der identificerer mulige nye medlemmer og anbefaler dem til fonden. Medlemmerne bliver valgt for tre år.

Antallet af medlemmer er ikke endeligt fastsat, men ifølge charteret bliver det sandsynligvis på 40 personer. Medlemmer skal være repræsentative på mange dimensioner, geografisk, kulturelt, politisk. Samtidig må de ikke være forretnings- eller familiemæssigt forbundet med Facebook.             

For overhovedet at få startet processen udnævner Facebook i første omgang en mindre gruppe medlemmer, som derefter skal finde de øvrige medlemmer.

De første sager, som rådet skal vurdere, bliver også en stribe sager, som Facebook selv har udvalgt og ønsker at få prøvet. Efter planen skal rådet kunne modtage sager fra offentligheden fra midten af 2020.