Forestil dig, at en håndfuld virksomheder tilbød at udvikle en teknologi, der på få år ville ændre menneskers hjerner, så de blev dårligere til at koncentrere sig, mindre nærværende over for deres børn og så afhængige af impulser fra et lille apparat, at de sov ved siden af det om natten og bevægede sig som zombier med hovedet bøjet over det om dagen.

De skadelige virkninger af smartphones og sociale medier har vist sig så gradvist, at vi først for sent har fået øjnene op for dem. Nu er de ved at få et nyt gear med kunstig intelligens i eksponentiel vækst, og på tværs af politik og erhvervsliv er der en forståelse for, at reguleringen ikke må gå lige så langsomt denne gang. 

Derfor er det opmuntrende, at EU er i gang på den helt store klinge, dels med europæisk lovgivning, men lige så vigtigt med et fælles kodeks, der rækker over Atlanten. EU’s lovgivningsmølle maler langsomt, og derfor opfordrer Margrethe Vestager de europæiske virksomheder til at tilslutte sig den kommende regulering, allerede inden den træder i kraft i 2026. 

Ser man optimistisk på fremtiden, så er vi mennesker på vej mod en større modenhed i vores omgang med de mest invasive algoritmer. 

Herhjemme fik Danmark efter det seneste valg – endelig – en digitaliseringsminister, der har regulering af techindustrien som sit erklærede mål. Og for få dage siden afleverede et ekspertudvalg et seriøst bud på, hvordan politikerne kan tage fat på arbejdet med at forhindre de værste bivirkninger ved AI og de teknologier, som vi allerede er blevet så afhængige af, at de færreste af os kan forestille os at leve uden. 

SER MAN OPTIMISTISK PÅ FREMTIDEN, så er vi mennesker på vej mod en større modenhed i vores omgang med de mest invasive algoritmer. Dem, der sniger sig langt ind i privaten og har potentialet til at påvirke vores følelser og holdninger og manipulere med vores opfattelse af virkeligheden. Vi ved nu, at de sorterer verden for os og har potentialet til at skabe parallelle virkeligheder, der kan forvrænge verden til ukendelighed. 

Vi har opdaget, at algoritmer kan afgøre valg. Og at teknologien i de forkerte hænder kan bruges til at skabe et dystopisk overvågningssamfund, hvor mennesker er underlagt algoritmen og ikke omvendt. Og så har vi omsider lært, at intet er gratis i opmærksomhedsøkonomien. At vi betaler med vores allermest begrænsede ressource – nemlig vores tid og opmærksomhed. Og at de firmaer, som lever af vores opmærksomhed, er dygtigere til at fange den, end vi er til at passe på den. 

En gang kendte vi ikke de skadelige effekter af alkohol og nikotin. Og engang vidste vi ikke, at skærme skaber små (og store) narkomaner, som føler sig tomme, angste og deprimerede uden skærmens konstante dopaminkick til hjernen. Nu hvor vi ved det, er der politisk enighed om, at der må gøres noget for at beskytte børnene. Regeringen har lovet snarlige lovforslag, der skal sikre, at aldersgrænser faktisk bliver håndhævet, og at børn beskyttes for særligt ubehageligt indhold. Så er vi da i gang.

MEN DER FINDES VEJE til også at beskytte voksne mod de uimodståelige dopaminsus, der venter i den lille opmærksomhedsslugende ven i lommen.

Regeringens ekspertudvalg foreslår blandt andet, at fastholdelsesmekanismer skal være slået fra som standardindstilling. Det kan for eksempel betyde, at feedet på et socialt medie har en ende, så man ikke kan blive ved og ved at scrolle i det uendelige. Eller at der ikke automatisk starter en ny video, når den første slutter. Eller at man ikke længere automatisk får notifikationer, fordi man har forsømt at give sit sociale medie opmærksomhed i et stykke tid.

Hvis man for alvor skal tage magten over individets data tilbage fra både stater og store virksomheder, kræver det, at vi selv hver især ejer vores egne data og til hver en tid kan trække stikket på dem. 

Ekspertudvalget foreslår også, at profilering på baggrund af personlige oplysninger skal forbydes, og målretningen af opslag og reklamer nemt skal kunne vælges fra med en ’neutralitetsknap’. Myndigheder og forskere skal desuden have langt bedre indsigt i algoritmerne og mulighed for at regulere ’skadelige designpraksisser’. Og så skal de databeskyttelses- og cookieregler, som vi allerede har vedtaget, håndhæves over for techgiganterne.

Men det vil kræve politisk mod til at ramme selve forretningsmodellen bag opmærksomhedsøkonomien og politisk snilde at finde juridiske veje til at gøre det – allerhelst gennem EU, så Danmark ikke skal kæmpe alene mod techgiganter med budgetter på størrelse med en småstat. 

SPØRGSMÅLET ER, om der er brug for at gå videre endnu og gentænke selve den måde, vi opbygger systemer på? Hvis man for alvor skal tage magten over individets data tilbage fra både stater og store virksomheder, kræver det, at vi selv hver især ejer vores egne data og til hver en tid kan trække stikket på dem.

Afghanistan er et eksempel på, at det kan være nødvendigt.

Her har vi og andre vestlige lande hjulpet den tidligere regering med at digitalisere den offentlige sektor til glæde og gavn for befolkningen i det, der skulle have været et demokrati. Men i dag betyder det, at vi har foræret Taliban et glimrende kontrolapparat, som de nu kan bruge til helt andre formål, end det var tænkt. Og ingen kan hive stikket på det. Slet ikke dem, der står i registrene. 

Decentraliseringen betyder, at ingen – hverken hackere, stater eller virksomheder – kan have den samlede kontrol og indsigt i en hel befolknings data, medmindre hvert enkelt menneske selv har givet tilladelse til det. 

En dansk virksomhed, der sælger tech til kineserne, fortalte mig for nylig denne anekdote: I en enorm, nyanlagt rundkørsel et sted i Afrika holder tusindvis af biler hver dag stille i trafikken. Midt i rundkørslen er der gratis wifi – og derfor benytter bilisterne ventetiden til at gå på nettet og få ordnet alt det på mobilen, der ellers må vente, fordi nettet er en sparsom ressource i landet. Rundkørslen er bygget op af kinesiske ingeniører, og det samme er de overvågningskameraer, der også sidder i midten af rundkørslen og forsyner landets myndigheder med nummerplader og ansigter. Der er ingen protester, for de færreste aner, hvad der foregår, eller hvilken magt det giver myndighederne.

Kina er i fuld gang med at rulle veje, togbaner og anden fysisk infrastruktur ud i Afrika, og med i pakken kan det lokale styre få hele eller dele af den kinesiske manipulations- og overvågningsmaskine. Det kan blive en alvorlig trussel mod det globale demokrati. For falder sådan et land først i hænderne på et diktatur, så betyder det digitale kontrolapparat, at det bliver næsten umuligt for befolkningen at vriste sig fri igen. 

IDÉEN OM AT UDVIKLE SYSTEMER, der giver borgerne og forbrugerne nøglen til deres egne data, er lidt af et columbusæg. For decentraliseringen betyder, at ingen – hverken hackere, stater eller virksomheder – kan have den samlede kontrol og indsigt i en hel befolknings data, medmindre hvert enkelt menneske selv har givet tilladelse til det. Det giver hvert enkelt menneske en ’kill switch’, hvor de kan trække stikket til overvågningen eller brugen af deres egne data.

Hvem tager initiativet til at udvikle den slags systemer? Hvilke regeringer vil efterspørge dem? Hvilke virksomheder ser en god langsigtet forretning i at levere dem? Og hvem er klar til at betale de milliarder, det vil koste at udvikle dem?