Hvad gør det ved den offentlige samtale, når chatbotten farer i blækhuset?
Vi troede, at kunstig intelligens ville være faktuel og kedelig. De nye sprogmodeller er derimod upræcise og løgnagtige, men utroligt kreative. Så hvad sker der med os mennesker, når vi ikke længere selv får idéerne? Og hvad gør det ved den offentlige samtale, når samfundsdebattørerne lader, som om de selv har fået idéerne og skrevet teksterne?
- SOMMERSERIE: Gør AI os overflødige?
- Hvor mange af disse ti egenskaber kan du ærligt sige, at du selv har?
- Hvad gør det ved den offentlige samtale, når chatbotten farer i blækhuset?
- Derfor skal ledere på alle niveauer interessere sig for kunstig intelligens
- Forsker: Kunstig intelligens i organisationen skaber store mængder usynligt arbejde for ledere
De fleste har nok fornemmet, at de tech-tektoniske plader har forskudt sig. Trykbølgen er sendt afsted og bevæger sig med lynets hast under havoverfladen. De første krusninger i vandspejlet har vist sig. Tsunamien rammer om lidt.
Kunstig intelligens er her allerede. Den diagnosticerer, programmerer, oversætter, laver risikovurderinger, målretter markedsføring og meget mere. Teknologien har indtil nu levet et forholdsvis stille liv væk fra offentlighedens øjne. Men med offentliggørelsen af sprogmodellen ChatGPT i november sidste år er kunstig intelligens blevet allemandseje. Siden er det gået stærkt – alt for stærkt. Der er kommet nye kraftigere modeller til. En lang række produkter, der benytter de nye sprogmodeller, er på vej, og et kapløb blandt techgiganterne er i gang. Som det seneste af en serie af wow-øjeblikke kan man nu opleve at slippe AutoGPT løs på en problemstilling, hvorefter den kunstige intelligens både giver sig selv opgaver, analyserer, giver sig selv nye opgaver og fortsætter processen i det uendelige.
Efter at have eksperimenteret med sprogmodellerne er vi som de fleste lige dele fascineret og bekymrede. Særligt fordi ingen rigtig ved, om vi blot er ved starten af en udviklingskurve, der – hvis den fortsætter – får uoverskuelige konsekvenser. Er den teknologi, vi leger med nu, blot et varsel om det, der kommer? Er det den første krusning i vandoverfladen?
Man siger, vi overvurderer nye teknologier på den korte bane og undervurderer dem på den lange bane. Lige nu udvikler teknologien sig fra dag til dag, så det er særdeles svært at vide, om vi er på toppen af en hypekurve, eller om vi faktisk undervurderer teknologien.
Man siger, vi overvurderer nye teknologier på den korte bane og undervurderer dem på den lange bane. Lige nu udvikler teknologien sig fra dag til dag, så det er særdeles svært at vide, om vi er på toppen af en hypekurve, eller om vi faktisk undervurderer teknologien.
Der er en anden lovmæssighed, der lader til at gælde, når nye teknologier gør sit indtog: Vi kommer altid for sent i gang med samtalen om, hvad vi vil med teknologien – ikke blot som enkeltindivider, men som samfund.
Erfaringerne med de sociale medier har lært os, at vi på et tidspunkt kigger tilbage og spørger: Hvordan endte vi her? Hvordan endte en stor del af de unge med at bruge over fire timer om dagen på sociale medier? Hvorfor fik vi udsultet de fysiske fællesskaber, og hvorfor leger børnene langt mindre i den fysiske verden i dag?
Denne slags spørgsmål har det med at komme for sent. Og på det tidspunkt er det ikke så nemt at gå tilbage.
En central erfaring er også, at selvom digitale teknologier kan være en fordel for den enkelte, så er det ikke sikkert, de er gode for samfundet. Der er individuelle effekter, og der er samfundseffekter. Det to følges ikke nødvendigvis ad. Hvordan vi individuelt bruger teknologien, er ofte afhængigt af, hvad alle andre gør. Derfor har vi brug for den demokratiske samtale om, hvad vi vil med teknologien.
En af de samtaler, vi efterspørger, er følgende: Hvad vil vi som samfund stille op med den offentlige og demokratiske samtale, når AI i stigende grad bliver i stand til at forme stærke budskaber og tekster?
Stjæler den vores eureka-fix?
Det er blevet sagt om ChatGPT, at den har “inhaleret internettet”. Med et gigantisk sug har den opslugt alverdens information. Det er et passende billede, eftersom ChatGPT ofte hallucinerer – som var den blevet høj på al den information, den har suget ind.
Hvis den ikke har de videnskabelige referencer, du spørger efter, så skal den nok finde på nogle, og den skal nok få dem til at lyde plausible. Som den bedste lystløgner finder den gerne på righoldige fakta, som du efterfølgende forgæves forsøger at opspore på internettet.
Selvom det gigantiske sug har været lige lovlig stærk tobak, når det gælder om at være præcis og korrekt, så har det øjensynligt gjort noget godt for kreativiteten.
Først og fremmest er sprogmodellerne gode til at generere idéer. ChatGPT kan være din hjælper til en god brainstorm. Du får nye idéer, du får sparring, alt imens du undgår alt det værste ved en brainstorm in real life, hvor de andre har det med at insistere på, at vi forfølger deres idéer. Chatbotten bliver på det spor, som du har valgt. Du er i kontrol.
Når det gælder produktion af tekst, så har sprogmodellerne endnu ikke overtaget selve den kreative proces. At arbejde med at prompte (stille den opgaver), vurdere output, tilpasse frem og tilbage kan i sig selv føles som en ganske kreativ aktivitet. Du former og ‘farver’ teksten efter behov, men det er fortsat din tekst. Du er stadig den skabende kraft, nu blot med nye redskaber på hånden – en pensel, der skaber flere metaforer og giver et strøg af Hemingway.
Alligevel er der grund til bekymring. Udviklingen har tydeligt vist, at sprogmodellerne har bevæget sig ind på et kreativt domæne, som vi troede var unikt for mennesket. Hvis dette blot er den første krusning på vandspejlet, så bliver udviklingen formentlig, at det er maskinen, der både får idéerne og former produktet – du skal selv blot sætte en retning og trykke start.
Alligevel er der grund til bekymring. Udviklingen har tydeligt vist, at sprogmodellerne har bevæget sig ind på et kreativt domæne, som vi troede var unikt for mennesket.
Det er en udvikling, der harmonerer dårligt med vores grundlæggende psykologiske behov som mennesker for at være til nytte og selv at være skabere af produktet. Det er klart, at man på den korte bane kan få et fix ud af at prompte sig til gode sætninger, idéer og analyser. Men på den lange bane må vi spørge, om ikke AI’en ender med at stjæle vores ‘eureka-fix’ – denne herlige oplevelse af at rode med teksten, indtil idéen pludselig springer frem som en trold af en æske. Hvad går vi glip af, hvis vi prompter os til de gode svar frem for at kæmpe med at forme teksten og selv få idéerne?
Forfattere råber derfor også vagt i gevær. Paul Graham forudser, at inden for et år kan størstedelen af den skrevne tekst være skabt af AI, og derfor advarer han om de negative konsekvenser: “Hvis du mister evnen til at skrive, så mister du også en del af din evne til at tænke.“
Derfor bør vi alle overveje nøje: Skriver vi for at skabe et produkt? Eller skriver vi for at skærpe vores tænkning og få ny indsigt?
Hvis det er det sidste, så skal vi ikke snyde os selv ved at få chatbotten til at gøre alt det hårde arbejde for os – ligesom vi ikke tager i fitnesscenteret og beder en robot løfte vægte for os.
AI-transparens
Måske har du hørt vendingen: “AI overtager ikke dit job – der er en person, der bruger AI, der overtager dit job”.
Det er sigende om den udvikling, vi går i møde. Chatbots kan blive det hemmelige våben, der gør at du kan løse opgaver hurtigere end kollegerne. Det kan også være redskabet, der gør, at du får hul igennem i den offentlige samtale via sociale og traditionelle medier.
Måske har det ikke rykket synderligt ved vores hverdag endnu, og for mange er det stadig mest af alt en spændende gimmick. For andre er sprogmodellerne allerede et reelt arbejdsredskab. Det betyder, at vi allerede nu ikke ved, om kollegaens tekst eller det seneste socialemedie-opslag er skrevet helt eller delvis af en AI.
Dette efterlader os med en bekymrende udvikling, hvad angår den offentlige (skriftlige) samtale.
Ønsker vi en situation hvor chatbotten lever et stille liv, godt gemt væk i baglokalet, mens vi udadtil helst ikke taler for meget om, hvor de gode ideer kom fra, hvem der skabte de poetiske sætninger, og hvordan vi nåede frem til den skarpe analyse, som læsere fra nær og fjern anerkender? En situation hvor vi med en smule skam selv godt ved, at vores digitale ghostwriter har en del af æren, men for at overleve i opmærksomhedsøkonomien må vi tage den kredit, vi kan få.
Vi lever i en kultur, hvor vi hylder individets intellekt, og derfor vil der være en stærk drift imod at “tage æren” for teksten, frem for at devaluere sig selv og åbent deklarere, hvordan den er skabt. For hvem gider læse en AI-tekst, som enhver kunne have promptet sig til?
Som modtagere af en tekst forholder det sig nok omvendt. De fleste vil sandsynligvis gerne have indblik i, om teksten er helt eller delvis AI genereret.
Derfor er der brug for en samtale om transparens, og om hvilken rolle de nye redskaber skal spille i vores offentlige samtale. Det er næppe godt for den offentlige samtale, hvis vi “skal lade som om”, at budskabet kommer fra os selv, da vi ender i et pseudo meningsunivers.
Sammen med civilsamfundsorganisationen Outsideren har vi forsøgt at starte en dialog om, hvordan man som arbejdsplads og som medie kan forholde sig til AI. Hvordan kan en AI-politik eller et manifest se ud? Hvordan kan man som arbejdsplads bruge teknologien på en tilfredsstillende og ansvarlig måde, og hvordan kan man være transparente overfor omverden omkring produktion af indhold og tekst. Det er ikke en nem opgave, da der er tusind grænsetilfælde. Det er forholdsvis simpelt at deklarere, at fx et billede er AI-skabt. Det er mere kompliceret med tekst, der kan være helt delvis skabt af en Chatbot eller blot inspireret af. Det er på mange måder sværere at opstille klare kriterier for, hvordan man deklarerer brugen af AI i tekster.
Måske kommer der fremover en AI-fri mærkningsordning. Og måske kommer der bedre redskaber, der kan sandsynliggøre, om en tekst er skabt af AI, således at der fx vil være målinger på, i hvor høj grad et bestemt medies indhold er AI-genereret. Et medie vil sandsynligvis miste troværdighed, hvis det en dag bliver målt at "40% af mediet vurderes at være AI-generet ".
Næste år træder en EU-forordning i kraft, der skal hjælpe med at regulere området. Men vi kan ikke alene overlade det til politikerne at tage disse beslutninger. Dels fordi udvikling sker med en sådan fart at de politiske beslutninger har svært ved at følge med, men vigtigere fordi vi som mennesker i store og små fællesskaber bliver nødt til at drøfte og bevidstgøre os om, hvordan vi skal forholde os til en teknologi, der har potentialet til at påvirke vores samfund og liv i hidtil uset omfang.
Vi skal have en samtale om AI-transparens, og hvordan AI ændrer den offentlige og demokratiske samtale. Og vi skal have en samtale om, hvordan vi som arbejdspladser ønsker at bruge teknologien. Det er en samtale der skal munde ud i et fælles ejerskab til udviklingen, og retningslinjer for hvordan vi fx på egen arbejdsplads vil bruge kunstig intelligens - både ud ad til og ind ad til. Vi skal sætte ord og handling bag en fælles ansvarlig omgang med denne teknologi i dens mange forklædninger.
Vi har startet initiativet: AIsamtalen i håb om, at vi sammen kan tøjle teknologien, før den tøjler os. Før vi måbende ser tilbage og spørger: Hvordan endte vi her?
AI-deklaration: I produktionen af denne tekst er ChatGPT udelukkende blevet brugt til at generere en liste over de brancher, hvor AI har fundet størst anvendelse.