Fremmedgørelsens næste frontlinje

En ny dagligdag med generativ kunstig intelligens er begyndt at indfinde sig. Teknologien bevæger sig støt fremad. Fra de første wow-øjeblikke til de mere realistiske forsøg på at bruge det i praksis til i dag, hvor teknologien kommer snigende som en reel og forandrende kraft i arbejdslivet.

Sociale medieopslag, fondsansøgninger eller debatartikler bliver skrevet i ChatGPT. Selvfølgelig ikke alene. Ofte er det udkast, der redigeres, men samspillet back-and-forth med chatbotten breder sig.

Undersøgelser viser, at flere og flere virksomheder bruger generativ AI i praksis – særligt til at producere tekster. En anden undersøgelse viser, at 54 procent af lange LinkedIn-opslag sandsynligvis er skabt med generativ kunstig intelligens.

Mange peger på de åbenlyse begrænsninger. Der er den manglende originalitet og hallucinationerne. Man kan græmmes over opslag, der tydeligvis er genereret af kunstig intelligens, med kejtede store startbogstaver eller alt for mange dots eller stiliserede fotorealistiske billeder.

Men den mest succesfulde brug af teknologien er nok dén, hvor vi intet opdager. Og hvis vi skal være ærlige, så består en væsentlig prompt-kompetence i at maskere og skjule, at den lille ‘happy helper’ skaber indhold for os backoffice, mens det helst ikke må fremgå af slutproduktet udadtil. Der er således tendenser til, at teknologien lever et liv i skyggen, og man kan ane et misforhold mellem brugen indadtil og transparensen udadtil.

En organisation, som jeg underviste i teknologien, var befriende ærlige på dette punkt.

“Vil det være ok at bruge teknologien i tekster skrevet til jeres samarbejdspartnere?”. “Ja” - lød svaret. “Vil det være ok, at jeres samarbejdspartnere ved, at det er skrevet med ChatGPT”. “Bestemt ikke”.

At skrive for at finde sin stemme

For snart to år siden tog jeg ud til Foreningen Outsideren og holdt et kursus i den nye fascinerende teknologi. Foreningen Outsideren består af mennesker med erfaringer fra psykiatrien, der i dag skriver om psykiatri, livet og samfundet.

Kurset var en del af min egen udforskning af teknologien, og det var starten på et arbejde, hvor jeg i dag er gået sammen med en gruppe social - og teknologiaktører, for at undersøge de socialt positive vinkler med generativ kunstig intelligens. Jeg er således ikke maskinstormer eller en analog dinosaur. Jeg ser mulighederne. Jeg arbejder med teknologien i praksis og leder efter alle de frigørende potentialer.

Men jeg ser absolut også faldgruberne.

Det første tegn på en faldgrube viste sig for mig hos Foreningen Outsideren, hvor vi diskuterede teknologien. Et af de udsagn, der har sat sig fast, kom fra en af deltagerne: 

“Jeg skriver for at finde min stemme – hvorfor skal jeg overlade det til maskinen?”

Jeg skriver for at finde min stemme. Bag dette udsagn gemmer sig en pointe, som vi er nødt til at forholde os til – uanset om vi er gymnasieelever, CEO’s i store virksomheder eller taleskrivere til konfirmanden.

I dag taler mange om, at vores elever i skolen ikke lærer noget, hvis de lader en chatbot klare arbejdet. Det er ret indlysende, at formålet med at skrive en fristil ikke er selve det skriftlige produkt, men derimod at blive klogere og skærpe sin tænkning. Det skriftlige produkt arkiveres, men det blivende produkt skulle gerne have plantet sig i bevidstheden som viden og læring. Således kan de fleste nok være enige om, at læring er målet i uddannelse.

Men hvad med os andre? Hvad med arbejdslivet? Er det lige meget, om vi grubler over teksten, kæmper med formuleringerne eller stirrer ind i det blanke papir?

Du udliciterer det tunge tænkearbejde, når du skriver en fondsansøgning eller en jobansøgning. Du får promptet dig frem til noget, der lyder rimeligt godt.

Men er du lige så klar i mælet, når du senere sidder fysisk foran fondschefen? Er du lige så nærværende og præcis under jobsamtalen?

Og hvis din chatbot har skrevet virksomhedens strategi – er du så lige så tydelig, når en medarbejder spørger nysgerrigt ind til dot nummer 15?

Det kræver ofte energi at finde ind til meningen med dét, vi laver. Det kan være nødvendigt at tale længe om det og at gruble længe over det. Det er besværligt, og det tager tid.

Netop grubleriet kommer vi nemt til at skære væk med kunstig intelligens, og det er måske ikke en særligt bæredygtig strategi. Vi betaler sandsynligvis prisen senere. På et tidspunkt skal der bygges en bro mellem dit AI-skabte produkt og så den analoge virkelighed, hvor vi skal få det til at give mening for andre. 

Netop grubleriet kommer vi nemt til at skære væk med kunstig intelligens, og det er måske ikke en særligt bæredygtig strategi.

Det potentielle læringstab er en blind vinkel, der let overses ved første wow-øjeblik, når timelange grublerier erstattes af prompts, der tager sekunder. Den blinde vinkel er den short-term-tænkning, hvor vi overser, at netop nogle dele er vi nødt til at indoptage og bearbejde - uanset at det er besværligt og tager lang tid.

Alle har brug for at finde sin stemme i ny og næ.

Lommeregneren

Men er det ikke blot en udvikling, vi har set mange gange før? Lommeregneren har også frataget eller befriet os fra dele af vores tænkning. Det ville næppe være bedre, at vi ved kasseapparatet regnede alle beløb ud i hånden, eller at vi nægtede at bruge Excel, når der skal udarbejdes et regnskab. Vi har vænnet os til at udlicitere opgaver til maskinen. Så hvad er problemet? Hvad er forskellen på lommeregneren, der klarer hovedregningen og ChatGPT, der klarer teksten?

En fundamental forskel er følgende: Jeg har ikke en forventning om, at der eksisterer et regnestykke oppe i hovedet på den, der beregner en pris eller lægger et regnskab. Jeg er interesseret i slutproduktet – en korrekt udregnet pris eller regnskab.

Men når en person giver udtryk for noget, har en mening om noget eller er afsender af et budskab, så forholder det sig fundamentalt anderledes. Så har jeg en forventning om, at teksten er et spejl på noget indeni. Jeg forventer, at det, der udtrykkes, afspejler noget hos den anden. Der skal være en grad af korrelat mellem det, der ligger i tænkningen, og det, der ligger i teksten.

Det er lidt en grundpræmis i megen kommunikation. Det kan sådan set være hele formålet, at vi forsøger, efter bedste evne og så præcist som muligt, at skabe en forbindelse mellem en persons indre og en andens indre.

Fremmedgørelsens næste frontlinje

Så hvilken skade gør det, hvis denne forbindelse mellem tænkningen og teksten svækkes eller helt brydes?

Tab af mening bliver nok resultatet, da det før eller siden vil gå op for de fleste, at selvom budskabet står klart i teksten, så er det ikke sikkert, det afspejler noget særligt dybtfølt hos et andet menneske.

Der er to slags situationer i omgangen med generativ kunstig intelligens. Der er den, hvor du med et enkelt prompt skaber indhold. Og så er der den, hvor du modtager indholdet. Din chef sender dig en tekst, som du ved har taget et minut at skabe, og beder dig bruge et par timer på at læse og give feedback på det. Det er her meningstabet sætter ind. På en mærkelig måde betyder det noget, at både afsender og modtager har lagt energi i det. Lige så berusende det kan være at skabe indhold uden at anstrenge sig, lige så demotiverende kan det være at modtage selvsamme indhold.

Tab af tænkning bliver nok også resultatet.

Hartmut Rosa har i flere bøger beskrevet, hvordan accelerationssamfundet i stigende grad fremmedgør mennesket for sin omverden. Den sociale og teknologiske acceleration fremmedgør os for flere dimensioner i livet. Vi bliver blandt andet fremmedgjort for rummet, ting, tiden og vores handlinger.

Altså, vi ænser dårlig nok vores omgivelser og de ting vi omgiver os med, tiden komprimeres, oplevelserne bliver flygtige og det bliver sværere at overskue konsekvenserne af de valg, vi træffer.

Hvad er den næste frontlinje for fremmedgørelse?

På en måde ligger det lige for: Fremmedgørelse for tænkningen. Det lader til at være en reel mulighed med fremkomsten af generativ kunstig intelligens.

Jeg mener godt, vi kan se de først tegn på, at det kan gøre indhug i vores forhold til at tænke. I hvert fald er der meget, der tyder på, at vi kan få et mindre nært forhold til vores tænkning i mange situationer, hvor vi gennem formulering af tekst skal finde frem til, hvad vi mener. 

Alle er enige om, at der skal være ’humans in the loop’ – altså, at det er mennesker, der trykker start og stop og monitorerer, om maskinen gør, som vi ønsker. Men det er en forfladiget analyse, at hvis blot vi mennesker agerer en slags procesovervågere, så er alt godt. 

Der er en disharmoni mellem menneskets biologi og det tempo, der principielt muliggøres af kunstig intelligens. Det bliver i stigende grad svært at fastholde den nævnte spejling mellem det, man udtrykker og det, man har oppe i hovedet. Der er hele tiden risikoen for, at menneskets langsommelige tænkning bliver en biologisk flaskehals, hvis vi fastholder, at informationen og meningen skal have sin plads i hjernen, med al dens langsommelighed og begrænsede kapacitet.

Det omvendte prompt

Hartmut Rosas svar på accelerationssamfundet er ikke deceleration. Vi kan ikke stige af toget. Og det tror jeg heller ikke er muligt, når det gælder kunstig intelligens. Men vi kan opdyrke et skarpt blik for, hvad vi taber og vinder i de konkrete opgaver, hvor teknologien gør sit indtog – det er et blik for, hvornår vi med fordel kan udlicitere tænkearbejdet, og hvornår vi skal insistere på selv at indoptage stoffet og bearbejde det med vores langsommelige biologi.

Måske skal vi til at sige til chefen og kollegerne og alle andre: Jeg kræver min ret til at gruble. Jeg kræver min ret til at være ineffektiv. Måske er jeg ti gange langsommere, end jeg kunne være. Men jeg kræver det, fordi det er bedst for os på den lange bane. Vi har brug for at kunne tale højt og tydeligt om, hvorfor vi mener, som vi mener. Vi har brug for at finde vores stemme, og her er grubleriet og skriveriet helt centralt.

Jeg kræver det også fordi, der må være en mening med effektiviseringen. Den må frigive tid til noget, og den tid vil jeg gerne bruge på at tænke dybt og længe. Vi lever i et accelererende samfund, hvor vi har svært nok ved at følge med allerede. Kunstig intelligens udgør en mulighed for at frigøre ressourcer og tid. Så det vil være en bittersød ironi, hvis denne tid bruges på opgaver, hvor vi får endnu sværere ved mentalt og følelsesmæssigt at følge med.

Alle er enige om, at der skal være ’humans in the loop’ – altså, at det er mennesker, der trykker start og stop og monitorerer, om maskinen gør, som vi ønsker. Men det er en forfladiget analyse, at hvis blot vi mennesker agerer en slags procesovervågere, så er alt godt. Det svære spørgsmål er, hvornår vi rent faktisk skal holde fast i at varetage tænkningen i de enkelte opgaver.

Hvis du har en hat og op af den trækker forskellige opgaver og produkter: Udform kursusmaterialet, du skal undervise i. Skriv strategien eller værdigrundlaget for organisationen. Lav et resume af mødet. Udarbejd en mail til kollegaen. For alle opgaver og delopgaver ligger der en vanskelig vurdering af, hvor stor en del af opgaven, der skal “strømme gennem dig og din bevidsthed”, og hvor stor en del, der blot kræver, at du overvåger resultatet.

Hvis vi skal opdyrke et skarpere blik for dette trade off, kan vi stille spørgsmålene:

Mister jeg fordybelse her? Er der en læring eller bearbejdning af stoffet, som jeg har brug for på længere sigt?

I vores konkrete møde med nye opgaver, kan vi også forsøge at vende prompt-logikken på hovedet. Det skal ikke være mig, der prompter, og maskinen der skaber. Det skal være maskinen, der prompter mig til at tænke og skabe.

Den må meget gerne tålmodigt samle op, hvad jeg har på hjerte, men det skal frigøre tid til, at jeg kan tænke mere. Fremtidig brug af kunstig intelligens kan ikke alene måles på, om det gør os mere effektive på den korte bane. Det må også måles på, om det giver mere ro til at tænke, mere dybde, mere refleksion, mere ejerskab over det skabte og mere resonans mellem mennesker.