intueor

På en ellers ret kedelig og almindelig tirsdag før juleferien var jeg til et møde på mit arbejde. Indkaldelse i Outlook og en Powerpoint-præsentation i det store mødelokale. Men hvad jeg ellers troede ville være en ret kedelig begivenhed fik mig mere og mere op at køre. Det var et møde om hvordan vi i fremtiden skal bruge AI-chatbots på arbejdspladsen, og bagefter havde jeg en følelse som jeg stadig har svært ved at bestemme, men frem for alt forstår jeg nu at jeg var sur.

Det er sådan at jeg arbejder i den del af det offentlige hvor man årligt i løbet af efteråret holder forhandlinger om løn og bonusser, og jeg havde derfor i perioden op til tænkt meget over hvad jeg kan gøre de næste par år for at ligge godt til her, og de overvejelser lå derfor ikke lang væk i min bevidsthed. Jeg kunne som mødet skred frem konstatere at stort set alle de punkter som jeg havde udset mig som mine fremtidige kompetencer, var noget som denne chatbot i stedet skal kunne i fremtiden. Det blev præsenteret som en glædelig nyhed, men jeg kunne ikke tolke det som andet end en konflikt der startede her, og det gjorde mig sur. Det var en udfordring af mine muligheder for at gøre karriere og sikre mig en god position at forhandle løn ud fra. For at gøre ond værre var der samtidig blevet varslet fyringer af mere end 600 medarbejdere i staten, noget som mit kontor dog var gået fri af, og i den forbindelse var det flere steder rundt i styrelserne blevet sagt at det ikke var så stort et problem for Statens serviceniveau, for produktiviteten kommer til at stige med AI. Mit humør blev for alvor punkteret da vi fik at vide at det takket være chatbotten i fremtiden ikke kommer til at betyde så meget hvis en medarbejder forlader arbejdspladsen. Igen præsenteret som en glædelig nyhed – som om det bare ville være super fedt. Men det er jo en katastrofe, tænkte jeg, for hvis jeg har én interesse som lønmodtager, så er det at det betyder noget hvis jeg siger op.

1.

Jeg er måske lidt mere kritisk overfor det her end gennemsnittet, det indrømmer jeg. På sin vis har jeg måske også søgt konfrontationen, ventet på at den indtræf. Det skyldes at jeg i længere tid har fulgt de lidt mere kritiske technyheder i det hele taget, men særligt er blevet fascineret af den uafhængige journalist Ed Zitron der med base i USA [dækker AI-industrien i et nyhedsbrev og i en podcast](dækker AI-industrien i et nyhedsbrev og i en podcast “https://www.wheresyoured.at/"). Zitron bruger et interessant greb som ofte slår fejl, men som han mestrer ret fint: den sure indignation. Det er tydeligt at læse – og særligt høre – i hans podcast at han er skide sur, men han er det på en måde så det ikke kompromitterer ham, og i stedet blot gør ham mere troværdig. Nok fordi det er autentisk, men også fordi han i øvrigt kan finde ud af at forklare hvorfor han er sur, vreden forhindrer ham ikke i at formulere sammenhængende analyser og argumenter. Det har for mig været befriende fordi det ofte kan være forløsende at se andre være sure på en autentisk måde. Forløsende at høre at det er okay at være sur over nogle ting som man vitterligt synes er langt ude.

Zitron påstår at store dele af den amerikanske AI-branche lyver, og at det går ud over deres kunder. Både overfor de helt umiddelbare kunder til firmaerne som køber en chatbot hos OpenAI eller Microsoft, grafikkort hos Nvidia og så videre, men også de mange almindelige mennesker der har deres investeringer bundet op i det amerikanske aktiemarked – eksempelvis via aktiefonde – der er kommet i en boble på grund af AI-firmaernes overvurderede aktiepriser. Zitron har også en teori – hvis man kan kalde det det – for hvorfor de lyver, og som går ud på at de tjener penge på det. Ingen af de store AI-firmaer tjener på nuværende tidspunkt penge på deres kunder, da det koster flere penge at lave alle de chatbeskeder som brugerne gerne vil have end firmaerne kan få ind via et almindeligt månedligt abonnement. Det kan i nogle tilfælde være okay for en virksomhed at miste penge på sine kunder, fordi der er tale om relativt unge firmaer i vækst, og derfor kan det give mening at de i en periode bruger flere penge end de tjener med det formål at etablere sig på markedet, og så bagefter begynde at tjene penge, når først de har skabt sig et godt kundegrundlag. Problemet er imidlertid at de ikke har nogen strategi for at vende det her: der er ikke rigtig nogen udsigt til at de kan vende rundt og begynde at tjene penge. Det er et problem som de ligesom skubber foran sig, og som de ikke ser ud til at have en løsning til. Det betyder at de store AI-firmaers primære indtægt er investeringer i firmaet, og det betyder at de bliver nød til at opretholde en fortælling om at det helt store gennembrud er lige rundt om hjørnet. Eksempelvis talte de allesammen om „General Artifical Intelligence“ i lang tid, og aktier i OpenAI blev solgt på løftet om at de ville være det første firma til at opnå dette obskure fænomen som gik ud på at chatbots gik fra bare at være en chatbot til på en eller anden måde at være „mere“ intelligent, og kunne andet en bare at være en chatbot. Noget der er ret meningsløst, men ikke desto mindre noget som folk har investeret milliarder i, og som flere CEO’s uden selvironi talte om. Men i dag har alle droppet ideen.

Det her er kan i høj grad få lov til at ske fordi medierne ikke kan finde ud af at stille kritiske spørgsmål, og fordi de ikke forstår den her dynamik. Et eksempel på det er min egen far. Han er journalist, og for et stykke tid siden var han sammen med nogle andre journalister på et besøg i Silicon Valley. Han kom tilbage og erklærede at det her AI „kommer til at ændre alting“. Jeg var ikke så overbevist, og jeg synes mere at han lød som en der var blevet frelst. Han fortalte begejstret om hvordan de havde mødt „ham der har lavet Second Life“. Philip Rosedale, som han hedder, fik et hit med computerprogrammet Second Life tilbage i 00’erne, hvor man kunne „leve“ i en virtuel anden verden – praktisk talt vil et slags computerspil. Second Life er et godt eksempel på den slags produkter som den her branche lever af, fordi det er relativt ligegyldigt i dag. Det var på sit højeste i løbet af 00’erne, og selv om det faktisk overraskede mig at finde ud af at serverne stadig er oppe at køre den dag i dag, så kunne jeg på en hverdagsaften kun finde 10 online, så vidt jeg kunne forstå interfacet. Ham der fyren der har skabt Second Life, har altså ikke skabt et firma med en vedvarende salgssucces. På trods af at jeg er rimelig antikapitalistisk indstillet, så har jeg en vis respekt for virksomheder der skaber gode arbejdspladser, ordentlige produkter og som over en årrække har glade kunder og medarbejdere – men det er ikke tilfældet her. I stedet har han skabt et spil der blev hypet i en ret kort periode, og så tjent sine penge på den hype. Det fungerede sådan at man i Second Life kunne man købe ting inde i spillet fra udvikleren, og dem kunne man så kunne sælge videre i en semi-åben økonomi inde i selve spillet. På en måde var han forud for sin tid, for kosmetiske ting i computerspil er nu en enorm forretning på Steam og andre platforme. Mange spillere troede derfor at de købte et investeringsobjekt, for de troede på at Second Life ville blive den næste store ting. Det er ret tydeligt i dag at det ikke blev den næste store ting, men nok mennesker troede på det i tilstrækkelig lang tid til at de brugte en masse penge i deres online-shop. Læser man i dag på Philip Rosedales hjemmeside – altså ham fyren bag, hvis du havde glemt det –, så kan man se at han har prøvet at gøre sig selv kunsten efter og ramme den næste store ting, men det er ikke lykkedes, og han har lavet både et nu lukket VR start-up og et ditto AI.

Sat lidt på spidsen så tænker alle lidt som ham i dag. Alle er blevet kasino-hjernevasket, og det skyldes at de rigtig store penge de sidste mange år er tjent gennem aktiemarkedet. Den store drøm er ikke at sidde på en kontorgang med mørkebrune mahogni-paneler eller gå og hilse høfligt på sine ansatte og kunderne som Mads Skjern i Matador eller Waage Sandøs patriark Kaj Holger i Krøniken. Altså den gamle, konservative fortælling om det samfundsunderstøttende forretningsliv. Nej, drømmen for moderne forretningsmænd er at sælge sine andele af et eller andet start-up på det rigtige tidspunkt, og så være ligeglad med hvordan det ellers går. Elon Musk er godt nok blevet velhavende på at sælge biler, men han er blevet verdens rigeste mand på sine aktier.

Det betyder for det første at det bliver en vinderstrategi at lyve. Du er alligevel ikke afhængig af relationer på lang sigt – for der er slet ikke noget langt sigte –, og derfor kan du lige så godt lyve. Fortælle noget bullshit om dine produkter som at din bil kan køre fuldautomatisk, at din chatbot bliver selvbevidst, at chatbotten kan fikse cancer eller hvad ved jeg. Markederne reagerer positivt på den slags, i hvert fald ind til den dag hvor de ikke gør det længere – hvor boblen springer. Men hvis man bare sælger sine aktier før det, så kan man jo være ligeglad.

2.

Hvad har det med mig at gøre? På sin vis ikke noget. Det er ikke et stort amerikansk firma som leverer den chatbot jeg skal bruge på mit arbejde fordi Trump – heldigvis for vores offentlige IT – har været en idiot, og nu tør man ikke bruge amerikanske chatbots i de dele af Staten der behandler fortrolige oplysninger. Det er dog ikke kun godt, for reelt set har man i min styrelse valgt en dobbelt-op model hvor man både betaler for Chat-GPT-abonnementer til alle og vil betale for mindre løsninger til specielle opgaver. Men samtidig har det alt med mig at gøre, for den tankegang som det er lykkedes de store amerikanske firmaer at fremavle findes også i Danmark.

Som et led i deres strategi for at skabe flere investeringer, så har de amerikanske AI-firmaer opbygget en slags FOMO. Selv min far har slugt fortællingen om at AI kommer til at ændre det hele, og at verden står foran en kæmpe omvæltning. Den historie kommer både i en dystopisk og i en utopisk version: AI kommer til at redde verden og vi kommer til at leve super luksus eller et form for Termianator-scenarie hvor AI dræber os alle sammen. Begge dele er lige idiotiske, men fælles for dem er at de bliver næret – i hvert fald offentligt – af stort set alle de store spillere i AI-branchen. Det er en effektiv reklamestrategi, for hvis AI kommer til at forandre verden fuldstændigt afgørende, så er det rationelt at investere sine sparepenge i de firmaer der udvikler AI. Det er endda rationelt at investere mere end hvad de nøgterne modeller for fornuftig investering siger – for modellerne kan jo ikke indregne miraklet som kunstig intelligens kommer til at bringe til verden, eksempelvis det føromtalte AGI.

Det minder på den måde meget om „Pascals væddemål“, en berømt fidus formuleret af filosoffen Blaise Pascal tilbage i det 17. århundrede. Pascals væddemål går ud på at det er det rigtige at leve som kristen, for hvis Gud ikke eksisterer, så har du bare levet lidt mere nedern end du ellers ville, ved eksempelvis kun at kunne spise fisk under fasten eller afstå fra at dyrke bøssesex – og omvendt hvis Gud så rent faktisk eksisterer, så står du til at tjene en uendelig gevinst i himmeriget. Væddemålets pointe er altså at det er rationelt for dig at opgive relativt lidt værdi ved at leve som kristen frem for ateist, for at vide en uendelig høj værdi ved at komme i himlen. Analogien med AI er at det virker rationelt at opgive relativt lidt værdi – ens sparepenge som man alligevel vil investere – mod potentielt at vinde en næsten uendelig værdi når AI bliver superintelligent eller overtager verdensherredømmet eller sådannoget. Derfor giver det mening for mange at investere uforholdsmæssigt meget i AI. Det forklarer det umiddelbart paradoksale i at cheferne for AI-firmaer helt seriøst taler om at deres produkt – AI – måske kan udslette menneskeheden.

I det hele taget er meget der bliver sagt om AI bare marketing, og det er til at kaste op over at folk ikke fatter det. Tag bare navnet „kunstig intelligens“. Så spørger man dumt: Hvad er det egentlig for en intelligens? Hvad lærer AI os om intelligens? Er AI bevidst? Og andet i den dur. Det er idiotiske spørgsmål fordi kunstig intelligens ret åbenlyst er et performativt udsagn. Man kan groft sagt inddele sætninger i deklarative og i performative. Deklarative er nogle der bekræfter et faktum, som at „den danske konge hedder Frederik“. Omvendt udtrykket performative sætninger et ønske om at tingene skal være sandt, som når Kong Frederik siger „Gud bevare Danmark“. Det er ikke et faktum at teknologien er intelligent, i stedet udtrykker man et ønske om at andre skal se sin chatbot som intelligent når man kalder sin vare for „kunstig intelligens“. Helt ligesom når Carlsberg kalder sin øl for verdens bedste.

Den her fortælling om AI skaber stress blandt ellers ordentlige mennesker. Mellemledere overalt læser det her på LinkedIn eller i ukritiske medier, og så får de stress, og søsætter i al hast et AI-projekt i deres egen organisation uden helt at have tænkt det igennem. Og det her er hele meningen med det, det er en bevidst marketingsstrategi. I det offentlige har det resulteret i at man skal „frigøre“ – er forfærdeligt upræcist begreb – mindst 10.000 stillinger i Staten, men potentielt op mod 100.000. Alle mellemledere i hele den offentlige sektor har nu travlt med at forsøge at proppe AI-produkter ind over det hele, for de kan ligesom godt regne ud at de bliver tvunget til det hvis de ikke selv gør det. AI fremstår lige nu som et tilbud man ikke kan afslå.

Et godt eksempel på hvorfor det er farligt er historien om verdens angiveligt rigeste mand, Elon Musk, og hans rolle i den amerikanske regering med sit DOGE-program. Det eksplicitte formål var at effektivisere den amerikanske stat ved at bruge kunstig intelligens, primært chatbots. DOGE-programmet truede en lang række embedsmænd i den amerikanske stat, og fyrede også mange af dem. Men nu er programmet lukket igen, og det var på overfladen ikke nogen succes. Hvis man kigger på statistik over udgifterne i den amerikanske centraladministration, så er det ikke lykkedes at bringe udgifterne ned, og noget tyder på at de omvendt er steget under præsident Trump. Men det egentligt formål er i virkeligheden lykkedes ret godt, for det har haft en stor magtpolitisk konsekvens. Mange amerikanske medier har beskrevet hvordan embedsmænd har været forvirrede, og hvordan de frygtede for deres job. Når embedsmændene er bage for deres job, så kan de ikke gøre den del af det der handler om at sige nej, og det er en del af fortællingen om hvordan der på næsten alle niveauer af magt i USA sker det at rettigheder og principper bliver overtrådt af Trump-regeringen, hvilket de kan få lov til fordi der ikke er nogen i embedsværket der siger stop.

Det er selvfølgelig på en helt anden skala, men jeg oplever et stik af den samme frygt og usikkerhed. Det er selvfølgelig mit problem, men nu er det så også mig der skriver bloggen. Men samtidig vil jeg påstå at det er et samfundsproblem. Iden for de sidste par år er der blevet gennemført den såkaldte Magtudredningen 2.0, en undersøgelse af demokratiets vilkår i Danmark, og her fandt man at det står dårligere til end den første undersøgelse fra omkring årtusindeskiftet. En af grundende er at embedsværket står svagere relativt til politikerne, særligt dem i regeringen. At indføre AI skubber den bevægelse endnu hurtigere i den gale retning. Det går i sidste ende ud over vores rettigheder som borgere, da vi får dårligere services og et system der er mindre i stand til at værne om vores rettigheder. Vinderne er den politiske elite, hvis magt bliver mindre udfordret, og arbejdsgiverne, hvis magtposition relativt til arbejdstagerne bliver forbedret.