intueor

På en ellers ret kedelig og almindelig tirsdag før juleferien var jeg til et møde på mit arbejde. Indkaldelse i Outlook og en Powerpoint-præsentation i det store mødelokale. Men hvad jeg ellers troede ville være en ret kedelig begivenhed fik mig mere og mere op at køre. Det var et møde om hvordan vi i fremtiden skal bruge AI-chatbots på arbejdspladsen, og bag efter havde jeg en følelse som jeg stadig har svært ved at bestemme, men frem for alt forstår jeg nu at jeg var sur. 

Tilfældet vil have det at jeg arbejder i den del af det offentlige hvor man årligt i løbet af efteråret holder forhandlinger om løn og bonusser, og jeg havde derfor i perioden op til tænkt meget over hvad jeg kan gøre de næste par år for at ligge godt til her, og de overvejelser lå derfor ikke lang væk i min bevidsthed. Jeg kunne som mødet skred frem konstatere at stort set alle de punkter som jeg havde udset mig som mine fremtidige kompetencer, var noget som denne chatbot i stedet skal kunne i fremtiden. Det blev præsenteret som en glædelig nyhed, men jeg kunne ikke tolke det som andet end et konflikt der startede her, og det gjorde mig sur. Det var en udfordring af mine muligheder for at gøre karriere og sikre mig en god position at forhandle løn ud fra. For at gøre ond værre var der samtidig blevet varslet fyringer af mere end 600 medarbejdere i staten, noget som mit kontor dog var gået fri fra, og her var det flere stedet blevet sagt at det ikke var så stort et problem for Statens serviceniveau fordi produktiviteten kommer til at stige med AI. Mit humør blev for alvor punkteret da vi fik at vide at det takket være chatbotten i fremtiden ikke kommer til at betyde så meget hvis en medarbejder forlader arbejdspladsen. Igen præsenteret som en glædelig nyhed – som om det bare ville være super fedt. Men det er jo en katastrofe, tænkte jeg, for hvis jeg har én interesse som lønmodtager, så er det at det betyder noget hvis jeg siger op.

1.

Jeg er måske lidt mere kritisk overfor det her end gennemsnittet, det indrømmer jeg. På sin vis har jeg måske også søgt konfrontationen, ventet på at den opstod. Det skyldes at jeg i længere tid har fulgt de lidt mere kritiske technyheder i det hele taget, men særligt er blevet fascineret af den uafhængige journalist Ed Zitron der med base i USA dækker AI-industrien i et nyhedsbrev og en podcast. Zitron bruger et interessant greb som ofte slår fejl, men som han mestrer ret fint: den sure indignation. Det er tydeligt at læse – og særligt høre – i hans podcast at han er skide sur, men han er det på en måde så det ikke kompromitterer ham, og i stedet blot gør ham mere troværdig. Nok fordi det er autentisk, men også fordi han i øvrigt kan finde ud af at forklare hvorfor han er sur, vreden forhindrer ham ikke i at formulere sammenhængende analyser og argumenter. Det har for mig været befriende fordi det ofte kan være forløsende at se andre være sure på en autentisk måde. Forløsende at høre at det er okay at være sur over nogle ting som man vitterligt synes er langt ude.

Zitron påstår at store dele af den amerikanske AI-branche lyver, og at det går ud over deres kunder. Både overfor de helt umiddelbare kunder til firmaerne som køber en chatbot hos OpenAI eller Microsoft, grafikkort hos Nvidia og så videre, men også de mange almindelige mennesker der har deres investeringer bundet op i det amerikanske aktiemarked – eksempelvis via aktiefonde – der er kommet i en bobbel på grund af AI-firmaernes overvurderede aktiepriser. Zitron har også en teori – hvis man kan kalde det det – for hvorfor de lyver, og som går ud på at de tjener penge på det. Ingen af de store AI-firmaer tjener på nuværende tidspunkt penge på deres kunder, da det koster flere penge at lave alle lave alle de chatbeskeder som brugerne gerne vil have fra deres chatbots end firmaerne kan få ind via et almindeligt månedligt abonnement. Det kan i nogle tilfælde være okay for en virksomhed at miste penge på sine kunder, særligt fordi det her stadig er relativt unge firmaer i vækst, og derfor kan det give mening i en periode bruger flere penge end man tjener for at etablere sig på markedet, og så siden begynde at tjene penge, når ført man har skabt sig et godt kundegrundlag. Problemet er imidlertid at de ikke har nogen strategi for at vende det her: der er ikke rigtig nogen udsigt til at de kan vende rundt og begynde at tjene penge. Det er et problem som de ligesom skubber foran sig og som de ikke ser ud til at kunne løse. Det betyder at de store AI-firmaers primære indtægt er investeringer i firmaet, og det betyder at de bliver nød til at hele tiden at opretholde en fortælling om at det helt store gennembrud er lige rundt om hjørnet. Eksempelvis talte de allesammen om „General Artifical Intelligence“ i lang tid, og aktier i OpenAI blev solgt på løftet om at de ville være det første firma til at opnå dette obskure fænomen som gik ud på at chatbots gik fra bare at være en chatbot til på en eller anden måde at være „mere“ intelligent, og kunne andet en bare at være en chatbot. Noget der er ret meningsløst, men ikke desto mindre noget som folk har investeret milliarder i, og som flere CEO’s talte alvorligt om. Men i dag har alle droppet ideen.

Det her er kan i høj grad få lov til at ske fordi medierne ikke kan finde ud af at stille kritiske spørgsmål fordi de ikke forstår den her dynamik. Et eksempel på det er min egen far. Han er journalist, og for et stykke tid siden var han sammen med nogle andre journalister på et besøg i Silicon Valley. Han kom tilbage og erklærede at det her AI „kommer til at ændre alting“. Jeg var ikke så overbevist, og jeg synes mere at han lød som en der var blevet frelst. Han fortalte at de havde mødt „ham der har lavet Second Life“. Philip Rosedale, som han hedder, fik et hit med computerprogrammet Second Life tilbage i 00’erne, hvor man kunne „leve“ i en virtuel anden verden – praktisk talt vil et slags computerspil. Second Life er karakteristisk for den slags produkter som den her branche lever af fordi det er relativt ligegyldigt i dag. Det var på sit højeste i løbet af 00’erne, og selv om det faktisk overraskede mig at finde ud af at serverne stadig er oppe at køre den dag i dag, så kunne jeg på en hverdagsaften kun finde 10 online, så vidt jeg kunne forstå interfacet. Ham der fyret der har skabt Second Life har altså ikke skabt et firma med en vedvarende salgsucces. På trods af at jeg er rimelig antikapitalistisk indstillet, så har jeg en vis respekt for virksomheder der skaber gode arbejdspladser, ordentlige produktet og som over en årrække har glade kunder og medarbejdere – men det er ikke tilfældet her. I stedet har han skabt et spil der blev hypet i ret kort periode, og så tjent sine penge på den hype. Det skyldes at i Second Life kunne man købe ting man ejede fra udvikleren af spillet som man så kunne sælge videre i en semi-åben økonomi inde i selve spillet. På en måde var han forud for sin tid, for kosmetiske ting i computerspil er nu en enorm forretning. Mange spillere troede derfor at de købte et investeringsobjekt fordi det troede at Second Life ville blive den næste store ting. Det er ret tydeligt i dag at det ikke blev den næste store ting, men nok mennesker troede på det i tilstrækkelig lang tid til at de brugte en masse penge i deres online-shop. Læser man i dag på Philip Rosedales hjemmeside – altså ham fyren bag, hvis du havde glemt det –, så kan man se at han har prøvet at gøre sig selv kunsten efter og ramme den næste store ting, men det lykkedes ikke, og han har lavet både et nu lukket VR start-up og et ditto AI. 

Sat lidt på spidsen så tænker alle lidt som ham i dag. Alle er blevet kasino-hjernevasket, og det skyldes at de rigtig store penge de sidste mange år er tjent gennem aktiemarkedet. Den store drøm er ikke at sidde på en kontorgang med mørkebrune mahogni-paneler eller gå at hilse høfligt på sine ansatte og kunderne som Mads Skjern i Matador eller Waage Sandøs patriark Kaj Holger i Krøniken. Altså den gamle, konservative fortælling om det samfundsundstøttende forretningsliv. Nej, drømmen for moderne forretningsmænd er at sælge sine andele af et eller andet start-up på det rigtige tidspunkt, og så være ligeglad med hvordan det ellers går. Elon Musk er godt nok blevet velhavende på at sælge biler, men han er blevet verdens rigeste mand på sine aktier.

Det betyder for det første at det bliver en vinderstrategi at lyve. Du er alligevel ikke afhængig af relationer på lang sigt – for der er slet ikke noget langt sigte –, og derfor kan du lige så godt lyve. Fortælle noget bullshit om dine produkter som at din bil kan køre fuldautomatisk, at din chatbot bliver selvbevidst, at chatbotten kan fikse cancer eller hvad ved jeg. Markederne reagerer positivt på den slag, i hvert fald ind til den dag hvor de ikke gør det længere – hvor boblen springer. Men hvis man bare sælger sine aktier før det, så kan man jo være ligeglad.

2.

Hvad har det med mig at gøre? På sin vis ikke noget. Det er ikke et stort amerikansk firma som leverer den chatbot jeg skal bruge på mit arbejde fordi Trump – heldigvis for vores offentlige IT – har været en idiot, og nu tør man ikke bruge amerikanske chatbots i de dele af Staten der behandler fortrolige oplysninger. Det er dog ikke kun godt, for reelt set har man i min styrelse valgt en dobbelt-op model hvor man både betaler for Chat-GPT-abonnementer til alle og vil betale for mindre løsninger til specielle opgaver. Men samtidig har det alt med mig at gøre, for den tankegang som det er lykkedes de store amerikanske firmaer at fremavle findes også i Danmark.

Som et led i deres strategi for at skabe flere investeringer i sig selv, så har de amerikanske AI-firmaer opbygget en slags FOMO. Selv min far har slugt fortællingen om at AI kommer til at ændre det hele, og at verden står foran en kæmpe omvæltning. Den historie kommer både i en dystopisk og en utopisk version: AI kommer til at redde verden og vi kommer til at leve super luksus eller et form for Termianator-scenarie hvor AI dræber os alle sammmen. Begge dele er lige idiotiske, men fælles for dem er at de bliver næret – i hvert fald offentligt – af stort set alle de store spillere i AI-branchen. Det er en effektive reklamestrategi fordi hvis AI kommer til at forandre verden fuldstændigt afgørende, så er det rationelt at investere sine sparepenge i de firmaer der udvikler AI. Det er endda rationelt at investere mere end hvad de nøgterne modeller for fornuftig investering siger – for de kan jo ikke indregne miraklet som kunstig intelligens kommer til at bringe til verden, eksempelvis det føromtalte AGI.

Det minder på den måde meget om „Pascals væddemål“, en berømt fidus formuleret af filosoffen Blaise Pascal tilbage i det 17. århundrede. Pascals væddemål går ud på at det er det rigtige at leve som kristen, for hvis Gud ikke eksisterer alligevel, så har du bare levet lidt mere nedern end du ellers ville, ved eksempelvis kun at kunne spise fisk under fasten eller afstå fra at dyrke bøssesex – og omvendt hvis Gud så rent faktisk eksisterer, så står du til at tjene en uendelig gevinst i himmeriget. Væddemålets pointe er altså at det er rationelt for dig at opgiver ret lidt værdi ved at leve som kristen frem for ateist for at viden en uendelig høj værdi ved at komme i himlen. Analogien med AI er at det virker rationelt at opgive relativt lidt værdi – ens sparepenge som man alligevel vil investere – mod potentielt at vinde en næsten uendelig værdi når AI bliver superintelligent eller overtager verdensherredømmet eller sådannoget. Derfor giver det mening for mange at investere uforholdsmæssigt meget i AI. Det forklarer det umiddelbart paradoksale i at cheferne for AI-firmaer helt seriøst taler om at deres eget produkt – AI – måske kan udslette menneskeheden.

I det hele taget er meget omkring AI bare marketing, og det er til at kaste op over at folk ikke fatter det. Tag bare navnet „kunstig intelligens“. Så spørger man dumt: Hvad er det egentlig for en intelligens? Hvad lærer AI os om intelligens? Er AI bevidst? Og andet i den dur. Det er idiotiske spørgsmål fordi kunstig intelligens ret åbentlyst er et performativt udsagn. Man kan groft sagt inddele sætninger i deklarative og i performative. Deklarative er nogle der bekræfter et faktum, som at „den danske konge hedder Frederik“. Omvendt udtrykket performative sætninger et ønske om at tingene skal være sandt, som når Kong Frederik siger, „Gud bevare Danmark.“ Det er ikke et faktum at teknologien er intelligent, i stedet udtrykker man et ønske om at andre skal se sin chatbot som intelligent når man kalder sit produkt for „kunstig intelligens“. 

Den her fortælling om AI skaber en stress blandt ellers ordentlige mennesker. Mellemledere overalt læser det her lort på LinkedIn eller i ukritiske medier og så får de stress og søsætter i al hast et AI-produkt i deres egen virksomhed uden helt at have tænkt det igennem. Og det her er hele meningen med det, det er en bevidst marketingsstrategi. I det offentlige har det resulteret i at man skal „frigøre“ – er forfærdeligt upræcist begreb – mindst 10.000 stillinger i det offentlige, men potentielt op mod 100.000. Alle mellemledere i hele den offentlige sektor har nu travlt med at prøve at proppe AI-produkter ind over det hele, for de kan ligesom godt regne ud at de bliver tvunget til det hvis de ikke selv gør det. AI fremstår lige nu som et tilbud man ikke kan afslå. 

Et godt eksempel på hvorfor det er farligt er historien om verdens angiveligt rigeste mand, Elon Musk, og hans rolle i den amerikanske regering med sit DOGE-program. Det eksplicitte formål var at effektivisere den amerikanske stat ved at bruge kunstig intelligens, primært chatbots. Programmet truede en lang række embedsmænd i den amerikanske stat, og fyrede også mange af dem. Men nu er programmet lukket igen, og det var på overfladen ikke nogen succes. Hvis man kigger på statistik over udgifterne i den amerikanske centraladministration, så er det ikke lykkedes at bringe udgifterne ned, og noget tyder på at de omvendt er steget under præsiden Trump. Men det er i virkeligheden lykkedes ret godt, for det har haft en stor magtpolitisk konsekvens. Mange amerikanske medier har beskrevet hvordan embedsmænd har været forvirrede og frygtede for deres job. Samtidig sker der det på alle niveauer af magt i USA at rettigheder og principper bliver overtrådt. Trump og hans kumpaner bryder loven hele tiden, og de kan få lov til det fordi der ofte ikke er nogen i embedsværket der siger nej.

Det er selvfølgelig på et helt anden skala, men jeg oplever et vist stik af den samme frygt og usikkerhed. Det er selvfølgelig mit problem, men nu er det så også mig der skriver bloggen. Men samtidig er det et samfundsproblem vil jeg påstå. En af de store pointer fra den såkaldte Magtudredningen 2.0, en undersøgelse af demokratiets vilkår i Danmark, fandt at det står dårligere til end den første undersøgelse fra omkring årtusindeskiftet, og en af grundende er at embedsværket står svarer relativt til politikerne, særligt dem i regeringen. At indføre AI skubber den bevægelse endnu hurtigere i den gale retning. Det går i sidste ende ud over vores rettigheder som borgere, vi får dårligere services og et system der er mindre i stand til at værne om vores rettigheder. Vinderne er den politiske elite hvis magt bliver mindre udfordret, og så kapitalen der står til at tjene penge, og hvis magtposition relativt til arbejdstagerne bliver forbedret.

3.

Tak fordi du læste med. Det går op for mig at jeg er sprunget ud i en ny genre: den politiske analyse. Det blev dog en lidt for lang og for rodet tekst den her gang. Jeg tror det handler om at jeg tænker meget over AI, og at jeg ret åbentlyst ikke er færdig med at tænke over det. Jeg skriver en tekst om måneden, det er mit dogme, og så bliver det sku ikke lige godt hver gang vel. Men næste måned har jeg en meget klar idé om, og jeg kan godt love at det bliver ikke-kunstig intelligent!