Zenia Stampe: Skæbnens ironi at AI gør det samme ved os, som vi har gjort ved naturen

Denne kronik blev også bragt i Politiken den 2. oktober 2023.

Af Zenia Stampe

Når jeg bevæger mig gennem Christiansborgs lange gange, går jeg i disse måneder med en mærkelig fornemmelse. På den ene side ved jeg godt, at det er i disse haller, at kursen for Danmarks fremtid udstikkes. På den anden side er det som om, at jeg går gennem et museum for forældede tanker. De værktøjskasser, som vi politikere rækker ned i, slår slet ikke til i mødet med de store spørgsmål, menneskeheden står over for lige nu.

Den teknokratiske midte går mest op i at administrere velfærdssamfundet. Mens fløjene er optaget af at administrere hver deres ”isme”.

Men menneskehedens fremtid afgøres hverken af teknokrati, liberalisme eller socialisme. For de gamle ideologier handler om mennesker. Det samme gør vores historiebøger. Men i dag står menneskeheden over for udfordringer, der er skabt i menneskets møde med det, der ikke er mennesket.

Jeg kan lige så godt lægge kortene på bordet. De seneste måneder har jeg været som besat af at læse om menneske, natur og teknologi. Det begyndte med litteratur om naturhistorie og kulturhistorie. Undervejs stiftede jeg bekendtskab med den israelske historieprofessor Yuval Noah Hararis forfatterskab. Derfra bevægede det sig videre i endnu flere retninger.

Harari taler om, hvordan menneskehedens historie har påvirket både ”mennesket og dets medorganismer”. For set i et planetarisk perspektiv, har vi mennesker kun eksisteret i ganske kort tid.

Hvis vi samler hele jordens levetid i et kalenderår, så træder vi ind af døren den 31. december klokken 23.37, altså 23 minutter i nytår. 30 sekunder i nytår opstår de første samfund med skriftsprog og penge. 14 sekunder i nytår bliver Jesus født. To sekunder i nytår opstår den moderne stat og det industrialiserede samfund.

Det er gået hurtigt, siden vi crashede den jordiske fest. Men nu er allerede som om, vi står ved en afslutning. Ikke den lykkelige afslutning, som Fukuyama beskrev i The End of History and the Last Man, hvor han udpegede det liberale demokrati som endemålet for al ideologisk evolution. Heller ikke bare en tilbagevenden til den evige trædemølle af civilisationskonflikt, som Huntington dømte menneskeheden til, og som Ruslands angreb på Ukraine og Kinas vej tilbage som supermagt er et udtryk for. Der er nogle endnu større og mere komplekse kræfter i spil. Kræfter der ikke bare truer vores liberale demokrati, men menneskeheden som sådan.

Sidste gang menneskeheden befandt sig i en lignende situation, var under Den kolde krig og truslen om atomkrig. Men nu har vi fået mindst to nye eksistentielle trusler, som kan vise sig at få endnu mere fatale konsekvenser, inden vi overhovedet når at forstå det. For denne gang er det ikke en modstander, der sidder med fingeren på den røde knap. Vi sidder selv med knappen. Og vi kan ikke holde op med at trykke på den.

Jeg taler om klima- og biodiversitetskrisen og kunstig intelligens. Økologi og teknologi. To faktorer, som altid har formet det menneskelige liv. Oprindeligt med økologien i rollen som det vilde, der skulle tæmmes, og teknologien som menneskets lydige tjener. Men i dag er rollerne byttet om. Økologien er tvunget i knæ, mens teknologien er på vej ud af vores kontrol.

Voldsomme vejrfænomener og naturkatastrofer er blevet den nye norm, og vi ser nu i retning af mere varige ændringer af vores klima. Hvis Golfstrømmen kollapser, kan det på kort tid blive et farvel til bøgen og et goddag til et Danmark, der minder mere om Novosibirsk.

Klimakrisen sætter vores fremtid i perspektiv. Men den giver også et helt nyt perspektiv på fortiden og på menneskets rolle i økosystemerne. Det er først nu, hvor vi har skubbet planeten helt derud, hvor det truer vores egne samfund, at vi forstår dybden af vores spor.

Vi mennesker har for vane at anskue verdenshistorien som en fremadskridende bevægelse mod øget indsigt, opdagelse og nyttiggørelse. Men for næsten alle andre arter har homo sapiens ankomst til økosystemerne været en katastrofe af apokalyptiske dimensioner.

Da vi begyndte at sprede os over kloden for 70.000 år siden udryddede vi alle andre menneskearter og de kæmpestore dyr – den såkaldte megafauna – på flere kontinenter. Da vi lærte at drive landbrug, ødelagde vi levesteder og tæmmede de arter, vi kunne drage nytte af. I dag optager marker, byer og infrastruktur omkring 75 procent af jordens landareal, og kun 2-3 procent af den tilbageværende natur er økologisk intakt. Det er grunden til, at vi står midt i en biodiversitetskrise med én million truede arter. Sidste gang jorden stod over for en lignende biologisk massedød var, da dinosaurerne uddøde.

Men kan vi ikke være ligeglade? Menneskehedens succes kan i høj grad tilskrives evnen til at domesticere andre arter og skabe monokulturer på bekostning af biologisk mangfoldighed. At vi i samme ombæring kommer til at udrydde nogle arter, der kunne have vist sig nyttige for os er en streg i regningen. Men ikke noget, der for alvor truer vores arts overlevelse.

Det samme kan man sige om klimaforandringerne. Vi mennesker skal nok finde måder at overleve. Vi bygger diger og udvikler nye energikilder. De fattigste vil måske blive opslugt af naturkatastrofer, ressourcekonflikter og migrationsstrømme. Og de teknologier, vi lige nu udvikler på speed, vil måske skabe nye problemer for vores efterkommere. Men bundlinjen er stadig, at hverken klimakrisen eller biodiversitetskrisen udgør en eksistentiel trussel mod menneskeheden.

Og så gør de det alligevel. For de er et resultat af den selvcentrerede og ensidige nytteetik, der i sidste ende kan blive vores fald. Hvad hvis ligegyldigheden over for de fattigste i menneskefamilien og vores medorganismer kan blive vendt imod os – af arter, der er os overlegne?

Den risiko er udviklere og forskere i kunstig intelligens begyndt at advare om. De mener ikke bare, at AI vil vende op og ned på vores samfund. Ændre arbejdsmarkedet, sundhedssystemet, uddannelserne og demokratiet. Der er mere på spil: Kunstig intelligens udgør en trussel mod hele menneskeheden. Mod homo sapiens som art.

Nogle taler om scenarier, hvor AI overtager styringen af verden, og hvor homo sapiens enten degraderes til mikrochips i den store datamaskine eller elimineres, fordi der ikke længere er brug for os. Det vil ikke ske i form af onde AI-robotter, der render rundt i gaderne og skyder folk. Men gennem en gradvis forskydning af vores viden, verdensbilleder, beslutningsprocesser, institutioner og kultur fra at være menneskedrevne til at være datadrevne. Til sidst vil vi måske blive manipuleret til at afvikle os selv. Ikke gennem vold, men ved at hacke vores kultur, præferencer og adfærd. Fra fysisk samvær til virtuelt samvær. Fra biologiske partnere til digitale partnere. Fra familiedrømme til selvvalgt barnløshed. Og sådan kan historien om homo sapiens ende.

Et andet scenarie er, at biologi og teknologi smelter sammen. Ved at sammenkoble informationsteknologi og bioteknologi kan vi opgradere homo sapiens til gudelignende mennesker med ekstraordinær intelligens, fuldstændig følelseskontrol og evigt liv. Der vil reelt være tale om en helt ny menneskeart, som sandsynligvis vil finde homo sapiens lige så primitive, som vi finder chimpanser. Man tør ikke tænke på, hvad denne nye homo deus vil gøre ved de tilbageværende homo sapiens.

I det første scenarie er homo sapiens en trædesten imod udviklingen af en helt ny, uorganisk livsform. I det andet scenarium udvikler vi os selv til en anden livsform ved at overgå fra naturlig udvælgelse til intelligent design. Nogle vil opfatte begge scenarier som dystopier, fordi de fjerner os fra det menneskelige. Andre vil se dem som visioner – fordi de netop transcenderer det menneskelige og åbner for helt nye erkendelser. Dystopi eller vision, så er begge scenarier allerede ved at blive til virkelighed.

Vi opfinder hele tiden nye teknologier, der hjælper os med at opgradere vores kroppe og kontrollere vores følelser. Samtidig overlader vi stadig flere dele af vores liv og samfund til apps og algoritmer, der stjæler vores tid, hæmmer vores fysik, svækker vores sanser, bestemmer vores humør, udhuler vores sociale relationer og overflødiggør vores dømmekraft. Mennesker bliver opgraderet og nedgraderet på samme tid.
Det tætteste vi kommer på en egentlig diskussion af denne udvikling, er debatten om børns skærmforbrug. Men hvad hjælper det at skære en time af børnenes skærmtid, hvis vi alligevel er ved at skabe et samfund, hvor mennesker degraderes til teknologiens tamdyr?

I 70.000 år har vi mennesker hersket over jorden. Vi har regeret ud fra et menneskecentreret verdensbillede. Vi har domesticeret og udryddet andre arter. Det er skæbnens ironi, at AI nu truer med at gøre præcis det samme ved os: Konvertere vores verdensbillede, domesticere og måske ultimativt eliminere os.

Fremtidsforskere, filosoffer og kunsthistorikere taler allerede om det post-humane samfund, hvor grænserne mellem menneske, natur og teknologi udviskes. Ifølge den slovenske filosof, Slavoj Žižek, vil det posthumane samfund opløse begreber som natur, menneskelighed og guddommelighed. For hvis menneskelivet mister sin naturlige og tilfældige karakter og i stedet bliver manipuleret og kontrolleret af teknologi, så forsvinder det menneskelige – og dermed også det guddommelige.

Vi ser lignende diskussioner inden for biologien. Her er man bare et skridt foran. For naturen er allerede manipuleret og kontrolleret i en grad, der gør, at mange biologer vægrer sig ved overhovedet af kalde det natur. Derfor handler diskussionen blandt biologer ikke længere bare om, hvordan vi beskytter naturen mod forurening. Men også om, hvordan vi genforvilder naturen ved at sikre plads og frihed til, at den kan udfolde sig på egne – naturlige – præmisser.

Vi mennesker har i det hele taget mere til fælles med vores biologiske familie, end vi bryder os om at tro. Adfærdsbiologer har for længst påvist, at dyr har sanser, følelser og bevidsthed. Og hjerneforskere har aflivet myten om en særlig unik menneskelig sjæl og fri vilje. Vores personlighed og handlinger er først og fremmest et resultat af tilfældige bevægelser i hjernens nerveceller, påvirkninger fra vores miljø og genetisk determinisme udviklet gennem millioner af års organisk evolution.

Men hvad stiller vi op med denne nye viden? Som sædvanligt løber kunsten foran og forsøger at fordøje de nye erkendelser og omsætte dem til nye verdensbilleder. I Charlotte Weitzes roman, Rosarium, smelter menneske og plante sammen. I Viggo Bjerrings roman, Verdenshjertet, bliver mennesket mere og mere fremmedgjort for til sidst at blive helt opløst i en fremtid styret af økokapitalisme og kunstig intelligens. Theis Ørntofts nye roman, Jordisk, introducerer det planetariske menneske. Alle tre romaner rusker op i vores forestillingsverden.

Men hvad med det politiske? Den danske religionshistoriker, Jens-André Herbener, skitserer i sit monumentale værk, Økokrati, omstillingen fra et antropocænt samfund til et økocentreret samfund. Den Grønne Ungdomsbevægelse kredser om lignende begreber og visioner i deres manifest om Retfærdig Naturbevarelse. Og på statskundskab er man også så småt begyndt at undervise i grønne politiske teorier.

Det er tanker som disse, jeg går med, når jeg bevæger mig mellem Christiansborgs møderum og udvalgslokaler. Men så tikker der en sms ind fra en journalist, der vil diskutere flagregler. En anden ringer for at få en kommentar til kørselsfradrag. Og en tredje skriver for at få at vide, hvordan vi forholder os til regeringens forslag om at hæve straffene igen-igen. Og nej, naturligvis er det ikke ligegyldige spørgsmål. Men jeg får ofte den tanke, at det politiske miljø søger tilflugt i gammelkendte dilemmaer for at undgå at forholde sig til de nye og langt mere eksistentielle problemer, som menneskeheden står over for.

Problemer, som de gamle ideologier ikke giver svar på. De beskæftiger sig med balancen mellem menneske, stat og marked. Men i fremtiden bliver det mindst lige så vigtigt at forholde sig til balancen mellem menneske, natur og teknologi. Antropocentrisme. Økocentrisme. Datacentrisme.

Men i stedet for at bevæge sig ind på nyt ideologisk territorium, så forsøger Christiansborg at løse de store problemer gennem forskydninger af status quo. Vi udskifter benzinbiler med el-biler. Vi erstatter kulkraft med vindkraft. Vi skruer på børns skærmtid. Den ideologiske diskussion begrænser sig til valget mellem individ, marked eller stat som styringsinstrument. Vores forestillingsverden og begrebsapparat rækker simpelthen ikke længere.

Omstillingen lægges i hænderne på ingeniører og økonomer, men burde i lige så høj grad drives af filosoffer og kunstnere.For det er ikke nok med en teknologisk omstilling. Vi har også brug for en kulturel omstilling. Vi har brug for nye verdensbilleder. Nye værdier. Ny etik.

Ifølge Harari er det netop evnen til at fortælle historier – og ændre dem – der er forklaringen på menneskets succes. Det gør os i stand til at samarbejde i store grupper og ændre samarbejdets mål og midler, når virkeligheden ændrer sig.

Nu er vi nået til et punkt i menneskehedens historie, hvor vi må spørge os selv, om det er den rigtige historie, vi fortæller hinanden.

Skal vi fortsætte med at se os selv adskilt fra naturen? Kappe båndet til mange millioner års evolutionær erfaring. Slå hånden af vores biologiske familie. Og ultimativt overlade vores egen og livets skæbne på jorden til kunstig intelligens.

Eller er det tid til en ny historie? Hvor vi vedkender os vores slægtskab og skæbnefællesskab med naturen. Og hvor vi sætter klare rammer for teknologien, så den beskytter – ikke udnytter – vores medorganismer og menneskelighed.

Dét er det vigtigste ideologiske valg, vi står over for i dag.