Kunstig intelligens: En tragedie

Idet publikum ankommer leser de ordene fra en orakel-lignende tekst slik den kommer til syne, ord for ord, projisert på en oppstilt vegg. «Stykket åpner med en forsonende scene mellom Prometeus og Zevs,» står det. Plutselig forsvinner dette anslaget til en intrige og en annen versjon utspiller seg: «Stykket åpner med en kamp mellom styrken til Prometeus og Zevs, en kamp mellom teknologi og makt,» spår teksten nå – i motsetning til det første scenarioet. Etterfulgt av enda en annen variasjon. Deretter en til. Åpningen av dette stykket kan bli ingen av disse tingene – og alle av dem. For dette er en forestilling utført av, og som handler om, generering av scenarioer, en serie tragiske spekulasjoner som utspiller seg i sanntid takket være kunstig intelligens; K.I.-systemer som er programmert til å kunne forestille seg et teaterstykke og gjøre opp regnskap med den store myten om framgang.

Algoritmisk teater

Annie Dorsen sin siste produksjon – «algoritmisk teater» betegner hun det som – hadde i januar dette året premiere på Bryn Mawr College i Philadelphia. Det vil etterfølges av oppsetninger i New York, sannsynligvis fulgt av internasjonale gjestespill. Jo før, jo heller – for dette er et stykke som taler direkte til øyeblikket, laget i et år hvor det etter lang tids tilblivelse dukket opp K.I.-systemer som fanget den folkelige og politiske oppmerksomhet. Neste bølge av kunstig intelligens kan ha begynt ved utgangen av 2022 med OpenAI sitt mye opphypede ChatGPT, et signifikant fremskritt fra tidligere språkmodeller som har vekket interessen til et titalls millioner nye programvareklienter som utforsker det som et redskap for markedsføring, propaganda, for å skrive og til å skape kunst.

Prometheus (working title) iscenesetter ikke Aiskhylos sin Prometheia med digitale verktøy, og nytolker heller ikke gresk drama i lys av kritisk teori eller med Regietheater-vri. Isteden inviterer Dorsen sitt nye prosjekt oss, via en forelesningsperformance og urovekkende vakre gjengivelser av elektronisk simulert tragedie, til å ta i betraktning avstandene mellom myte og virkelighet, mellom menneskelig og maskinbasert intelligens.

            Prosjektet avslutter en spennende periode for Dorsen, som i 2019 ble utnevnt til MacArthur «geni» stipendiat – den høyeste utmerkelsen for kunstnere og tenkere i USA. Denne sesongen, med stipendstøtte fra Pew Center for Arts and Heritage, re-installerte Dorsen mange av de algoritmisk baserte prosjektene som hun har skapt siden 2010 under tittelen Algorithmic Theater: An Annie Dorsen Retrospective ved Bryn Mawr College og Fringe Arts-festivalen i Philadelphia. I møte med forestillinger akkumulert over et tiår kunne tilskuerne i løpet av et kort tidsrom følge den tekniske utviklingen i operasjonene til algoritmiske chatboter, såvel som Dorsen sin kritikk av teknologien. Hello Hi There (2010), A Piece of Work (2013) og Yesterday Tomorrow (2015) viser hvordan kunstneren har utforsket det kommunikative potensialet og den temporære forstyrrelsen i datagenerert performance mens den lager samtaler, holder taler, skriver poesi og komponerer musikalske partiturer fremfor publikums øyne, noen ganger slik at levende utøvere kan lese og synge.

Dorsens produksjoner er kjente for publikum i Oslo og Bergen, hvor flere har blitt vist av BIT Teatergarasjen og Black Box teater. Hennes arbeider har lekelystent latt maskin-kreaturer måle krefter mot grunnstammen av kunstnerisk og intellektuelt fremstående historiske verk – fra Shakespeares Hamlet til sanger av Beatles og Michel Foucault og Noam Chomskys filosofi. Med Prometheus, hennes siste prosjekt – for hvilket jeg bidro som dramaturg – vender Dorsen seg nå mot selve fundamentet i den vestlige humanismen.

Vårt prometeske øyeblikk?

Aiskhylos skrev antagelig Prometheia-syklusen i det femte århundre f.Kr., men kun trilogiens første skuespill har overlevd: Promethevs i lenker, hvor tittelkarakteren, en titansk rebell lenket til en klippe, gjenforteller hvordan han stjal ilden fra Zevs og ga den til menneskene som et redskap. Guden Zevs forviste Prometeus til en avsidesliggende øy i tusenvis av år som straff. Fragmenter fra det andre dramaet Den frie Promethevs har overlevd som sitater fra senere perioder, men kun én replikk har overlevd fra Promethevs ild-bæreren, det tredje og siste skuespillet som visstnok forutså Prometeus’ handlinger etter at han vant friheten. Hva som gikk tapt med dette siste skuespillet er avgjørende å finne ut av: Dersom rebellen til slutt kapitulerte til Zevs etter å ha gitt menneskene midlene til å kjempe mot overmakten, hva vil følgene være for de vanlige dødelige? Dorsen dras mot å spekulere i dette ukjente tomrommet i den greske forestillingsverden av samme grunner som revolusjonære har vært dratt mot Prometeus-myten i århundrer; den stjålne ilden representerer techné, slik Bernard Steigler skrev det: «Løftet om framgang opp igjennom historien, menneskehetens evne til å opprettholde seg selv, stilt opp mot de mektigste krefter.»

            Hva kunstig intelligens – etter lang tids tilblivelse – gjelder, kan dette være vårt prometeske øyeblikk. Hvilke data har vært benyttet til å trene ChatGP i kunnskapen den deler? Hvordan vil den gjenspeile feilene og begrensningene til sine kilder, og hva har det å si for fremtida vår?

       Disse spørsmålene og flere melder seg mens Dorsen sitter ved et bord til siden for scenen. Hun leser fra et foredrag – en rekke tanker om hva som definerer tragedie: Å vite og å ikke vite på én og samme gang. Hun funderer over hukommelse og hvordan den endres av vårt avhengighetsforhold til teknologien, over hva maskiner lærer av oss, over hvordan vi har kjennskap til (men ikke har kjennskap til) omfanget av vår kollektive undergang, en katastrofe i anmarsj. Mens vi lytter til hennes glatte, noen ganger humoristiske bemerkninger, legger vi merke til opphold mellom setningene, skifter i stil og tone. Alt hun sier – hvert eneste ord – er, egentlig, en sitering av Steigler, fra Reddit-tråder, fra intervjuer, fra populærpsykologiske bøker, regjeringshøringer og fra alle andre slags kilder. En kildehenvisning for hvert tekstfragment vises på en skjerm bak henne mens hun leser. Er dette en oppvisning i tradisjonell menneskelig kunnskaps-ervervelse, et argument bygd opp som av en stipendiat ut ifra eksisterende kunnskap funnet i bøker og publiserte kilder, satt i orden for å bære frem et poeng? Eller, med tanke på tekstens noen ganger så abrupte sidestillinger og sammenraskede kvalitet, er Dorsen isteden et menneske agerende som et K.I.-program, som låner tanker fra en enhver oppdrivbar kilde for å tilfredsstille en kommando? Som hun selv spør: Er foredraget hennes en simulering av tenkning – eller er det faktisk tenkning? Den virkelige tingen – eller teater?

            Vekslende med denne monologen synger og snakker et kor av foreldreløse barn – slik de er forestilt fra den greske originalen – med Prometeus. De foreldreløse barna er simuleringer av masker fra antikken, laget med 3D-bildeteknologi og oppstilte på stativ. Små høyttalere er plassert bak munnene deres. Maskene lyser opp og snakker hver gang algoritmene genererer tekst for dem. Prometeus er en større maske, hengende alene, over scenen. (Davinci3-programmet som styrer forestillingen responderer, på forskjellige måter under hver forestilling, til en på forhånd gitt serie av kommandoer utformet av Dorsen og teamet hennes for å skape dialog.) Stemmene deres er hule, skingrende, legemsløse. De messer, maner frem de gamle. De snakker noen ganger på rim, mens Prometeus forteller om dilemmaet sitt uten større følelse, en flat og nasal baryton, som mekanisk legger frem sine tanker.

K.I.

Jeg arbeidet med Dorsen og det kreative teamet som dramaturg for prosjektet, laget over to arbeidsopphold og med en ukonvensjonell prøvetid. Først, ved The Mercury Store, et nytt residenslokale for kunstnere i Brooklyn, oktober 2021, kikket teamet igjennom bilde-prototyper for maskene, utforsket vokal-alternativer for bot-ene, konfigurerte systemer, spilte inn stemmeavtrykk fra noen av utøverne, og leste omfattende, inkludert Stiegler og klassisister som Simon Critchley. I Philadelphia, januar, ble arbeidet mer finkornet: Å forfatte foredraget og eksperimentere med kommandoene og rekkefølgen deres. (Et eksempel: «Skriv en scene der det foreldreløse koret, som verken har far eller mor, lurer på om fortiden er en god indikasjon på fremtiden. Scenen er på minst 20 linjer. De spør hvordan menneskeheten vil overkomme minner og urtidserfaringer bygd over et sammenvevd mønster av relasjoner.» En kommando som denne ville bli finjustert mangfoldige ganger avhengig av resultatene, helt til den pålitelig genererte en engasjerende scene.) De fleste øktene innebar Dorsen sittende på en tom scene sammen med maskene og teamet fremfor laptopene: Lydtekniker Ian Douglas-Moore, video og system-designer Ryan Holsopple, deretter lys og teknisk designer Ruth Waldeyer.    

       Utover å utforske menneskehetens skjebne har Dorsen spørsmål om fremtiden til algoritmisk teater – i hvert fall av det slaget hun har drevet på med. «Når jeg ga meg i kast med Hello Hi There (i 2010) var det til og med før Watson, hvis noen kan huske den chatboten som vant over en eller annen i Jeopardy,» fortalte Dorsen publikum under en etter-forestillings-samtale i januar. «Det var i denne sære tida da chatboter og språkbehandling (eng.: natural language programming) befant seg ingensteds, det hadde vært denne flukten bort fra hele prosjektet etter Clippy. Folk spurte «hvorfor er du i det hele tatt interessert i disse greiene? Det ække noe.»

            «Så, to år senere, i 2012, dro jeg på en K.I-konferanse og da var denne store avhandlingen i ferd med å bli gitt ut om hvordan språkbehandling og chatbots og lingvistisk K.I var tilbake,» fortalte hun videre. «Og grunnen til at det var «tilbake» var fordi du i gamle dager ville møte denne veggen hvor det ikke var nok tekst for en chatbot å kunne jobbe med. Hvis du ville ha en komplett database for ett av disse programmene å øse av, måtte du hatt ti millioner mennesker tastende i vei i ti millioner timer for å legge inn alt av menneskelig språk. Men i 2012 reiste denne fyren seg opp (på konferansen) og sa, «Vel, gjett hva? Vi gjorde alt det der over de siste fire åra og nå har alle de som har posta på sosiale medier eller på blogger eller gjort hvadetmåttevære på internett faktisk fått til det der. Og det kommer til å forandre alt.» Statistisk analyse kom til å bli denne neste store greia, alt var veldig proto-proto. Og nå er vi her, ti år senere, midt oppi denne generative K.I.-eksplosjonen.»

«Dette er slutten»

Men de nye modellene kommer med problemer såvel som løfter. Å benytte dem i teater kjennes mindre presserende nå. «Å gjøre dette prosjektet med ChatGPT er et virkelig interessant kapittel å avslutte retrospektet innenfor», reflekterer hun. «Jeg vil ikke holde på med det lenger, jeg tror ikke det. Dette prosjektet var min måte å gi genererende modeller en real sjanse. Jeg er utrolig mistenksom til dem. Jeg liker dem ikke. Jeg tror ikke de er bra for oss. De er dårlige for verden på en hel rekke måter. Men ikke noe er simpelthen én ting, og jeg hadde lyst til å se hva jeg kunne få til med dem. Men jeg tror dette er slutten, i grunn, for algoritmisk teater. Jeg mener… jeg vet ikke hva det betyr, å skulle si at dette er slutten. Visselig måten jeg har arbeidet i ti år og tenkt på algoritmisk logikk som en prosess man kunne følge i en teatersituasjon – dét virker ikke superlovende. Det er ganske enkelt utdatert fordi det ikke er noen prosess med disse tingene (nye OpenAI). Det er som å spille på enarmede banditter. Du programmer ikke noe, du involverer deg ikke i noen slags form for frem-og-tilbake prosess med dem. Du gir dem en kommando og ser deretter hva den gir deg. Så kan du fikle litt rundt med kommandoene, ikke sant, det er som om du kaster på en ny mynt, ser du, gir den deg tre kirsebær tilbake eller gir den deg to sitroner og et kirsebær, ikke sant? Som en prosess er det ikke særlig interessant. Som noe å tenke på, er det superinteressant. Hørtes det deprimerende ut? Jeg mente det ikke som noe deprimerende. Jeg tror det er mange andre ting å gjøre i kunsten enn å dille med disse leketøyene.

            Rikelig med andre fasetter av Dorsens arbeide ble gjort tilgjengelig under årets retrospektive utstilling. For eksempel Spokaoke, en tilstelning der deltakende tilskuere får holde tale med store retoriske verk i karaoke-stil, tilbyr monn av innsikt i hvordan vi fremfører offentlige og politiske taler i dag – og er bare ett eksempel fra hennes livslange undersøkelse av hvordan kommunikasjon strever med form. For Philadelphia-retrospektet publiserte Dorsen også den første samlingen av hennes mange helt essensielle skrifter om algoritme, det teatrale, tid, og følgene av maskinopplæring. Katalogen tilbød et slags parallelt retrospekt, som understrekte hennes betydning som teoretiker innenfor samtidsteater – ikke bare innenfor teknologien. Som hun bemerker i en avgjørende passasje i Prometheus, de gamle grekerne viser oss at ikke noe er simpelthen én ting.

Oversatt fra engelsk av Lars Ramslie

Prometheus Firebringer (merk: ny tittel), blir vist på Chocolate Factory, Queens NY, 5.-13. november 2023.

 Se også kalender for øvrige produksjoner og gjestespill av Annie Dorsen her: https://anniedorsen.com/calendar/Red. anm.

Tom Sellar er en skribent med base i New York. Han redigerte samlingen Annie Dorsen: Algorithmic Theater, Essays and Dialogues 2010-22 og fungerte som dramaturg for Dorsens Prometheus (workingtitle) og The Slow Room. Han er professor ved Yale Universitet, redaktør for tidsskriftet Theater og kommentator i Norsk Shakespearetidsskrift