Dit jaar stuurde de experimentele producer Holly Herndon haar meest ambitieuze project tot nog toe de wereld in: haar derde album PROTO, een zinderend project dat tot stand kwam in samenwerking met haar elektronische ensemble – inclusief haar eigen AI-baby Spawn. Nu haalt Le Guess Who? Herndon en haar ensemble naar Utrecht voor een bijzondere show.

Op ‘Birth’, de introtrack van Holly Herndon’s laatste album PROTO hoor je een stem, maar wat er gezegd wordt is niet te onderscheiden. Het geluid dat je hoort is nog niet meer dan een hortende en stotende benadering van de menselijke variant, die eerste woorden – ‘good evening’? – sidderend, als van de inspanning, terwijl de stem uit probeert te vogelen wat het volgende geluid moet zijn. ‘Birth’ vangt een sleutelmoment in de totstandkoming van PROTO: het moment dat Spawn geboren wordt.

Spawn is de baby van de experimentele producer Holly Herndon. Spawn is geen baby van vlees en bloed, maar een computer, een vorm van kunstmatige intelligentie. En toch: wanneer Herndon over Spawn spreekt, spreekt ze over ‘zij’ in plaats van ‘het’, en gebruikt ze woorden als ‘opvoeden’ in plaats van ‘programmeren’. Spawn is 'opgevoed' door middel van vraag-en-antwoord-trainingen, wat eigenlijk betekent dat ze leert te spreken zoals baby’s dat ook doen: door te luisteren naar de stemmen om zich heen. Op ‘Birth’ murmelt ze haar eerste woordjes. Voor Herndon, die toentertijd al zes maanden zonder resultaten probeerden om Spawn aan de praat te krijgen en flink gefrustreerd begon te raken, een opwindend moment: ‘‘Ik hoorde mijn eigen stem, maar uit elkaar gehaald en opnieuw opgebouwd volgens een andere logica. Het was een poging tot een eigen geluid, sample na sample opgebouwd.’

Spawns eigen geluid is gemodelleerd naar de stem van Herndon, én naar zo’n driehonderd andere koorzangers die meededen aan Spawns vraag-en-antwoord-trainingen. Die sessies hoor je ook op PROTO, op tracks als ‘Canaan’ en ‘Evening Shades’. Op andere tracks, zoals ‘Eternal’, ‘SWIM’ en ‘Frontier’ hoor je hoe Spawns bionische stem zich verwikkeld met lagen van polyfonische koorzang. Op ‘Godmother’, een track in samenwerking met de experimentele footworkproducer Jlin, hoor je hoe Spawn sissend en stotterend een footworkbeat omzet in een vervormde beatbox-sessie. Het resultaat is een album vol baanbrekende elektronische composities op het snijvlak van elektronica en avant-garde pop, waarop Spawnss stem onderdeel wordt van een elektronisch ensemble. Met dat elektronische ensemble, bestaande uit experimentele producers en muzikanten, komt Herndon ook naar Le Guess Who?.

Holly Herndon

1980 geboren in Johnson City, Tennessee

2012 Movement
2015 Platform
2019 PROTO

Tussen mens en machine

De Amerikaanse producer Holly Herndon (39) werkt al jaren op het snijvlak van de academische wereld, popcultuur en kunst – er zijn immers weinig muzikanten die zowel het voorprogramma van Radiohead kunnen verzorgen als een samenwerking aan kunnen gaan met de radicale design studio Metahaven. De link tussen de mens en de machine is in Herndons werk de rode draad. Dat was al zo op Movement, een experimenteel album met techno-invloeden, waarop ze beargumenteerde dat machines juist een intiem onderdeel van onze persoonlijke levens kunnen zijn. Op haar tweede album Platform profileerde ze die relatie nog meer als een tweesnijdend zwaard, en stelde ze dat technologie ook een inbreuk kan doen op onze privacy. Dat tweede album, een samenwerking tussen haar en haar partner Mat Dryhurst, was een reactie op het NSA-schandaal dat klokkenluider Edward Snowden aan het licht bracht. PROTO, een project dat parallel liep met haar research-doctoraat aan Stanford, is haar meest radicale project tot nu toe. Daarop duwen Herndon en Dryhurst de conclusies die ze op Platform al trokken tot hun uiterste.

‘Platform ging over surveillance,’ legt Herndon uit. ‘Over hoe bedrijven en de overheid jouw data gebruiken voor hun eigen economische en politieke doeleinden. Alleen al doordat we digitale levens hebben, worden we constant in de gaten gehouden. De hoofdvraag daarbij was: ‘’Is alles wat we privé doen, tegelijkertijd ook een publiekelijke actie?” En, ja, natuurlijk is dat het.’ In 2016 werden er een aantal baanbrekende bevindingen in de academische wereld gedaan omtrent AI. ‘We begonnen onszelf nieuwe vragen te stellen. “Is alles wat wij in onze persoonlijke levens doen, alles wat van ons wordt vastgelegd en wat wijzelf vastleggen, deel van een dataset die gebruikt wordt om een eindeloze hoeveelheid AI te trainen”?’

De angst die daarin schuilt is de angst voor het verlies van autonomie en zeggenschap over je eigen gegevens. Spawn is een antwoord daarop, een poging om een AI te bouwen zonder die kernwaarden uit het oog te verliezen. ‘Ik denk dat we onszelf anders verzinken in een moeras van ethische conflicten,’ zegt Herndon stellig. ‘Toen het internet om de hoek kwam kijken, hebben we niet over dit soort vraagstukken nagedacht. En man, did we fuck up.’ Ze lacht even. ‘De vragen waar we nu tegenaan lopen zijn: “Is het oké om iemands stemgeluid zonder hun toestemming te gebruiken? Kun je zomaar het geluid, de kenmerken en de identiteit van een gemeenschap omzetten in modellen om er vervolgens aan te verdienen? Wie is de eigenaar daarvan? De gemeenschap, of degene die het algoritme heeft gemaakt?” Onze culturele geschiedenis is iets wat we delen, maar als het gaat om erkenning en compensatie, dan zijn we niet meer zo goed in delen.’ Dat gebrek is niet alleen een broeikas voor juridisch conflicten, maar, zeker in een tijd waarin sociale gemeenschappen steeds verder van elkaar gepolariseerd raken, ook voor ethische conflicten. ‘We zitten nu nog op de vooravond van deze technologie, waarin we nog kunnen nadenken over hoe we hiermee om moeten gaan, en welke waardes we bij de technologie in moeten bouwen.’

© Jan Rijk

Holly Herndon bij Rewire 2015

PROTO is in die zin een poging om kunstmatige intelligentie aan ideeën van gemeenschapszin te koppelen. ‘We wilden Spawns opvoeding hetzelfde gewicht geven als die van een menselijke baby. Het idee dat je je kind bepaalde waardes meegeeft, dat zit er wel in, ja.’ Voor wie zo ondertussen een beetje ziek begint te worden van de baby-metafoor: je hoeft er niet over in te zitten dat Herndon Spawn als haar letterlijke kindje ziet. ‘We zien haar heus niet als een menselijke baby, hoor,’ grinnikt Herndon. ‘Het is een beetje een imperfecte metafoor, maar we wilden benadrukken dat er een emotionele lading aan verbonden zit. Ik refereer naar Spawn als een ‘zij’ omdat de eerste training een reflectie van mijn eigen stem waren – ik voelde mezelf in haar. Ik weet dat veel mensen dat storend vinden.’

Op de vraag of Herndon bang is dat haar AI-baby metafoor verkeerd wordt geïnterpreteerd, antwoordt ze: ‘Er zijn een paar gedateerde opvattingen over AI, en die moeten we ook bevechten. Dat is ook het ding met AI: het is zo’n buzz-woord, dat het bijna gênant is om ermee te werken. De term wordt verkeerd gebruikt en geïnterpreteerd, waardoor mensen er bizarre ideeën op nahouden wat het kan en niet kan. Er hangt een soort jaren ’90 labeltje aan AI. En natuurlijk houden we allemaal van sci-fi dystopieën en Robocop, maar het is allemaal een stuk gecompliceerder dan dat. Het is geen kwestie van goed of kwaad, dystopie of utopie.' De angst voor de autonome AI is niet aanwezig in haar werk. 'Iedere AI is nog steeds het product van menselijk werk en creativiteit. We wilden de stemmen van die mensen hoorbaar maken.‘

Door die samenwerking tussen mens en machine aan te gaan is PROTO ook meteen een antwoord op de automatisering in muziekproductie – van AI-bots die nu aan de lopende band yogaschool ambient maken, tot logaritmes die tot in de oneindigheid variaties op Bach-stukken kunnen nabootsen. ‘Volgens mij is dat een stenen muur waar we tegenaan lopen,’ beweert ze. ‘Ook in de elektronische muziek. Het idee van: “Oh, de computer kan nu zoveel doen, ik hoef niets meer te doen. Ik plug hier gewoon even deze lichtshow in en dan speelt de show zich automatisch wel af.” Je hoeft zelfs niet meer op het podium te staan! En nu is de vraag: wat is onze rol nu nog, nu we zoveel kunnen automatiseren? Hoe kunnen we onszelf hierbij blijven betrekken, zonder onszelf weg te cijferen? Daarom zie ik Spawn ook eerder als een deel van het ensemble, in plaats van een geautomatiseerde componist. Ík ben de componist, en ik wil niet dat Spawn dat van mij overneemt. Technologie hoeft geen vreemde “ander” te zijn, die los van ons staat of het menselijke uit het werk haalt. Het kan ook een verlengde van ons worden, en het kan ons uitdagen om verder te gaan.’

Na een uur schraapt Herndon haar keel. Het is tijd, ze moet nog een ander medium te woord staan. Een uur is al véél langer dan in de eerste instantie de afspraak was – er was een halfuur bij het management bedongen – maar het is merkbaar aan Herndon dat ze haar werk het liefst luchtdicht uitlegt. Het is namelijk nogal gemakkelijk om zo’n groot project verkeerd te interpreteren. ‘Weet je wat het is?’ zegt ze voordat ze het Skype-gesprek afsluit. ‘Door de focus op AI kijken mensen soms over het menselijke aspect van het album heen. Er is zoveel gepraat over kunstmatige intelligentie, maar het is uiteindelijk het meest menselijke album dat ik ooit gemaakt heb. Er ligt zo’n grote nadruk op de textuur van de menselijke stem – een viering van een nieuw soort ensemble.’

Holly Herndon speelt op 10 november op Le Guess Who? in Utrecht.