Zombies en cyborgs: als algoritmes de dienst gaan uitmaken

De godin Aruru waste haar handen, nam een snufje leem en gooide dat in de wildernis. En zo schiep zij Enkidu, kind van de stilte. Dit is de eerste gebeurtenis in het eerste verhaal dat ooit op schrift is gesteld: het Gilgamesj-epos van meer dan 4000 jaar geleden. Het eerste verhaal aller tijden bevat ook het eerste halfmenselijke personage. Enkidu is van leem gemaakt en moet mens worden door zeven nachten op rij de liefde te bedrijven en voedsel te eten. Enkidu is overigens niet de held van het verhaal. De hoofdpersoon is Gilgamesj.

Gilgamesj heeft een ander probleem. Hij is voor twee derde god, voor een derde mens. Maar hij wil honderd procent bovenmenselijk worden. Hij wil het eeuwige leven. Is dat niet prachtig? In het eerste verhaal ooit geschreven, zo lang geleden, hebben we iemand die maar half mens is en iemand die bovenmenselijk wil worden. En sinds die tijd heeft de mens in praktisch alle beschavingen, samenlevingen met landbouw, steden en een schrift steeds weer verhalen bedacht om de wereld te verklaren vol wezens die half mens zijn. Je komt veel over samenlevingen te weten door te kijken naar wat ze vrezen in bovenmenselijke en minder dan menselijke figuren.

Neem het middeleeuwse verhaal van de Golem, een Joodse legende, over een ook van leem gemaakte reus die de Joden tegen antisemieten moet beschermen. Maar hij draait dol en valt zijn schepper aan. Wat is de boodschap daarvan? Waarvoor vreesden de bedenkers van dat verhaal?

Vampiers: razend populair in de negentiende eeuw. Ineens is de vampier het engste monster in de literatuur. Waarom? Omdat men in de 19de eeuw bovenal bang was voor vrouwelijke seksualiteit. Wat gebeurt er als je dochter iemand vindt die zo aantrekkelijk is, zo romantisch, en trouwens ook: zo spierwit als een vampier? Dat is de subtekst van vampierverhalen.

Hoe zit het met ons? Waar zijn wij in onze samenleving bang voor? Mijn stelling is dat onze verhalen worden bevolkt door één half onmenselijk en één bovenmenselijk personagetype. Het onmenselijke personage is de zombie. Het genre van de zombiefilm ontstond al in 1932 maar brak pas door in de jaren 60, met Night of the Living Dead. Nu is het een rage. De filmindustrie produceert nu wereldwijd meer dan dertig zombiefilms per jaar. Het genre is zo bekend dat je als een zombie kunt lopen en overal snapt een kind van drie jaar oud wat je uitbeeldt. En het genre vereist zo weinig uitleg dat je het met ieder ander genre kunt combineren. Het past overal in. Dan krijg je films als La Cage aux Zombies. Of Zombie Bikers From Detroit. Santa Claus Versus the Zombies.

Tekst loopt door onder de afbeelding.

Trailer Night of the Living Dead (1968).

Het tweede waar we bang voor zijn, is de cyborg. Ze zitten in elke sciencefictionfilm. Je gaat er automatisch vanuit dat er één in zit. Er zijn praktisch geen SF-films zonder cyborg. En kijk je naar de tien lucratiefste films in 2017 wereldwijd dan zijn er maar twee zonder halfmenselijke personages: Despicable Me en Fast and Furious. In de rest zit ofwel een cyborg of een zombie. Of iets wat er sterk op lijkt. Beauty and the Beast. Thor, Spider-Man, Superman – al de Marvel-films.

We zijn geobsedeerd door wezens die anders zijn dan wij. Waarom? Ik zie voor de hand liggende redenen waarom onze cultuur in onze eigen heldenverhalen zich zo bezighoudt met de dreiging van wezens die niet helemaal menselijk zijn. Bij een cyborg is dat duidelijk. Het lijkt mij namelijk waarschijnlijk dat we nog deze eeuw een vorm van AI ontwikkelen die slimmer is dan wij. Kijk naar de prestaties van AlphaGo, een neuraal netwerk van Google dat de beste go-speler ter wereld versloeg, Lee Sedol. Dat deed het door te bedenken: welke zet zou een mens nooit doen? Op welke zet zal een mens nooit bedacht zijn? Die zet deed hij. En dat is nog maar het begin.

Naarmate kunstmatige intelligentie krachtiger wordt zal die antwoorden op onze vragen gaan geven die wij niet meer begrijpen. Dat is nu al het probleem met neurale netwerken die onze hersenen nabootsen in hun mate van bewustzijn en abstractie: je ziet niet wat ze doen. Het is het eerste apparaat waarvan we niet snappen hoe het werkt. En dat is nog maar het begin. Het is onafwendbaar dat ze met antwoorden komen die wij niet snappen. Oplossingen die we niet snappen. En dat ze ooit ook vragen stellen die wij niet snappen. Dus weten we niet wat zij doen. Begrijpelijk dus dat we de cyborg vrezen. Ook al krijgen ze geen menselijke gedaante zoals in Terminator of Blade Runner, is het heel logisch om te vrezen dat zo'n bovenmenselijk wezen deze eeuw nog door ons wordt gemaakt.

Tekst loopt door onder de afbeelding.

Foto: Nathan Wright.

Ondertussen ervaren we al een soort machteloosheid tegenover technologie die wel iets weg heeft van je een zombie voelen. Ik hoef de tafels van vermenigvuldiging niet te kennen: mijn telefoon rekent het uit. Ik mag allerlei feitjes nu vergeten, want ik kan ze zo opzoeken. Fantastisch. Alles zit in een cloud vol informatie. Maar wat ben ik zonder die cloud? Met alle apparaten die we op zak hebben – bijvoorbeeld elke keer als je met je kaart incheckt bij de metro – geef je een massa gegevens over jezelf aan iemand anders die daarmee kan voorspellen wat jij gaat doen, wie je bent of wat je denkt. Met scherper inzicht dan jij daar zelf in hebt. Daardoor leeft er een begrijpelijke angst voor de macht van het algoritme: de angst om de slaaf te worden van algoritmes die we niet doorgronden. Wat doen we aan die angst, dat probleem?

Ten eerste: we horen van alle kanten verhalen die suggereren dat we al in de greep van die systemen zijn. Volgens filosoof Luciano Floridi zijn wij al 'informatie-organismen' die continu een uitwedstrijd spelen in het verkeerde stadion voor de verkeerde supporters, in een digitale wereld. Volgens anderen, zoals de posthumanisten, heeft de macht van de technologie over onze identiteit nu al geresulteerd in een posthumane mens. Velen van hen juichen dat toe. Die posthumanisten hopen, zoals een van hen schreef 'dat de stem van de mens op deze aarde verstomt'. Dat alles weer wordt zoals voor de schepping van Enkidu. Telg van de stilte, zegt de auteur van het Gilgamesj-epos.

Maar ik zie de mensheid niet zoals Michel Foucault: als voorbijgaand verschijnsel dat de zee mag wegspoelen als een schets in het zand. We kunnen uitsterven, maar ik hoop van niet. Ik pleit voor een radicale verdediging van de mens. Dat is moeilijk. Want het naoorlogse humanisme is in ongenade gevallen, beschimpt. Als student leer je: humanisme is wit, mannelijk en koloniaal. Dat was het vroeger ook. We hebben iets beters nodig dan het liberale humanisme dat nu net zo populair is als ooit Mao's rode boekje: Hannah Arendt. Een geweldige naoorlogse denker die al waarschuwde voor het fascisme en de xenofobie van nu. Maar haar liberale gedachtegoed volstaat niet.

We moeten het humanisme opnieuw uitvinden en dat verankeren in onze biologische neiging om overleg te plegen, te beredeneren, samen te werken. Tegengas bieden aan bedrijven die ons vragen: waarom zou jij het recht hebben deze machines aan te sturen? Eerst vragen de bedrijven het, daarna vraagt de machine het zelf: wie ben jij, schamele mens ontdaan van al je vrije wil, vrijheid, intelligentie – wie ben jij om mij te besturen?

Gisteren stelde ik deze vraag aan heel intelligente mensen. En misschien zul jij ook antwoorden: omdat ik een ziel heb. Je mag natuurlijk Descartes' 400 jaar oude filosofie opwarmen. Maar de neurowetenschap zegt: nee, er is geen vrije wil. Dat is aanvechtbaar. Zij kunnen wel beweren dat onderzoek uitwijst dat er geen vrije wil is, maar dat valt te betwisten, en dat is ook hoognodig. Want allerlei bestsellers maken je dat nu wijs: je bent al een algoritme. Zet de vrije wil maar uit je hoofd. Ik wil dat we daarvoor opkomen.

Tot slot dit: waarom is het in onze tijd moeilijk om deze strijd te voeren? Dat kan ik het best op de volgende manier uitleggen. Stel dat iemand zegt: er is een machine die jouw leven beter kan regelen. Als je die maar gehoorzaamt en zijn wensen anticipeert. Je wordt veel gelukkiger als die machine je leven en het landsbestuur domineert. Dan zeg je: 'Hou op. Ga weg, dit wil ik niet.'

Maar kijk naar de afgelopen 30 jaar en vervang het woord machine door het woord markt: zo leven we nu dus al. We laten onze maatschappij domineren door 'de markt'. Marktdenkers zien die markt als een machine. Die wordt zelfs aanbeden, door een nieuwe religie: economie. Dus in onze strijd tegen de techbedrijven en de techno-utopisten en de anti- en posthumanisten zullen we ons moeten baseren op meer, veel meer dan alleen de manier waarop we nu al dertig jaar leven.