'Kunstmatige intelligentie vormt een fundamenteel risico voor de menselijke beschaving.' Zo sprak Elon Musk onlangs, de oprichter-directeur van onder meer Tesla en SpaceX. Het is niet de eerste keer dat Musk zijn zorgen uit over de mogelijke gevaren van ultra-intelligente computers. Tegelijk is hij zelf een van de drijvende krachten achter de ontwikkeling van kunstmatige intelligentie, oftewel AI, Artificial Intelligence, zoals bijvoorbeeld voor toepassing in zelfrijdende auto's.

Naar eigen zeggen investeert Elon Musk niet per se in AI om er heel veel rendement uit te halen, maar om het potentiële gevaar van AI zelf in het oog te houden en ervoor te zorgen dat er niet een soort Terminator wordt ontwikkeld. Mooi toch, als directeuren van dit kaliber blijk geven van een geweten? Nu klinkt de claim dat hij geen rendement verwacht mij vrij ongeloofwaardig in de oren, maar los daarvan: wat is eigenlijk het morele raamwerk waarbinnen hij 'het gevaar' van AI beoordeelt? Is het wel het morele geweten wat we horen spreken?

Het doet me denken aan die andere 'goede zaak' waar tech-CEO's zich opeens achter scharen: het universele basisinkomen. Zoals Mark Zuckerberg, CEO van Facebook, onlangs deed in een toespraak gehouden aan zijn alma mater, de Harvard-universiteit. Verzekerd van een vast maandelijks inkomen, zal iedereen zijn dromen kunnen najagen. 'Maar de vrijheid voor iedereen om zijn roeping na te streven zal niet gratis zijn. Mensen zoals ik zouden ervoor moeten betalen,' zei hij zelfs.

Niet alleen Mark Zuckerberg, ook Elon Musk is voorstander van het basisinkomen. Ook hij spreekt van 'betekenis', van 'doelen' die mensen moeten hebben. Als bijvoorbeeld door zelfrijdende auto's duizenden banen verdwijnen, waar komt die betekenis dan nog vandaan? Uber is nog zo'n tech-bedrijf dat de voordelen van het basisinkomen inziet. Bij hen komt iets van de achterliggende redenatie naar voren. Uber staat erom bekend zijn chauffeurs vrij gewetenloos te exploiteren. Stel nu eens dat er een basisinkomen zou zijn, zouden Uber-ingenieurs hebben geopperd: dan kunnen we onze chauffeurs misschien nóg minder betalen!

De tekst gaat verder onder de foto.

© Brainwash

Spaarpot met huishoudgeld (Foto: ANP XTRA, Lex van Lieshout).

Het basisinkomen, in deze visie, is vooral een manier om reeds uitgebuite werknemers nog verder te kunnen uitknijpen en ze tegelijkertijd tevreden te houden. Een voorbeeld van zulke uitbuiting kwam recentelijk in het nieuws. Nicole en Victor wonen met hun drie kinderen in een garage in Menlo Park. Ze werken allebei in een van de vele cafetaria's van Facebook, die namen dragen als 'Epic' en 'Living the Dream'. De tweeverdieners kunnen nauwelijks rondkomen. Ze sloten zich aan bij een piepjonge vakbond, samen met vijfhonderd collega's. Dit zijn de mensen die met een basisinkomen zoetgehouden moeten worden. Dan zullen ze zich vast niet meer in een vakbond verenigen.

Ethisch gesproken kun je dit heel kort duiden: het basisinkomen is hier niet een doel, maar een middel en alleen al daarom bedenkelijk. Ook bij AI kun je de vraag stellen of het daadwerkelijk gaat om een 'veilige' AI, of dat waarschuwingen zoals van Musk een middel zijn om meer van de markt in handen te krijgen.

Oké, dit klinkt misschien te cynisch en wantrouwig. Kunnen ze het nooit goed doen? De vooraanstaande informatie-ethicus Luciano Floridi reageerde al eerder op doem-uitspraken van Elon Musk met een reeks praktische criteria voor AI en andere technologische ontwikkelingen. Zorgen om ultra-intelligente computers die onze beschaving overnemen leiden af van de echte problemen, zegt hij. Het is een preoccupatie van de eerste wereld, terwijl er elders op de planeet ontzettend urgente problemen zijn. En zelfs op vijf straten van Zuck's huis, zou je kunnen toevoegen.

Floridi heeft zelf als filosoof zitting in de ethische commissie van Google die het 'recht om vergeten te worden' toepast – dat is de regelgeving die het sinds enkele jaren mogelijk maakt om belastende resultaten over jezelf te laten verwijderen uit Google. Wat je verder ook van dat concept vindt, interessant is dat hier de morele implicaties van een technologie in een wettelijk kader zijn gevat en dat de uitvoering daarvan niet alleen bij de bedrijven in kwestie ligt. Want wie zou ethische beslissingen nu over willen laten aan een stel miljardairs uit Silicon Valley? Wie zou rustig slapen, wetende dat computerprogrammeurs beslissen wat een zelfrijdende auto moet doen in geval van een onafwendbaar ongeval? En wie discussieert eigenlijk mee over de vraag wat mensen nodig hebben om hun roeping te vinden of hun dromen na te kunnen jagen?

Elon Musk heeft een goed punt als hij zegt dat AI bij uitstek iets is wat van tevoren gereguleerd moet worden en niet pas achteraf. Maar dan niet alleen geïnformeerd door ingenieurs en CEO's, maar ook door de filosoof en de ethicus. En door de mensen die thuiskomen in een garage, na een dag voedsel serveren aan the lucky few, living the Dream.

meer weten?

Bovenstaande tekst werd eerder uitgesproken door Miriam Rasch in Brainwash Radio, de verhalende nieuwsanalyse van Brainwash op NPO Radio 1. Elke laatste maandag van de maand, 20:30 tot 21:30 uur. Ook beschikbaar als podcast.