De Chinese overheid is bezig haar eigen burgers van een rating te voorzien. Over drie jaar krijgen individuen daar verplicht een vertrouwensscore toegekend. Die bepaalt dan alles, van hun reisvergunningen tot kredietaanvragen, sollicitatieprocedures en schoolplaatsing van de kinderen. Waakzaamheid is geboden, willen we niet dat het hier dezelfde kant opgaat.

Amsterdam is een goede plek om te reflecteren op overheden die digitale technologieën omarmen. 'Het doel van de staat is de vrijheid.' Zo staat het onderaan het beeld van Spinoza, net achter het hoofdstedelijke stadhuis. Toegegeven, een beetje een cryptische tekst. Zoals ik het lees bedoelt hij: de taak van de overheid is om de vrijheid van burgers te bewaken en, waar mogelijk, te vergroten.

Een mooie gedachte, vind ik. Want vrijheid kan je op veel dingen toepassen: de vrijheid om te doen en te laten wat je wilt, zolang je anderen niet te zeer dwarszit. Maar ook de vrijheid die je krijgt als bepaalde basisbehoeftes voorzien zijn, bijvoorbeeld omdat je een dak boven je hoofd hebt en je niet constant zorgen hoeft te maken over je toekomst en bestaan.

Wat heeft dat met China en het internet te maken? In een notendop laat de Chinese overheid een rating mechanisme ontwikkelen waarmee de 'betrouwbaarheid' van burgers gemeten wordt. Daarin komen niet alleen jouw kredietgeschiedenis en zakelijke betrouwbaarheid samen, maar ook jouw persoonlijke gedrag: zit je laat 's nachts te gamen of rare films te kijken? Welke muziek luister jij? Waar ga je op vakantie, en wat doe je daar? Wat ook meetelt zijn jouw sociale contacten: hoe goed scoren jouw vrienden en familie? Als het tegenzit, stelt dat jou ook in een kwaad daglicht. (Dit Wired-artikel geeft een uitstekend overzicht.)

De tekst gaat verder onder de foto.

© Brainwash

Vader en zoon in het toeristische Yu Garden, Shanghai (Foto: ANP PHOTO, Robert Vos).

Zo'n Social Credit Score kan dan voor van alles gebruikt worden: zakenpartners kunnen beoordelen of zij met jou in zee willen gaan. De overheid gaat visa en banen van die scores laten afhangen. Toegang tot zo ongeveer alles waar aangepast gedrag op prijs gesteld wordt, kan je via zo'n score reguleren. Wie laag scoort, doet niet meer mee.

Het kost geen moeite om hierin parallellen met veel sci-fi dystopieën te zien. Het maffe: dit is niet verzonnen of toekomstmuziek. Het gebeurt al. Alleen is het systeem nu nog vrijwillig; pas over drie jaar wordt het volgens de Chinese plannen verplicht. Maar nu al pronken mensen met hun scores op dating sites of Chinese sociale media. Wil je je kind later naar een goede school sturen, heb je immers niks aan een partner met een slechte Social Credit Score. Denk dit scenario even door, en de mogelijkheden – ook voor misbruik – zijn eindeloos.

Het systeem is bedoeld om mensen 'zacht' een bepaalde kant op te sturen. Welke films kijk je? Welke zoektermen typ je in? Met wie ga je naar welke bar? Binnenkort hebben Chinese burgers enorme prikkels, om al die beslissingen met een oog op hun Social Credit Score te nemen. Zij zitten dan gevangen in een net van overheidsverwachtingen en persoonlijke beoordelingen.

Ik krijg er kippenvel van. Het is mogelijk, dat bewijst China. Maar in zo'n maatschappij wil ik niet leven. En daar komt Spinoza weer in beeld: 'Het doel van de staat is de vrijheid.' Het is de taak van de overheid om die te waarborgen. Is Den Haag er klaar voor om de verleidingen van kunstmatige intelligentie en big data te weerstaan? Het gemak waarin veel politici meegaan in de dataverzamelingswoede van Google en Facebook stemt mij sceptisch.

Wat mij betreft moet het principe zijn: burgers moeten een echte keuze hebben met wie zij data over hun leven delen. Privacy is een grondrecht dat met alle macht beschermd moet worden. Als je ergens cookies toestaat of Apple toestemming geeft, om jou via de iPhone overal en in alles te volgen, voelt dat niet erg. Maar China laat zien dat je dan maar een kleine stap verwijderd bent van een naargeestig surveillance-systeem. Tijd voor een herbezinning in de politiek, voordat het te laat is.