Hoe vluchtelingen proefkonijn zijn voor digitale technologie

“Er zijn veel voorbeelden van te geven. Zoals aan de buitengrenzen van Europa, waar de EU bijvoorbeeld technologische innovaties in Zaatari financiert, een groot vluchtelingenkamp in Jordanië. Daar moeten bewoners, als ze iets willen kopen in het kamp, betalen met irisscans. Ze kunnen niet gebruikmaken van fysiek geld of pasjes, hun lichaam is hun betaalmiddel. Hoe komt dat de mensen in die kampen ten goede? Dat is uiterst discutabel. Als we overal ter wereld met cash of pasjes kunnen betalen, waarom daar dan niet?”

“Binnen Europa is een inmiddels beëindigd controversieel door de EU gefinancierd onderzoeksproject uitgevoerd, iBorderCTRL, waarin op luchthavens in Griekenland, Hongarije en Litouwen geautomatiseerde leugendetectiepootjes werden geplaatst. De poortjes scannen je gezicht en maken een analyse van je emoties door te kijken naar micro-expressies die je onbewust maakt in je gezicht tijdens het beantwoorden van vragen. Op basis daarvan wordt een indicatie gemaakt van of iemand de waarheid spreekt of niet. Dat systeem bouwt voort op een lange geschiedenis van eugenetica, rassenleer, en bevat allerlei valse aannames. Er is veel bewijs voor dat dit soort geautomatiseerde en zelflerende systemen van leugendetectie helemaal niet werkt en discriminatie in de hand werkt.”

“De Duitse migratieautoriteit BAMF maakt gebruik van automatische dialectherkenning. Mensen wordt gevraagd om antwoord te geven op standaardvragen, waarmee een audiocorpus wordt opgebouwd. Op basis van automatisch algoritmische detectie zou dan kunnen worden vastgesteld waar iemand precies vandaan zou komen. Het is een zelflerend systeem, waar foutieve aannames aan ten grondslag liggen. Want het doet geen recht aan het feit dat het leven van mensen inherent mobiel is.”

“Ik ben nu bezig met een onderzoek naar Athene, een pilotproject van de Nederlandse grenspolitie AVIM en de IND, dat eind 2021 is stilgelegd omdat het privacywetgeving schond. Hierin werden gegevensdragers van asielzoekers, zoals smartphones en laptops, voorafgaand aan de asielprocedure gescreend. Een geautomatiseerd systeem moest vaststellen of er sprake was van een waarachtige identificatie, of er sporen waren van mensenhandel of van terrorisme. We spreken betrokkenen en asielzoekers over hoe ze dat hebben ervaren en wat de rol van technologie is binnen de asielprocedure. Ze geven aan dat ze online bijna niks meer durven te doen omdat alles impact kan hebben op hun asielbeslissing.”

“Wat je veel ziet bij dit soort innovaties is zogenaamde function creep: in eerste instantie wordt één doel benoemd voor technologische innovatie, bijvoorbeeld identiteits-verificatie, daarna worden er steeds meer doelen aan gekoppeld, zoals de strafrechtelijke benadering van mensenhandel en terrorisme in het Athene-project. Aan de oppervlakte kan iets een prima oplossing lijken dat het leven van asielzoekers potentieel ten goede komt, maar het is belangrijk dat we kritische vragen stellen over mogelijke ongeplande gevolgen.”

“Die term laat zien dat er in veel van deze gevallen, waarin geëxperimenteerd wordt met technologie, er een vorm van waarde-extractie plaatsvindt. Als data gezien worden als de nieuwe olie, dan zijn de biometrische gegevens van vluchtelingen of migranten wereldwijd een heel belangrijke bron. Databases als BIMS (Biometric Identity Management System) van de UNHCR, de VN-vluchtelingenorganisaties of EURODAC (European Asylum Dactyloscopy Database) behoren tot de grootste biometrische databases ter wereld. Deze vormen voor techbedrijven een goudmijn, die willen daar graag mee experimenteren. De term kolonialisme verwijst naar de lange geschiedenis van het uitproberen van technologieën op groepen mensen die als inferieur worden gezien. Het gaat er dus om dat je met technologie een machtsverhouding in stand kunt houden en daar waarde uit kunt genereren.”

“Ik denk dat care, zorg, een interessant perspectief kan zijn. In plaats van machtsverhoudingen in stand te houden en waarde te extraheren, begin je bij de belangen van de mensen bij wie je innovaties wilt uitvoeren. Wat hebben zij eraan, hoe zien ze het zelf voor zich? In plaats van top-down software, hardware en geautomatiseerde systemen te installeren, moet je oog krijgen voor een meer evenwichtige relatie.”

“Het is vooral een filosofische interventie, om anders na te gaan denken over onze relatie met data, die uitgaat van zorgethiek. Juristen pleiten in die context voor data justice, waarbij ze veel oog hebben voor de wettelijke kaders. Je ziet ook meer aandacht van bijvoorbeeld E. Tendayi Achiume, de VN-rapporteur die zich onlangs heeft uitgesproken over de discriminerende werking van technologie gebruikt bij grenscontroles en migratie-management. De EU is door hen op de vingers getikt dat de systemen die nu aan de grenzen van Europa worden gebruikt racistisch zijn. Maar het blijft vooral een papieren exercitie.”

“Buiten de institutionele kaders vind je wel inspirerende voorbeelden. Zoals het initiatief Alarm Phone, een digitaal transnationaal netwerk dat beheerd wordt door activisten. Mensen die bijvoorbeeld via de Middellandse Zee naar Europa proberen te komen, kunnen Alarm Phone contacteren om hun locatie of situatie door te geven. Alarm Phone zet dat door naar lokale autoriteiten. Of Forensic Architecture, een onderzoeksinitiatief dat probeert datapunten van mensen op de Middellandse Zee te reconstrueren. Als mensen op zee continu gesurveilleerd worden en gezien worden door drones en helikopters, hoe kan het dan dat er nog steeds zo veel mensen doodgaan op zee? Ze proberen dat onrecht aan te kaarten.”

“Ik ben kritisch op de term ‘crisis’, want deze situatie is gecreëerd door beleid. Mensen in Ter Apel leven in een limbo waarin hun mensenrechten tussen haakjes zijn gezet. Het valt me vooral op hoe er op sociale media over de smartphones van de vluchtelingen in Ter Apel wordt geschreven: ‘Ik zie allemaal jonge mannen liggen, waarom werken ze niet en hebben ze een smartphone van een paar honderd euro?’. Technologie fungeert hier als een zondebok om te kunnen zeggen: deze mensen zijn geen asielzoekers maar gelukszoekers, want als je een echte asielzoeker zou zijn en uit een oorlogsgebied zou komen, dan had je helemaal geen smartphone, dan zou je niets anders hebben dan de kleren die je draagt.”