Gekleurde technologie: slechte buurt of slechte data?

Gekleurde technologie: slechte buurt of slechte data?

Technologie is niet neutraal. Het is een reflectie van cultuur en politieke overtuiging. Net als in andere vertalingen van macht, liggen in technologie vooroordelen, ongelijkheden en racisme ingebakken. In een serie over institutioneel racisme duikt Instituut Waag in de materie om de onderste steen boven te halen. Ze laten aan de hand van concrete voorbeelden zien dat technologie niet neutraal is én gaan op zoek naar oplossingen.

Als je een huis gaat kopen, ben je natuurlijk benieuwd naar je nieuwe buurt. Hoe leefbaar een buurt is, kun je ontdekken met behulp van de Leefbaarometer. Op basis van gegevens van het Centraal Bureau voor de Statistiek, geeft de Leefbaarometer aan of een buurt prettig (groen) of onprettig (rood) is om te wonen. Op het eerste gezicht een onschuldige datatoepassing, maar hoe wordt de leefbaarheid van een wijk eigenlijk bepaald? En hoe neutraal is deze indeling?

Iemand die al jaren onderzoek doet naar vooroordelen in technologie en datatoepassingen is PhD’er Gerwin van Schie. Aan de Universiteit Utrecht onderzoekt hij de manier waarop de overheid gegevens verzamelt en toepast over de etniciteit van burgers, zoals in de Leefbaarometer.

Dataverzameling
Elke datatoepassing begint met het verzamelen van gegevens. In Nederland verzamelt de overheid informatie over, onder andere, de achtergrond van burgers. Het bijhouden van gegevens over etniciteit is in Nederland verboden, maar je nationaliteit(en), je geboorteplaats én de geboorteplaats van je ouders worden opgeslagen in de Gemeentelijke Basis Administratie, het GBA. ‘Met behulp van die gegevens bepaalt de overheid in Nederland tot welke groep je behoort,’ legt Van Schie uit.

De verzamelde gegevens worden door het Centraal Bureau voor de Statistiek (CBS) gecategoriseerd en gebruikt om statistieken te creëren over de samenleving. Tot 2016 werden mensen bijvoorbeeld gekenmerkt als autochtoon of allochtoon. Sinds kort is deze terminologie veranderd naar ‘Nederlander met een migratieachtergrond’. De functie van de categorisering blijft echter hetzelfde: er wordt onderscheid gemaakt als jij of één van je ouders buiten Nederland geboren is. […] Van Schie legt uit dat er daarnaast door het CBS onderscheid wordt gemaakt tussen een Westerse en niet-Westerse achtergrond.

Leefbaarometer
Een voorbeeld is de Leefbaarometer, een applicatie van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Volgens het ministerie kan met behulp van de Leefbaarometer, de leefbaarheid in alle bewoonde wijken in Nederland gemonitord worden. ‘Op basis van honderd (voornamelijk) objectieve indicatoren (kenmerken van de woonomgeving) een inschatting geeft van de leefbaarheidssituatie en –ontwikkeling,’. Deze vermeende objectiviteit van zowel de data als de toepassing is problematisch.

‘In de Leefbaarometer worden allerlei gegevens meegenomen om de leefbaarheid van een wijk te bepalen, waaronder nationaliteit en immigratieachtergrond. Alle nationaliteiten anders dan Nederlands, hebben volgens het systeem een negatieve invloed op de leefbaarheid,’ licht Van Schie toe. ‘Op die manier impliceert het systeem dat de aanwezigheid van mensen met een migratieachtergrond de leefbaarheid van een wijk vermindert. Dat kan een individuele mening zijn, maar het is vreemd om dat als overheid als feitelijk te presenteren.’

Dit verscheen eerder op www.Waag.nl, lees het artikel daar verder.