Algoritmes zijn geen metingen van de werkelijkheid
De overheid maakt tegenwoordig veel gebruik van algoritmes; zo ook in de Leefbarometer, een algoritme dat elke buurt in Nederland een score geeft, die vervolgens wordt gebruikt voor allerlei doeleinden. Gerwin van Schie (Media- en Cultuurwetenschappen) deed onderzoek naar de Leefbarometer en deelde zijn zorgen erover in .
Hoe werkt de Leefbarometer?
Een van de problemen die Van Schie ziet in de Leefbarometer is dat het algoritme teveel lijkt op een meting van de werkelijkheid, terwijl het alleen een voorspelling is van hoe leefbaar een bepaalde plek is. "De Leefbaarometer is onder meer gebaseerd op onderzoeken onder bewoners naar de ervaren leefbaarheid in verschillende wijken. Dat is vervolgens verklaard met data. Zo is teruggerekend welke factoren invloed hebben en dat is geëxtrapoleerd naar alle wijken."
Etniciteit als data
Van Schie is niet principieel tegen het gebruik van algoritmes, maar benadrukt dat we kritisch moeten nadenken over welke data we gebruiken, zoals etniciteit. "Er kunnen correlaties zijn die samenhangen met afkomst, dat zal ik niet ontkennen," zegt hij. "De vraag is of je die correlaties moet omzetten in stereoÂtyperingen die tegen mensen worden gebruikt." Daarnaast is het belangrijk om na de denken over verklaringen voor die correlaties: ze zijn namelijk ook een afspiegeling van de mogelijkheden en beperkingen die onze samenleving bepaalde groepen biedt en oplegt.