'Algoritmen kunnen publieke waarden bedreigen, maar nieuwe regels zijn vaak niet nodig'
Onderzoek van de Universiteit Utrecht in opdracht van het WODC
De inzet van algoritmen biedt veel kansen. Zo kunnen bedrijven en overheden winnen aan efficiëntie en effectiviteit door gebruik te maken van algoritmen voor taken die traditioneel werden uitgevoerd door mensen. Tegelijkertijd bestaan ook risico’s voor de privacy, non-discriminatie en rechtsbescherming. Dit vraagt om alert en proactief optreden van toezichthouders. Grote wetswijzigingen zijn voor de korte termijn echter niet nodig.
Dat is in de kern de conclusie van het rapport "Juridische aspecten van algoritmen die besluiten nemen. Een verkennend onderzoek" dat onderzoekers van het Montaigne Centrum voor Rechtsstaat en Rechtspleging schreven in opdracht van het WODC. Het rapport is op 26 juni 2020 aangeboden aan de Tweede Kamer, met een begeleidende brief van Sander Dekker, de minister van Rechtsbescherming.
Het rapport is geschreven door Stefan Kulk en Stijn van Deursen. Het bevat casestudy’s van UU-onderzoekers Anouk Wouters, Vicky Breemen, Thom Snijders, Stefan Philipsen, Martje Boekema en Susanne Heeger. Ook Nelleke Koffeman, Janneke Gerards, Eddy Bauw, Madeleine de Cock Buning, Henry Prakken en Anna Gerbrandy waren nauw bij het onderzoek betrokken.
¸é¾±²õ¾±³¦´Ç’s
Het gebruik van algoritmen brengt risico’s met zich. Als algoritmen niet goed worden ‘getraind’ dan kan dat bijvoorbeeld leiden tot discriminatie. Algoritmen maken bovendien veel gebruik van persoonlijke data en kunnen gevoelige gegevens aan elkaar koppelen. Daardoor kunnen overheden en bedrijven veel te weten komen over mensen en kunnen dus privacyrisico’s ontstaan. Daarnaast is niet altijd duidelijk hoe zelflerende algoritmen tot een bepaalde uitkomst komen. Dit maakt het moeilijk, en soms zelfs onmogelijk, om argumenten aan te voeren tegen een algoritmisch besluit. Daardoor komt de rechtsbescherming in het gedrang. Sommige van deze risico’s bestaan natuurlijk ook als mensen zelf beslissingen nemen. Maar omdat algoritmen het mogelijk maken om snel en op grote schaal te beslissen, kan het gebruik van algoritmen grote gevolgen hebben.
Algoritmen kunnen erg ondoorzichtig zijn. Dan is niet meer te achterhalen waarom ze iets beslissen. Dat maakt het moeilijk je te verzetten tegen beslissingen door algoritmen.
Drastische wetswijzigingen zijn niet nodig
In het rapport van de Universiteit Utrecht heeft een team van onderzoekers bekeken of de huidige juridische regels mensen voldoende beschermen tegen die risico’s. In dit onderzoek, dat vrijdag 26 juni is aangeboden door de Minister voor Rechtsbescherming Sander Dekker aan de Tweede Kamer, concluderen onderzoekers Stefan Kulk en Stijn van Deursen dat het wetboek de komende tijd niet drastisch op de schop hoeft. Bestaande wetgeving biedt vaak nu al voldoende bescherming van de publieke waarden van non-discriminatie, privacy en rechtsbescherming. Wel moeten die bestaande regels ook worden gehandhaafd als algoritmen beslissingen nemen met gevolgen voor mensen. Daar ligt een belangrijke verantwoordelijkheid voor bestaande toezichthouders zoals de Autoriteit Persoonsgegevens. Ook rechters zullen bestaande regels moeten toepassen en daarbij de risico’s van algoritmen niet uit het oog verliezen. De uitspraak in de SyRI-zaak, waarin de rechter een streep haalde door het gebruik van algoritmen om fraude te ontdekken, is daarvan een goed voorbeeld.
Wetgeving zoals de AVG biedt voldoende aanknopingspunten om het gebruik van algoritmen te reguleren. Maar dat vraagt wel om uitleg van regels door rechters en toezichthouders. Anders blijft er onduidelijkheid bestaan.
Aanpak van het onderzoek
Het onderzoek werd uitgevoerd door onderzoekers van het Montaigne Centrum van de Universiteit Utrecht, in opdracht van het WODC en op verzoek van Directie Wetgeving en Juridische Zaken van het Ministerie van Justitie en Veiligheid. Naast het gebruik van algoritmen in het algemeen, werd er in het onderzoek gekeken naar het (mogelijke) gebruik van algoritmen in de rechtspraak, in zelfrijdende auto’s, door het CJIB bij het innen van verkeersboetes en door online platformen om online berichten te modereren. De onderzoekers richten zich daarbij op huidig gebruik van algoritmen en ontwikkelingen die zich de komende vijf tot tien jaar zouden kunnen voordoen.