Waar hebben we het eigenlijk over als het gaat om artificial intelligence?
Maranke Wieringa MA (Media en Performance Studies) en dr. Mirko Schaefer (Media en Performance Studies) spreken in het over o.a. algoritmen en artificial intelligence. In de podcast spreekt Wieringa tevens over SyRi (Systeem Risicoindicatie). SyRI lichte met algoritmen wijken door om burgers te profileren op het risico dat ze frauderen met sociale voorzieningen. Dit roept de vraag op waarom het zo belangrijk is om na te denken over waarden en normen als je een algoritme ontwikkelt of gebruikt?
Schaefer: "Een algoritme moet je zien als een recept waarvan je de instructies opvolgt. Een set regels dus. Algoritmen zijn een goed hulpmiddel om bijvoorbeeld werkprocessen te automatiseren. Maar daarbij moet je wel kritisch zijn."
Mensenwerk
Wieringa benadrukt: "Je moet niet denken dat een algoritme neutraal is. Een algoritme wordt gemaakt door mensen en met een door mensen samengestelde dataset getraind, die (onbedoeld) niet altijd volledig is."
Sociale spanningsvelden
Als je van te voren niet goed hebt nagedacht over die algoritmen, dan kun je groepen onbedoeld ten onrechte straffen of benadelen
"Als je algoritmen toepast in domeinen waar sprake is van sociale spanningsvelden, moet je opletten", stelt Schaefer. "Denk bijvoorbeeld aan algoritmen die consequenties hebben voor risicogroepen, mensen met een migratieachtergrond of langdurig zieken. Als je van te voren niet goed hebt nagedacht over die algoritmen, dan kun je groepen onbedoeld ten onrechte straffen of benadelen."