Nieuw onderzoek naar het sociale effect van algoritmes: "We moeten voortdurend onze ogen open houden voor veranderingen"
José van Dijck bij Innovation Origins
In mei kondigde het kabinet aan 21,3 miljoen toe te kennen aan het nieuwe landelijke onderzoeksproject 'De algoritmische samenleving’, waarvan 3,5 miljoen naar de onderzoekers van de Universiteit Utrecht gaat. Hoogleraar Media en samenleving José van Dijck vertelt waar zij en haar mede-onderzoekers zich op zullen richten.
Vertrouwen
Schandalen zoals de toeslagenaffaire, waarbij het breed inzetten van algoritmes bij fraude onderzoek leidde tot etnische profilering, tonen aan hoe gevaarlijk het blind vertrouwen op kunstmatige intelligentie kan zijn. "Mensen vertrouwen al snel op systemen en dat ze doen wat ze zouden moeten doen. Maar weten zij ook op basis waarvan de data tot hun beschikking komt? Vaak is dat niet het geval", zegt van Dijck.
Elke universiteit die betrokken is bij het project heeft haar eigen focus gebied. Vanuit de Universiteit Utrecht zal het onderzoek zich richten op bestuurlijke vraagstukken. "We willen onderzoeken hoe we belangrijke waarden zoals privacy, gelijkwaardigheid en veiligheid kunnen waarborgen”, legt van Dijck uit.
Moving target
Vanwege de snelle ontwikkelingen binnen de kunstmatige intelligentie is het lastig om precies te voorspellen waar zij in de toekomst gebruikt zullen worden. Nu worden bijvoorbeeld op scholen en in de zorgverlening steeds vaker voice assistants ingezet, waarvan het effect nog onbekend is. Hierdoor moeten de onderzoekers goed leren meebewegen, vindt ook van Dijck. "We bestuderen een moving target. Daarom moeten we voortdurend onze ogen open houden voor veranderingen.”