Raad van State: blijf algoritmes de baas

De afdeling Advisering van de Raad van State heeft een "voorlichting" gegeven over Wet gegevensverwerking door samenwerkingsverbanden (WGS). Het wetsvoorstel ligt bij de Eerste Kamer, die vanwege wijzigingen in het voorstel om een nieuw advies had gevraagd (na eerder advies in 2019). Het advies is 24 november openbaar gemaakt. De Eerste Kamer vroeg de Raad van State om een oordeel te geven over de reikwijdte van het gewijzigde wetsvoorstel, het recht op privacy, de risico’s op ongelijke behandeling en discriminatie als gevolg van de inzet van profilering.

Algoritmes 

Het wetsvoorstel bevat volgens de Raad van State waarborgen die de risico’s op ongelijke behandeling in theorie kunnen verkleinen, maar het komt aan op een goede  uitvoering. Daarvoor is het volgens de Raad van State belangrijk dat wordt geïnvesteerd in professionaliteit en (juridische) deskundigheid op de werkvloer en in een cultuur waarin kan en mag worden afgeweken van algoritmische uitkomsten. Er moeten afwegingskaders komen om te stimuleren dat algoritmen zorgvuldig en met respect voor grondrechten tot stand komen. Ook moeten relevante derde partijen, zoals belangenorganisaties, worden betrokken bij het ontwerp van de algoritmen die een samenwerkingsverband hanteert. Daarmee kunnen onrechtmatige verwerkingen worden voorkomen en kan ook het maatschappelijk draagvlak voor het gebruik van algoritmen worden vergroot. Tot slot wijst de Raad van State op het belang van een zorgvuldige evaluatie en terugkoppeling als het gaat om de resultaten van de toepassing van algoritmen.

Samenvatting van het advies + volledige tekst (2021)

Eerder advies (2019)