Vakbond FNV heeft bij de Autoriteit Persoonsgegevens (AP) aangifte gedaan tegen de gemeenten Houten, Nieuwegein, IJsselstein, Lopik - deze vier gemeenten werken samen in de sociale dienst Werk en Inkomen Lekstroom (WIL) - en de gemeente Veenendaal. Dit meldt het AD zaterdag 21 januari. Deze gemeenten maakten volgens het bericht tot juni vorig jaar gebruik van een zogeheten 'fraudescorekaart' bij de aanvraag van uitkeringen. Het algoritme daarvan zou discriminatie in de hand werken door groepen mensen als risicogroep te bestempelen op basis van automatisch profileren.
Na onderzoek door een journalistencollectief van Lighthouse Reports, de NRC en Argos (Vpro, Human) lieten de gemeente Houten, IJsselstein, Lopik en Nieuwegein al weten te stoppen met het gebruik van dit systeemn. FNV-voorzittter Kitty de Jong verwacht dat de Autoriteit Persoonsgegevens de vijf gemeenten een boete zal opleggen. De AP heeft al aangekondigd strenger op het gebruik van algoritmes toe te zien.
Zie ook: go.stylo.nl/algo
Het gebruik van algoritmes door de sociale dienst Werk en Inkomen Lekstroom (WIL) volg ik sinds de zomer van 2018, toen ik er door raadsvragen van de VVD in de gemeenteraad van Amsterdam bij toeval achter kwam dat WIL gebruik maakte van algoritmes om het frauderisico van uitkeringsgerechtigden te berekenen. WIL liep hierin landelijk voorop, nadat het commerciële bureau Totta een ambtenaar van de gemeente Houten en de gemeentelijke sociale dienst WIL benaderd had om dit systeem te ontwikkelen. De projectleider van WIL verscheen samen met Totta op beurzen en conferenties om dit systeem aan de man te brengen. Het hele bestand uitkeringstrekkers werd periodiek gedumpt in een computerprogramma van het Amsterdamse marketingbureau Totta, dat met behulp van zelflerende algoritmes een fraudescore berekende. Ik heb indertijd ook mijn eigen fraudescore opgevraagd (lees mijn blog Innocent bijstander). Het programma Nieuwsuur wilde mij over mijn onderzoek en ervaringen interviewen, maar voor het zover was, ging WIL overstag. In 2019 heeft de NOS met een beroep op de Wet Openbaarheid Bestuur gegevens over het Totta-systeem opgevraagd bij WIL en hierover bericht in het Journaal. Nadat de rechter het frauderisicosysteem SyRi van de rijksoverheid verbood, bleef WIL nog een tijdje doorgaan met Totta, maar toen duidelijk werd dat ook dit systeem risicovol was, weinig opleverde en de methode eigenlijk illegaal was, is WIL er in 2020 mee gestopt. De verantwoordelijk wethouder van de gemeente Houten verklaarde toen in de gemeenteraad, gebaseerd op de informatie van de sociale dienst, dat WIL daarna geen gebruik meer maakte van algoritmes bij het bepalen van frauderisico. Maar door het onderzoek van Lighthouse, Argos en NRC bleek dat WIL toch nog gebruik maakte van algoritmes, namelijk in het systeem DPS Matrix, een stand alone systeem dat is afgeleid van de eerdere 'fraudescorekaart', waarvan de VNG had aangegeven dat gemeenten daarmee moesten stoppen, omdat het in strijd was met de AVG en de rechtsgrond onbrak.
WIL gebruikte de DPS Matrix om op basis van risicofactoren te bepalen of bijstandsaanvragers de korte of de gebruikelijke lange route - met meer in te leveren documenten - moesten volgen en besefte niet dat de DPS Matrix ook gebruik maakte van algoritmes. Kennis van het systeem ontbrak binnen de organisatie.
Welwillende onwetendheid van WIL
Of de aangifte tegen de WIL-gemeenten veel kans maakt, weet ik niet. WIL heeft bij de van de 'fraudescorekaart' afgeleide DPS Matrix in onwetendheid gehandeld en is onmiddelijk met dit systeem gestopt toen bleek dat het gebruik maakte van algoritmes, waarover negatief was geadviseerd en dat mogelijk zelfs illegaal was. Het handelen van WIL is denk ik wel verwijtbaar, men had beter moeten weten en men stond eerder zelfs landelijk aan de wieg van het gebruik van algoritmes bij uitkeringen. Maar die kennis is verdwenen. Ik weet niet of deze verwijtbare onwetendheid achteraf kan worden beboet.
Als discriminatie kan worden aangetoond, dan zou denk ik een aangifte daartegen meer kans maken, maar dan misschien niet bij de Autoriteit Persoonsgegevens (AP) maar voor de rechter. De AP gaat over de verwerking van persoonsgegevens. Het zou wel interessant zijn als de AP een diepgaand en gedetailleerd onderzoek zou doen en daarmee beleidsintenties, uitwerking, concreet handelen en effecten, mogelijke benadeling van uitkeringsgerechtigden en discriminatie bloot zou kunnen leggen. Maar volgens mij zijn er tot nu toe geen aanwijzingen voor benadeling. Er werd weliswaar onderscheid gemaakt tussen de gebruikelijke lange en een verkorte route, op basis van frauderisico, maar uiteindelijk kregen de aanvragers wel op basis van een menselijke beslissing hun uitkering.
Politiek gezien is denk ik vooral het handelen in onwetendheid verwijtbaar. Daar stoot ik steeds weer op bij WIL. Ik schreef onlangs, in mijn blog van 30 december, in een andere kwestie ook al over deze welwillende onwetendheid. Het bestuur zou dus meer moeten investeren in kennis en dubbele checks.
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Bronnen en meer lezen
AD 23-01-2023:
Aangifte tegen vijf Utrechtse gemeente om gebruik omstreden algortime in de bijstand
Argos 21-01-2023:
'Toch geen fraudeur'
Je komt bij het loket om bijstand aan te vragen en nadat je de nodige vragen hebt beantwoord, zegt de gemeenteambtenaar: u ziet er best aardig uit, maar we verdenken u van fraude. Twee uur later staat de sociale recherche in je huis en trekt alle laden en kastjes open. 158 gemeenten maakten tot 2020 gebruik van ‘de fraudescorekaart’. Een kaart die punten geeft op basis van een aantal kenmerken. Ben je kapper, alleenstaande moeder, woon je in een huurwoning, of heb je schulden: grote kans dat de kaart je als fraudeur bestempelt. Tot vorige jaar maakten nog zeker vijf gemeenten gebruik van deze kaart. We maakten daar eerder dit jaar een uitzending over. Naar aanleiding van die uitzending richtte de vakbond FNV een meldpunt op. Wij spraken met twee mensen die zich bij de FNV meldden. Wat gebeurde er toen zij bijstand aanvroegen en onterecht werden aangemerkt als fraudeur?
NOS 29-02-2019:
Overheid gebruikt op grote schaal voorspellende algoritmes, 'risico op discriminatie' NOS 16-01-2023:
Extra toezicht moet einde maken aan 'levensgevaarlijke algoritmes'Autoriteit Persoonsgegevens:
- AI & algoritmes
- Toezicht op AI & Algoritmes [datum onbekend, PDF 11p]
- Focus AP 2020-2023 [datum onbekend PDF 35p]
- Algoritmetoezicht
Styloblog 01-01-2021: Innocent bijstander
De kans dat ik fraude pleeg op een schaal van 0 tot 1 is 0,236602119. Dat heeft een commercieel marketingbureau in Amsterdam voor mijn gemeente uitgerekend. Dit moet ik uitleggen.
Styloblog 25-06-2022: Argeloze sociale dienst schrikt van Argos
Styloblog 30-12-2022: Dure Gemeentepolis met nul euro steun
Niemand bij WIL kon het mij uitleggen, dus ik ben dus bang dat de belofte van de Gemeentepolis valt onder het schriftwoord "vergeef het hun, want zij weten niet wat zij doen".
