De FNV sleept de gemeente Nissewaard (Spijkenisse) voor de rechter omdat de gemeente het omstreden systeem van Totta Data Lab blijft gebruiken voor fraudeonderzoek onder bijstandsgerechtigden. De FNV noemt het gebruik van de algoritmes van dit systeem ondoorzichtig. Advocaten bereiden momenteel een dagvaarding voor. Dit meldt het AD (1).
Op 1 januari schreef ik een blog (2) over een door mij opgevraagde fraudescore uit dit systeem, dat eerder ook door Werk en Inkomen Lekstroom (WIL) werd gebruikt. Het Platform Bescherming Burgerrechten, dat met succes een rechtszaak aanspande tegen de staat over het Systeem Risico Indicatie SyRI, reageerde op mijn blog als volgt:
"Meer dan informatie over een fraudescore krijgt hij niet: de beslisbomen die tot deze score leidden zijn geheim. Inzage zou kunnen leiden tot "diepgaande en uitgebreide inzichten in de patronen waarop werd gezocht en daardoor een goede uitvoering van de Participatiewet ondermijnen". Dit druist regelrecht in tegen het SyRI-vonnis, dat bepaalde dat burgers zich inhoudelijk moeten kunnen verweren tegen de wijze waarop ze worden doorgelicht met hun data. Werk en Inkomen Lekstroom is al gestopt met Totta, maar gemeente Nissewaard gaat gewoon door met deze praktijken. Daarbij wordt ze niet teruggefloten door het Ministerie van Sociale Zaken, dat na het SyRI-vonnis aangaf zich neer te leggen bij de uitspraak en SyRI stopzette. Het ziet ernaar uit dat de rechter er opnieuw aan te pas moet komen om private SyRI's bij gemeenten ook stop te zetten."
Woensdag 27 januari appte Ronald Huissen van het Platform Bescherming Burgerrechten mij: "Beste Ytzen, ik had zojuist contact met de NOS, die aandacht wil besteden aan Totta en algoritmesystemen in gemeenten en mensen zoekt die daarmee te maken hebben. Ik vond je blog over je inzageverzoek erg goed, die heb ik doorgestuurd en ze zouden graag contact met je opnemen."
Van de NOS heb ik niks meer gehoord, maar vandaag zag ik een bericht (3) over dit onderwerp in de NOS app en het NOS Journaal. Volgens het onderzoek van de NOS maken zeker 25 gemeenten gebruik van voorspellende algoritmes om bijvoorbeeld bijstandsfraude op te sporen, te voorspellen waar mogelijk ondermijnende criminaliteit plaatsvindt en om burgers met schulden op tijd te kunnen helpen. Risicoprofilering ligt onder een vergrootglas, zegt de NOS. Bij de kinderopvangtoeslagaffaire bleek dubbele nationaliteit te worden meegewogen bij het opstellen van risicoprofielen. Vorig jaar veegde de rechter bovendien het profileringssysteem SyRI van tafel, onder meer omdat het onvoldoende transparant was en er daarmee risico ontstond op discriminatie. De NOS publiceerde (4) al eerder over het gebruik van voorspellende algoritmes door de overheid, waarbij de NOS gebruik maakte van een WOB-verzoek bij Werk en Inkomen Lekstroom, de sociale dienst waar ook Houten onder valt.
Bronnen:
(1) AD 29-01-21 Nissewaard voor rechter om opsporing steunfraude, FNV hekelt methode (Premium)
(2) Styloblog 01-01-21 Innocent bijstander
(3) NOS 01-02-21 Fraude opsporen of gevaar van discriminatie? Gemeenten gebruiken 'slimme' algoritmes
(4) NOS 29-05-21 Overheid gebruikt op grote schaal voorspelende algoritmes, 'risico op discriminatie'
Zie mijn dossier go.stylo.nl/algo
Geen opmerkingen:
Een reactie posten