Gegevensbeschermingseffectbeoordeling

Zie voor informatie over WIL, Totta en SyRi het dossier Algo, korte link: go.stylo.nl/algo. 

Lees ook mijn voorgaande blog van 7/2/20: Persoonlijke levenssfeer

Reactie gemeente Nissewaard: "Geen gevolgen voor Totta"

Onderbezetting bij handhaving

Werk en Inkomen Lekstroom heeft het contract met Totta Data Lab om fraude op te sporen dit jaar niet meer verlengd. De reden hiervoor is dat het team Handhaving niet genoeg mensen heeft (x) om fraudeonderzoek te doen op basis van de risicoanalyses van Totta. In 2019 heeft er geen evaluatie plaatsgevonden van het systeem. Volgens Totta staat de samenwerking met WIL sinds een aantal maanden "on-hold". Bij het algemeen bestuur van WIL is dit niet bekend. Wel is bekend dat de organisatie bezig is met een "herijking van de handhaving". WIL maakt op dit moment geen gebruik van algoritmes bij fraudeonderzoek, maar sluit dat in de toekomst niet uit. In dat geval voert WIL eerst een "gegevensbeschermingseffectbeoordeling" uit, in het Engels een Data Protection Impact Assessment (DPIA). 

(x) Actualisering 21-10-20

Rechter verbiedt SysteemRisicoIndicatie (SyRi)

Voor het politieke radioprogramma Daar Hou Ik U Aan van Omroep Houten volg ik Werk en Inkomen Lekstroom (WIL), de gemeenschappelijke sociale dienst van Houten, Nieuwegein, IJsselstein, Lopik en tot voorkort Vianen. WIL doet - of deed - in samenwerking met Totta Data Lab BV in Amsterdam fraudeonderzoek met behulp van 'algoritmes'. Het systeem analyseert een bulk aan gegevens over bijstandsgerechtigden en vergelijkt die met bekende fraudegevallen. Door het herkennen - en leren - van patronen kan het systeem risico's op fraude signaleren. 

Op 5 februari 2020 zette de rechtbank van Den Haag een streep door een ander systeem van de overheid, namelijk SyRi (Systeem Risico Indicatie).

Naar aanleiding van de SyRi-uitspraak heb ik vragen gesteld aan Totta, WIL, raadslid David Jimmink en aan de belangrijkste eiser in het SyRi-proces, het Nederlands Juristen Comité voor de Mensenrechten NJCM. 

Heeft de SyRi-uitspraak ook gevolgen voor het systeem van Totta en de aanpak van Werk en Inkomen Lekstroom en zo niet, wat is dan het verschil? 

Hieronder vat ik de reacties samen. 

Reactie van de eisers

Het juristencomité wees mij door naar één van de andere eisers in de SyRI-zaak: het Platform Bescherming Burgerrechten. Ronald Huissen, redacteur en onderzoeker van het platform, liet mij weten dat hij nog bezig is met een grondige analyse van het vonnis. Kern van de uitspraak is volgens hem dat de rechter korte metten heeft gemaakt met de 'blackbox'. SyRi is niet controleerbaar, het risicomodel is geheim, iemand die onderzocht wordt of waarover een risicomelding wordt gedaan, krijgt dit niet te horen en kan zich niet verweren. Dat mag niet meer. 

Het platform is op zoek naar en inventariseert vergelijkbare systemen, die mogelijk ook juridisch zullen worden aangepakt. Het systeem van Totta zou daar één van kunnen zijn. Ronald Huissen maakt zich vooral zorgen over de grote hoeveelheid gegevens die WIL aan Totta verstrekt en dat Totta liefst nog meer gegevens wil. (noot 1) Hij was verbaasd dat het initiatief om bijstandsfraude op deze manier aan te pakken, gekomen is van het marketingsbureau zelf en dat WIL hier in was meegegaan. (noot 2) Hij wees op de website van het platform en op een bericht over de samenwerking van Totta met de gemeente Nissewaard, die veel minder opgeleverd zou hebben dan de gemeente stelde.

Website: bijvoorbaatverdacht.nl

Artikel Nissewaard/Totta 5-12-19: Fraudeopbrengst Nissewaard: op algoritmen blindgestaard

Zie de noten onderaan dit blog. 

Reactie van Totta Data Lab

Heeft de uitspraak over SyRi gevolgen voor het programma van Totta en zo ja hoe? Totta: "Dit is momenteel nog te vroeg om te zeggen. SyRI verschilt wezenlijk van wat wij doen in het gebruik van welke en de hoeveelheid gegevens. Wij zijn momenteel aan het onderzoeken wat de gevolgen zijn."

Vindt bij de toepassing van het Totta-programma onafhankelijke toetsing door derden plaats? Totta: "Zie vraag 1. Daar zijn wij nu mee bezig."

Totta is onlangs overgenomen door Blue Field Agency. Wordt de verwerkingsovereenkomst van WIL hierop aangepast en belanghebbenden geïnformeerd? Totta: "De samenwerking tussen WIL en Totta staat sinds een aantal maanden on-hold. Wij zijn aan het onderzoeken of en zo ja hoe wij de samenwerking willen voortzetten. Aangezien de samenwerking al een aantal maanden stil ligt zijn aanpassingen niet nodig."

Reactie van David Jimmink

(raadslid en lid Algemeen Bestuur van WIL namens Houten)

David Jimmink benadrukt dat als het systeem van Totta evenals SyRi illegaal blijkt te zijn, het "offline" moet. Hij wist niet dat de relatie van WIL met Totta al maanden "on-hold" is. Wel is het bij het algemeen bestuur bekend dat WIL bezig is met een herijking van het handhavingsbeleid. Hij zal hierover navraag doen binnen de organisatie en komt binnenkort met een uitgebreidere reactie. 

Reactie Werk en Inkomen Lekstroom (WIL)

Heeft de uitspraak over SyRi gevolgen voor het programma van Totta en zo ja hoe? 

WIL: "Het contract van WIL met Totta liep af op 1 januari 2020. Zodoende heeft de uitspraak geen gevolgen voor het gebruik van Totta bij WIL. WIL houdt de mogelijkheid open om in de toekomst gebruik te maken van algoritmes om fraude op te sporen. Voordat we dit doen voeren we een "gegevensbeschermingseffectbeoordeling"uit, in het Engels een Data Protection Impact Assessment (DPIA). Uit het DPIA blijkt welke risico’s er bij het gebruik van Totta, of een ander systeem, zijn op het gebied van privacy en informatieveiligheid. Hierbij houden we rekening met de op dat moment geldende gerechtelijke uitspraken en inzichten."

Waarom is de samenwerking met Totta on-hold gezet? 
WIL: "Door onderbezetting bij het team Handhaving is na het eerste kwartaal van 2019 geen gebruik meer gemaakt van Totta. Het contract met Totta liep tot 1 januari 2020 en is vanwege het capaciteitsgebrek niet verlengd."

Is het project na de evaluatie van 13/9/2018 in 2019 opnieuw geëvalueerd?  

WIL: Nee.

Totta is onlangs overgenomen door Blue Field Agency. Wordt de verwerkings-overeenkomst van WIL hierop aangepast en belanghebbenden geïnformeerd? WIL: "Dit is niet van toepassing aangezien WIL niet meer samenwerkt met Totta."


Voetnoten

Noot 1. Zie go.stylo.nl/algo

* Openbare verwerkingsregister WIL - Op p2 en 4 wordt Totta genoemd, als ontvanger van de volgende data: BSN, NAW, emaildres, telefoonnummer, geboortedatum; gegevens over gezondheid, strafrecht, hinderlijk gedrag; signalen van het Inlichtingenbureau; anonieme meldingen; echtscheidingsvonnis; huurovereenkomst; bankafschriften, vermogensgegevens, hypotheekakte, internetgegevens, openbare en niet-openbare bronnen, inkomensgegevens, arbeidsgegevens, verblijfsgegevens, UWV, werkervaring, opleidingen, uitkeringen, vorderingen, polissen, maatregelen, huisvesting, leefvorm, trajectplan, participatieplaats, re-integratie, Rijksdienst voor het Wegverkeer (RDW). Betrokkenen: belanghebbende, (ex-) partner, kinderen, burgers en instanties die niet-anonieme meldingen verrichten. Doel: preventieve en repressieve handhaving van de Participatiewet.

* Evaluatie pilot Totta 2018 (datum 13/9/2018 door Wim Janssen, projectleider): "Ter verbetering van de werking van het algoritme zijn er mogelijkheden om meer data in te brengen. Hoe meer relevante data gebruikt worden, hoe nauwkeuriger de voorspellingen zullen zijn. Te denken valt aan signalen die WIL reeds in bezit heeft of waarover wij geautomatiseerd kunnen beschikken, bijvoorbeeld de verschillende IB signalen (bankrekeningen, kentekens, inkomen, vermogen, Suwi). Eventueel kunnen in een later stadium nog data van externe partijen worden toegevoegd zoals energieverbruik, gegevens Belastingdienst, werkgever etc. WIL kan op grond van artikel 64 (...) over eerdergenoemde gegevens van externe partijen beschikken. Het is nog niet duidelijk of toevoegen van meer data leidt tot betere resultaten. Dit zal in nauw overleg met de medewerkers van Totta plaatsvinden. Naar de mening van Totta is het resultaat (de predictive power) het meest gebaat met het toevoegen van andere ‘domeinen’ aan informatie: door de klant zelf aangegeven informatie (social media, e-mails, open teksten). Totta adviseert eerder nieuwe (andere) informatie dan slimmere algoritmes."

Noot 2. Zie go.stylo.nl/algo

Voorstel MT 2015 voor pilot Totta (23/9/2015): "Totta was op zoek naar een gemeente om samen een studie/pilot uit te werken met betrekking tot fraudebestrijding. (...) Resultaat van het gesprek was de voorzichtige conclusie dat we elkaar wel wat te bieden hadden. (...) Op 17 september 2015 hebben zij een presentatie geven. (...) Totta wil graag een pilot draaien om met behulp van Machine Learning (ML) te bezien of zij een product kunnen ontwikkelen waarbij gemeenten op het gebied van fraude effectiever en goedkoper kunnen worden."