De Houtense raadsleden Marije de Vries (D66) en Jan Rinkel (VVD) hebben vragen gesteld over het gebruik van Artificiële Intelligentie (AI) bij de gemeente Houten. Op 15 mei zijn de antwoorden van het college van Burgemeester en wethouders gepubliceerd.
Geen AI-strategie
Het College laat weten dat de gemeente Houten geen AI-strategie heeft, maar hier wel aan werkt. Er is ook nog geen beleid rond het beheer en de controle, zoals kaders, normen en werkafspraken voor de inzet van AI. Daar is al wel een concept voor opgesteld. De vragenstellers wijzen op een visie en strategie rond zaken als ethiek, eigenaarschap, besturing en monitoring, strategische doelstellngen, toegevoegde waarde en impact op de dienstverlening. De gemeente heeft volgens het College geen hoog-risico en impactvolle algoritmes in gebruik en deze zijn ook niet vastgelegd in een openbaar algoritmeregister.
Luchtfoto's en gezichtsvergelijking
De gemeente maakt al wel gebruik van AI. Het gaat bijvoorbeeld om het ontdekken van verschillen in luchtfoto's over meerdere jaren en om gezichtsvergelijking tussen foto en persoon bij de balies.
MS Copilot en Zivver
Alle medewerkers van de gemeente beschikken over MS Copilot met Enterprise Data Protection. Ook Zivver, een programma om veilig mail te versturen, maakt gebruik van slimme technologie om persoonsgegevens in een email te herkennen. De gemeente weet niet zeker of deze twee systemen vallen onder de term AI.
Alle toepassingen behalve chatbot en ondertiteling
De vragenstellers verwijzen naar een artikel in Computable met de kop "Gemeenten experimenteren met AI zonder duidelijk beleid". Het artikel noemt in een kader een groot aantal toepassingen van generatieve AI (zie hieronder). De gemeente maakt, volgens het College, van alle genoemde toepassingen gebruik behalve chatbot en video-ondertiteling.
Geen manipulatie of misleiding
De gemeente maakt volgens het College niet gebruik van manipulatieve of misleidende AI-systemen. Denk aan: social scoring, realtime biometrische identificatie in de openbare ruimtes of emotieherkenning op de werkplek De gemeente wil zulke systemen ook in de toekomst niet gaan gebruiken.
Training AI-geletterheid
De gemeente zet stappen om medewerkers te trainen en de AI-geletterdheid te vergroten.
Geen extra eisen aan uitvoerende organisaties
Tot slot vragen de raadsleden of het College eisen stelt aan verbonden partijen (samenwerkingsverbanden die gemeentelijke taken uitvoeren) en deze partijen hier ook over bevraagd. Het College antwoordt dat deze partijen aan de wet- en regelgeving voldoen en stelt geen aanvullende specifieke eisen.
Mijn commentaar: kritisch doorvragen bij de uitvoering
Op dat laatste antwoord heb ik wel een persoonlijk commentaar. De gemeente mag zich wel iets actiever opstellen richting verbonden partijen dan hier wordt gesuggereerd. Het gaat dan bijvoorbeeld om de gemeentelijke sociale dienst Werk en Inkomen Lekstroom (WIL) of de Regionale Uitvoeringsdienst (RUD). Deze diensten voeren taken uit waar de gemeente wettelijk voor verantwoordelijk is en de besturen van deze instellingen worden gevormd door gemeentelijke bestuurders. Die mogen best wat doorvragen en ook laten zien dat zij dit doen.
In het verleden liep WIL zelf voorop bij het ontwikkelen van zelflerende systemen zonder dat de gemeente zich daar bewust van was en zonder dat er controle op werd uitgeoefend. WIL dumpte periodiek de gegevens van alle bijstandsgerechtigden in een door een commercieel marketingsbureau in samenwerking met WIL ontwikkelde database om daarmee het frauderisico van elke uitkeringsgerechtigde te berekenen. Later kreeg WIL het aan de stok met de Autoriteit Persoonsgegevens over het gebruik van algoritmes bij het bepalen of iemand die bijstand aanvroeg een lange of een kortere aanmeldingsprocedure kon volgen. WIL is daarmee gestopt na negatieve publiciteit en kritiek van de FNV. De Autoriteit Persoonsgegevens deed onderzoek.
Inmiddels zou WIL geen gebruik meer maken van algoritmes of AI, maar de techniek komt steeds met nieuwe mogelijkheden en de vraag of en hoe daar gebruik van te maken, dient zich voortdurend aan. Alleen verwijzen naar wet- en regelgeving is in deze nieuwe wereld onvoldoende. Bestuur en gemeenteraden moeten hier bovenop blijven zitten.
Zie mijn dossier go.stylo.nl/algo
Beantwoording schriftelijke vragen n.a.v. AI-gebruik bij gemeente Houten
Artikel in Computable 20-03-2025: Gemeente experimenteren met ai zonder duidelijk beleid
Toepassingen van generatieve AI die in het artikel genoemd worden, zijn:
● Afstemmen van teksten op doelgroep
● Genereren van begrijpelijke teksten
● Herschrijven van teksten, bijvoorbeeld naar B1-niveau
● Vertalen van teksten
● Verbeteren van teksten
● Aanpassen van de toon in brieven
● Genereren van afbeeldingen voor bijvoorbeeld presentaties
● Chatbot ondersteuning
● Video ondertiteling
● Samenvatten van teksten
● Maken van programmeerscripts
● Ter inspiratie/ideevorming
● Zoekmachine Doorzoeken van wetten, regelingen en documenten
● Tekstanalyse
● Schrijven van beleid/beleidsvoorbereidingen
● Maken van notulen en actielijsten van vergaderingen
● Verslaglegging van gesprekken
Zie ook: algoritmetransparantie.nl
De gemeenten Houten, Nieuwegein, IJsselstein en Lopik, Werk en Inkomen Lekstroom (WIL), de Regionale Uitvoeringsdienst Utrecht (RUD) hebben geen algoritmen geregistreerd in het algoritmeregister.
De gemeente Utrecht heeft 41 algoritmes geregistreerd: aanmeldbeleid basisscholen, anonimiseren open documenten, betalingsbereidheid parkeren, digitale afhandleng levensonderhoud, dynamisch inzamelen afval, fraudebestrijding (Werk en Inkomen), Geluidsmodel, Handhaving drank- en horecawet, hotspot aanpak kleine criminaliteit, jeugdgezondheidszorg (monitoren ontwikkeling kinderen van 0-4 jaar), jeugdhulp WMO coronaperiode, kiesgerechtigden (het selecteren welke bewoners kiesgerechtigd zijn voor een verkiezing), luchtkwaliteitsmodel, objectherkenning straatafval, onderhoud wagenpark, opbrengsten straatparkeren, parkeerdruk, parkeervergunning, psychosociale gezondheid, re-integratie werk matchen, re-integratie werk arrangement, risico-indicatoren drugspanden, risico-indicatoren jonge aanwas in de drugscriminaliteit, risico-indicatoren witwassen panden, scanauto's parkeerhandhaving, signaleren vogels, slim vegen, stedelijk water, toezicht en handhaving coronamaatregelen (naleving APV), toezicht en handhaving milieu (gerichter inzetten van inspecteurs op het naleven van Milieuwetten door ondernemingen), toezicht en handhaving vastgoedmisbruik, toezicht en handhaving vuurwerk, toezicht en handhaving weesfietsen, uitkering participatiewet (om op basis van de juiste norm te bepalen op welk beddrag de betreffende bewoner recht heeft), vergunningverlening wonen, vervanging lichtmasten, virtiuele assistent Gem (chatwidget voor het beantwoorden van inwoners- en ondernemersvragen), voorschoolse educatie (bepalen welke kinderen in aanmerking komen voor VVE), werkverdeling team scanauto's parkeerhandhaving, woninginbraakvoorspeller, woonbouwlocaties.
Registratie van algoritmes in het landelijk algoritmeregister is niet verplicht, er wordt wel aan gewerkt dit wettelijk verplicht te maken. Het streven is om in elk geval hoogrisico-algoritmes te registreren. Ook zijn er wettelijke eisen rond de registratie van persoonsgegevns. Wanneer verwerking van persoonsgegevens een hoog risico inhoudt voor de rechten en vrijheden van de betrokkenen, dan moet de verwerker van deze gegevens een risicoanalyse maken (Data Protection Impact Assessment DPIA). (Art. 35 Algemene Verordening Gegevensbescherming AVG). De Autoriteit Persoonsgegevens (AP) ziet daar op toe.
Geen opmerkingen:
Een reactie posten