Privacytoezichthouder wil opheldering over frauderisicoalgoritmes bij gemeenten

De algoritmetoezichthouder van de Autoriteit Persoonsgegevens eist dat vijf Nederlandse gemeenten meer informatie geven over fraudebestrijdingsalgoritmes. Het is niet bekend om welke gemeenten het gaat, maar de AP vreest dat de algoritmes in strijd zijn met de AVG.

De Nederlandse privacytoezichthouder schrijft dat vijf gemeenten opheldering moeten geven over een fraudescorekaart. Het gaat om algoritmes waarbij gemeenten hun burgers inschalen op hoe groot het risico is dat zij fraude plegen. De gemeenten moeten binnen twee maanden aan de AP laten weten wat zij daarmee doen. De toezichthouder wil weten wat het advies is en is geweest van de functionaris gegevensbescherming en wat de gemeenten met dat advies hebben gedaan. Iedere Nederlandse overheidsinstelling moet zo'n functionaris in dienst hebben. Een dergelijke FG functioneert als een interne toezichthouder.

De AP wil daarnaast weten 'of en zo ja, hoeveel financiële schade burgers hebben geleden' als ze in zo'n register stonden opgenomen en hoe de gemeenten die schade vergoeden. Het is niet bekend om welke gemeenten het gaat. De AP zegt dat het na het ontvangen van de informatie besluit of het overgaat tot verdere sancties. In zo'n geval kan de AP eisen dat gemeenten stoppen met het gebruik van de algoritmes, of in het ernstigste geval een boete opleggen.

Het is niet duidelijk om welke algoritmes het precies gaat of dat gemeenten een eigen algoritme inzetten voor de fraudescore. De AP legt de link met SyRI, het Systeem Risico Indicatie, een controversieel fraudescorealgoritme dat in 2019 onder vuur kwam te liggen. "De 5 gemeenten zouden het algoritme zijn blijven gebruiken, ondanks eerdere rechtspraak over SyRI dat het gebruiken van zo’n systeem in strijd is met de privacywet AVG", schrijft de AP, zonder duidelijk te maken of de gemeenten SyRI zelf nog gebruiken. In 2021 meldde de NOS dat er nog zeker 25 Nederlandse gemeenten waren die een eigen voorspellend frauderisicoalgoritme gebruikten.

Algoritmetoezichthouder

Het onderzoek is een van de eerste grote onderzoeken van de nieuwe 'algoritmetoezichthouder'. Die ging begin dit jaar van start, maar veel over de vorming van die 'toezichthouder' is nog onduidelijk. Het gaat feitelijk alleen om een aparte afdeling binnen de AP die een eigen budget krijgt en die specifiek toezicht moet houden op algoritmegebruik binnen Nederland. Dat was een wens van de Nederlandse Tweede Kamer, die zich daarmee overigens probeerde te mengen in het beleid van de Autoriteit Persoonsgegevens die verder onafhankelijk hoort te zijn.

Opvallend aan dit eerste wapenfeit van de algoritmeafdeling is ook dat het onderzoek gebeurt op basis van signalen van buitenaf en niet na een klacht, tip of melding. "Uit mediaberichten en signalen van de FNV komt een zorgelijk beeld naar voren, dat voor de AP aanleiding is hierop actie te ondernemen", schrijft de toezichthouder. De AP heeft de bevoegdheid zulke 'ambtshalf onderzoek' te doen, maar vorig jaar erkende de AP amper onderzoeken te starten zonder melding. Dat ging wel voornamelijk over datalekken, maar ook bij veel andere onderzoeken handelt de toezichthouder vooral reactief op basis van meldingen en klachten.

Reacties (12)

[blorf]

Dat was een wens van de Nederlandse Tweede Kamer, die zich daarmee overigens probeerde te mengen in het beleid van de Autoriteit Persoonsgegevens die verder onafhankelijk hoort te zijn.

Ik ben wel benieuwd waar dat vandaan komt. Die AP begint als je het mij vraagt te lijken op een middel om van alles wat niet achter de schermen te houden. Ze mogen die 5 gemeenten blijkbaar niet noemen. Lijkt me in strijd met openbaarheid van bestuur. Of geldt dat niet voor de bewoners zelf?

[Reactie gewijzigd door blorf op 25 juli 2024 08:10]

[CAPSLOCK2000]

Ik weet nu meer dan voordat de AP zich er mee bemoeide. Ik zie niet dat ze informatie afschermen die anders wel naar buiten zou zijn gekomen.

Waarom denk je dat die 5 gemeentes niet genoemd /mogen/ worden? Het lijkt me op zich heel normaal en redelijk dat je in de onderzoeksfase nog niet met een beschuldigende vinger gaat wijzen naar gemeentes die misschien wel helemaal niks verkeerd doen. Gebrek aan informatie is geen bewijs voor misstanden.

Nu verwacht ik dat het inderdaad niet goed zit en dat de AP een sterk "onderbuikgevoel" heeft voor wie er fout zit. Ik kan me niet voorstellen dat bij al die andere gemeentes alles tip-top in orde is, daar is het onderwerp veel te moeilijk voor.

Ik zie dit persbericht van de AP juist als waarschuwing gebruikt voor deze en andere gemeentes: nu meewerken nu we nog beleefd zijn. Niet denken dat je er mee weg komt en het met een sisser afloopt of dat je dekking kan zoeken tussen honderden andere gemeentes.

Maar we kunnen niet uitsluiten dat alles in orde is maar de gemeente domweg vergeten is om de informatie naar de AP te sturen.

[gedonie]

Het is vrij normaal om gedurende een onderzoek geen mededelingen te doen. Dus is het niet raar dat ze nog niet melden om welke gemeenten het gaat, dat zullen ze doen na afronden van het onderzoek.

[TijsZonderH]

Ik vind het dan weer wel apart dat ze wel andere informatie openbaar maken over het onderzoek. Dat klinkt een beetje alsof ze willen laten zien: "Kijk eens, we zijn er echt wel mee bezig!" Er lopen ook tientallen onderzoeken waarvan ik boe noch bah krijg als ik er naar vraag (bijvoorbeeld het onderzoek naar Google Analytics). Dan willen ze niet eens zeggen wanneer er een eindrapport komt.

[mrbullet]

Wellicht moet je opzoek naar een ander ingang.
Stichting Inlichtingenbureau is een organisatie die de technische implementatie/uitvoering voor meerdere
gemeenten regelt: https://www.inlichtingenbureau.nl/

[TijsZonderH]

Dat heeft allemaal weinig zin, dit gaat om het specifieke onderzoek van de AP. Maar ik spreek morgen toevallig met Aleid Wolfsen dus een goed moment het hem nog eens te vragen

[FONfanatic]

Eerder vandaag berichtte RTV Utrecht opnieuw over die vijf gemeenten: Nieuwegein, IJsselstein, Lopik, Houten, Veenendaal.

[blorf]

Dat verwacht je? Volgens mij is het idee vooral dat dat lopende onderzoek ervoor zorgt dat er niks anders naar kijkt. Hoezo vereist dit onderzoek? Dat is toch gewoon een opgeworpen belemmering / uitstel van de confrontatie?

[FONfanatic]

Hier staan ze opgesomd. Het zijn Nieuwegein, IJsselstein, Lopik, Houten en Veenendaal.

[eheijnen]

Dit is toch achter de feiten aan rennen.
Waarom niet eerst laten keuren voor het in gebruik genomen mag worden....

[vinkjb]

Ik denk dat het dit moet zijn.

fraude risico algoritmes

[Wouterkaas]

Samenstellingen schrijf je altijd aan elkaar, dus het klopt zoals het er nu staat. Overigens is voor spelfouten ook een apart topic: forumtopic: Meld hier spel- en tikfoutjes - en dus *geen* andere foutjes