Nederlandse gemeenten zijn verantwoordelijk voor de inzet van algoritmen

Het ministerie van Binnenlandse Zaken en Koninkrijksrelaties zegt dat Nederlandse gemeenten en provincies verantwoordelijk zijn voor de algoritmen die ze gebruiken. Daarom gaat het geen onderzoek uitvoeren naar welke algoritmen worden gebruikt door lokale overheden.

Minister van BZK Hanke Bruins Slot geeft in een Kamerbrief antwoord op vragen van SP-Kamerlid Renske Leijten. Het Kamerlid wilde opheldering over het gebruik van algoritmen door gemeenten bij onder meer de opsporing van bijstandsfraude.

Leijten stelde de vragen naar aanleiding van een waarschuwing van de Rekenkamer Rotterdam. Die waarschuwde vorig jaar dat het algoritme waarmee de gemeente Rotterdam bijstandsfraudeurs opspoort, mogelijk oneerlijk is, schrijft Argos. Er zou te weinig rekening zijn gehouden met ethische risico's bij de ontwikkeling van het algoritme. Daarnaast is het voor burgers niet mogelijk om erachter te komen hoe het algoritme werkt en of het een rol heeft gespeeld bij de beoordeling op de rechtmatigheid van hun bijstandsuitkering.

Het SP-Kamerlid vraagt aan de minister of de gemeente Rotterdam zich aan de landelijke regels houdt. Daarop antwoordt Bruins Slot dat het niet aan haar is om daarover te oordelen. "Het is belangrijk dat overheden zich aan de regels houden, ook als zij algoritmen inzetten bij het uitoefenen van hun taken. In dit geval is de gemeente Rotterdam daar zelf voor verantwoordelijk", aldus de minister. Voor de beoordeling van de gegevensverwerking en het naleven van de AVG door gemeenten, verwijst Bruins Slot naar de Autoriteit Persoonsgegevens.

Daarnaast zegt Bruins Slot dat er steeds meer inventarisaties van het gebruik van AI en algoritmen door overheden plaatsvinden. Als voorbeelden wijst ze naar een TNO-publicatie van mei vorig jaar en een onderzoek van de Algemene Rekenkamer aan het begin van 2021. "Het is de eigen verantwoordelijkheid van provincies en gemeenten om waar nodig onderzoek te laten doen, via de Provinciale Staten of Gedeputeerde Staten en gemeenteraad of B&W", schrijft Bruins Slot.

Verder zijn gemeenten niet verplicht om aan burgers te melden dat ze worden onderzocht. Daar moet het opzetten van een verplicht openbaar algoritmeregister bij helpen. Die laat zien welke algoritmen een gemeente gebruikt. Gemeente Rotterdam heeft inmiddels zo'n register gepubliceerd.

Reacties (39)

[RogerWilco2]

Typisch deze regering om de verantwoordelijkheid voor landelijk beleid van zich af te schuiven.

Dit zijn typisch dingen die je juist wel landelijk moet bekijken.

[MSalters]

Typisch Thorbecke's grondwet van 1848. Dat zou je bij maatschappijleer gehad moeten hebben: gemeente, provincie, rijksoverheid. Dat zijn de 3 gescheiden bestuurslagen. Dat de SP vragen stelt op het verkeerde nivo is half onkunde, half gratis reclame in verkiezingstijd

[Diagoras]

Een vreemde reactie, aangezien de minister zelf verwijst naar de AP wat een landelijke organisatie is, gebaseerd op landelijk/Europees beleid.

Wat overigens natuurlijk ook weer erg ironisch is, aangezien de AP zwaar onderbezet en -gefinancierd is.

[MSalters]

De EU eist van haar leden dat ze een privacy waakhond oprichten. En aangezien de EU leden allemaal nationale staten zijn, zijn al die waakhonden (waaronder de AP) dus nationaal.

Je ziet bijvoorbeeld dat de Nederlandse overheid wel gemeentelijke en provinciale rekenkamers verplicht heeft gesteld. Die vallen dus niet onder de nationale rekenkamer. Dat volgt de scheiding van Thorbecke weer.

[robertlinke]

zelfs al klopt dit regeltechnisch natuurlijk wel, vind ik het wel heel makkelijk

"niet ons probleem"..

[bbob]

Vind het nogal krom en typisch voorbeeld hoe deze regering net als de vorige zaken liefst verborgen wil ohuden en frustreren.

Het SP-Kamerlid vraagt aan de minister of de gemeente Rotterdam zich aan de landelijke regels houdt. Daarop antwoordt Bruins Slot dat het niet aan haar is om daarover te oordelen. "Het is belangrijk dat overheden zich aan de regels houden, ook als zij algoritmen inzetten bij het uitoefenen van hun taken.

Gemeenten voeren hier een taak uit die de landelijke overheid ze gegeven heeft.
Als er landelijke regels zijn dan is het ook de taak van de landelijke overheid om toezicht te houden of die regels lokaal ook uitgevoerd worden. Door dat niet te doen zeg je eigenlijk er zijn regels maar we controleren ze totaal niet.

Van dit soort argumenten van een minister wordt ik dus kotsmisselijk.

[Arnoud Engelfriet]

Die landelijke regels zijn gewoon de AVG, het gaat om algoritmes die uitspraken of besluiten over mensen doen. Toezicht daarop ligt bij de Autoriteit Persoonsgegevens, daarnaast is er altijd nog de rechter.

Los daarvan, het is een basisgegeven in Nederland dat gemeentes onafhankelijk regels en beleid maken en dat de rijksoverheid ze daar niet op aanspreekt is een feature. De (bestuurs)rechter kan ze terugfluiten.

[bbob]

Het artikel beschrijft bijstandsfraude. Bijstand zijn landelijke regels waarbij de uitvoering bij een gemeente ligt. In dat geval vraag ik me af of en hoe er sprake moet zijn van onafhankelijke regels en beleid.

Als een gemeente een natuurbeleid heeft dat is dat lokaal en kunnen ze daar onafhankelijke regels voor stellen. Idem wat ze met sport, industrie en dat soort lokale zaken doen.

Bijstand is toch landelijk beleid waar gemeente uitvoering aan moet geven. die uitvoering zal toch volgens landelijke regels plaats moeten vinden. Dus in dit specifieke voorbeeld, bijstand is de vraag dus of de gemeentes daar volgens jou visie wel onafhankelijke regels en beleid voor kunnen maken.

[hhj]

Nee hoor: landelijk gelden wetten, maar gemeentes krijgen vrij veel beleidsruimte om die zelf te interpreteren. En ook naleving van regels is de eigen verantwoordelijkheid (zie bijv. de discussie over of gemeentes een tegenprestatie moeten gaan vragen voor een uitkering). Gemeentes hebben dus veel ruimte om zelf zaken in te richten. Voor de uitvoering van die wetten gebruiken gemeentes IT-systemen van o.a. Centric. Er zijn ook partijen die voorzien in software voor controle hierop, of voor toezicht, etc.
Voor wat algoritmes betreft: die zullen voornamelijk ingezet worden bij handhaving. De Politie gebruikt al jaren een algoritme om te bepalen waar de politie-heli het best kan vliegen om zo dicht mogelijk bij de volgende voorspelde melding (want die wordt dus voorspeld op basis van kansberekening) te zijn, en gemeentes kunnen die ook inzetten om bijvoorbeeld een indicatie te krijgen van welke personen het meest waarschijnlijk fraude plegen.
Ik persoonlijk vind dat een heel goed idee: met eenvoudige statistiek kun je opsporing heel effectief maken. Maar dan moet je wel a) een goed algoritme pakken dat i.d.d. uitgaat van de hele populatie b) iemand aanwijzen als 'statistisch waarschijnlijk een fraudeur' niet verwarren met 'schuldige' en c) niet gelijk jammeren als stereotyperingen in de praktijk blijken te kloppen (want als je op bepaalde types misdaad gaat zoeken kom je gewoon bij bepaalde bevolkingsgroepen uit).

[Bulkzooi]

@Arnoud Engelfriet Er wordt bedoeld dat Nederlandse politici zich als verdwaalde lampjes verschuilen achter Europese Directives. Bovendien is de macht van zowel Bigtech als van de hackers gevreesd; zo erg dat alle wetten mbt data en informatie gewapeniseerd zijn tegen de burger.
Kortom, omdat de overheid geen grip heeft misbruiken ze hun macht, bovenop het forceren, en ze zijn het nog gewoon gaan vinden ook. Net als die leugentjes om bestwil, voor de partij, in naam van een ander, voor de koning, of wat ever ze allemaal tevoorschijn toveren in die poppenkast. Allemaal niet kardinaal zeggen ze dan, maar wel recidiverend zeg ik.

Bigtech & hackers als boemannen van alles wat fout gaat maar bewijzen, of zelfs maar uitleggen, kunnen ze niks; zelfs de aantijging tegen Rusland en China zijn nooit hard gemaakt of in de rechtbank getest. itt bigtech, die doorlopend in conclaaf zijn met individuele regeringen, en ook met de Europese Unie. Nou gaat het over wat er in de algoritmes staat, maar de GPL is bv. amper getest in court. Geldt ook voor de MIT & BSD license, helemaal als je die poolt in een nationale patriot agenda. Laat staan de maatschappelijke impact van patent pools, of de impact van programmeertalen.

Dus doorverwijzen naar een tandeloze maar helemaal gejackte toezichthouder is nogal zwak. Die brengen ook geen vrede en geluk, en al helemaal niet preventief. Er is sprake van strategische blunders in slepende conflicten. Anders check mijn post beneden, waar ik wat dieper inga op periode 2006 tot 2009.

[Reactie gewijzigd door Bulkzooi op 23 juli 2024 01:13]

[cariolive23]

Van dit soort argumenten van een minister wordt ik dus kotsmisselijk.

Wat is dan het alternatief? De Gemeente is verantwoordelijk voor de inzet van zo'n algoritme, dan kan de landelijke overheid toch niet óók verantwoordelijk zijn? Want wanneer er twee partijen verantwoordelijk zijn, is er per saldo niemand meer verantwoordelijk.

Een Gemeente kiest voor een software pakket, met z'n algoritmes, en is dan ook verantwoordelijk voor die keuze.

Al heb ik wat moeite met dit gezeur over algoritmen, problemen ontstaan vaak met de input van die algoritmen. En die input is door mensen gegenereerd, inclusief al hun fouten en beperkingen. Wanneer je alleen maar rode auto's op snelheid gaat controleren, zul je zien dat het altijd rode auto's zijn die te snel rijden. Geef deze input aan een algoritme, en deze gaat er keurig mee door. Totdat je gewoon 100% gaat controleren en je beperkt tot het meten van de snelheid.

[Mangu429]

[...]
Wat is dan het alternatief? De Gemeente is verantwoordelijk voor de inzet van zo'n algoritme, dan kan de landelijke overheid toch niet óók verantwoordelijk zijn?

Het alternatief is dat de landelijke overheid bepaalt. Maar die schuift liever alles af op de gemeentes.
De gemeentes zouden niet eens verantwoordelijk gesteld moeten worden voor dit soort zaken.

[cariolive23]

Dat is een compleet andere discussie. Prima om te voeren, maar daar gaat dit artikel helemaal niet over.

Er is ooit gekozen om de uitvoering van deze controles bij de Gemeente te leggen. En wanneer ze dan de controles doen, zijn ze uiteraard ook verantwoordelijk voor deze controles. Het zou te gek voor woorden zijn wanneer je wel de controle doet, maar er niet verantwoordelijk voor bent. En dat geldt andersom ook, je kunt ook moeilijk ergens verantwoordelijk voor zijn, wanneer je er niks over te zeggen hebt. Dus een situatie waarbij de landelijke overheid verantwoordelijk is, maar een gemeente bepaalt hoe ze de controle doen. Of wil je controles doen zonder dat er iemand verantwoordelijk is?

[MSalters]

Wat voor soort zaken? Het artikel gaat over de inzet van algoritmes bij gemeentelijke taken. Zolang er één niet-triviale taak bij overheden ligt, is het denkbaar dat er een algoritme gebruikt wordt. Zelfs het rooster van de plantsoenendienst is uiteindelijk ook een algoritme.

[Verwijderd]

Maar wappies (excuus voor de uitdrukking) wéten dat niet.
Algoritmes lijken voor velen een duister en waarschijnlijk duivels iets dat eigenlijk verboden moet, of zoiets.

Ik denk dat voorlichting alwéér uiterst belangrijk is maar ik zie maar heel zelden uitgelegd wat algoritmes nu eigenlijk zijn EN NIET ZIJN, leidend tot het bekende torches & pitchforks fenomeen.

[theolice]

Klopt, maar verwachtte je iets anders dan?

[twkr18526]

Comment verwijderd over SSC Flex BV van de gemeente Rotterdam over hoe een gemeente de invulling geeft aan een landelijk beleid (in dit geval tijdelijke contracten na 2 jaar omzetten in vast contract). Dit zijn ervaringen die ik van anderen heb gehoord, maar niets over heb kunnen vinden op Google oid.

[Reactie gewijzigd door twkr18526 op 23 juli 2024 01:13]

[kodak]

Misschien is het je ontgaan, maar we hebben deze week niet zomaar verkiezingen voor gemeentebestuur. Dat komt omdat het lokaalbestuur vanuit de grondwet als eerste zelf verantwoordelijk is en door de burgers verantwoordelijk mag worden gehouden voor hun beslissingen. Dus ook beslissingen die mogelijk ongewenst of zelfs onwettig zijn. Als er iets afschuiven is dan is dat dus zelf geen zin hebben om verantwoordelijk te nemen en te verwachten dat een ander dat wel doet.

[MrMonkE]

zelfs al klopt dit regeltechnisch natuurlijk wel, vind ik het wel heel makkelijk

"niet ons probleem"..

Meer "Mijn God.. dit is potentieel voer voor een verschrikkelijke nachtmerrie! Hier gaan wij onze vingers niet aan branden. Regel zelf maar." denk ik.

[Overheid]

Lekker makkelijk zo'n afschuifsysteem. Hier zijn gemeenten wel vaker de dupe van, en nu de burger dus ook weer.

[GertMenkel]

Op zich klopt het toch? Er is wetgeving die beslist hoe algoritmes wel of niet worden gebruikt, en de gemeente moet zich daar aan houden. Ik zou niet weten wat de minister daar over moet vinden. Als ik vind dat de lokale wethouder zich niet netjes aan de regels houdt, komen daar ook geen kamervragen over.

Als er iemand kan toetsen of dat wel of niet mag, dan is dat de rechter. Als alternatief kunnen er onderzoeken worden opgezet, maar die zijn waardeloos zodra een rechter er zich over buigt die het niet met de onderzoekers eens is.

[Daoka]

Als ik vind dat de lokale wethouder zich niet netjes aan de regels houdt, komen daar ook geen kamervragen over

Misschien is dat wel het probleem. Een burger heeft er geen invloed op, de gemeente zelf zal dit niet zien als probleem (even los of ze dus expres of door onwetendheid dit gedaan wordt). Daarnaast zullen de meeste werknemers van de gemeente ook niet weten of dit wel of niet goed is. Die zien niet wat er op de achtergrond gebeurd. Dus wie blijft er verantwoordelijk voor te zorgen dat dit in goed en volgens de wet blijft gaan? Mensen die boven de gemeente staan. Nee ik verwacht niet dat er dan geen problemen komen maar geen verantwoording hoeven af te leggen (tot het mis gaat/betrapt worden) omdat ze zelf verantwoordelijk zijn vind ik ook wel erg makkelijk. Uiteindelijk kunnen er mensen die er dus niets aan kunnen doen in de problemen komen omdat de verkeerde algoritme is gebruikt. Is dat dan gewoon "Oops pech gehad"?

Nogmaals niet alle problemen zijn te voorkomen. Maar een extra controle kan wel problemen voorkomen.

[Edsger]

Als een lokale wethouder zich niet aan de regels houdt horen daar geen kamer vragen over te komen, maar wel vragen vanuit de gemeenteraad. Daar hoort het thuis.
Leuk dat het SP-kamerlid er hier vragen over stelt, maar die weet dit ook dondersgoed. Die weet ook dat dit het nieuws haalt en dat het een hot-topic is. Maw de oppositie weet ook hoe het de media moet halen.
Verder doet iedereen alsof er al iets mis is in de reacties op het topic. Maar dat er kamervragen worden gesteld wil nog helemaal niet zeggen dat er al iets aan de hand is.

[MSalters]

Het is inderdaad meer een teken van journalistiek onvermogen. Een beetje politiek journalist wéét dat de gemeente door de gemeenteraad wordt gecontroleerd. Die heet niet voor niets zo. Dit hier is een non-artikel.

[bbob]

Een overheid stelt landelijke regels op voor een gemeente.
Lijkt me dat er ergens een controle moet zijn dat deze regels ook zo uitgevoerd worden.
Nu zegt de minister je mag niet te hard rijden, dat moet iedere chauffeur weten maar vraag ons niet daarop te controleren.
Als een parlementslid vraag over regels ook juist uitgevoerd worden lijkt me dat een minister daar gewoon zijn stinkende best voor moet doen. Maar goed deze en de vorige regering hebben maar 1 doel, het frustreren van de 2de kamer.

[MSalters]

Er is inderdaad een orgaan wat toezicht houdt op de gemeentes. Misschien heb je er recent wat over gehoord, het schijnt op het moment in het nieuws te zijn (tot morgenavond 21:00).

[Edsger]

Analoog aan je voorbeeld. Er is een landelijke regel dat je niet te hard mag rijden. De controle of je te hard rijdt binnen de gemeente wordt toch gedaan door de lokale politie?

[latka]

Er zijn ook regels voor het bouwen van datacentra die in Zeewolde gevolgd zijn en toch grijpt de overheid centraal in omdat lokale overheden vaak de kennis niet hebben om alle belangen goed mee te wegen. Daarom dus.

[kodak]

Aangezien gemeenten en burgers al ruim 200 jaar die verantwoordelijkheid vooral zelf hebben kun je dit niet zomaar afschuiven noemen. Daarom zijn er gemeenteraadsverkiezing, daarom draag je ook zelf verantwoordelijkheid je bestuur aan te spreken, daarom heb je recht om bestuur niet zomaar te belonen met een zetel, daarom is er bestuursrecht tot en met de Raad van State aan toe, daarom kun je ook niet zomaar even klagen dat hoger bestuur als provincie of landsbestuur je problemen niet oplost.

[GarBaGe]

Ligt het aan mij, of is dit een beetje raar?
Lijkt me voor de hand liggend dat een overheid (rijksoverheid, provinciaal of gemeentelijk) ALTIJD verantwoordelijk is voor ALLE middelen die ze inzetten om hun werk te doen.
Of ze nu algoritmes gebruiken of niet, lijkt me compleet niet relevant.
Als een overheid besluit algoritmes in te zetten en de resultaten klakkeloos te volgen, zijn ze automatisch verantwoordelijk voor de resultaten.
En niet omdat het algoritmes zijn, maar omdat een overheid altijd verantwoordelijk is voor hun acties.
Een algoritme is maar een middel, net zoals flitskasten, verkeerslichten of strepen op de weg.

[Edsger]

Dat is toch ook wat de minister zegt?
Als je als gemeente een algoritme inzet, moet je je aan de regels voor verwerking van persoonsgegevens houden. Er is een instantie die daar op toeziet (AP).

[jeroen79]

De minister zegt daarmee ook dat zij niet voor verantwoordelijk is voor wat lagere overheden doen en het daarom niet gaat onderzoeken.

[MSalters]

Correct. We hebben drie politieke lagen die elk afzonderlijk gekozen zijn. De minister is niet gekozen in de gemeenteraad van Rotterdam, en moet dus ook niet op de stoel van een Rotterdams raadslid gaan zitten.

[divvid]

Daarnaast is het voor burgers niet mogelijk om erachter te komen hoe het algoritme werkt en of het een rol heeft gespeeld bij de beoordeling op de rechtmatigheid van hun bijstandsuitkering.

M.a.w. Je kan er als burger nooit achter komen of men gehandeld heeft naar het gelijkheidsbeginsel. Alleen dit al zou reden moeten zijn om een bezwaar tegen een beslissing gegrond te verklaren.

Off topic, de term ‘algorithme’ is hier net zo’n holle frase als ‘kunstmatige intelligentie’ .

[Reactie gewijzigd door divvid op 23 juli 2024 01:13]

[Drumar]

Wat me vooral verbaast is dat alleen het algoritme bepaalt of je fraudeur bent. Wat is de controle of door daadwerkelijk het geval is? Een algoritme kan hoogstens melden dat er wat verdachte omstandigheden zijn, het zou gevalideerd moeten worden of hier daadwerkelijk sprake is van fraude (wat weer teruggegeven kan worden aan het algoritme, zodat die beter wordt een ook uitzonderingen kan aangeven)

[ustinov]

Waar lees je dat het algoritme bepaalt of je fraudeur bent?
Op zich maakt het ook niet veel uit. De controles zijn zo ingrijpend en onredelijk dat steeds gecontroleerd worden op zich al een vernederende en belastende ervaring is. Verder interpreteren de ambtenaren de regels zo streng dat ze ook bij goed bedoelende mensen altijd wel iets vinden (tikkie na drinken met vrienden in het cafe maakt je al fraudeur als je het niet meldt).

Het grootste probleem lijkt me dat er bij de lokale overheid vaak geen kennis of ethisch besef is op dit gebied. In de Argos podcast gaan de politici in discussie of bepaalde etnische groepen een verschil in percentage fraudeurs laat zien. Alleen kijken of etnisch profileren (een beetje) werkt. Daarbij voorbij gaand aan dat het geen oorzakelijk verband heeft met frauderen en artikel 1 van de grondwet dit dus verbiedt.

Het lijkt mij een goed idee dat de minister een landelijk expertisecentrum opricht waar de gemeentes hun algoritmen moeten laten toetsen. De AP heeft daar niet de capaciteit voor.

[Drumar]

ietsje anders; ik lees nergens dat er (adequate) controle op de uitkomsten van de algoritmes zijn, en dat je dus (zoals het lijkt) zonder tussenkomst als fraudeur bestempeld wordt.

de vernederende ervaring kan er alleen maar zijn als je aangeklaagd wordt, mijns inziens. Zolang de computer zegt dat ik fraudeur ben, maar de ambtenaar die het controleert het tegendeel zegt, is er nog niet zo veel aan de hand.

Het verveldende is, zoals je wel terecht stelt, dat voor het naleven van de regels elke menselijke maat lijkt te missen. Het lastige daar is weer dat, wanneer dat in de regels verwerkt zou worden, er weer mensen zijn die daar flink misbruik van maken. Toch zou het mogelijk moeten zijn om de menselijke maat te verwerken in de regels (bijv dat giften tot een hoogte van 250 euro per maand niet aangegeven hoeven te worden? ik noem maar wat hoor... )

[Bulkzooi]

Een gateway review (december 2009 uitgevoerd) door een team onder leiding van een Arthur Docters van Leeuwen, oud-voorzitter van de Autoriteit Financiële Markten, had al een snoeihard oordeel over de realisatie van de basisinfrastructuur voor de e-overheid:

Het ICTU draagt niet voldoende aan het resultaat van het NUP. NUP (Nationaal Uitvoeringsprogramma e-overheid en dienstverlening) heeft de routeplanner voor gemeenten.
Een aantal van deze 19 belangrijke NUP voorzieningen zijn ondergebracht bij ICTU. ICTU verbindt programma’s en brengt daardoor meer samenhang. ICTU zorgt met bijvoorbeeld doelgroepprogramma´s voor verbinding van de NUP-programma’s met overheden. Het programma RENOIR, onderdeel van ICTU, deed de regieondersteuning voor het NUP.

Met de VNG-ledenbrief over de Overhedenverklaring werden gemeenten in 2006 geïnformeerd over de ondersteuning die EGEM i-teams gemeenten biedt bij de invoering van de e-overheid.

EGEM heeft het stokje in 2009 overgedragen aan Het Kwaliteitsinstituut Nederlandse gemeenten (KING). Dit doet KING in onderlinge afstemming met RENOIR en de Stichting e-certificering overheid, waar ook delen van de werkzaamheden van EGEM i-teams zijn belegd. KING richt zich op het verbeteren van de kwaliteit van het lokaal bestuur, zowel op het gebied van bestuurskracht, benchmarking als op het gebied van e-dienstverlening. Dit is een initiatief van de Nederlandse gemeentelijke overheden, verzameld in de Vereniging van Nederlandse Gemeenten.