Algoritmeregister bevat meer dan 500 algoritmes, weinig van Rijksoverheid

Het Nederlandse algoritmeregister bevat meer dan 500 algoritmes. In de ruim anderhalf jaar na de oprichting zijn er bijna 400 besluitvormingsalgoritmes toegevoegd aan het register, dat eind volgend jaar up-to-date moet zijn.

Het algoritmeregister bevat inmiddels 502 algoritmes. De drie algoritmes die het aantal over de symbolische grens hebben getrokken, zijn eerder deze week toegevoegd. Het gaat om een algoritme van de gemeente Stadskanaal om documenten automatisch te anonimiseren, een algoritme om te bepalen wie een vergoeding krijgt voor de aardbevingsschade in Groningen en een gezichtsherkenningsalgoritme dat bij de Registratie Niet-Ingezetenen wordt ingezet.

Het aantal algoritmes is daarmee in de afgelopen anderhalf jaar flink gegroeid. Toen het register in december 2022 van start ging, gebeurde dat met 109 algoritmes. In de 21 maanden zijn er dus 393 algoritmes toegevoegd aan het register. De meeste algoritmes die nu in het register staan, zijn afkomstig van Nederlandse gemeenten, die er 365 hebben aangedragen. Van die gemeenten zijn Amsterdam, Utrecht en Den Haag de belangrijkste leveranciers, met 43, 40 en 32 algoritmes.

Opvallend is dat er maar weinig algoritmes van Rijksoverheidsinstellingen in het register staan opgenomen. Slechts 13 van de 502 algoritmes zijn afkomstig van een ministerie. Het algoritmeregister komt grotendeels voort uit de toeslagenaffaire, waarbij discriminerende risicoalgoritmes van de Belastingdienst centraal stonden. De Belastingdienst heeft nu zes algoritmes in het register staan. Die vallen overigens onder de categorie 'organisatieonderdeel', waar in totaal veertien algoritmes onder vallen. Bij de start van het register had de Belastingdienst nog één algoritme online staan.

Ook opvallend is dat de Nationale Politie slechts één algoritme in het register heeft opgenomen. Dat is het Criminaliteits Anticipatie Systeem, waarmee politieteams kunnen zien waar criminaliteit wordt verwacht en op welke momenten.

Het algoritmeregister bestaat sinds eind 2022 en werd in december van dat jaar geopend door toenmalig staatssecretaris Van Huffelen van Digitalisering. Het register komt vanuit een wens van de politiek in de nasleep van de toeslagenaffaire, maar het is ook ter voorbereiding op de AI-verordening. In het register staan algoritmes die overheidsinstellingen gebruiken, specifiek voor geautomatiseerde besluitvorming op basis van persoonsgegevens. Er is geen vaste definitie van wat de overheid onder een algoritme verstaat, maar Van Huffelen omschreef dat eerder tegen Tweakers als 'algoritmes die een impact op mensen en invloed op beleid hebben'.

De groei van het register begon moeizaam. Een half jaar na de start waren er slechts acht nieuwe algoritmes toegevoegd. Vorig jaar zei de toenmalig minister van Justite en Veiligheid dat het register eind 2025 up-to-date moet zijn. Eind vorig jaar was het nog niet mogelijk om hoogrisicoalgoritmes in te zien. Inmiddels kunnen gebruikers wel 'hoogrisico-AI-systemen' inzien.

Reacties (27)

[struukkel]

Voor het overzicht helpt het ook niet dat sommige organisaties een eigen register hebben. De gemeente Amsterdam heeft bijvoorbeeld een website met 45 algoritmes. Dat zijn er twee meer dan in het register van het Rijk. En een snelle blik leert dat de status van het eerste algoritme verschilt tussen de registers. Voor de gemeente Rotterdam geldt hetzelfde. Op de eigen website staan 20 algoritmes en in het register van het Rijk 17. En ook hier is de status niet overal hetzelfde.

[Reactie gewijzigd door struukkel op 20 september 2024 20:29]

[jdh009]

Het is eigenlijk best begrijpelijk dat sommige organisaties ervoor kiezen lokale versie van het algoritmeregister te beheren, gezien lokale burgers eerder geneigd zijn iets te zoeken op de gemeentelijke website dan op een minder bekende, specialistische website van het Rijk. Echter, het probleem wat jij beschrijft ligt bij de gebrekkige synchronisatie tussen deze registers. Dit zou de overheid eenvoudig kunnen oplossen door, zoals bij andere landelijke registers synchronisatie mogelijk te maken tussen de gemeentelijke en landelijke versie.

Daarnaast valt op dat het huidige register verre van compleet is. Een aantal flink gemeenten mist compleet en ook algoritmes waarvan ik weet dat ze bestaan ontbreken bij gemeente die er reeds zaken hebben toegevoegd. Zo gebruiken meerdere gemeenten scanauto’s voor bijvoorbeeld het handhaven van parkeervoorschriften, maar deze zijn niet allemaal vermeld in het register. Een ander voorbeeld is het gebruik van Zivver door diverse gemeenten, terwijl er al een flink aantal instaan (met drie verschillende namen, gelukkig wel dezelfde beschrijving) zijn er toch gemeenten die dit niet hebben opgenomen in het register, ondanks dat het bij twee wel op hun eigen website staat.

[Reactie gewijzigd door jdh009 op 20 september 2024 20:16]

[JurGor]

Tja. Als de landelijke overheid de ene taak na de andere bij de gemeentes neerlegt en vervolgens niet over de brug komt met het geld dat ervoor nodig is om die taken uit te voeren, dan gaan er appels uit de mand vallen.

Die paar gemeentes die het wel goed doen, moeten het waarschijnlijk hebben van een ijverige ambtenaar op het dossier die hier op persoonlijke titel extra werk van maakt. Want reken maar dat er hele goede mensen bij onze gemeentes werken.

[oNNoZeLe]

Wat ik in het hele stuk en reacties mis is dat het registreren van algo’s in een register helemaal geen wettelijke verplichting is.

Er is dus ook geen “gemeenten die het goed doen” ..

Alles wat er nu staat is op basis van een ambitie of overtuiging. Hetzelfde geldt voor een sensorregister of een opendata portaal etc etc..

[latka]

Wat dacht je van een linkje op de gemeentesite naar het centrale register? Dan hoef je geen moeilijke syncs te bouwen. Scheelt ook in de beeldvorming: dan is direkt duidelijk dat er maar 1 register is. Met kopieen links en rechts weet je van vorern niet meer wat er van achteren gebeurt.

[lDDQD]

Yup, hanteer nou gewoon een centrale register ipv losse registers. Makkelijker voor de burger én makkelijker in beheer.

[atillav]

Het algotime register is een farce. Ten eerste lees ik bijna allemaal programmatische werking. Dat is geen algoritme.Dat krijg je als je juristen regels laat opstellen voor zaken waar geen verstand van hebben. En politici zijn voor mij helemaal uit den boze om hier iets over te roepen. Die zijn alleen gekozen. Die angst voor algoritmen zijn bijna geheel te danken aan de toeslagenaffaire. Alsof daar een of andere heel spannende zelfschrijvende programmatuur kwetsbare inwoners uit een database aan het spugen was. Ik weet het niet zeker, maar durf te wedden dat uiteindelijk (onder hoge druk en veel protesten) er in een hele saaie database velden zijn toegevoegd (aals aanvulling op de BRP velden) zoals etniciteit en schuldpositeis (ik noem maar wat) en dat er gewoon zoekopdrachten zijn gemaakt die deze kwetsbare groep in beeld brachten. Zowel die extra velden als de opdrachten zijn niet het gevolg van een geheimzinnige computer, of algoritmen of nog spannender AI, maar puur menselijk handelen. Wat ik in deze nog steeds zo willen weten: ik kan mij niet voorstellen dat een DBA-er op een lome dinsdag dit in elkaar heeft zitten frutten .Daar moet opdracht voor gegeven zijn en ik ben zeer benieuwd hoeveel mensen daarbij betrokken zijn geweest. Die mogen er morgen allemaal uit.

On topic: een algorime is een oplossing voor probleem, beschreven op een wiskundige manier (probeer her maar populitisch te beschrijven). Daarmee is een algoritme geen computerprogramma. Veel algorimen worden gebruikt (vertaald) naar heel veel verschillende programmeertalen. De meeste algortimen zijn zoek en benaderingsalgortimen, zoals quick-sort, bubble-sort, etc.... Die gebruiken we al tienatllen jaren, daar is een groot deel van de iT op gebaseerd.

Dat gezegd hebbende, vraag ik mij af wat een lijst van saaie zoek en benaderingsalgoritmen nu gaat bedragen aan de transparantie van zaken die het daglicht niet kunnen verdragen, Ik gok dat de databaase die in de toeslagenaffaire een rol spelen, gewoon een intern opgetuigde database was en er geen leverancier aan te pas is gekomen. Een database optuigen kan elke tiener met een PC. Laten we het niet spanneder maken dan het is.

De vraag is: hoe voorkom je dat overheden (en organisaties) databases optuigen die NIET AVG-proof zijn? Dat zou je al die databases moeten gaan controleren. Kijk dan beginnen we een gesprek te voeren. Laten we nu niet in de overheidspaniek reactie schieten en een heel leger controlleurs gaan recruteren (auditors, etc...). Het zou een closed loop moeten worden, waarbij elke digitale gegevensverzameling "automatisch" zijn datamodel en zoekopdrachten beschikbaar stelt. Dit zal niet makkelijlijk zijn, maar wel veel makellijker te controleren. Het gaat hier om de wil om dit te doen, dan valste veiligheid te suggeren.

[Reactie gewijzigd door atillav op 22 september 2024 11:27]

[oNNoZeLe]

Het lijkt een farce maar wat nergens geschreven wordt is dat het helemaal niet wettelijk verplicht is om je algoritmes te registreren..

Dus alles wat er nu staat is puur omdat die organisatie dit zelf wilde opvoeren.
Een keuze tussen MOETEN en WILLEN.

[karma4]

Je zit zeer dicht bij de waarheid. Toen was de dienst toeslagen een zelfstandige eenheid binnen de BD.
Zelf dataverwerkingen bedenken opzetten en uitvoeren. De basis administraties vertoonden en vertonen nogal wat onvolkomenheden waarbij er bij de uitvoering de problemen ontstaan.

Een kopie van BRP omdat deze decentraal bij de gemeentes als taak ligt met alle hiaten aan die kant maakt en maakte het er niet beter op. Als die optraden is het menselijk handwerk om uit te zoeken wat daar aan de hand was. Als hulpmiddel had men niets aan het IV systeem dan excel word of FSV met de daar vrije velden voor eigen notities te gebruiken. Etniciteit toevoegen is een spookidee, in de BRP was en is nederlanderschap van belang. Probleem daarbij welk veld daar van belang was aangezien er meerdere waren. Vergeet niet dat Het herbouwen van BRP faliekant mislukt is.

De menselijke toezichthouders moesten zelf verzinnen hoe ze fraude zouden kunnen herkennen. Dat betekent dat met een zaak als de appelbloesem overeenkomstige fraudeurs gezocht werd.
Dit fenomeen van niet weten hoe de fraudeurs aan te pakken zie je met de zorg (wel declareren niet leveren) whatsapp fraude terug. Het mes snijdt aan meerdere kanten waar het mis gaat.

Het algoritmeregister als uitleg van wetgeving en wettelijke regels is behoorlijk onzinnig net zoals het niet niet de handboeken van de politie hoe handhaving uit te voeren mag en kan invullen.

[ApexAlpha]

Dit klinkt mij toch een beetje als een typisch Nederlandse bureaucratische oplossing. Wat heb je nu aan een register dat vaag de werking van algemene algoritmes beschrijft.

Alsof het wilde dieren zijn met gedrag dat we moeten bestuderen. Typische regelgeving die recht uit de Tweede Kamer komt dit...

Wat heb je hier nou echt aan: https://algoritmes.overhe...ngdienst/88839628#werking

[mr_obb]

Het Algoritmeregister blijft voor mij ook een lastig fenomeen. Ik vind het geen ideale oplossing, maar het is wel een middel dat voor verschillende doelgroepen iets biedt. Voor allemaal misschien niet het ideale middel, maar beter dan niets. Ik licht er even drie doelgroepen uit.

Wat mij betreft de voornaamste doelgroep zijn journalisten en politici. Zij kunnen op basis van dit register veel gerichter vragen stellen. En daardoor kunnen ze ook beter de maatschappelijke discussie richting geven over wat we wel en niet met algoritmes willen binnen de overheid. Zelf heb ik ook een algoritme beschreven dat in het register staat en daarover is ook een WOO-verzoek van een journalist geweest. Als die journalist hier iets in ziet dat hij aan de kaak wil stellen, dan kan hij dat nu.

De tweede doelgroep is de burger, zoals jijzelf. Om even het voorbeeld dat jij zelf uit het register hebt gehaald te gebruiken: als jouw betalingsregeling bij de belastingdienst wordt geweigerd, weet je nu dat er in dat proces een algoritme gebruikt is. Daardoor kan je tijdens je bezwaarprocedure ook opvragen wat voor gegevens het algoritme ingegaan zijn en wat het resultaat was. Uit jurisprudentie blijkt dat ook rechters hier steeds vaker naar kijken en de partij die deze gegevens opvraagt in het gelijk stelt.

De derde groep is de organisatie zelf. Veel algoritmes zijn ouder dan de toeslagenaffaire en vaak ook ouder dan de AVG. Door het publiceren in het register worden deze allemaal tegen het licht gehouden en worden er ook daadwerkelijk algoritmes aangepast of uitgeschakeld. Het register functioneert dus ook om de bewustwording binnen organisaties te verbeteren.

Dus is het ideaal? Zeker niet. Maar ik vond het een stap vooruit ten opzichte van hoe het hiervoor was.

[robsky]

Niet ideaal inderdaad. Ik heb even enkele algoritmen van de belastingdienst doorgelezen en de enige van de politie. De werking van de algoritmen is in zeer algemene woorden beschreven. Eerlijk gezegd vind ik het register op deze manier een wassen neus. Immers, een buitenstaander die de besluitvormingsmethodiek op basis van dit algoritme wil controleren of toetsen, al dan niet met vragen aan de eigenaar van het algoritme, kan hier vrij weinig mee. Het doet mij denken aan het zwart lakken van passages uit documenten waarbij zou worden voldaan aan de WOB of informeren van de Kamer, maar in feite de cruciale informatie gewoon weglakt.

Als men dit register dan optuigt, dan mag je verwachten welke concrete informatie nu echt wordt gebruikt en hoe een eventuele 'rekensom' nu echt wordt uitgevoerd. Nu heb ik slechts een idee van de gegevens waarmee gewerkt wordt, dat is inderdaad een stap in de goede richting. Men weet ongeveer waarmee gewerkt wordt, maar het is nog steeds onvoldoende, zo op het eerste gezicht in ieder geval om echt een steun in de rug te kunnen zijn om de overheid of instantie te kunnen controleren.

[TMC]

Er is nu niet heel veel directe meerwaarde voor de burger. Maar het dwingt overheidsinstanties om transparant te zijn en dingen inzichtelijk te houden. Dat is een goede eerste stap.

Daarnaast is er nu een gedeelde waarheid over wat er wel en niet in de praktijk wordt toegepast. Dat neemt ruis weg.

[oNNoZeLe]

Het dwingt helemaal niets omdat het simpelweg nog geen verplichting is en alles wat er nu geregistreerd staat op ‘ambitie’ of eigen inzien is.

[TMC]

Mee eens dat er geen echte dwang is, maar het legt wel druk op. Net zoals een QR-code beleid niemand 'dwingt' om zich te laten vaccineren.

[Quintiemero]

Maar gemeente kregen taart! Ijverig projectleidertje die kwantiteit boven kwaliteit koos).

[Powerblast]

Zie hier zelf ook het nut niet van in. Buiten misschien transparantie naar de burger toe? Verder lijkt me dit vrij nutteloos, of ik moet wat missen

[MornixRS]

Als je klikt op download dit algoritme dan krijg je toch redelijk wat informatie over wat het doet en hoe het wordt toegepast.

[SilkensJ]

Ik vraag me af of zoiets voldoende up to date wordt gehouden als zelfs de gemiddelde Confluence pagina van menig IT projecten amper onderhouden worden. Ook in BE, werd zoiets geopperd.

https://datanews.knack.be...goritmes-bij-de-overheid/

[Powerblast]

Vraag is ook of de gemiddelde burger hier wat aan heeft. Als ITer snap je misschien wat er uitgelegd wordt maar een gemiddelde burger weet volgens mij al niet wat een “algoritme” is. Op zich wel ok dat ze dit willen doen, maar of het echt nu heeft. Dat is iets andere vrees ik

[Reactie gewijzigd door Powerblast op 20 september 2024 18:46]

[Quintiemero]

Ook lastig als partijen die er verstand van zouden moeten hebben ook andere definities hanteren

[Chip.]

Ben ik de enigste die zich afvraagt waarom een gemeente zelf een algorithm ontwikkeld om documenten automatisch te anonimiseren? Zou verwachten dat zoiets centraal geregeld word en waar alle andere gemeente / overheidsdiensten gebruik van kunnen maken... Zitten ze nu allemaal het wiel opnieuw uit te vinden?

[Bitfreakie]

De gemeente heeft het niet zelf ontwikkeld. Het is software die ze afnemen bij het bedrijf DataMask. Zie onderaan deze pagina: https://algoritmes.overhe...dskanaal/13672951#werking

Mij aanname is dat ze het in het register hebben opgenomen omdat het nu eenmaal wordt gebruikt. Er zijn veel meer organisaties die software van deze leverancier gebruiken, dan krijg je dus wel dubbelingen als iedereen het in het register laat opnemen.

[Floort]

Bovendien wordt specifiek het gebruik van DataMask structureel onjuist ingevuld in het register. Er zijn nu veertien gemeenten die in het register aangeven dat er publiek beschikbare broncode van DataMask beschikbaar is. Bij navraag kan niemand aan wie ik het gevraagd heb die broncode ook daadwerkelijk aanleveren. Een deel van de gemeenten aan wie ik het heb gevraagd heeft de registratie aangepast om niet meer te claimen dat er wel openbare broncode beschikbaar is. Maar het project van het algoritmeregister is niet verantwoordelijk voor de kwaliteit van registraties, wel voor het aantal registraties. Het kost mij ongeveer een maand, soms enkele maanden om een fout in een enkel veld van een enkele registratie gecorrigeerd te krijgen. Alleen al het ene veld van publiek beschikbare broncode is door ongeveer 70% die iets heeft ingevuld onjuist ingevuld. Dat percentage was eerder nog hoger.
Ik vraag mij af wat de kwaliteit van de registraties is bij velden die niet makkelijk van buitenaf te controleren zijn. Ik maak me ernstige zorgen om de betrouwbaarheid van registraties.

[Recursio]

@TijsZonderH

Ook opvallend is dat de Nationale Politie slechts een algoritme in het register heeft opgenomen.

Ook opvallend is dat de Nationale Politie slechts één algoritme in het register heeft opgenomen.

[_eXistenZ_]

Staan hier alleen lieve algoritmes in of ook stoute?

[oNNoZeLe]

er is nog geen verplichting dus ik denk alleen lieve en verwacht ook dat de stoute er nooit in zullen komen. Dit zit ook de verplichting in de weg natuurlijk..

Een algoritme openbaar publiceren over hoe je boeven vangt zal niet wenselijk zijn.. verwacht ik