Minister van Justitie: Algoritmeregister moet eind 2025 up-to-date zijn

Het ministerie van Justitie en Veiligheid meent dat het Algoritmeregister tegen uiterlijk eind 2025 up-to-date zal zijn. Op dat moment moeten de ‘hoog risico’-algoritmes ook geregistreerd staan. Het register van de Rijksoverheid bevat momenteel 264 algoritmes.

Volgens demissionair minister van Justitie en Veiligheid Dilan Yesilgöz-Zegerius vergt het een 'forse inspanning' en kost het heel wat tijd om de inventaris van het register, en de daarbij horende publicatie, zorgvuldig te doen. Er zouden namelijk tientallen organisaties met een veelvoud aan algoritmes betrokken zijn en de inspanning gaat volgens de minister niet gepaard met extra financiële middelen.

Er is volgens Yeşilgöz ook sprake van uitzonderlijke gevallen waarbij een registratieplicht van algoritmes kan leiden tot de ondermijning van bijvoorbeeld een opsporingsbelang. Hierdoor zouden de betrokken algoritmes naar verluidt niet volledig gepubliceerd kunnen worden. Volgens de minister wordt er wel gestreefd naar een zo transparant mogelijke communicatie over de algoritmes die worden gebruikt.

Yeşilgöz vindt het naar eigen zeggen belangrijk dat burgers kunnen begrijpen welke algoritmes voor welke doeleinden worden ingezet. De minister stelt dat algoritmes noodzakelijk zijn om medewerkers van het ministerie te ondersteunen tijdens het uitvoeren van hun werkzaamheden. "Dankzij algoritmes zouden die hun werk sneller en beter kunnen doen", klinkt het in de brief aan de Tweede Kamer.

Het Algoritmeregister van de Nederlandse overheid moet een overzicht bieden van de algoritmes die door de overheidsorganisaties worden gebruikt. Het register werd in 2022 aangemaakt en telde toen al gauw 109 algoritmes. In december 2023 stond de teller al op meer dan 250. Toen gaf staatssecretaris Alexandra van Huffelen aan dat het register nog geen zicht bood op het gebruik van algoritmes met een hoog risico. Op het moment van schrijven zijn er 264 algoritmes opgenomen in het register. Tweakers schreef kort na de introductie van het register een uitgebreid achtergrondartikel waarin vijf vragen over de database worden beantwoord.

Reacties (26)

[Orangelights23]

Waarom krijgen ze daar twee jaar de tijd voor? Draaien er op dit moment ergens algoritmes die nergens geïnventariseerd zijn? En wat houdt een hoog risico in, is dit voor burgers mbt de uitkomsten, gaat het om lage consistentie van de algoritmes, potentieel misbruik? Wat gebeurt er als een algoritme met hoog risico niet in het register staat? Hoe weet men of de lijst compleet is, en hoe gaan ze om met algoritmes die nu niet, maar op een later moment wel hoog risico zijn?

Ik blijf dit maar bijzonder vinden. Goed dat er een register komt tbv transparantie, maar het feit dat ze daar twee jaar (!) voor krijgen, geeft mij geen gerust gevoel dat ze het op dit moment onder controle hebben.

[Maurits van Baerle]

Dat lijkt me niet zo vreemd, het gaat waarschijnlijk over vele duizenden algoritmes, sommigen recent, sommigen al 20 jaar oud, sommigen goed onderhouden en voortdurend aangepast, sommigen al 20 jaar in gebruik zonder klachten of wijzigingen, en dat over tientallen organisaties.

Het gaat niet alleen om een enkele dienst als de belastingdienst (die al complex genoeg is). De Gemeente Woerden zal ook ergens een algoritme hebben dat bepaalt of iemand recht heeft op een invalidenparkeervergunning. Hier eentje van het CBR om medische gegevens te toetsen aan de eisen voor rijgeschiktheid. Hier eentje van de Gemeente Den Haag over de registratie van vaartuigen in de Scheveningse haven, ik durf niet na te denken over hoeveel Rotterdam er wel niet heeft alleen al voor de haven.

Voordat je weet of iets een hoog-risico algoritme is moet je eerst weten dat het bestaat, dan uitpluizen hoe het werkt (als het er eentje is die al tien jaar zonder onderhoud gewoon draait moet je misschien ook die ex-werknemers vinden die het destijds hebben gemaakt) en daarna langs de meetlat leggen om te kijken of het hoog, middel of laag risico is.

Nuttig werk maar niet makkelijk of snel.

[Reactie gewijzigd door Maurits van Baerle op 22 juli 2024 22:42]

[sOid]

Goed dat er een register komt tbv transparantie, maar het feit dat ze daar twee jaar (!) voor krijgen, geeft mij geen gerust gevoel dat ze het op dit moment onder controle hebben.

Je gevoel klopt ook. Althans: bij de organisaties die ik ken zijn inderdaad niet alle algoritmen in beeld.

Ik ben er niet dagelijks mee bezig dus het kan zijn dat mijn kennis is gedateerd, maar wat ik van collega’s begrijp zijn er diverse problemen met het register.

Ten eerste zijn de scope en definitie onduidelijk afgebakend. Er worden vanuit de overheid verschillende definities van een algoritme gebruikt. Da’s niet erg bevorderlijk voor de scope van de inventarisatie.

Ten tweede gebruiken veel (uitvoerende) overheden applicaties en algoritmen van derden (lees: leveranciers). Daar lopen we soms tegen een muur op als we vragen om opheldering over hun algoritme(n). Gedoe met intellectueel eigendom en concurrentiepositie etc.

Er komt wel steeds meer aandacht voor het gebruik van algoritmen. Bijvoorbeeld bij aanbestedingen. Er worden DPIA’s, DEDA-sessies etc uitgevoerd. Maar dit kost dus tijd. Je moet ergens beginnen

[Reactie gewijzigd door sOid op 22 juli 2024 22:42]

[cariolive23]

Je gevoel klopt ook. Althans: bij de organisaties die ik ken zijn inderdaad niet alle algoritmen in beeld.

Dat zegt dan veel over hun werkwijze, blijkbaar hebben ze geen idee wat ze doen.

maar wat ik van collega’s begrijp zijn er diverse problemen met het register.

Dat is een opmerking die altijd waar is en op elk mogelijk onderwerp van toepassing is.

Ten tweede gebruiken veel (uitvoerende) overheden applicaties en algoritmen van derden (lees: leveranciers). Daar lopen we soms tegen een muur op als we vragen om opheldering over hun algoritme(n). Gedoe met intellectueel eigendom en concurrentiepositie etc.

Blijkbaar heb je dan nog niet gelezen wat er moet worden geregistreerd: Dit is zo hoog over, er wordt zelfs niet geregistreerd welke data wordt gebruikt voor het algoritme. Er staat dat er een algoritme is, waar het wordt gebruikt, een omschrijving van één regel, hoe het toezicht is geregeld en dat was het wel zo'n beetje.

https://algoritmes.overheid.nl/nl/algoritme/31934363

[sOid]

Dat zegt dan veel over hun werkwijze, blijkbaar hebben ze geen idee wat ze doen.

Dat is wel héél kort door de bocht. Neem een webformulier met een boomstructuur erin. Of een vragenlijst waarbij je aan de hand van een bepaalde keuze op een later moment bepaalde vragen overslaat. Onder sommige definities wordt dat als algoritme gezien.

Dat is een opmerking die altijd waar is en op elk mogelijk onderwerp van toepassing is.

Wat wil je hiermee zeggen dan? Het register is op verschillende vlakken niet goed uitgedacht en heeft eea aan uitdagingen. Maar dat is blijkbaar raar km te zeggen omdat het op elk mogelijk onderwerp van toepassing is? Opmerkelijke redenatie.

Blijkbaar heb je dan nog niet gelezen wat er moet worden geregistreerd: Dit is zo hoog over, er wordt zelfs niet geregistreerd welke data wordt gebruikt voor het algoritme.

Klopt, en is onderdeel van het probleem. Maar om in te kunnen schatten of iets een hoog of laag risico heeft, moet je dus meer weten van de werking van een algoritme.

Daarnaast: als je het goed wil doen (zoals wij trachten) wil je sowieso voor interne registratie meer info dan op dit moment wordt uitgevraagd in het register zelf.

[cariolive23]

Onder sommige definities wordt dat als algoritme gezien.

Dan registreer je deze toch?

Wat wil je hiermee zeggen dan?

Daarmee wil ik zeggen dat er niets is dat perfect is. Eisen dat iets perfect is, is totaal kansloos. Roei met de riemen die je hebt en stop met zeuren.

Het register is op verschillende vlakken niet goed uitgedacht en heeft eea aan uitdagingen.

Jammer maar helaas, dit is wat je hebt en hier zul je het (voorlopig) mee moeten doen.

Maar om in te kunnen schatten of iets een hoog of laag risico heeft, moet je dus meer weten van de werking van een algoritme.

Totaal niet mee eens, maar dan ook echt totaal niet mee eens. Het gaat om de data die je er in stopt, waar hoe je het resultaat valideert en waar je het resultaat voor gebruikt. Maar het "hoe" is echt totaal irrelevant.

Of je nou een beslisboom of een neuraal netwerk gebruikt, zodra je daar afkomst of geloof in gaat stoppen, weet je dat de risico's enorm toenemen. Ga op basis van de uitkomst geautomatiseerd actie ondernemen op de mensen die het betreft, gaan de risico's nog verder toenemen. Ga je 1x paar in een commissie een uurtje vergaderen over de uitkomst van alle scores, weet je dat je heel fout bezig bent.

En daarom is het "hoe" niet relevant. De registratie dat een beslisboom of neuraal netwerk wordt gebruikt, is goed genoeg. En iedere leverancier van software kan je dat vertellen, daar is echt niks geheims aan. Staat vaak zelfs in de brochure, gooien ze iedere potentiële klant dood mee.

Daarnaast: als je het goed wil doen (zoals wij trachten) wil je sowieso voor interne registratie meer info dan op dit moment wordt uitgevraagd in het register zelf.

Daarmee vergroot je de scope en zorg je dus bewust voor vertraging van de implementatie. Wat je hier benoemt, is precies wat je NIET moet doen. Althans niet in eerste instantie want dat is helemaal niet het doel van deze registratie. Dat jullie vervolgens nog nieuwe doelen gaan opstellen, prima, maar dat is voor fase 2 wat buiten de scope van de registratie valt.

[StackMySwitchUp]

Je doet wel zeer kort door de bocht, je weet zelf ook wel dat alles wat de overheid doet onder een vergrootglas ligt, en als er een keer een foute categorisering of aanname is, dat er gelijk 30 armchair-experts opstaan om wel even aan te wijzen welke fouten er allemaal zijn gemaakt. Bovendien: stel dat in een totaal hypothetisch scenario een toeslagen-algoritme wordt gecategoriseerd als hoog risico, en dat publiceert de overheid, dan is gelijk het hek van de dam en wordt er een toeslagenschandaal #2 geclaimed. Je moet het als overheid in zo'n geval 100% correct doen. Als je dan nog bedenkt dat er 50 bestuur lagen en ministeries tussen zitten en iedereen er wat van vindt (zo blijkt uit de comments) dan vind ik 2 jaar nog niet zo gek.
Het kan vast sneller, maar vast niet met het huidige stelsel.

[bzzzt]

Jammer maar helaas, dit is wat je hebt en hier zul je het (voorlopig) mee moeten doen.

In het geval van overheden waarop al jaren veel bezuinigd wordt: met welk personeel?

Je kan wel roepen dat iets wat eerder zonder registratie mocht worden gebruikt ineens geregistreerd wordt, maar dat registreren vereist wel dat er door ter zake kundige mensen beoordeeld moet worden waar een algoritme begint en ophoudt. Je krijgt bij het nemen van zo'n maatregel echt geen blik experts cadeau.
En is dit echt zo belangrijk dat letterlijk alles er nu voor moet wijken? (moet jouw uitkering, studiebeurs of belastingteruggave dan maar een paar maanden/jaar later overgemaakt worden omdat er algoritmes moeten worden geïnventariseerd?)

[Tintel]

Totaal niet mee eens, maar dan ook echt totaal niet mee eens. Het gaat om de data die je er in stopt, waar hoe je het resultaat valideert en waar je het resultaat voor gebruikt. Maar het "hoe" is echt totaal irrelevant.

Als je hiermee bedoelt dat ook geregistreerd moet worden welke soort data (dus zoiets als: leeftijd) wordt gebruikt dan ben ik het hier deels mee eens. Want een algoritme extern specificeren is niet altijd zo simpel.

Maar wat nu als die soort data is: leeftijd en 'koopgedrag'? Of is dat dan te grof? Met koopgedrag bedoel ik dan "transacties van de laatste periode met een bedrag hoger dan X".
En de output is: fraudeert deze persoon (die een uitkering krijgt): ja/nee.

Dan is dit dus een hoog risico variant. Maar hoe beoordeelt dat algoritme dan?
Ik zou toch wel een soort 'use-case' willen zien van het algoritme.

[K0L3N]

Ik vermoed een combinatie van onduidelijkheid van wat een algoritme is dat op de lijst moet komen, en een enorme stapel andere prioriteiten die boven dit item op de lijst staan.

[Webgnome]

Dit hebben ze niet onder controle anders was er geen register nodig. Argos heeft al meerdere malen aangetoond dat de overheid ( diverse lagen ) echt sch... hebben aan het correct gebruik van algoritmes ( excel sheets met moeilijke berekeningen zijn ook al algoritmes ) en als 'computer says no' uiteindelijk is het ook zo. Vooral het algoritme dat in Rotterdam werd gebruikt om te kijken of je een risico was bij een aanvraag van een uitkering is een beruchte

[Reactie gewijzigd door Webgnome op 22 juli 2024 22:42]

[laptopleon]

Je bedoelt schi…

[B Tender]

Zie maar eens een werkbare definitie te bedenken voor 'algoritme' waarin duidelijk, consistent en herleidbaar kan worden bepaald welke Excel-berekening een algoritme is en welke niet.

Als elke Excel-formule die wat verder gaat dan een VLOOKUPje of een SUMIFSje al richting algoritme gaat dan heb je het denk ik over miljoenen of miljarden algoritmes (helemaal als je de formule in cel A2 en de soortgelijke formule in cel A3 als twee separate algoritmes zou definiëren (maar dan komen we weer bij definities uit).

[Ozzy]

Reken maar vast op een brief aan de kamer over 2 jaar, dat ze meer tijd nodig hebben, omdat het allemaal moeilijk moeilijk moeilijk is. Als de BV Nederland echt een BV was waren ze al talloze keren aangeklaagd en failliet verklaard. En dat is echt niet alleen maar IT-gerelateerd.

We hebben iedere 4 jaar (ongeveer) weliswaar nieuwe politiek verantwoordelijken, maar de topambtenaren die daadwerkelijk de uitvoering doen blijven dezelfde. Ondanks de bewezen onkunde (en zelfs onrechtmatigheid) worden die de hand boven het hoofd gehouden.

[MSalters]

de topambtenaren die daadwerkelijk de uitvoering doen blijven dezelfde.

Topambtenaren die de uitvoering doen? Serieus?

Een topambtenaar komt niet eens in de buurt van de uitvoering. Dat delegeren ze naar het middle management.

En topambtenaren blijven ook al decennia niet op hun plek. Die switchen elke paar jaar, om te voorkomen dat ze te veel geassocieerd raken met één vakgebied.

[GameNympho]

Daarom duurt het bij deze minister, 2 jaar. Je kan nm al op je vingers natellen dat dit langer gaat duren met elke smoes die ze kunnen verzinnen om dit uit te stellen naar de 4 jaar en dan het dossier overhandigen aan de volgende en we beginnen weer van vooraf aan .
Waarom geen algoritme die dit allemaal controleert en in kaart brengt? Hoeft echt geen 2 jaar te duren.

[ALRD]

Als de BV Nederland echt een BV was waren ze al talloze keren aangeklaagd en failliet verklaard. En dat is echt niet alleen maar IT-gerelateerd.

Nou, laten we er dan maar mee stoppen. /S

[laptopleon]

Ik begrijp de goede intentie maar ‘de overheid’ (want dit zal niet alleen over de rijksoverheid gaan) bestaat in de praktijk uit zoveel verschillende organisaties met totaal verschillende doelen, samenstellingen en structuren dat je bij voorbaat al weet dat dit in het gunstigste geval een groot deel van de algoritmen gaat bevatten.

En dan nog, aanmelden is één ding, maar up to date houden is al net zo lastig.

[sOid]

…moet een overzicht bieden van de algoritmes die door de rijksoverheid worden gebruikt.

@JayStout Dit klopt niet. Het algoritmeregister is ook voor lokale overheden en, dacht ik, uitvoeringsinstanties.

[Schway]

Klopt! Gemeentes staan er tussen, KvK, Inspecties, Cjib, provincies, rvo.
Duo zie ik zo snel niet.

[JayStout]

Aangepast!

[joost00719]

In principe is het berekenen van iets al een algoritme, zoals een password hash. Maar vanaf wanneer moet zoiets geregistreerd worden?

[Reactie gewijzigd door joost00719 op 22 juli 2024 22:42]

[3R!K]

Algorithm: (noun) word used by programmers when they do not want to explain what they did.

[droofx]

Maak eerst maar eens een algoritme dat bepaalt of iets een algoritme is. En dat algoritme gaat natuurlijk ook op de lijst

[fvanunen]

Als het vier jaar duurt om dat register compleet te krijgen, dan schiet het de bedoelde functionaliteit voorbij. Niks mis met hoe het vroeger ging, gewoon humaan. Stel maar veel meer ambtenaren aan en werk op alle besluiten maar niet meer met algoritmes. Dan kunnen schandalen zoals de toeslagenaffaires en dergelijke ook niet meer zo grootschalig plaatsvinden. Computers zijn een hulpmiddel, niet een doel op zich.

[jmsaow]

Er is volgens Yeşilgöz ook sprake van uitzonderlijke gevallen waarbij een registratieplicht van algoritmen kan leiden tot de ondermijning van bijvoorbeeld een opsporingsbelang. Hierdoor zouden de betrokken algoritmen naar verluidt niet volledig gepubliceerd kunnen worden.

Dus alles mag en soms wordt het wel gepubliceerd. Onbetrouwbaar dus.