Nederland zet register met algoritmes online: 5 vragen over deze database

Nederland is weer een database rijker. Staatssecretaris van Digitalisering Alexandra van Huffelen heeft op woensdag het landelijke algoritmeregister gepresenteerd. Daarin maken overheidsinstellingen openbaar hoe ze tot geautomatiseerde besluiten komen. Wat staat daar in en wat moeten we ermee? 5 vragen over het algoritmeregister.

1. Wat is het algoritmeregister?

Het register is te vinden op algoritme.overheid.nl. Aan de site werd al weken in het semi-openbaar gewerkt, maar op woensdagmiddag stuurde staatssecretaris Alexandra van Huffelen van Digitalisering een brief naar de Tweede Kamer waarin ze het register officieel aankondigt.

In het register staan op dit moment 109 algoritmes die verschillende Nederlandse overheidsinstellingen gebruiken. Sommige komen van de Rijksoverheid, zoals deze van de Rijksdienst voor Identiteitsgegevens waarmee geautomatiseerd de kenmerken van een pasfoto in een identiteitsbewijs worden gecontroleerd, of dit, een algoritme van de Belastingdienst waarmee de huurtoeslag berekend wordt. Ook zijn er algoritmes van gemeenten, provincies en van zelfstandige bestuursorganen zoals het kadaster. Een lijst van alle algoritmes is te downloaden als .csv-bestand.

Maar wat staat er dan precies in dat register? Om te beginnen: dat is niet de broncode van de algoritmes, of zelfs een voorbeeldberekening. Het register is in de eerste plaats een overzicht. Wat wordt er her en der gebruikt en met welk doel?. Bij de algoritmes die zijn opgenomen, staat een korte beschrijving van de naam, de instelling en de afdeling die ervoor verantwoordelijk is. Daarnaast staan er verwijzingen naar externe websites met meer informatie. Het register beschrijft ook het doel, de impact en de proportionaliteit van algoritmes. Overheden die een algoritme bouwen of laten bouwen, moeten daar bijvoorbeeld een privacy impact assessment op laten doen. Daarin staat hoe de data wordt gebruikt en hoe de privacyinbreuk van burgers wordt geminimaliseerd. Dat assessment, of in ieder geval een link ernaar, staat ook in het register. Daarnaast staat er welke databronnen er worden gebruikt, of er toetsen op zijn gedaan, of er menselijke tussenkomst is - kortom, alle relevante informatie die je nodig hebt om te weten hoe de overheid algoritmes gebruikt.

2. De Belastingdienst gebruikt maar één algoritme? Press x to doubt...

Dat klopt, het algoritmeregister is nog niet compleet. Dat geeft Van Huffelen ook toe in haar Kamerbrief. "Het is belangrijk om te benadrukken dat dit register een eerste versie is", schrijft Van Huffelen. "Er is hard gewerkt om deze versie te realiseren. Daarmee laat ik zien hoe het kan werken, maar verdere doorontwikkeling is beslist nodig."

Staatssecretaris Alexandra van Huffelen van Digitalisering

Veel van de 109 algoritmes die er op dit moment in het register staan, waren al openbaar en stonden in lokale registers. Zo heeft Amsterdam al jaren een eigen register. De rest van het landelijke register is ook grotendeels gebaseerd op wat er in die openbare registers stond. "Deze eerste opzet is gemaakt op basis van wat er al was bij bijvoorbeeld de gemeentes Amsterdam en Rotterdam", zegt Van Huffelen in gesprek met Tweakers. "De standaard die we nu gebruiken, is een beetje informeel tot stand gekomen door wat we in die twee steden zagen. Daar werken we verder nog aan."

In de toekomst is het de bedoeling dat álle overheidsalgoritmes in het register verschijnen. Dat moet geautomatiseerd gaan gebeuren. Nu zijn de algoritmes nog handmatig ingevoerd, maar in de toekomst wil de staatssecretaris een metadatastandaard opstellen die alle nieuwe en bestaande overheidsalgoritmes moeten volgen. "Het komende jaar zal ik een aantal vervolgstappen zetten: de metadatastandaard verder ontwikkelen, de website verbeteren, publicatie van algoritmes door overheidsorganisaties stimuleren en de verplichtstelling voorbereiden", schrijft Van Huffelen.

3. Even een stap terug: wat verstaat de overheid eigenlijk onder een algoritme?

Als je 'algoritme' heel technisch bekijkt, is een muisklik ook een algoritme. Als actie A wordt uitgevoerd, is uitkomst B het resultaat. Maar dat is natuurlijk niet wat er in het algoritmeregister staat. "In het register staan algoritmes die een impact op mensen en invloed op beleid hebben", zegt Van Huffelen tegen Tweakers. "Het gaat hier om risico-analyses."

Ron Roozendaal, die inmiddels bij het minister van Binnenlandse Zaken over digitalisering gaat en eerder aan CoronaMelder werkte, zegt tegen Tweakers: "We zoeken naar een niet al te smalle definitie, maar we willen ook niet dat de definitie zo breed wordt dat je de speld niet meer in de hooiberg vindt. Het gaat om algoritmes waarbij bijvoorbeeld risicoselecties worden gemaakt, waar het impact heeft op mensen." Voor het register heeft de overheid op dit moment nog geen harde definitie, maar 'aan die definitie wordt nog verder gewerkt'.

De voorzichtige definitie van Van Huffelen sluit ook aan bij wensen van de regering en de Tweede Kamer. Veel partijen, van links tot rechts, hadden na het toeslagenschandaal al in hun verkiezingsprogramma's iets opgenomen over algoritmes zoals de Fraude Signalerings Voorziening of FSV, het controversiële, discriminerende algoritme dat de Belastingdienst gebruikte. Ook schandalen rondom het Systeem Risico Indicatie (SyRI) waren redenen om met beleid te komen rondom algoritmes. Binnen die context is het nieuwe register ook te zien; dit zijn algoritmes waarmee de overheid op de een of andere manier besluitvormingen neemt over burgers, al dan niet met menselijke tussenkomst.

4. Is dat de enige reden dat dit register er komt?

Dit is waar het oorspronkelijke idee vandaan kwam. Maar er is een tweede argument: het moet. Niet van Nederland, maar wel van de Europese Unie. Die nam onlangs de AI Act aan. Die wet verplicht lidstaten om bepaalde maatregelen te nemen op het gebied van kunstmatige intelligentie. Zelflerende algoritmes, of algoritmes met geautomatiseerde besluitvorming, vallen daar ook onder. Een van de verplichtingen is dat lidstaten zulke algoritmes openbaar moeten maken.

Het algoritmeregister komt er ook vanwege een Europese verplichtingVan Huffelen verwijst in haar Kamerbrief en in gesprek met Tweakers regelmatig naar de AI Act. Sterker nog, de toekomst van het register is ervan afhankelijk. Nu is het register nog vrijblijvend. De Tweede Kamer nam eerder een motie aan van Laurens Dassen van Volt, die ervoor pleitte dat álle Nederlandse overheidsinstellingen juist verplicht hun algoritmes moeten openbaren. Van Huffelen wil de uitwerking van die motie samenvoegen met de Europese verplichting om 'hoogrisico-AI-systemen' openbaar te maken. "Een verplicht algoritmeregister wil ik bezien in samenhang met de voorgestelde AI-verordening. De AI-verordening is het uitgangspunt, maar deze is nog niet definitief vastgesteld", schrijft Van Huffelen.

5. Hoe weten we straks zeker dat dit register klopt?

Daarvoor komt er een algoritmetoezichthouder. Dat is een harde eis die is afgesproken in het regeerakkoord uit 2021. De algoritmetoezichthouder wordt onderdeel van de Autoriteit Persoonsgegevens en gaat toezicht houden op alle algoritmes die de Nederlandse overheid gebruikt. Daarvoor zal de toezichthouder met name kijken naar de algoritmes in het nieuwe register. "Nu is dat nog een informatieve tool, maar straks wordt het een doel op zichzelf om aan te toetsen", zegt Van Huffelen tegen Tweakers. Ook de waakhond is een verplichting vanuit de Europese AI Act. Dat betekent dat die toezichthouder zich dus ook aan de regels van de verordening moet houden. Over de toezichthouder wordt 'begin volgend jaar' meer bekendgemaakt, zegt Van Huffelen. Aanvankelijk was het plan dat deze toezichthouder er al voor de zomer van 2022 zou zijn, maar dat loopt vertraging op.

Reacties (19)

[HenkEisDS]

Mooi, nu doorpakken en private organisaties die zich richten op consumenten verplichten hun algoritmes ook toe te voegen aan deze database. Misschien een uitzondering mogelijk maken als het belang van de organisatie dusdanig zwaarder weegt dan die van consumenten, maar zelfs dan zou de toezichthouder inzicht moeten krijgen.

[Stukfruit]

Moet het alleen wel nuttig zijn.

De informatie die er nu op staat zit inhoudelijk langs de lijn van "auto rijdt door straat en stuurt kentekens door naar X en Y op basis van herkenning in beelden".

Het "algoritme" wordt op deze site gepresenteerd als iets bijzonders met veel wollige tekst waar je bijzonder weinig mee kan, terwijl er ook nog de kans is dat "zelflerend" alleen op de herkenning van (in dit geval) kentekens slaat die misschien door een API van Google, Amazon of Microsoft wordt afgehandeld.

Voor dit autovoorbeeld is dat niet erg, maar hoe moet dit mij het inzicht geven dat en waar een algoritme (als hier al van te spreken is) mogelijk foutief bezig zou kunnen zijn? Dat is hier niet uit af te leiden.

En dat was volgens mij juist de reden waarom er een register moest komen, toch? Voor het omgaan met al die enge "zelflerende" algoritmes die voor de gemiddelde persoon een black box zijn.

[Sandor_Clegane]

Iemand postte: Wanneer je het woord "algoritme" leest, vervang deze dan door "a guy named Bob" en kijk dan of het nog zinnig is.

Oh, je financiële toekomst is naar de filistijnen omdat "a guy named Bob" dit besloten heeft? Veel mensen snappen dan instinctief wel of iets in de haak is of niet.

[EraYaN]

Zolang er geen implementaties bij hoeven zou er eigenlijk nooit een reden hoeven zijn waarom het niet kan. Het gaat nog steeds alleen maar op metadata en omschrijvingen. Zolang we maar weten dat er iets gebeurd kunnen we beter doorvragen mocht het nodig zijn.

[jochemd]

Het lijkt me een beetje een blinde vlek dat geen enkele organisatie doorheeft dat een spamfilter een algorithme is dat volledig automatisch werkt en in de meerste gevallen ook nog eens niet door mensen gecontroleerd wordt. Misschien toch maar eens een domeintje registreren en kijken of email van het adres [e-mail] wordt tegengehouden.

[EraYaN]

Waarom zou men dat niet doorhebben? Er wordt juist erg veel moeite gestoken in het zo goed mogelijk afstellen van die algoritmes zodat ze zo goed mogelijk werken. Zelfde voor de anti-phising, anit-malware. Ik denk dat men we degelijk weet dat het een gigantische klus is, die bedrijven zien ten slotte hoge kosten op hun winst en verlies rekening voor al die engineers.

[jochemd]

En dat is precies waarom ik het een blinde vlek noem. Het zijn (hopelijk) allemaal organisaties die veel moeite steken in het afsellen van hun spamfilter, juist omdat dat filter hele grote consequenties kan hebben: denk aan emails met aanvragen, bezwaren, etc. die niet aankomen. En dus zijn spamfilters algoritmes die aangemeld moeten worden voor het register. Kennelijk realiseren deze organisaties zich dat niet. Tenminste: ik zie de spamfilters niet terug in het register.

[EraYaN]

Dit zijn dan ook geen overheidsinstanties. Eigenlijk alle spam filter bedrijven zijn gewoon private instanties.

[Electrowolf]

Dat is inderdaad een leuke... Soms kan je als burger per email dingen insturen (bezwaren, zienswijzen, etc). Wat nou als jouw bericht wordt gezien als spam en daardoor niet aankomt? Het gaat dan wel effect hebben op mij als burger .

[batjes]

Het doet me goed dat mevrouw van Huffelen echt haar best lijkt te doen voor haar functie. Tenminste die indruk krijg ik wel. Ze is geen IT-er, maar lijkt wel goede inhoudelijke (basis)kennis te hebben van hoe al die magische computers een beetje hun ding doen. In tegenstelling tot bijvoorbeeld die vorige halve driekwarter die van alles riep zonder ook maar enige inhoudelijke kennis.

Beetje offtopic.

[Sandor_Clegane]

Meen je dat? Ik krijg bij haar altijd enorme Harry Potter vibes, die dame die de school overneemt.

Grappig.

[batjes]

Ze is geen tweaker ofzo, maar ze heeft best wat goede voorstellen aangedragen en punten aangekaart. Dan kan ze ook nog eens vragen beantwoorden zonder maar volledig in het luchtledige te gaan praten.

Vergeleken met een aantal (vorige) ministers, doet ze het best goed. Het lijkt er op dat ze zich tenminste inleest op de materie.

Hiervoor hebben jarenlang Grapperhaus gehad die compleet uit zijn nek kletste en aan de lopende band aannames deed op basis van klinklare onzin.

[Sandor_Clegane]

Zonder een flowchart of iets dergelijks is het lastig deze dingen te doorgronden.

Voorbeeldje van Input --> Output zou wel handig zijn.

[Reactie gewijzigd door Sandor_Clegane op 22 juli 2024 14:47]

[chielsen]

Wat ik niet begrijp is dat we nu de Wet Open Overheid(WOO) hebben waarin door burgers nog meer kan worden opgevraagd en er ook al deels een publicatieplicht in zit, maar dat er dan zo'n summier lijstje van op zijn best samenvattingen van algoritmes wordt vrijgegeven.
Maak het jezelf en iedereen makkelijk, en zet gewoon de code van deze algoritmes online.
Dat is toch veel makkelijker dan allerlei uitleg en samenvattingen te moeten maken. Plus dat het veel meer inzicht geeft en je kan ook burgers laten meedenken.
Als je het op bijv Github zet, kunnen we ook nog makkelijk Pull Requests met verbeteringen inschieten.

Ik zou bijna gewoon bij al deze algoritmes het via een WOO verzoek gaan opvragen.

[Surpherman]

Slechts 109... Zoek op covid en de hit is 0. Er worden een paar minder beladen algoritmes (modellen) geplaatst. Leuk, maar zo krijgen we nooit een transparante overheid.

[cire]

Vind je dit wel een goede start dan?

[ivarvanrijn]

Heb je het artikel gelezen?
Zo niet, quote van het artikel: "het algoritmeregister is nog niet compleet. Dat geeft Van Huffelen ook toe in haar Kamerbrief.

[tweakert4plus]

Ik zie geen algoritme's op die site, het doet er niet toe of 'regels' met de hand zijn ingevoerd of dat er machinelearnig is toegepast.
De variablen (heeft 2de nationaliteit, is horeca onernemer, is getrouwd met buitenlandse) en daarbij behorende weging van deze variablen worden niet blootgegeven.
Zo blijft de blackbox een blackbox waar geen inzage in wordt gegeven:
If variable "2de nationaliteit" = true
dan risico = risico+1
etc
etc

Ik moet wel toegeven dat ik niet zo diep de website ben ingedoken op zoek naar deze data, denk echter niet dat dit te vinden zal zijn en ook niet in volgende herziende versie(s).
spekenbonenzoethoudertje voor de non-ict-burger die tevreden mag/moet blijven met "computer says No".

[Reactie gewijzigd door tweakert4plus op 22 juli 2024 14:47]