Het Nederlandse ministerie van Binnenlandse Zaken heeft de resultaten van een verkennend onderzoek naar het gebruik van algoritmen binnen de overheid gepresenteerd. Volgens de staatssecretaris blijkt uit het onderzoek dat toetsing en validatie op algoritmen plaatsvindt.
In een Kamerbrief van staatssecretaris Knops van Binnenlandse Zaken staat dat uit het onderzoek is gebleken dat nagenoeg alle aan het onderzoek deelnemende overheidsonderdelen hun algoritmen toetsen of valideren. Zij geven aan dat de werking van de ingezette algoritmen geverifieerd kan worden op basis van het algoritme zelf, de implementatie ervan en de gebruikte data. Deze verificatie kan worden uitgevoerd door rechters en toezichthouders, 'maar niet door burgers'. Staatssecretaris Knops van Binnenlandse Zaken zegt in een Kamerbrief dat hij gaat kijken hoe deze transparantie verbeterd kan worden.
Uit het onderzoek blijkt dat de overheidsorganen aangeven dat de keuzes voor het inzetten van een algoritme afhangen van de vraag hoe goed het algoritme verklaard en uitgelegd kan worden en in welke mate het getoetst kan worden op nauwkeurigheid en juistheid. Dit laatste gebeurt zowel intern, door audits of toezichthouders. Daarbij melden de organisaties dat ze hun keuzes voor algoritmes ook baseren op de vraag of ze in lijn zijn met privacywetgeving. De overheidsorganen geven aan dat een algoritme het best uitgelegd kan worden door woordelijk te omschrijven wat het algoritme doet.
Andere resultaten uit het onderzoek zijn dat 48 procent van de overheidsorganen 'intelligente algoritmen' gebruikt. De organisaties zetten algoritmen vooral in voor het 'signaleren van verhoogde risico's'. In de brief staat dat veel organisaties geen negatieve gevolgen voorzien van de inzet van algoritmen, al is niet altijd duidelijk of die gevolgen ook daadwerkelijk afwezig zijn. Verder melden de organisaties dat de uitkomsten van een algoritme worden beschouwd als een advies en niet als eindoordeel; dat maakt dat het meestal aanleiding is voor nader onderzoek. De organisaties geven ook aan dat ze het soms lastig vinden om af te wijken van het oordeel van een algoritme.
Het onderzoek richtte zich alleen op algoritmen die de basis vormen voor besluiten over personen. In dat kader hebben leden van de Tweede Kamer meerdere malen hun zorgen geuit over de gevolgen van het gebruik van algoritmen. Zo hanteert de overheid een risicoprofileringssysteem genaamd het Systeem Risico Indicatie, ofwel SyRI. De kritiek is dat dit systeem te ondoorzichtig is en de mensenrechten schendt; meerdere burgerrechtenorganisaties besloten daarop de Nederlandse Staat aan te klagen. D66 pleitte in september nog voor de oprichting van een waakhond om de werking van algoritmes te controleren, omdat volgens de partij steeds vaker besluiten worden genomen op basis van algoritmes die in de praktijk discriminerend kunnen uitpakken.
De belangrijkste hoofdvraag uit het verkennende onderzoek was of de verschillende overheidsorganen het mogelijk achten om inzicht te geven in de werking van de door hen gebruikte algoritmen en of ze daarover kunnen communiceren. Het onderzoek is uitgezet bij departementen, uitvoeringsorganisaties, gemeenten, provincies en waterschappen; het Centraal Bureau voor de Statistiek is daarbij gevraagd om de vragenlijsten te analyseren. Staatssecretaris Knops benadrukt dat hij dit onderzoek als een eerste verkenning beschouwt en dat de uitkomsten niet zijn te veralgemeniseren.