Ministerie van Financiën en Belastingdienst NL krijgen algoritmeadviescommissie

Er komt een Adviescommissie Analytics in Nederland, nadat de ministerraad daarmee akkoord ging. De commissie geeft advies over het gebruik van 'algoritmes en risicomodellen' bij het ministerie van Financiën en haar onderdelen, waaronder de Belastingdienst.

De Rijksoverheid meldt dat de adviescommissie wordt ingesteld na akkoord van de ministerraad. De commissie bestaat uit verschillende academici en ervaringsdeskundigen die zich bezighouden met vraagstukken als privacy, de digitale samenleving en het gebruik van data en algoritmes. Emile Aarts, emeritus rector magnificus en hoogleraar computer science van Tilburg University, wordt voorzitter. De commissie gaat volgens de overheid advies geven over het gebruik van algoritmes en risicomodellen bij het ministerie van Financiën, de Belastingdienst, de Douane en de Dienst Toeslagen.

Volgens de Rijksoverheid is het gebruik van algoritmes en risicomodellen bedoeld om de efficiëntie en effectiviteit van werk te vergroten, maar 'mag dit uitgangspunt er nooit toe leiden dat goedwillende burgers en bedrijven tegengewerkt worden' door het gebruik hiervan. De adviescommissie moet dat borgen en krijgt daarvoor 'de vrijheid om gevraagd en ongevraagd advies te geven over actuele vraagstukken'. Die adviezen zullen dan gaan over het belang en doel van het model in kwestie, naast 'de privacy en de ethiek'.

Er wordt al langer gekeken naar het gebruik van besluitvormende algoritmes door de Nederlandse overheid, onder meer vanwege schandalen rondom het Systeem Risico Indicatie en later de toeslagenaffaire, waardoor Nederlanders door een risicomodel onterecht als fraudeur werden aangemerkt bij de Belastingdienst. De fiscus kreeg voor dat laatste in 2021 een AVG-boete van 2,75 miljoen euro. Na pleidooien van verschillende politieke partijen ging begin dit jaar ook een algoritmetoezichthouder van start als onderdeel van de Autoriteit Persoonsgegevens.

Reacties (41)

De adviescommissie moet dat borgen en krijgt daarvoor 'de vrijheid om gevraagd en ongevraagd advies te geven over actuele vraagstukken'.

Een advies, gevraagd of ongevraagd, borgt nog helemaal niks zolang het niet om een bindend advies gaat...
Het is dus denk ik vooral bedoelt om de burgers het gevoel te geven dat het wel goed komt allemaal.
Dat terwijl er bij alle grote drama's rondom het gebruik van algoritmes steenvast duidelijke adviezen waren afgegeven door vele experts en al die adviezen zijn vervolgens niet overgenomen door de desbetreffende instanties.
Dat onze samenleving scheefgegroeid is zit um dus helemaal niet in een tekort aan adviezen. Het zit um erin dat de overheid de adviezen niet opvolgt. En niks aan deze nieuwe adviescommissie suggereert dat de afgegeven adviezen zullen worden opgevolgd.


Dit is dus een volkomen wassen neus.

Het zou goed zijn als er ook ethici in de commissie zitten die de menselijke kant bewaken. Niet alleen technici dus die nadenken over het hoe.

Een snelle check van de leden van de commissie levert, naast de techneuten, een hoogleraar theologie, een hoogleraar ethiek en filosofie uit Delft, en een privacyrecht-advocaat op. Ze lijken er aan gedacht te hebben.

Een hoogleraar theologie? Hoe is dat relevant?

Een aardig deel van (systematische) theologie draait om ethiek en/of moraal. Wellicht vanuit die hoek wel relevant.

Dat kan heel relevant zijn als religieuze gewoontes ten onrechte als fraudekenmerk worden gemarkeerd door een logaritme.

Dat is mooi!

Die zitten er wel in. Wat ik een beetje mis zijn mensen met kernexpertise op de complexiteit van de beleidsuitvoering en de organisatie. Nu is het technisch en/of normatief, maar dat levert een risico op een gat op met de realiteit waarbinnen de mensen binnen deze organisaties hun werk doen.

Goed punt.

Bijzonder, want er was al een persoon uit een commissie van toezicht die jaren van tevoren had aangegeven dat er veel niet pluis was met de toeslagen afhandeling. Diegene is toen ontslagen nadat haar adviezen genegeerd werden. Waarom denkt men dat deze commissie dan ineens wel gaat functioneren?

Die persoon was een juriste werkzaam binnen de Belastingdienst als landelijk vakgroepcoördinator formeel recht. Dus geen lid van een adviescommissie, intern noch extern. Zij is zelf opgestapt, mede omdat het management en de politiek haar (onwenselijke) juridische adviezen naast zich neerlegden.

Zolang de cultuur in de belastingdienst niet goed is dan trekken ze zich ook niks van een adviescommissie aan. Je zegt het zelf al, deze juriste had adviezen gegeven, die de belastingdienst vervolgens negeerde. Een adviescommissie gaat precies hetzelfde doen, nl adviezen geven.

Dit is weer een typisch Nederlandse "oplossing"; er is een lastig probleem waar de politiek niet zo 123 een oplossing voor weet te verzinnen. Dus weet je wat: we benoemen een commissie zodat we kunnen laten zien dat we iets gedaan hebben, en we gaan weer over tot de orde van de dag.

Een advies is te vrijblijvend, in ambtelijk kring ,zouden ook sancties,als ontslag en degradatie mogelijk moeten worden,net als in het bedrijfsleven als je iets helemaal verprutst.

En tegen een heleboel (belasting)geld aan vergoedingen.

Uiteindelijk zijn de Belastingdienst e.d. uitvoerende instanties.
Ze worden vrij direct aangestuurd door de politiek.
Wat mij betreft zit daar bij de politiek het echte probleem.

We hebben een systeem dat onnodig complex is (in verhouding tot andere landen), en vervolgens veel geld en moeite kost om allerlei controles in te bouwen, die vooral de mensen vangen die het niet snappen en te moeilijk vinden, niet de echte fraudeurs.

Het gaat natuurlijk om het idee

De oprichting van deze commissie is niets anders dan een afleidingsmanoeuvre.

Er wordt vanuit de politiek volop geageerd tegen de uitvoerende partij, maar de fouten en verantwoordelijkheid liggen bij de politiek. De vooringenomenheid van de regeling was het resultaat van beleid, dat was vastgesteld, gecontroleerd en goed bevonden door politici.

Er zal komende jaren een aardverschuiving komen op het gebied van beoordelingen van mensen door systemen. Huidige algoritmes zullen allemaal vervangen worden door AI's die zeer accuraat (maar ook zonder menselijke kant) zaken kunnen analyseren en beoordelen. Denken dat dit niet gaat gebeuren is een beetje naief. Het begin van deze enorme verandering is al in gang gezet met bijvoorbeeld ChatGPT en andere AI's. Wij gebruiken het bijvoorbeeld al voor risico analyses en online transactie monitoring. Het resultaat is echt verbluffend goed. Maar je staat ook op een grote afstand van de werkelijke beoordelings parameters. Hoe het algoritme echt werkt is niet te achterhalen. Alleen het resultaat. Menselijke monitoring is dus nog wel nodig. Maar dat gaat hoe dan ook verdwijnen op ten duur. Ook bij overheden en grote instituten gaan dit soort system enorme impact hebben.

Hoe het algoritme echt werkt is niet te achterhalen.

Dat is wel kwalijk. Een algoritme wordt getraind en daar kan juist nog steeds een probleem ontstaan dat een algoritme een 'menselijke' kant meepakt door datgene wat hij getraind krijgt.

Menselijke monitoring zou altijd nodig zijn. Waar AI en ML goed in zijn is het verwerken van grote hoeveelheden data en het inzichtelijk maken voor het menselijk brein zodat die het verder kan verwerken.
Het moment dat de menselijke monitoring verdwijnt heb je een gigantisch probleem.

Yep.
Een AI als hulpmiddel is prima, maar als het om memsen gaat, hoort de eindbeslissing altijd bij mensen te liggen.
We hebben het hier immers niet over het nakijken van bv een multiple choice toets op een schrapkaart, maar om beslissingen die mensen diep kunnen raken.
Het je kunnen verschuilen achter een geautomatiseerde beslissing is niet wat we moeten willen.

Ook de monitoring gebeurt vervolgens weer met AI. We worden een soort dirigenten van de systemen. Vroeger vertelde we system wat ze precies moesten doen. Nu vandaag vertellen we system wat ze ongeveer moeten doen. Ze zoeken het verder zelf uit. In de toekomst vertellen systemen ons wat ze van plan zijn. In de verre toekomst vertellen systemen ons helemaal niks meer. We zijn dan overbodig

Dit wordt zo’n enorm popcorn avontuur wanneer de overheid LLM’s gaat gebruiken. Veel keuze hebben ze niet gezien het ingebakken wordt in Office 365.

Kijken wat een advies commissie vindt van een zwarte doos die variabele antwoorden geeft.

Ah ja, een commissie om de bureaucratie nog wat uit te breiden. Als men technologische innovaties van plan was zullen die een stuk moeilijker worden.

En dat is terecht. Technologie is prachtig, maar mag niet ten koste gaan van grondrechten. Als de overheid technologie inzet, is dat meteen een risicofactor voor burgerrechten, vanwege de inherente macht die de overheid over de burgers heeft.

Ik ben benieuwd hoe men algoritmes definieert. Anders kan deze commissie het nog wel eens heel druk gaan krijgen.

Er is een reden waarom het Adviescollege Analytics heet, in plaats van Adviescollege Algoritmes.

Er staat me toch echt bij dat veel gedoe, waaronder de stikstofcrisis en de onrechtmatig verklaarde fictieve vermogensrendementsheffing, begonnen met het herhaaldelijk negeren van adviezen. En dan niet de minste, maar bijvoorbeeld de Raad Van State.

Ik vind het geen slecht idee, maar ik ben wel sceptisch. De bestuurscultuur moet eerst veranderen, en dat is bijvoorbeeld onze regering ook niet gelukt terwijl iedereen het er tijdens de campagne over had.

Die bestuurscultuur verandert niet omdat er helemaal geen intentie is om het te veranderen. Beloftes tijdens de campagne zijn gewoon holle uitspraken om stemmen te trekken. Zodra het rode vakje is gekleurd boeit het niet meer.

Ah een commissie om problemen op te lossen, die straks een externe bureau gaan inhuren omdat ze er niet uitkomen kijktip hoe dat dat gaat bij de Belastingdienst.

Nu maar hopen dat de commissieleden onafhankelijk zijn.
Ik heb zo mijn twijfels want de leden zijn geselecteerd en niet verkozen.

Gelukkig is het een adviescommissie, dus kan al het advies dat niet in het politieke straatje past terzijde geschoven worden.

Een adviescommissie is mooi, maar dan hoop ik wel dat de adviezen goed overwogen moeten worden - in alle gevallen. Ik zie het wel weer gebeuren dat er een nietszeggend excuus wordt gebruikt om een advies diep in een la te laten verdwijnen.