Algoritmetoezichthouder is van start, maar er is nog veel onduidelijkheid

De Nederlandse algoritmetoezichthouder is officieel van start gegaan. Vanaf maandag heeft de Autoriteit Persoonsgegevens een nieuwe afdeling die toezicht gaat houden op de werking en uitkomsten van algoritmes. Veel daarover is echter nog onduidelijk.

De officiële opening van de algoritmetoezichthouder werd in Den Haag afgetrapt door minister Franc Weerwind van Rechtsbescherming en staatssecretaris Alexandra van Huffelen van Digitalisering. Met de nieuwe toezichthouder krijgt de Autoriteit Persoonsgegevens meer mogelijkheden en bevoegdheden om toezicht te houden op algoritmes die zowel door Nederlandse overheidsinstellingen als door internationale bedrijven worden ingezet. De toezichthouder gaat onder andere kijken naar welke algoritmes zij inzetten om bijvoorbeeld geautomatiseerd besluiten te nemen.

Interne constructie

Maar hoe die toezichthouder er in de praktijk uit komt te zien en waar die als eerste mee aan de slag gaat, blijft nog vaag. Ook AP-voorzitter Aleid Wolfsen vindt het lastig om dat uit te leggen. "In zakelijke termen is de Autoriteit Persoonsgegevens een rechtspersoon die nu een directie van drie personen heeft, waaronder ikzelf. Daar komt nu een nieuwe directie bij", legt hij uit aan Tweakers. Die directie komt volgens hem te bestaan uit 'zo'n tien tot vijftien mensen'. Dat zijn deels nieuwe werknemers; Wolfsen heeft er bijvoorbeeld een technoloog en een jurist voor aangenomen. Daarnaast zijn er mensen die intern hebben gesolliciteerd. De algoritmetoezichthouder lijkt dan ook grotendeels een interne verschuiving van menskracht te zijn. Hoeveel dat er zijn, is nog niet helemaal duidelijk. Ook blijft vaag of werknemers nu exclusief aan dit algoritmetoezicht gaan werken, of ook aan andere handhaving, en in welke mate dat moet gaan gebeuren. Er is, kortom, nog veel onduidelijk over het werk van de toezichthouder.

Takenpakket en veel wetten

Dat is ook te zien aan het takenpakket. Dat gaat veel kanten op. Aan de ene kant moet de toezichthouder gaan kijken naar algoritmes die persoonsgegevens gebruiken, maar dat is nu al een taak van de AP. Het is ook de reden dat Wolfsen eerder al tegen een aparte algoritmetoezichthouder pleitte. De toezichthouder moet ook gaan kijken naar algoritmes van bijvoorbeeld techbedrijven als Google. Er moet worden gekeken of die wel transparant zijn en voldoen aan bepaalde mensenrechteneisen. Die taak komt echter ook grotendeels bij Europa te liggen. De EU wil met wetten zoals de Digital Services Act, de Digital Markets Act en de AI Act transparantie afdwingen bij techgiganten. Daar gaat de Nederlandse waakhond ook een rol in spelen, maar daarvoor is het dan weer te vroeg om er veel over te zeggen.

Coördineren

De overheid zette eerder al een algoritmeregister op

De belangrijkste rol voor de AP, zegt Wolfsen, is een coördinerende. Hij geeft een voorbeeld over de Algemene Rekenkamer, dat ook zelf al overheidsalgoritmes onderzoekt. Ook andere instanties, zoals de Autoriteit Consument & Markt, de Autoriteit Financiële Markten of het College voor de rechten van de mens, hebben allemaal hun eigen onderzoeken naar algoritmes die soms wel, maar soms ook geen persoonsgegevens bevatten. Daar gaat de AP als eerste mee aan de gang. "Ons eerste actiepunt is om samen te werken met andere toezichthouders", zegt Wolfsen. Dat betekent echter niet dat in ieder onderzoek het bestuur onder de AP de leiding krijgt.

De grote vragen die blijven hangen rondom de toezichthouder, zijn die van zowel het budget als de effectiviteit. Wolfsen hinkt op twee gedachten. "We krijgen extra geld van de overheid om dit op te zetten", zegt hij. "Dit moet een feestelijke dag zijn. Ik bedank nu ook de minister en Kamerleden die hier zitten voor het extra budget." Tussen de regels door blijkt echter al snel dat dat budget verre van toereikend is. De AP krijgt in 2023 een miljoen euro extra budget. Binnen vier jaar groeit dat door naar vier miljoen, op een totaalbudget van 34 miljoen euro in 2023. Ondertussen kan de AP het huidige werk niet aan. Wolfsen pleitte tijdens de formatieperiode van het huidige kabinet voor een budget van honderd miljoen euro. Wolfsen probeert het glas als halfvol te zien. "We hebben nu 220 mensen in de organisatie en samen met dat extra budget, ook voor de toezichthouder, groeien we door naar 300. Met die vier miljoen kun je heel veel doen."

Nog geen duidelijk doel

Toen de AVG in 2018 in werking trad, had Wolfsen een duidelijk doel voor ogen. Eerst zou er worden opgestart, waarbij bedrijven eerst de tijd voor overgang zouden krijgen. De eerste wapenfeiten waren ook al duidelijk. Eerst zou de AP gaan onderzoeken of er overal waar dat verplicht was een functionaris gegevensbescherming werkte. De harde hand van boetes volgde pas later, als duidelijk (of in ieder geval duidelijker) was waar de grens lag. Nu is allerminst duidelijk waar de toezichthouder mee begint. Eerst moet er in kaart worden gebracht waar algoritmes worden gebruikt.

Wolfsen kan nog niet zeggen waar de algoritmetoezichthouder als eerste mee aan de slag gaatWolfsen durft alleen niet te zeggen waar de organisatie het eerst gaat kijken. Is het de zorg? De Rijksoverheid? Gemeenten? Het is nog niet bekend. Wel zegt hij dat er twee manieren zijn om algoritmes op te sporen. "We kunnen dat doen op basis van meldingen, of ambtshalve." In dat laatste geval kan de AP een onderzoek opstarten op eigen initiatief, bijvoorbeeld na berichten in de media of bij vermoedens. Dat mag de toezichthouder nu al als het AVG-overtredingen moet bekeuren, maar onlangs gaf de waakhond toe amper uit eigen initiatief onderzoeken te starten. "Nu we serieus meer geld krijgen voor deze toezichthouder, hebben we meer mogelijkheden om ambtshalve onderzoek te doen", denkt Wolfsen.

Normeren

Een tweede stap die Wolfsen nu direct wil nemen, is 'normering'. Dat betekent dat er bepaalde normen moeten worden bepaald over wat een algoritme in de eerste plaats is, maar ook aan welke eisen het moet voldoen. Voor de AVG is dat ook nodig. Die wet staat vol begrippen die, door gerechtelijke uitspraken en boetebesluiten, langzaam maar zeker worden gespecificeerd. Bij algoritmes is er echter nog geen achterliggende wet of verordening zoals dat bij de AVG wel het geval is. Waar moet de AP dan naar gaan kijken?

"Er zijn nu al wetten waar we naar kunnen kijken", zegt staatssecretaris Alexandra van Huffelen. Nu is er nog geen expliciete wet, al komt er in de toekomst de Europese AI Act aan die ook Nederland verplichtingen over algoritmetoezicht oplegt. Van Huffelen bedoelt met name wetten zoals de AVG. Dat is opvallend, omdat de AP daar nu dus al naar kijkt. Sterker nog, jaren geleden zei Aleid Wolfsen al tegen Tweakers: "Toezicht op algoritmes behoort bij onze prioriteiten. Als een algoritme persoonsgegevens verwerkt, dan is daar al een toezichthouder voor, namelijk wij. We concluderen, samen met de politiek, dat deze taak prima bij de AP kan liggen, ondanks de onderbezetting. Er hoeft dus geen nieuwe toezichthouder voor te komen, maar je moet de bestaande toezichthouder wel meer geld geven."

Politieke invloed

Een algoritmetoezichthouder is een grote wens van de Tweede KamerDe algoritmetoezichthouder is dus geen aparte waakhond, maar valt onder de leiding van een bestaande, politiek onafhankelijke AP. Daarmee lijkt het alsof de Nederlandse overheid tegen een bestaande toezichthouder heeft gezegd dat het zich meer op dit specifieke onderwerp moet richten, maar dan verpakt in een organisatorische omweg. Dat ontkent Wolfsen. "Dit is juist een combinatie van twee gedachten. Een nieuwe toezichthouder leek ons erg onverstandig. Dan krijg je nog meer versnippering. Je wil juist de bestaande versterken; dat gebeurt nu."

Tegelijkertijd, geeft hij toe, is er natuurlijk wel enige politieke invloed geweest. "In het coalitieakkoord is opgenomen dat er een toezichthouder moest komen. Dat is een reactie vanuit de Tweede Kamer geweest over het toeslagenschandaal. De bewustwording daarover heeft de Kamer benoemd en ons opgedragen. Dus we blijven onafhankelijk, maar er komt wel extra geld voor die specifieke taak."

Update: eerder stond per abuis in het artikel dat de AP altijd de leiding krijgt over onderzoeken. Dat is niet het geval.

Dit artikel kun je gratis lezen zonder adblocker

Alle content op Tweakers is gratis voor iedereen toegankelijk. Het enige dat we van je vragen is dat je de advertenties niet blokkeert, zodat we de inkomsten hebben om in Tweakers te blijven investeren. Je hoeft hierbij niet bang te zijn dat je privacy of veiligheid in het geding komt, want ons advertentiesysteem werkt volledig zonder thirdpartytracking.

Bekijk onze uitleg hoe je voor Tweakers een uitzondering kunt maken in je adblocker.

Ben je abonnee? Log dan in.

Reacties (23)

Veel modellen of algoritmes binnen de overheid zijn aangemeld en staan in het openbaar toegankelijke register. Geeft een eerste indruk hoe vooral uitvoeringsinstanties de balans tussen rechtmatige betalingen en snelheid van besluitvorming proberen te managen.

Gezien mijn affiniteit met dit onderwerp ben ik eens gaan kijken wat ik aantref in het algoritmeregister. De opzet en toegankelijkheid is netjes, maar er is wel grote diversiteit in de wijze waarop invulling gegeven is aan de informatie. Prettig is dat alle data als csv is te downloaden waardoor zoeken en sorteren makkelijk gaat. De informatie is vooral gericht op de omschrijving van de use case en niet de technische werking. Wat me tegenvalt is dat het veld Databronnen vaak niet gevuld is. Soms wordt dit wel omschreven in andere velden. Maar gezien het belang van data bij modellering en eventuele bias daarin had ik hier wel volledigheid verwacht. Verder wordt over het algemeen niet aangegeven wat voor type algoritme het betreft. Je verwacht op zijn minst de indeling regressie, classificatie en clustering. Ik had geen code in gitlab verwacht, maar dit geeft heel weinig informatie over de werking. Verder valt op dat bij vrijwel elk algoritme de volgende zin staat 'Het algoritme geeft informatie en dit stelt een medewerker in staat om, mede op basis hiervan, het juiste besluit te nemen. Het algoritme heeft dus niet het laatste woord, maar een medewerker'. Dit klinkt als een disclamer maar geeft ook wel weer aan dat het voor de overheid lastig is om de efficiency te verhogen met de inzet van algoritmen en AI.

[Reactie gewijzigd door Poecillia op 16 januari 2023 23:35]

Volgens mij moeten nu dus mensen die 0 verstand hebben van algoritmes, algoritmes gaan beoordelen.

Dat kan leuk worden.
En wat classificeren ze als een algoritme? Een algoritme gebruikt ingevoerde data om een beslissing te nemen. Denk bv aan de zoekresultaten op een zoekmachine. Maar ook is het al iets simpels als een switch() { } case. Dus hoe definiëren ze die algoritmes? En hoe gaan ze die controleren? Gaan ze in broncode zitten snuffelen?

Allemaal goede vragen, die vóórdat deze wet aangenomen werd beantwoord hadden moeten worden. Maar nu is het weer een papieren tijger, die niet te handhaven is, miljoenen euro's belastinggeld kost, en over x jaar weer helemaal anders moet.

En wat classificeren ze als een algoritme?

Ik heb deze exacte vraag onlangs gesteld aan Van Huffelen en aan Ron Roozendaal die hierover gaat, dat kun je hier teruglezen. In het kort zijn het algoritmes die zelfstandig of semi-zelfstandig besluiten nemen over een overheidsbeslissing die op burgers van toepassing is. Niet heel gek omdat die hele algoritmetoezichthouder een antwoord is op de toeslagenaffaire.

Oké, dat is nog steeds best vaag. Maar wel een stuk duidelijker. En idd de toeslagenaffaire ken ik hierin, maar dat is mi. meer dan alleen een slecht algoritme. Het is meer "slechte wetgeving" waar een algoritme op gebaseerd is. Helemaal gezien in die tijd ook b.v. rechters zich achter dat "algoritme" plaatsten.

Dus deze algoritmes-aanpak lijken op een technische aanpak, maar zullen juist breder moeten liggen.

Maar in de toeslagen affaire was het probleem toch dat men algoritmes gebruikte om signaallijsten te generen die nader onderzoek verdiende die vervolgens helemaal niet nader onderzocht werden.
Onder het mom, als men onschuldig is aan fraude dan zal men wel een gemotiveerd bezwaar indienen werden vervolgens de mensen op de signaallijsten als fraudeur bestempeld. Om daarna de ingediende bezwaarschriften zonder motivatie af te wijzen, dit onder het mom, je moet een fraudeur niet helpen met zijn fraude.

In de toeslagenaffaire ging het dus niet om zelfstandige of semi-zelfstandige besluiten. De signaallijsten waren slechts een hulpmiddel om gerichter te kunnen opsporen.

De standaard die we nu gebruiken, is een beetje informeel tot stand gekomen door wat we in die twee steden zagen. Daar werken we verder nog aan."

Het is nu dus niets meer dan lijst van plekken waar algoritmes worden gebruikt... dat is een begin als je toezicht wilt houden maar zonder een functionele beschrijving is het beoordelen totaal ommogelijk.

de AP heeft niet genoeg mensen om de AVG te handhaven als er meldingen binnen komen maar kan wel een hele nieuwe afdeling optuigen om deze nieuwe taak te gaan uitvoeren?

Wat gaat hier niet goed?

Omdat ze voor de nieuwe taak extra budget krijgen. Ze kunnen niet extra budget vragen voor deze taak en dan stiekum het geld aan AVG uitgeven.

Ik wens hem veel succes met ChatGPT

Ze doen nu al uitspraken die nooit waar kunnen zijn. Je weet nu wel direct waar het weer zal eindigen. Maar dan kunnen ze zeggen ‘we hebben alles gedaan wat we konden maar we hadden niet genoeg geld!’

Een paradepaardje van de politiek en nieuw gecreerd baantje voor van Huffelen. Ze zijn zo digibeet als wat. Ze gaan algoritmes 'opsporen'......Hoe.....?? IP hacken? Gaan ze Rian van Rijbroek inhuren als expert?

Ik denk dat ik de film Hackers (1995) nog maar eens ga kijken voor een dosis realisme...

[Reactie gewijzigd door siggy op 16 januari 2023 19:19]

'Opsporen' moet je natuurlijk zien als een simpele vraag bij gemeentes of zbo's: "Gebruiken jullie algoritmes om besluiten te nemen over burgers, en zo ja, laat dan maar eens zien naar welke parameters die kijken". Zo gek is dat niet hoor.

Angelina Jolie toen ze nog lekker was!

Ja ik weet ook niet waar ze de kennis vandaan gaan halen laat staan de mensen die ze nodig hebben die ook nog eens capabel moeten zijn (al doen ze daar bij de overheid als je een vriendje bent niet zo moeilijk over)

Dat, en we hebben te maken met een afdeling die nog niet eens weet wat er gaat gebeuren en waar ze precies over oordelen. Lijkt me toch dat je juist dat eerst goed op papier hebt?

"Hee ik hoor dat je een bedrijfje opgezet hebt! Wat doe je precies?" "Weet ik veel lol, zie ik dan wel. Geef subsidie pl0x"

Precies mijn reactie... de directie wordt flink uitgebreid...
Ik meen dat bij reguliere bedrijfsvoering altijd eerst de laag waarin de uitvoering plaatsvindt zou moeten worden uitgebreid en indien de coordinatie daarvan een te omvangrijke taak wordt, dan heb je meer coordinators/managers nodig - niet andersom.

Waarom de nadruk op algoritmes? Algoritmes zijn slechts een middel voor besluitvorming. Waarom geen 'besluitenregister'? Vrij gek dat iets helemaal transparant moet zijn als het een algoritme betreft, maar als er geen algoritme aan te pas komt is er geen register.

Mij als burger maakt het niet uit welke gereedschappen worden gebruikt, dus vrij raar om dan om op 1 specifiek gereedschap te focussen.

Waarom de nadruk op algoritmes? Algoritmes zijn slechts een middel voor besluitvorming. Waarom geen 'besluitenregister'?

Het openbaar maken van besluiten van overheden is al geregeld in de Wet Open Overheid. Hoewel overheden vaak nogal karig zijn met het openbaar maken van de onderliggende stukken (rapporten, vergaderstukken etc.) denk ik dat juist voor besluiten geldt dat het best goed geregeld is.
Van wat voor besluiten mis je de openbaarmaking dan?

Ja dat snap ik dus ook niet.

Stel je zet een foto op Facebook.

Dan is het algoritme:

Foto wordt geüpload-> comprimeren -> verwijder origineel -> scan foto -> zijn er gezichten - ja = scan database op matches-> tag personen -> plaats foto | nee = is plaats foto. (Erg gesimplificeerd)

Met deze algoritme is niks mis, met de database van gezichten wel. Ja hierdoor kun je meer inkijk krijgen in de algoritmes die gebruikt worden. Maar met een algoritme ansich hoeft niks verkeerd te zijn. Laat ze liever de afdelingen die ze al hebben goed functioneren en kijk dan naar een uitbreiding van de taken.

Geschikt personeel is al ontzettend moeilijk om te vinden. Waarom weer een hele afdeling inrichten. Weer meer ICT en onderhoud.

Volgens mij is dit een goedmakertje van voor de toeslagen affaire. “Kijk kiezers we doen er alles aan om onszelf te controleren. Maar verwacht geen oplossingen.”

Wolfsen kan nog niet zeggen waar de algoritmetoezichthouder als eerste mee aan de slag gaat

Misschien moeten ze alle data verzamelen en daar een een berekening op loslaten en kijken wat belangrijk is?

Ik weet daar nog wel een leuk algoritme voor :-)

Mij verrast het vooral dat het zwaartepunt helemaal ligt op algorithmes. Ik meen dat een vooroordeel vaak al in de data zit waarop die algorithmes werken.
En als er een neuraal netwerk of zoiets wordt gebruikt, is het algorithme zelfs niet meer deterministich. Is er dan eigenlijk wel een algorithme?

Computers en algoritmes zijn altijd deterministisch (gelukkig maar). Een neuron in een neuraal netwerk sommeert al zijn inputs met een bepaalde wegingsfactor per input en is dus deterministisch.

Wat jij bedoelt is dat er voor ons mensen geen logica meer in te vinden is.