Nederlandse algoritmetoezichthouder gaat in januari 2023 van start

De Nederlandse algoritmetoezichthouder wordt vanaf begin volgend jaar actief. De Autoriteit Persoonsgegevens gaat die taak grotendeels zelf invullen. De toezichthouder moet de risico's van algoritmes in kaart brengen en samenwerkingen met andere toezichthouders opzetten.

Alexandra van Huffelen van Digitalisering kondigt de officiële komst van de algoritmetoezichthouder aan in een brief aan de Tweede Kamer. Daarin beschrijft ze de taken die de nieuwe toezichthouder precies gaat krijgen. De brief volgt een dag nadat Van Huffelen het algoritmeregister presenteerde. De nieuwe toezichthouder gaat onder andere naar het register kijken als leidraad, maar is daar niet aan gebonden.

De algoritmetoezichthouder komt onder de Autoriteit Persoonsgegevens te vallen. Dat was al bekend, want dat voornemen stond al opgenomen in het regeerakkoord. Opvallend is dat de huidige toezichthouder veel ruimte krijgt om het algoritmetoezicht in te vullen. Daarmee lijkt Van Huffelen tegemoet te komen aan de wens van de AP zelf. Voorzitter Aleid Wolfsen heeft meerdere keren tegen Tweakers gezegd dat hij het niet nodig vond een nieuwe toezichthouder op te zetten, omdat de AP nu al toezicht houdt op algoritmes als daar persoonsgegevens in worden verwerkt. Dat is in vrijwel alle gevallen het geval, als het gaat om algoritmes zoals de overheid die voor het register en de toezichthouder definieert. De nieuwe toezichthouder wordt in de praktijk dan ook een nieuwe afdeling binnen de AP, waar de toezichthouder zelf de invulling nog aan gaat geven.

De Autoriteit Persoonsgegevens gaat vanaf begin 2023 van start met dat proces. Van Huffelen beschrijft drie taken die de AP voor dit toezicht op moet pakken:

• Het signaleren en analyseren van sectoroverstijgende en overkoepelende risico’s en effecten van algoritmen en het delen van kennis daarover;
• Het optimaliseren van (bestaande) samenwerkingen met colleges, markttoezichthouders en rijksinspecties, en het in kaart brengen van overkoepelend toezicht op het gebied van algoritmen en AI;
• Het komen tot gezamenlijke normuitleg en het scheppen van overzicht in wettelijke en andere kaders.

Risico's in kaart brengen

In het eerste geval moet de waakhond kijken waar er in de maatschappij mogelijk algoritmes worden ingezet en vooral welke risico's die hebben. Dat moet de waakhond dan gaan delen met andere toezichthouders, maar ook met burgers, bedrijven of wetenschappelijke instituten. "Hierdoor krijgen toezichthouders mogelijke (nieuwe) inzichten in significante ontwikkelingen en risico’s", schrijft Van Huffelen. Dat onderzoek moet openbaar worden gemaakt.

De AP moet ook gaan bepalen wat een algoritme precies isDe vraag over wanneer een algoritme precies risico's met zich meebrengt, is momenteel nog moeilijk te beantwoorden. Staatssecretaris van Huffelen vertelde op woensdag nog aan Tweakers dat er nog invulling wordt gegeven aan dat vraagstuk. In het algoritmeregister dat toen werd gepresenteerd, werd nog gesproken over algoritmes die 'een impact op burgers kunnen hebben'. Dat zijn bijvoorbeeld algoritmes waarmee (deels) geautomatiseerde besluiten over burgers worden genomen. Het wordt deels de taak van de nieuwe toezichthouder om die definitie concreter te maken.

Samenwerkingen

Het tweede onderdeel is dat de AP 'bestaande samenwerkingen moet optimaliseren'. Daarbij gaat het over het toezicht dat nu al op algoritmes wordt gehouden. Dat doen verschillende toezichthouders voor hun eigen sectoren. Zo kijkt de Autoriteit Financiële Markten naar algoritmes bij verzekeraars of banken, en controleert het Commissariaat van de Media algoritmes die in die sector worden gebruikt. Ook is het aan de Autoriteit Persoonsgegevens zelf om algoritmes te controleren over al die sectoren. Van Huffelen wil dat er meer eenduidigheid komt in die samenwerkingen.

Dat betekent niet dat de AP of de nieuwe toezichthouder alle toezicht naar zichzelf gaat trekken. Dat zou ook te veel werk zijn. De AP moet 'bestaande samenwerkingen optimaliseren'. Wat dat in de praktijk gaat inhouden, moet de AP nog uitwerken.

Normuitleg

Ook voor de AVG moet de AP voor normuitleg zorgenTot slot moet de nieuwe toezichthouder een 'gezamenlijke normuitleg' formuleren. Dat doet de AP nu bijvoorbeeld ook al met de AVG. Daarin staan begrippen zoals 'gerechtvaardigd belang', maar geen exacte omschrijving van wat dat betekent. De AP moet nu ook voor algoritmes gaan uitleggen wat bepaalde termen betekenen en wat die inhouden voor bedrijven of overheden die algoritmes inzetten en wat burgers daaraan kunnen hebben.

In het komende jaar gaan zowel de Autoriteit Persoonsgegevens als het ministerie van Binnenlandse Zaken verder uitwerken wat de algoritmetoezichthouder precies gaat doen. De AP krijgt de komende jaren meer geld voor de toezichthouder. In 2024 komt daarvoor twee miljoen euro vrij, in 2025 drie miljoen euro. Vanaf 2026 wordt er structureel jaarlijks 3,6 miljoen euro vrijgemaakt voor de activiteiten. Ter vergelijking, de AP krijgt in 2023 een budget van 28 miljoen euro.

Een toezichthouder op algoritmes was een van de belangrijkste digitaliseringsstandpunten uit het regeerakkoord van kabinet-Rutte IV. Verschillende partijen, van links tot rechts, pleitten voor zo'n aparte toezichthouder. Dat gebeurde nadat het eerdere kabinet-Rutte III was gevallen over de toeslagenaffaire, waarin discriminerende algoritmes centraal stonden. Eerder ontstond ook al ophef over algoritmes zoals het Systeem Risico Indicatie of SyRI. Staatssecretaris van Huffelen wilde de algoritmewaakhond voor de zomer al in het leven roepen, maar dat liep uiteindelijk vertraging op.

Een algoritmetoezichthouder is daarnaast een verplichting vanuit Europa. De Europese Unie nam onlangs de AI Act aan. Daarin staat dat iedere lidstaat verplicht een toezichthouder in het leven moet roepen die kijkt naar 'zelfsturende kunstmatige intelligentie'. De Nederlandse toezichthouder zal in de praktijk ook andere algoritmes blijven controleren.

Reacties (27)

[01--Rolf--01]

Heb gisteren iets van parkeerboete Rotterdam bekeken. Tis allemaal maar weinig wat er staat.

Camera scant nummerborden en die worden vergeleken met betaal systeem, bij niet betaald halen we gegevens uit database x.

Maar hoe het scannen werkt welke database wat staat er allemaal in is voor mij gis werk.

Kortom hoe kunnen wij toezicht houden?

Geen voorbeelden niets, dus veel blauwe ogen werk zeg maar.......

[cariolive23]

Voor het algoritme hoef je niet te weten welke data in welke database staat. Een kenteken van een foto vergelijken met een kenteken uit een database met betalingen, is voldoende om het algoritme te beschrijven.

[01--Rolf--01]

Dus een database met verhalen wat je graag wil wat gebeurd.

Zonder feiten inhoud.

De Blauwe ogen database, wat we maar belangrijk vinden in Nederland tegenwoordig.

[cariolive23]

Zonder feiten inhoud.

Correct, dat is wat een algoritme is. Geen enkele inhoud, uitsluitend de algemene beschrijving van hoe een probleem wordt opgelost. Dus het zegt niet welke kentekens in de database staan, uitsluitend dat "een" kenteken wordt vergeleken met een ander kenteken.

Stel dat het algoritme beschrijft dat bij snelheidsovertredingen ook moet worden gekeken naar het geslacht of de huidskleur van de bestuurder om de hoogte van de boete te bepalen, dan weet je direct dat je hier te maken hebt met een discriminerend algoritme. Hoe het geslacht en/of huidskleur worden bepaald, doet er helemaal niet toe. Het feit dat deze gegevens worden gebruikt om de uitkomst te bepalen, zegt voldoende.

[01--Rolf--01]

Miischien is deze algoritme al discriminerend. Waar en hoelang wordt mn kenteken opgeslagen? In welke database, wie heeft er toegang. Enz enz

Feiten hebben we meer aan dan blauwe ogen verhaal.

Weet nog dat de gescande kentekens opgeslagen werden en dat de belastingdienst hierop wilde enten om te kijken of u wel de juiste ritten registratie uitvoerde.
Blauwe ogen vertelde, wij gooien alles weg van deze camera's na 3 maanden wettelijk bepaald. Maar de data ging naar 3e en die viel buiten de 3 maanden wet.

Kon de belastingdienst lekker toch aan de data.

Kortom heb niets aan Blauwe ogen verhalen, Feiten is waar de wereld op draait...... ..

[cariolive23]

Van alles wat jij noemt, heeft er geen enkel punt iets te maken met het algoritme. Een algoritme is beperkt tot het algoritme. Niet meer en niet minder.

Waar en hoelang een kenteken wordt opgeslagen, is voor een algoritme totaal irrelevant. Waar jij het over hebt, is de AVG/GDPR. Dat is ook wetgeving, en daar moet ook de overheid zich aan houden, maar dat heeft geen invloed op een algoritme. Haal die dingen niet door elkaar, dan ga je hele rare discussies krijgen.

[Isnowiz]

Jij hoeft geen toezicht te houden hoor.. Daar is de gekozen volksvertegenwoordiging voor. En de ADR.

[jeanj]

Volgens mij geven ze aan
1. welk kenteken men gescanned heeft, wat door schriftherkenning is omgezet. Als je daar over twijfelt, dan hebben ze de foto nog. Dien bezwaar in dan krijg je de foto te zien.
2. Of je volgens de database wel of niet hebt betaald (en het juiste kenteken hebt ingevuld). Als je betaald dan heb je of een kwitantie gekregen (of je had die kunnen krijgen) of je hebt met je bankpas of creditkaart betaald (en daar heb je bewijs van)

Welk toezicht wil je hier op, wat is hier onduidelijk aan, je hebt wel of niet betaald….. het enige wat je misschien niet kan bewijzen is welk kenteken je hebt ingevoerd, maar ja dat was je zelf aan het doen (daarom altijd een betaalbewijs uitprinten, slecht dat het niet meer automatisch gebeurd, iets met milleu of zo…)

[Reactie gewijzigd door jeanj op 22 juli 2024 13:30]

[Indoubt]

Sja, "computer says No!" is zo gemakkelijk en niemand is verantwoordelijk.

kortom, dat gaan ze gewoon volhouden uit kostenoverwegingen. U wilt toch niet nog meer belasting gaan betalen.

AI is best een mooi principe en maakt ook goede dingen mogelijk maar lijkt in veel gevallen hoofdzakelijk gebruikt te worden om verantwoordelijkheid af te schuiven.

[fnjord2]

De AI act is nog lang niet aangenomen, het Europees parlement gaat waarschijnlijk eind maart 2023 over het huidige concept stemmen. Daarna volgt nog een triloog dus het gaat nog wel en jaartje duren.

[dasiro]

De Nederlandse algoritmetoezichthouder wordt vanaf begin volgend jaar actief. De Autoriteit Persoonsgegevens gaat die taak grotendeels zelf invullen
...
Opvallend is dat de huidige toezichthouder veel ruimte krijgt om het algoritmetoezicht in te vullen. Daarmee lijkt Van Huffelen tegemoet te komen aan de wens van de AP zelf.
...
Verschillende partijen, van links tot rechts, pleitten voor zo'n aparte toezichthouder.

dus de politiek wil een aparte toezichthouder, maar laat die dan door een andere toezichthouder invullen zoals die zelf wil. Akkoord dat het wiel niet telkens opnieuw moet worden uitgevonden, maar dit is toch weer een typisch politieke oplossing?

[cariolive23]

Dan kunnen ze vast beginnen met SyRI, want ondanks een verbod blijkt de overheid dit gewoon nog steeds te gebruiken tegen de eigen burgers.

Zolang ambtenaren onschendbaar zijn bij het overtreden van de wet, zal dit blijven doorgaan. SyRI verboden en jij gebruikt SyRI? Dan ontslag op staande voet, zonder recht op uitkering.

[niki_lauda]

Alleen de koning, de rechter en het OM zijn onschendbaar. Ambtenaren hebben die onschendbaarheid niet.

[Reactie gewijzigd door niki_lauda op 22 juli 2024 13:30]

[Edgenumber]

Ze zijn niet per definitie onschendbaar. Maar het kan er wel nauw aan grenzen als het een taak is die exclusief door de overheid uitgevoerd wordt.

Er konden in het verleden diverse ambtenaren niet strafrechtelijk vervolgd worden omdat zij onschendbaarheid genoten n.a.v. de Pikmeer arresten.

Zie:
https://nl.wikipedia.org/wiki/Pikmeerarresten

[cariolive23]

In theorie niet, in de praktijk blijkbaar wel, zie het gebruik van SyRi wat verboden is maar waar ze rustig mee door kunnen gaan. We weten allebei dat daar geen enkele ambtenaar voor zal worden gestraft.

[The Zep Man]

Zolang ambtenaren onschendbaar zijn bij het overtreden van de wet, zal dit blijven doorgaan. SyRI verboden en jij gebruikt SyRI? Dan ontslag op staande voet, zonder recht op uitkering.

Als iets verboden is, zou ik (ook) strafrechtelijke stappen verwachten.

[Reactie gewijzigd door The Zep Man op 22 juli 2024 13:30]

[cariolive23]

Kun je dat uitleggen?

Van SyRI is bekend dat het discriminerend is. Een algoritme gebruiken om fraude te vinden, dat is niks bijzonders en ook niet verboden. Een discriminerend algoritme gebruiken, dat is wél verboden en dat is wat SyRI doet.

[Kalief]

De Waakhond Artificial Intelligence Toezichthouder.

WAIT 🤔

[moonlander]

Ik zie het als een nutteloze post die weer miljoenen belastingcenten gaat kosten.

[divvid]

Van Huffelen…..goede staat van dienst …./s

[Rev-anche]

Inderdaad, Heeft alle immigranten/vluchtelingen opvanglocaties wegbezuinigd o/a

[Mud.Starrr]

Ja het blijft bijzonder dat je in de politiek enorme fouten kunt maken en dan gewoon aan kunt blijven of op een andere post verder mag.

In het bedrijfsleven gaat dat wel even anders. Terwijl dat veel minder inpakt heeft op de samenleving. Het zou eerder andersom moeten zijn

[karma4]

Inderdaad ze mist de noodzaak van onafhankelijkheid en toezicht op de AP

[mrbullet]

Ze mogen ook de algoritmes publiceren die bv Stichting Inlichtingenbureau en de Belastingdienst gebruikt. Kunnen we als burgers beoordelen of het in de haak is.

Vooral de eerste is minder bekend, maar veel burgers gaan door hun algoritmes heen. En ze schijnen bij wijze van spreken te controleren op de kleur van je auto en hoeveel liter water je gebruikt voor toeslagen en subsidies.

[karma4]

De algoritmes die de belastingdienst gebruikt zijn beschreven in bijvoorbeeld de loonheffing. Deze zijn openbaar en gepubliceerd. Toeslagen is volledig beschreven als afhankelijk van je inkomen en vermogen.
Die wetgeving is vanuit de kamer bepaald. Dat is via onbegrijpelijke algoritmes door politici gedaan

[Hentailord]

Doe mij denken aan China, Big Brother, Stasi, en George Orwell, we glijden langzaam naar een Technocratie.
Ik voel me jaren niet meer vertegenwoordig in politiek, dit soort beslissingen gaan tegen onze vrijheden ik vind.