AP wil dat overheden algoritmes verplicht gaan registreren

De Autoriteit Persoonsgegevens wil dat overheden verplicht worden te registreren welke algoritmes zij gebruiken. Dat kan nu vrijwillig in het Algoritmeregister, maar de cijfers daarvan blijven achter op wat de AP wil. Ook de registratie van algoritmes is niet altijd goed.

De Autoriteit Persoonsgegevens roept op om overheden te verplichten algoritmes te registreren in het Algoritmeregister, dat sinds eind 2022 bestaat. Nu is het niet verplicht algoritmes te registreren. Sinds kort steeg het aantal algoritmes in het register tot iets boven de duizend, maar dat is volgens de AP bij lange na niet genoeg.

De privacytoezichthouder merkt op dat meer dan de helft van de Nederlandse gemeenten helemaal nog geen algoritmes in het register heeft gezet. Bij zelfstandige bestuursorganen is dat nog minder; minder dan een kwart van de Nederlandse zbo's heeft een algoritme geregistreerd. "Met duizend geregistreerde algoritmes is de pioniersfase voorbij", stelt de AP.

Ook de manier waarop algoritmes worden geregistreerd, is niet altijd juist. Zo kunnen overheden en sectoren naast een privacyimpactassessment ook een mensenrechtentoets doen op algoritmes. Dat is iets waar de Autoriteit Persoonsgegevens vaker naar kijkt en steeds meer aandacht voor heeft, maar in slechts vijf procent van de geregistreerde algoritmes wordt zo'n grondrechtenbeoordeling toegevoegd.

Het Algoritmeregister is bedoeld als openbare database waarin overheden kunnen registreren welke algoritmes ze gebruiken die betrekking hebben op automatische of semiautomatische besluitvorming. In het register kunnen ze beschrijven waarvoor de algoritmes worden gebruikt en hoe ze werken, maar er staan ook verwijzingen naar externe websites of naar de impactassessments in, en informatie zoals hoe de privacyinbreuk wordt verminderd. Het idee is dat burgers via het register kunnen controleren welke algoritmes er ergens worden ingezet en op welke manier.

Besluitvormingsalgoritmes waren de afgelopen jaren vaak het onderwerp van schandalen zoals de toeslagenaffaire. Daarop besloot de Tweede Kamer een 'algoritmetoezichthouder' in het leven te roepen. Dat werd ook gedaan om vooruit te lopen op Europese wetgeving, specifiek de AI-verordening, die zo'n toezichthouder verplicht maakt. In de praktijk is de Nederlandse privacytoezichthouder een bestuursafdeling met extra budget binnen de Autoriteit Persoonsgegevens - die toezichthouder is daarmee de facto ook toezichthouder op algoritmes.

Reacties (36)

[Floort]

Ik zie de aandacht van de AP langzaam verschuiven naar de kwaliteit van de registraties. Dat is keihard nodig en gebeurt nog onvoldoende als je het mij vraagt. Bij praktisch elk algoritme waar ik (niet zorgvuldig aselect) steeksproefgewijs een Woo-verzoek doe naar de achterliggende documenten zie ik significante problemen in de kwaliteit van de registraties. Soms zit dat in de registerstandaard, bijvoorbeeld als het gaat om de gemaakte impacttoetsen waar geen onderscheid gemaakt kan worden tussen niet gemaakt en niet ingevuld. Dan blijkt er bijvoorbeeld een DPIA te zijn als de registratie die er vrij expliciet om vraagt daar geen velmelding van maakt. Ook worden er onjuiste claims gedaan, zoals de beschikbaarheid van openbare broncode, die tot nu toe in 100% van mijn pogingen om die op te vragen heeft geleid tot het aanpassen van de registratie in plaats van inzage in de broncode. Ook zie ik de registerstandaard langzaam minder geschikt gemaakt worden voor inzage in de concrete risico's waar rekening mee gehouden wordt. Zo vroeg versie 0.4 van de standaard nog naar een overzicht van concrete risico die in kaart gebracht zijn voor het algoritme (plus maatregelen). Dat is voor de controlefunctie die het register in het begin had erg relevant. Met standaard versie 1.0.0 is dat afgezwakt (mijn beoordeling) naar een korte uitleg hoe men omgaat met de risico's.

Ik denk dat er meer moet worden geinvesteerd in een registerstandaard om te zorgen dat de beschikbare informatie ook concreet en bruikbaar is voordat er wordt geinvesteerd in meer registraties die niet kloppen en/of niet concreet genoeg zijn om nuttig te zijn. Beiden moet gebeuren, maar de standaard is al voldoende afgezwakt dat ik weinig hoop heb dat die nog significant gaat verbeteren. De standaard later bijsturen is volgens mij veel lastiger.

[Bruin Poeper]

Hoe kom jij er eigenlijk achter of iets in de software een algoritme is?

Ga je de code napluizen? En staat er dan bij "dit is een algoritme"? En wat als dat er niet bij staat, hoe ontdek je dan als het verstopt staat?

[Floort]

De onduidelijke definitie van wat een algoritme is is breder bekend. Ik verwacht dat dat ook wordt gebruikt als excuus om algoritmes niet te registreren. Maar uiteindelijk moet je voor de definitie in de AI Act zijn.

[mac1987]

Definitie die volgens Justid wordt toegepast voor het algoritmeregister:

Een algoritme is een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen, een vraag te beantwoorden, een voorspelling te doen of een beslissing te ondersteunen.

Definitie volgens RvIG:

Wij hanteren de definitie van de Algemene Rekenkamer: ‘Een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.’

Definitie volgens algoritmes.overheid.nl:

Een algoritme is een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden.

Upload geheel GitHub dan maar...
Als softwareleverancier hebben wij ook de vraag gekregen onze algoritmes aan te leveren. Bij de vraag welke definitie we moeten hanteren komt een vergelijkbaar vage en daarmee onbruikbare definitie. We hebben dan ook zelf maar de aanvullende interpretatie gegeven van algoritmes die inhoudelijke beslissingen (deels) overnemen van medewerkers waar die vanuit wet- en regelgeving die vrijheid zelf wel zouden hebben. Het overnemen van een berekening op basis van hard vastgestelde normen vinden wij niet iets dat besluitvorming beïnvloedt. Een Casio zou dan al aangemeld moeten worden. Een algoritme dat een indicatie van fraude geeft, of het besluit tot toekenning of afwijzing van een voorziening overneemt, zou dat dan wel weer zijn.

[Reactie gewijzigd door mac1987 op 12 juli 2025 02:15]

[Floort]

Ik heb zelf voornamelijk een technische achtergrond maar ik werk vooral tussen mensen met een juridische achtergrond. Deze discussie blijft lastig. Om mensen uit te dagen om na te denken vraag ik wel eens of ze ook het spamfilter gaan registreren. Nee, dat zou flauw zijn, spamfilters zijn niet speciaal. Iedereen heeft ze al heel lang. Bovendien nemen spamfilters geen beslissing die invloed hebben op mensen. Dan leg ik uit dat ik via een e-mail een Woo-verzoek over algoritmes heb ingediend bik een gemeente en dat achteraf blijkt dat dat verzoek niet is beantwoord omdat een spamfilter mijn e-mail heeft verwijderd zonder menselijke tussenkomst. Dat heeft rechtsgevolgen voor mij. Het gesprek wordt dan meestal afgekapt met een "Ohja interessant, we zullen erover nadenken". Ik heb nog nul spamfilter in het algoritmeregister zien staan, ook niet bij die ene gemeente. Niemand kan uitleggen hoe ze werken.

[Electrowolf]

Mooie duiding, maar ook interessant om hier wat overheidsperspectief aan toe te voegen. Er zijn een paar dingen die de het uitdagend maakt de punten die je noemt te verbeteren. Ik pak er drie:

De eerste en, denk ik, meest fundamentele is het gebrek aan financiering. Bij de introductie van het register is er door BZK (eigenaar van het register) tegen andere overheden gezegd dat ze geen geld beschikbaar stellen voor de werkzaamheden die nodig zijn om algoritmen goed te registreren. Dit is een van de voornaamste praktische redenen waarom registratie vrijwillig is; anders had BZK geld beschikbaar moeten stellen om de verplichting uit te voeren.

Om toch, en als tweede, het vullen van het register aan te moedigen is het registreren zo laagdrempelig mogelijk gemaakt. Deels door hulp vanuit BZK aan te bieden aan registrerende organisaties, maar het ook inhoudelijk toegankelijk te maken. Hiermee zijn de kosten lager voor een organisatie om te registreren. Het is/was belangrijker om een kritieke massa te creëren dan om meteen alles goed te doen. Hierdoor is de kwaliteit dus ook lager.

Dit heeft wel weer effect op een derde punt: "men" verwacht vaak perfectie van de overheid, wat juist kan zorgen voor terughoudendheid van overheden om dingen openbaar te maken. Zie bijvoorbeeld je eigen reacties met Woo verzoeken. Een Woo verzoek kost, hoe vervelend het ook is, vaak veel tijd en (dus) geld van een organisatie. Die tijd zou ook kunnen worden gebruikt om andere nuttige dingen te doen (meer registraties, betere kwaliteit leveren, etc...). Door iets te registreren stel je je als organisatie kwetsbaar op, bijvoorbeeld doordat er dan een Woo verzoek kan komen. Door niet te registreren voorkom je dit. Het is soms een dilemma: als ambtelijk apparaat wil je transparant zijn, maar de politiek geeft je niet altijd de middelen en mogelijkheden om dat op een verantwoorde manier te doen.

En dit zijn maar een paar van de dingen die meespelen vanuit het perspectief van de registrerende organisaties. Ik verwacht (en zie) dat er op dit moment meer prioriteit wordt gegeven aan het implementeren van de Europese AI-Act en het Nederlandse register minder op het netvlies staat. Hopelijk lukt het om het Nederlandse register zo in te richten dat je registreren van AI-systemen in de Europese database automatische via het Nationale register kan doen. Dan kan het meeliften op die trend .

[Reactie gewijzigd door Electrowolf op 11 juli 2025 21:18]

[Floort]

Je geeft een hoop valide context mee die ik lastig vindt om zelf te benoemen omdat ik liever niet citeer uit niet openbare gesprekken. Het overkoepelende probleem is dat het hele algoritmeregister en de bijbehorende standaard zijn aangekondigd als een open ontwikkeling, waarbij ook burgers actief werden (en nog steeds worden) uitgenodigd om bij te dragen via GitHub. Dat betekent dat burgers zoals mijzelf er tijd in stoppen om feedback te geven en zelfs concrete verbetervoorstellen te doen. Waar ik dan al gauw tegenaan ben gelopen is dat verbetervoorstellen op ondoorzichtige wijze worden afgewezen. Niet echt geheim, want het en der krijg ik prive wel wat feedback. Maar anderen die bijdragen moeten dat doen vanuit een informatie-achterstand en mensen worden niet echt geïnformeerd over de doelen en afwegingen waar keuzes op gebaseerd zijn waardoor er veel vrijwillige tijd verspild wordt. Dergelijke half open ontwikkeling werkt niet. Ontwerp het zelf en neem volledige verantwoordelijkheid voor de keuzes zodra het resultaat wordt gedeeld of ontwikkel open en samen.

De discussie over het verlagen van de registratie-kosten versus het uithollen van het primaire doel van het register is een super nuttige om ook open te voeren. Overigens heb ik mijn best gedaan om alle uitbreidingen te baseren op al bestaande wettelijke verplichtingen zodat de administratieve lasten minimaal zijn. Ik vermoed dat die het niet gehaald hebben omdat het daarmee duidelijker zichtbaar is als er niet aan die verplichtingen is voldaan. Controle van rechtmatigheid was wel een belangrijk doel. Maar niet iedereen wil te koop lopen met zichtbare onrechtmatige algoritmes.

Daarmee wil ik niet zeggen dat het bewust stiekeme ambtenaren zijn met kwade bedoelingen ofzo. Dat is totaal niet mijn ervaring. Maar ze zitten nu al met een GitHub repository die iedereen uitnodigt om mee te denken en bij te dragen terwijl ze mij in privé hebben verteld dat ze met mijn bijdragen van afgelopen ruime twee jaar niets doen omdat niemand van de ontwikkelaars naar de issues en commits lijkt.

Het gaat niet alleen om de transparantie van het register. Het gaat ook over transparantie van de keuzes achter het register. Samen met burgers open ontwikkelen betekent niet alleen periodiek het resultaat op GitHub dumpen, maar ook transparant zijn over gemaakte keuzes. En als je open wilt lijken maar niet open wilt zijn vallen de stukken waarover je niet open wilt zijn vaak alleen maar meer (negatief) op dan wanneer je open bent over afwegingen.

Wat de Woo-verzoeken betreft was dat een gevolg van ontwerp keuzes van het team zelf. Ik heb geprobeerd om velden aan de standaard toe te voegen waarvan al een wettelijke verplichting is dat die informatie aanwezig is én die noodzakelijk is om aan het oorspronkelijke doel van het register te voldoen. Er is mij expliciet verteld dat als je die informatie wilt hebben je maar een Woo-verzoek in moet dienen. Ik vind dat zelf een onverstandige ontwerpkeuze. Maar het is niet mijn ontwerpkeuze.

[Reactie gewijzigd door Floort op 11 juli 2025 22:46]

[locke960]

Dat is dus dit register. Ik heb gekeken wat er is stond, en er komt één woord bij me op. armoedig.

Er willekeurig doorheen klikkend zie ik een verzameling trivialiteiten (de voorleessoftware op onze website gebruikt een neuraal netwerk om de stem te verbeteren), open deuren (wat doet het: het past de regels in de wet toe) en vooral heel veel weinigzeggende verklaringen over hoe het precies werkt en hoe het toegepast wordt.

Misschien staat er wel iets interessants en wezenlijks tussen, maar ik heb het nog niet gezien.

edit:
ik vraag me ook af waaom @Floort überhaupt een Woo-verzoek moet doen. Dat is nou precies het soort informatie dat gewoon in het register zou moeten staan.

[Reactie gewijzigd door locke960 op 11 juli 2025 16:56]

[Floort]

Dat is een punt dat ik in januari 2023 heb aangekaart bij de ontwikkelaars. Als je het register ontwikkeld moet je het testen met de meest lastige use-cases om te zien of de applicatie en de standaard dat ondersteunen. Tot nu toe heeft het register een behoorlijke bias richting de relatief makkelijke en veilige voorbeelden. En voor zover ik weet worden de registraties ook niet getest/beoordeeld vanuit het perspectief van burgers die deze transparantie nodig hebben. Ik heb wel een poging gedaan om incidenten en nieuwsberichten te verzamelen die over problemen met algoritmes gaan om die vervolgens naast het register te leggen met vragen als: staat het algoritme in het register? Bevat de registratie informatie informatie over het riscico dat is benoemd? Etc.. Er heeft slechts 1 iemand op gereageerd en dat was een ambtenaar die mij kwam vertellen dat ik alleen in besloten kring openbare nieuwsberichten mag vergelijken met openbare registraties. Transparantie wordt nog erg lastig gevonden.

[locke960]

Er heeft slechts 1 iemand op gereageerd en dat was een ambtenaar die mij kwam vertellen dat ik alleen in besloten kring openbare nieuwsberichten mag vergelijken met openbare registraties.

Heeft die ambtenaar toevallig een bijbaan bij Spotler Engage?

Volgens mij is het vrij ondankbaar werk om dit soort dingen na te jagen zoals jij dat doet, maar het is wel belangrijk, dus Chapeau!

[bzzzt]

En dat terwijl er best veel software is waarvan het publiek belang is de werking te kennen. Bijvoorbeeld de criteria voor het vaststellen van de huizenprijs voor WOZ belasting.

[Floort]

Ik was al een comment aan het schrijven voor je edit. Het zit als volgt: het oorspronkelijke doel van het register was dat burgers in staat moeten zijn of ze niet onrechtmatig worden gediscrimineert. Gaandeweg heb ik op Github feedback gegeven over de ontwikkeling omdat de standaard niet voldoende was om aan dat doel te voldoen. Die feedback is uiteindelijk meegenomen door het doel aan te passen naar het vagere doel van meer transparantie geven over algortimes. Geen concreet houvast meer over wat je ermee moet kunnen dus. De uitleg daarbij is dat als burgers meer vragen hebben dat ze dan bijvoorbeeld via de Woo meer informatie kunnen vragen. Ik heb vervolgens een poging gedaan om daarmee te helpen zodat burgers in ieder geval zo makkelijk mogelijk een Woo-verzoek kunnen indienen.

[Reactie gewijzigd door Floort op 11 juli 2025 17:17]

[TMon]

Ook namens mij Bedankt voor je inzet, kritische blik en bovenal de wil om mee te bouwen aan onze overheid.

Enorm interessant om jouw ervaringen en inzichten te lezen.

Nogmaals, dank!

[WillySis]

Zolang de verplichting ontbreekt worden er alleen algoritmes ingezet die redelijk/volledig onschuldig zijn. Zodra er echt besluiten worden gemaakt op basis van een algoritme of AI begeeft men zich op een schuin vlak en zou de AP actie kunnen ondernemen.

Een verplichting is dus de enige oplossing om het register te verbeteren. Beginnen bij de overheid is niet onlogisch want in theorie moeten gebruikte algoritmes via de WOB en/of WOO al opgevraagd kunnen worden.

[TheProst]

Op zich goed dat dit nu meer aandacht krijgt, maar het is eigenlijk bizar dat zoiets nog steeds niet verplicht is. Algoritmes bepalen inmiddels best veel in het contact tussen burgers en overheid, van toeslagen tot handhaving, en toch is er weinig zicht op wat er precies gebeurt.

Wat me ook zorgen baart: naast het gebrek aan registratie is er blijkbaar ook amper aandacht voor de impact op grondrechten. Dat is toch waar het juist fout ging in eerdere schandalen. Transparantie is het minste wat je mag verwachten, helemaal als de overheid algoritmes inzet die invloed hebben op mensenlevens. Dus ja, verplicht registreren lijkt me niet meer dan logisch.

[goarilla]

Dus ja, verplicht registreren lijkt me niet meer dan logisch.

To be fair toen ik enkel de Titel las dacht ik eventjes van huh
moet nu iedereen een algoritme dependencies lijst voor iedere
publieke instelling registreren.

Nu weet ik beter dat het over specifieke algoritmes gaan en dat ze een stap verder zitten.
En ook dat er inderdaad een effort is gemaakt om burgerechten en privacy assesment
er meer in te bouwen.

Maar om eindelijk naar de reply te komen:
Wat doe je met algoritmes waar de publicatie ervan schadelijk kan zijn
of ongewenst: militaire en encryptiealgoritmes ofzo ?

[TheProst]

Voor dingen zoals militaire systemen of encryptie zou dat natuurlijk anders liggen. Die hoef je ook niet volledig openbaar te maken. Maar dit gaat vooral om algoritmes die burgers raken, zoals bij toeslagen, uitkeringen of gemeentelijke processen. Juist daar is transparantie belangrijk. En zelfs als je een algoritme niet publiek kunt maken, is het nog steeds handig om het intern of vertrouwelijk te registreren. Dan is er in elk geval overzicht en controle, ook al is het niet voor iedereen zichtbaar.

[CivLord]

Ook van algoritmes die burgers raken wil je niet altijd dat die openbaar worden.

Overheidsinstellingen met een controlerende taak maken op basis van algoritmes beslissingen of iets wel of niet gecontroleerd wordt. Afkomst en dergelijke mag daarbij uiteraard geen onderdeel van zijn en dat is de reden voor het algoritmen-register.
Veel afwegingen zijn ook gebaseerd op bepaalde grenzen. De uitvoeringsinstellingen kunnen niet elke uitgave, bijverdienste, aftrekpost, etc. controleren, maar wanneer bv. een aftrekpost boven een bepaald bedrag komt, dan kan dat gecontroleerd worden. Of bij een combinatie van factoren, wanneer iemand een uitkering heeft én veel giften doet. Wanneer je al die informatie publiceert, dan laat je potentiële fraudeurs weten onder welke grenzen ze vrij spel hebben.

Controleren betekent niet meteen de FIOD inschakelen, maar een brief sturen om uitleg te vragen.

[bzuidgeest]

Hoe moet dit nou werken?

Alle software is een algoritme dat beslissingen maakt. Het is de definitie van software... Als je alle algoritmes wil zien die de overheid gebruikt dan moet dat register de overheid zijn github worden. Iets anders lijkt me nutteloos. Niets meer dan mooie sprookjes waar ze noteren wat ze beweren te doen, maar ondertussen weet je niet wat de programmeurs echt gedaan hebben. In mijn ervaring zitten er nog wel eens flinke disconnects tussen wat de bobo's bedenken en wat de programmeur maakt. De programmeur heeft namelijk met de realiteit te maken, dit in tegenstelling tot een stel fantaserende managers in een hokje.

[Reactie gewijzigd door bzuidgeest op 11 juli 2025 17:28]

[SwaggyEggs]

Lijkt me beetje ondoenbaar. Iedere excel sheet met persoonsgegevens en een filter zou je al als potentieel schadelijk algoritme kunnen aanmerken

[Reactie gewijzigd door SwaggyEggs op 11 juli 2025 17:04]

[Sissors]

Precies, als ik kijk in hun handleiding: https://autoriteitpersoonsgegevens.nl/documenten/aan-de-slag-met-algoritmeregistratie-handvatten-voor-organisaties, dan gaat het ook over echt triviale algorithmes. Bij mij komt het dan over als zo'n gevalletje dat niemand verantwoordelijkheid wil nemen voor keuzes, en dus dat maar gewoon alles geregistreerd moet worden. Waardoor het meer een extra bureaucratische stap wordt, als iets wat daadwerkelijk wat toevoegt.

[SwaggyEggs]

Precies! Nul komma nul aandacht voor uitvoerbaarheid. Een slechte trend..

[beautjweetj]

De Autoriteit Persoonsgegevens overheden verplicht worden te registreren welke algoritmes zij gebruiken

Moet denk ik zijn: "De Autoriteit Persoonsgegevens wil dat overheden verplicht worden te registreren welke algoritmes zij gebruiken"

[divvid]

grote vraag blijft natuurlijk: hebben we allemaal van die ambtelijke talenten rondlopen die perfect weten te verbloemen wat al die algoritmes doen, in niet zeggende termen of vage omschrijvingen.....

of...

hebben de mensen die dit soort dingen in moeten vullen (doet jij dat even op vrijdag middag 15:00 uur) echt geen flauw benul waar ze mee bezig zijn.

Voor het eerste moet je donders goed snappen wat zo'n algoritme doet en als je dat begrijpt dan zou je intrinsiek al moeten aanvoelen of een algoritme doet wat het moet doen, of dat er grote valkuilen in zitten.

Ik vrees echter scenario twee....

[enetrati]

Ik heb mij altijd verbaast over hoe de overheid omgaat met zaken waar een mate van publiek belang bij is dat een handeling of vastlegging van handelingen door de overheid correct uitgevoerd wordt.

Naar persoonljke ervaring, maar waar er dus ook publiekelijk bekende voorbeelden van zijn, waarvan dit artikel er ook een geval van is. Dat er rijksoverheidbreed vaak door bestuurders wordt geroepen dat er sprake moet zijn van een zekere mate van vrijwilligheid en vrijblijvendheid in de uitvoer van een initiatief. Uiteindelijk gaat zo'n initiatief dood omdat er geen eigenaarschap en de daarbijhorende verantwoordelijkheden niet worden genomen en schouders worden opgehaald met de beruchte woorden 'niet mijn probleem'.

Deze ambivalente houding waarin de overheid van alles eist van de burger en het bedrijfsleven maar niet zijn eigen regels naleeft, creëert een breuk in het vertrouwen en aanzien in de werking van de overheidsorganisaties. Het markante van dit verhaal is dat het herkend en erkend wordt over de ernst van deze gang van zaken. Maar niemand zich geroepen voelt om de streep te trekken en liever hoofd in het zand steekt.

[Sissors]

Je moet alleen de overheid niet als monoliet zien. En ik zie hetzelfde terug in het bedrijfsleven, het is een stuk makkelijker allemaal regeltjes te maken, die al dan niet redundant zijn of elkaar tegenspreken, dan dat je ze zelf moet volgen. En natuurlijk, dat betekend niet dat we maar geen regels moeten hebben, maar wel dat je niet alleen bij een algoritme moet afvragen of die goed geimplementeerd is, maar ook bij regels. Het is heel makkelijk te eisen dat elk algoritme in die database moet komen. Immers al het gedoe, overhead, verantwoordelijkheid, etc gooi je bij iemand anders neer. Terwijl als je zorgt voor een duidelijk kader wanneer het nou echt nodig is, dan komt dat initieel bij jezelf te liggen.

Want leuk als je het gaat verplichten, ook als ik hun handleiding bekijk (https://autoriteitpersoonsgegevens.nl/documenten/aan-de-slag-met-algoritmeregistratie-handvatten-voor-organisaties), is mijn conclusie dat als je als gemeente bijvoorbeeld bij iedereen in een straal van 200m rond de nieuwe rotonde een briefje in de bus wil doen over wat het betekend qua overlast bij de aanleg, dan heb je een algoritme en dus moet die met dit idee verplicht geregistreerd worden. Wat imo behalve overdreven is, ook zorgt ervoor dat alles verdrinkt in een zee van registraties met twijfelachtig nut.

[enetrati]

Je moet alleen de overheid niet als monoliet zien

Er is alleen een grote maar. En dat is dat de bestuurders dat wel zo zien en de burgerij ook. En wat het niet makkelijker maakt is dat het allemaal aparte organisaties mogen zijn maar een aantal delen ook zaken.

Binnen de rijksoverheid wijst het allemaal naar elkaar omdat iedereen weet dat het daadwerkelijk oppakken van het probleem een enorme complexiteit erachter zit en met een beerput wat mogelijk het aantal Kamercommissies makkelijk zou kunnen vertienvoudigen. Want een groot deel is te herleiden naar het beleid van de afgelopen 30 jaar.

[latka]

Dit gaat niet vliegen: of zaken worden niet geregistreerd en de AP ziet het niet. De registratie is slecht of zo onduidelijk dat je als burger onmogelijk kunt controleren of je hierdoor benadeelt bent. Een willekeurg voorbeeld van een algoritme met een beschrijving waar je niets mee kunt (vers van de site getrokken):

"College van Toezicht Auteursrechten (CvTA)
Dit algoritme helpt e-mailgebruikers te bepalen wanneer een e-mail gevoelige informatie bevat en beveiligd dient te worden verstuurd."

En dan bij risicobeheer:

"De overall prestaties van het algoritme worden gemonitord door de leverancier. Als blijkt dat het algoritme vaker verkeerde classificaties maakt, wordt dit opgepikt door de monitoring, zodat aanpassingen aan het algoritme kunnen worden doorgevoerd. "

Wat ik hieruit opmaak is dat ze een Outlook plugin gebruiken die ze verder inhoudelijk niet kennen en de leverancier doet al het werk.

Vragen die ik direkt heb:

1) In de werking staat dat het gebaseerd is op data uit het verleden en dat er automatisch geanonimiseerd wordt? Hoe dan? Dat soort algoritmes lekken altijd wel 1 of 2 persoonsgegevens uit zonder dat ze het weten.
2) Wederom in de werking: er wordt getoetst tegen een lijst van woorden en soorten bijlagen. Maar in de overweging om het in te zetten staat dat zo'n lijst slecht te onderhouden is en foutgevoelig.
3) Welke leverancier? Is dat geen risico?
4) Ze monitoren of het systeem verkeerde classificaties maakt en gaan het dan tunen. M.a.w.: ze lekken voortdurend persoonsgegevens omdat de plugin het niet ziet en gaan dan het lek dichten. Lekkere wijze van werken.....


Dit is gedoemd te mislukken. Maakt gewoon naam van het pakket en de leverancier bekend in plaats van wouwelteksten neerzetten om te verbloemen dat je het eigenlijk ook niet weet. Of beter nog: publiceer het gewoon als broncode dan kan er echt getoetst worden of het zuivere koffie is. Dit register is een erg ambtelijke wijze van indekken zonder dat het effectief is.

-- Toevoeging:

Ik zie nu dat het Zivver is in de kop (dat is dus de leverancier) en als je even doorgraaft zijn een flink aantal 'algoritme registraties' van Zivver gedaan. Ofwel: de telling van registraties is al helemaal niet bruikbaar (1004 op het moment van schrijven).

[Reactie gewijzigd door latka op 11 juli 2025 18:15]

[Quintiemero]

Slim van de leverancier. Een slimme leverancier levert dus zelf de beschrijving aan en hebben weer wat om mee te pronken. Kijk onze software is Algoritme-register ready-to-go. Zelfde voor al die Woo-tools.

[joezzt]

Ik vraag me af wat nou effectiever is: mensen, of de algoritmes met administratieve lasten en uitbestedingen die erbij komen.