AP blijft roepende in de woestijn over gevaren van AI-algoritmes

De Autoriteit Persoonsgegevens waarschuwt opnieuw dat Nederlandse bedrijven en overheden niet goed in beeld hebben wat de risico's van AI zijn. Het is code rood, waarschuwt de privacytoezichthouder. Er is geen toezicht en slechte registratie van hoe algoritmes worden ingezet, en dat levert het risico op nieuwe discriminatieschandalen op.

Daarvoor waarschuwt de Nederlandse privacytoezichthouder in de halfjaarlijkse Rapportage AI en Algoritmes Nederland (RAN). Daarin kijkt de AP naar hoe algoritme-implementaties bij de Nederlandse overheid en in het bedrijfsleven ervoor staan. Het gaat dan bijvoorbeeld om 'geharmoniseerde en praktisch toepasbare standaarden voor AI-systemen', waarvan de voortgang op dit moment onvoldoende is, zegt de AP. Tijdens de vorige rapportageperiode, in de zomer van 2025, noemde de AP nog dat er bij veel van die onderwerpen 'verhoogde aandacht' nodig was. Inmiddels is die status van veel onderwerpen verslechterd, naar 'voortgang onvoldoende'.

Alleen de ontwikkeling van een nationaal AI-ecosysteem loopt op koers, naast 'vertrouwen in, aandacht voor en kennis over algoritmes in de samenleving', schrijft de AP. Dat AI-ecosysteem bestaat onder andere uit investeringen door de overheid en private sector, bijvoorbeeld via de financiering voor een 'AI-fabriek' in Groningen.

Weinig kaders

Buiten dat zijn de meeste AI-implementaties onvoldoende. Zo waarschuwt de AP dat er weinig kaders en bevoegdheden zijn waarmee de toezichthouder zijn werk, het houden van toezicht, daadwerkelijk kan doen. Ook zijn er weinig leerpunten op basis van incidenten. "Incidenten worden nog onvoldoende aangegrepen als lessen voor de toekomst en daarvoor benut. Incidenten blijven vaak verborgen en er wordt onvoldoende voorbereid op het melden van incidenten die in de toekomst verplicht gemeld moeten worden."

Door al die problemen ontstaat er een risico op ernstige nieuwe incidenten, waarschuwt de AP. De toezichthouder verwijst onder andere naar de toeslagenaffaire, waar ook algoritmes aan ten grondslag lagen. "Vijf jaar na het toeslagenschandaal zijn de lessen duidelijk, maar de opvolging blijft achter", zegt voorzitter Aleid Wolfsen. "Dat komt vooral doordat stevige regels voor algoritmes en AI en handhaving hiervan ontbreken. Nu de druk om AI te omarmen toeneemt, moeten we grondrechten beschermen. Wie een nieuw schandaal wil voorkomen, moet nú handelen."

Bovendien waarschuwt de AP voor de snelheid van de ontwikkelingen. De toezichthouder verwijst onder andere naar agents, die zelfstandig taken kunnen uitvoeren. Organisaties proberen bovendien onder regulering uit te komen door de risico's van hun AI-systemen als te laag in te schatten.

Geen duidelijke regels

Veel van die problemen komen volgens de AP doordat er te weinig duidelijkheid is over de regels. "Het doel van de AI-verordening is helder: betrouwbare AI in Europa bevorderen, met systemen die veilig zijn, grondrechten respecteren en tegelijkertijd innovatie mogelijk maken. De AP waarschuwt dat die doelen door besluiteloosheid niet gehaald worden en dat de invoering van AI-regels in gevaar komt."

De toezichthouder raadt het Nederlandse kabinet dan ook aan 'snel werk te maken' met de implementatie van de AI-verordening. "Dat betekent: de Nederlandse uitvoeringswet vaststellen, toezichthouders aanwijzen, financiering voor toezicht structureren en duidelijkheid scheppen over de toepassing van de regels. Daarnaast moet Nederland in Europa aandringen op snelle afronding van de discussies over uitstel en vereenvoudiging van de regelgeving", schrijft de toezichthouder.