College voor mensenrechten en AP worden toezichthouder voor AI-verordening

Het College voor de Rechten van de Mens en de Autoriteit Persoonsgegevens gaan in Nederland toezicht houden op de AI-verordening. Daarmee volgt de Rijksoverheid het advies van de AP op. Die pleit er al langer voor dat mensenrechten zwaar moeten wegen in het toezicht op AI en data.

Minister Dirk Beljaarts van Economische Zaken en staatssecretarissen Zsolt Szabó en Teun Struycken van Digitalisering en Justitie en Veiligheid schrijven in een brief aan de Tweede Kamer dat het College voor de Rechten van de Mens of CRM en de Autoriteit Persoonsgegevens 'grondrechtenautoriteiten' worden voor toezicht op de AI-verordening. Die trad in augustus in werking, al is er een overgangsperiode van twee jaar. In die periode moeten lidstaten zelf een nationale toezichthouder aanwijzen die de naleving van de verordening handhaaft. Dat is vergelijkbaar met hoe de Autoriteit Persoonsgegevens nu al de toezichthouder op de AVG is.

Het CRM en de AP worden de twee voornaamste toezichthouders. Daarnaast worden ook de procureur-generaal bij de Hoge Raad, de voorzitter van de Afdeling bestuursrechtspraak van de Raad van State, het gerechtsbestuur van de Centrale Raad van Beroep en het gerechtsbestuur van het College van Beroep voor het bedrijfsleven aangewezen als grondautoriteiten. "De rechtsprekende macht heeft hierbij een bijzondere rol, vanwege haar onafhankelijkheid en het waarborgen van het onafhankelijke toezicht in het kader van de uitoefening van gerechtelijke taken", schrijft de minister.

Akkoord

De toewijzing voor de toezichthouders is nog niet definitief. De Europese Commissie moet daarmee eerst akkoord gaan. Dat lijkt echter vooral een formaliteit: de kans is klein dat de twee autoriteiten niet geschikt worden geacht. Ook kan de Nederlandse overheid op een later moment nog andere toezichthouders aanwijzen.

Zelfs als de Europese Commissie direct akkoord gaat met de aanwijzing, duurt het nog lang voor de eerste handhavingen plaatsvinden. De toezichthouders kunnen alleen handhaven op zogenaamde 'hoogrisico-AI-modellen'. De definitie daarvan wordt in de komende twee jaar pas vastgelegd en is pas in augustus 2026 actief.

Dat de Autoriteit Persoonsgegevens en het CRM de toezichthouders worden, is niet onverwacht. De privacybewaker pleitte er samen met de RDI eerder al voor dat deze zelf, samen met het CRM, toezicht op de verordening gaat houden. De Autoriteit Persoonsgegevens is daarop ook al voorbereid. Sinds begin 2023 heeft de AP een nieuwe afdeling die toezicht houdt op algoritmes, wat veel raakvlakken heeft met kunstmatige intelligentie. AP-voorzitter Aleid Wolfsen vertelde eerder dit jaar in een interview met Tweakers al dat hij vond dat toezicht op mensenrechten steeds belangrijker wordt bij data-inzet.

Reacties (13)

[thunder7]

Gezien de AP nu al klaagt dat ze meer taken dan budget hebben, en de Haagse neiging om de verantwoordelijkheden te delegeren met (te) weinig budget, hoop ik maar dat de AP ook geregeld heeft dat ze hier echt iets mee kan. In de brief staat in ieder geval niets over geld.

[TijsZonderH]

Ik vraag me ook heel erg af welke taken er precies bij komen en of die door de AP, hun algoritmeafdeling, een beetje van alles of juist iets compleet nieuws worden uitgevoerd. En hoeveel geld daarvoor beschikbaar komt.

[Electrowolf]

Een andere vraag die in deze brief niet beantwoord wordt en hiermee samenhangt is hoe ze samenwerken met de andere inspecties. In de brief worden de genoemde partijen namelijk als grondrechtenautoriteiten aangeduid, niet als de algemene toezichthouders van de AI-Act. Dat wil zeggen, deze partijen gaan zich bezig houden met het toezicht op grondrechten zoals privacy en non-discriminatie, met betrekking tot de AI-Act.

Voor breder toezicht zal moeten worden samengewerkt met andere toezichthouders (die dus nog moeten worden vastgesteld). De RDI heeft bijvoorbeeld expertise die nodig is voor goede handhaving van de AI-Act in huis en de AP nu niet heeft. Als de AP dit toezicht (en evt meer) gaat doen, gaat de AP dat overnemen, dubbel doen, of gaan ze nauw samenwerken? En zo is die vraag er ook voor andere domein specifieke aspecten van de handhaving.

Ik vermoed dat die discussie, en daarmee de vraag over geld en capaciteit, nog loopt. Verschillende opties met verschillende kostenplaatjes .

[Reactie gewijzigd door Electrowolf op 20 november 2024 13:24]

[ikkuhqhp]

Daarbij is het wel frappant dat de AP een van de best gefinancierde privacytoezichthouders van Europa is (in ieder geval in 2022). Dat zie je niet direct terug in de output van de AP.

[CivLord]

Wanneer je de afgelopen tijd het nieuws een beetje gevolgd hebt, dan had je kunnen zien dat de AP alles behalve privacy problemen onder het tapijt veegt als 'economisch belang'.
Ze zijn volgens eigen zeggen liever te streng dan te coulant en gaan er van uit dat een commercieel belang nooit en te nimmer een gerechtvaardigd belang kan zijn, waar ze recent op zijn teruggevloten door de rechter.

[blorf]

Dat lijkt zo. Ze zijn de enigen die een probleem kunnen opgooien en in dienst van de overheid. Economisch belang. De omzet is belangrijker dan de privacy.

[Electrowolf]

[Misclick - mag weg]

[Reactie gewijzigd door Electrowolf op 20 november 2024 13:10]

[Electrowolf]

Afhankelijk van wat je onder autoriteit verstaat, krijg ze dat nu expliciet wel/meer. Door dit besluit hebben ze de mogelijkheden om ook te gaan handhaven op de AI-Act.

[Renoir]

Even los van of ze al autoriteit hadden, hiermee krijgen ze deze in ieder geval wel. Staat netjes uitgelegd in de kamerbrief: https://www.tweedekamer.n...2024Z18858&did=2024D44985

[CivLord]

Je hebt liever dat er vanuit de overheid totaal geen belang wordt gehecht aan jouw privacy en mensenrechten wanneer je met grote bedrijven te maken krijgt?