AP en RDI willen snel duidelijkheid over wie toezicht houdt op AI

De Autoriteit Persoonsgegevens en de Rijksinspectie Digitale Infrastructuur roepen het Nederlandse kabinet op snel een beslissing te nemen over wie toezicht moet houden op AI-systemen. Deze oproep hangt samen met nieuwe Europese regelgeving die begin 2025 in werking treedt.

Het kabinet vroeg de twee toezichthouders te kijken naar hoe het toezicht rondom de AI Act van de Europese Unie geregeld moet worden. Dat toezicht moet 'snel geregeld worden en vraagt samenwerking', schrijven de twee toezichthouders. Vooral het regelen van de toezichthouder voor verboden AI-systemen is 'bijzonder urgent'. Onder de AI Act zijn namelijk bepaalde AI-systemen vanaf januari 2025 verboden.

De twee organisaties vinden dat de Autoriteit Persoonsgegevens de toezichthouder moet worden voor dergelijke verboden AI-software, maar daar is de AP op dit moment niet voor uitgerust. 'Dit vraagt voorbereiding en uitwerking'. Daarom willen de autoriteiten snel duidelijkheid over eventueel extra budget en personeel. Dit geldt volgens de organisaties ook voor de vraag wie toezicht moet houden op het beschermen van grondrechten bij AI-systemen. "Daarom zullen over het bovenstaande snel gesprekken gestart moeten worden tussen de departementen en de betrokken toezichthouders."

Andere delen van de AI Act treden pas in 2026 in werking en zijn daarom minder urgent. Dan gaat het bijvoorbeeld om wie toezicht moet houden op producten met kunstmatige intelligentie die volgens de EU een hoog risico inhouden. De AP en RDI adviseren dat dit toezicht zoveel mogelijk aansluit bij het al bestaande toezicht, bijvoorbeeld als het om producten gaat die nu een CE-markering vereisen. "De Nederlandse Voedsel- en Warenautoriteit blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit", schrijven de toezichthouders. "En de Inspectie Gezondheidszorg en Jeugd gaat ook toezicht houden op de AI in medische apparaten." Daarbij geldt wel dat toezichthouders, bedrijven en organisaties kunnen samenwerken, waarbij ze bijvoorbeeld aan de RDI kunnen vragen of een product aan AI-regelgeving voldoet.

De Autoriteit Persoonsgegevens zou weer toezicht moeten houden op AI-producten of -toepassingen die geen CE-markering vereisen, ongeacht de sector. "Van onderwijs tot migratie en van werkgelegenheid tot rechtshandhaving: de AP zou hier de zogeheten markttoezichthouder moeten zijn'. Die markttoezichthouder moet volgens de AI Act controleren dat AI voldoet aan eisen rondom bijvoorbeeld het trainen van AI, transparantie en menselijke controle. "Dat vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld zijn", zegt AP-voorzitter Aleid Wolfsen.

Hiervoor gelden twee uitzonderingen: de financiële sector en de kritieke infrastructuur. De Autoriteit Financiële Markten en de Nederlandsche Bank zouden markttoezichthouder moeten worden voor die financiële sector, de Inspectie Leefomgeving en Transport en de RDI zouden dat weer moeten worden voor de kritieke infrastructuur. Het kabinet moet zich nu buigen over de adviezen van de toezichthouders.

Reacties (20)

[darknessblade]

Waarom niet 1 centraal orgaan die weet waar ze over praten?

[Arnoud Engelfriet]

Omdat je dan enorm logge organisaties krijgt die van alles een beetje weten.

De achtergrond is dat de AI Act ingestoken is volgens de regels van productveiligheid. Het model daarbij is dat je per sector een toezichthouder hebt die de unieke aspecten daarvan kent, weet waar ze op moet letten en in samenwerking met de sector een model kan kiezen. Steekproeven, high trust, periodieke inspecties, noem maar op. Dat is waarom we in Nederland twintig toezichthouders hebben, de NVWA voor voedsel, de IGJ en NZa voor zorg, de ACM voor winkels/ecommerce, de RDI voor digitale infra en ga zo maar door. Ik zie niet hoe je ooit één orgaan kunt maken dat én voedingskeuringen kan doen én kritieke digitale infrastructuur kan inspecteren.

[kodak]

Met veel verschillende organisaties heb je niet zomaar minder logge aanpak. Die moeten namelijk wel met elkaar en apart met belanghebbenden als bedrijven en personen samenwerken. Terwijl die allemaal eigen belangen en beperkt tijd en budget hebben.

Het argument is dus eerder dat AI om zoveel verschillende belangen gaat dat men geen duidelijke keuzes kan maken via één centraal verantwoordelijke organisatie.

[darknessblade]

En dan heb je ook niet het probleem dat je van tafeltje naar tafeltje wordt gestuurd wegens een probleem, dat bureau A denkt dat Bureau B moet oplossen, maar Bureau B denkt dat het Bureau Q is, en Bureau Q denkt weer dat het bureau R is, en bureau R stuurt je weer naar Bureau A.

Waardoor het alsnog niet wordt opgelost, omdat geen van de instanties weten wie het moet oplossen.

------
Exact hetzelfde kan je hebben met Woningstichtigingen en gemeentes voor onderhoud van achterpaden.

De gemeente denkt dat het van de woningbouw is, en de woningbouw denkt dat het van de gemeente is
en kadastraal heb je dan dat het als 2 aparte stukken is volgens een tekening uit <1970. met het achterpad op de lijn.
------
Hier is de consument/klant/huurder alleen maar de dupe van, omdat je niet weet wie het moet onderhouden, bij bv kapotte of weggezakte tegels

[kodak]

Het is niet alsof je met één loket maar met één belanghebbende te maken hebt. Een loket kan namelijk door verschillende belanghebbenden bediend worden. En zelfs al zet je daar één belanghebbende in, dan moet die alsnog eerst zorgen dat de verschillende belangen achter het loket eerst overeenstemming en een besluit geven. Wat niet zomaar minder tijd of geld kost dan de alternatieven.

[Arnoud Engelfriet]

Ik zie je punt van verschillende organisaties. Maar het is niet zo dat "men geen duidelijke keuzes kan maken". Voor mij is er écht een verschil tussen zeg inzet van AI om sollicitanten te beoordelen en inzet van AI om autonome oogstmachines te laten rijden op omheinde akkers. Daar heb je andere beoordelingskaders voor nodig. Maar oké, het maakt daarbij niet uit of dat de diensten Arbeid en LNV zijn binnen de Toezichthouder AI & Algoritmes, of dat er een dienst AI komt bij de Arbeidsinspectie en het ministerie van LN{1,2}V.

[latka]

Dacht ik eerst ook, maar er zit wel at verschil tussen een speelgoedtrein en een MRI scanner, dus alle kennis ineen gaat zowiezo niet werken. Dan het ai component centraal? Maar dat werkt alleen maar bewijzen en duiken in de hand. Voor bijvoorbeeld de gebruikte verf op de speelgoedtrein en de MRI scanner gaan we ook niet centraal een verfkeuring doen.

[downtime]

AI in de gezondheidszorg heeft een hele andere impact dan AI in speelgoed. En AI in het onderwijs heeft een hele andere impact dan AI in een auto. Je moet iets van de impact snappen om goed te kunnen oordelen. En dan is een centraal orgaan die veel van AI weet maar niks over de inzet ervan niet zo handig.

Zou een beetje als een centraal orgaan voor het toezicht op electrische apparaten zijn. Toezicht op een hart-long-machine moet heel anders dan toezicht op een koffiezetapparaat. Toch zijn het allebei electrische apparaten en zou je denken dat een centraal orgaan voor toezicht op electrische apparaten een manier is om de expertise te bundelen. In de praktijk is dat maar heel beperkt waar.

[ALittleTooLate]

Aangezien alles tegenwoordig AI wordt genoemd, gaat dit over toezicht over alles.

[ernstoud]

Lijkt me een goed idee om Apple in de gaten te houden .

Beetje een issue nu. De afkorting AI is ambigu.

[elmuerte]

Atlassian gebruikt al veel langer Al als "Atlassian Intelligence". Dus niks nieuwe nu Apple dat ook gaat doen.

[ernstoud]

Zoals ik zei. Gebruik je nu in een artikel als dit de afkorting AI moet je het uitschrijven. Artificial, Apple, Atlassian, …

[Arrogant]

Of je gaat gewoon niet mee in de bullshit van die bedrijven.

[GeroldM]

Het is inderdaad wel heel erg gehypt nu. Zie er zelf ook wel enig nut in, maar het hosanna-gedrag wat zovelen tentoonspreiden tegenwoordig is overdreven. De cloud zit er echter met veel te dikke vingers in die pap.

Als ik zie wat een CPU-only LLM op een simpele i3 10e generatie processor al voor elkaar krijgt (met het model "Stable Instruct 3B") dan denk je al heel snel dat je i.p.v een 1 jaarabonnement op OpenAI je al thuis een AI kan draaien. Het is dan alleen nog maar een systeem zien te vinden dat je persoonlijke data in je LLM model kan importeren.

Want waar heb je een AI heel vaak nodig? Bij het terughalen van persoonlijke data, notities en bookmarks, bij gebrek aan een betere term. Je kan tegenwoordig al met meerdere AI's tegelijkertijd aan de slag. Voor notities en persoonlijke data wil je eigenlijk alleen je persoonlijke AI aanspreken. Voor generiek werk is de cloud-AI goed genoeg.

Kan mezelf wel vinden in het idee dat een persoonlijke AI het meeste werk voor je gaat verzetten, maar dat je persoonlijke AI tevens slim genoeg is om taken/opdrachten te delegeren naar generieke en (zeer) specifieke AI's die in de cloud ronddwalen. Deze AI's kunnen dan redelijk heftig worden geoptimaliseerd, zodat deze veel minder energie slurpen.

Dat is zowiezo het idee van de nieuwe lichting computers met NPU's. Alle AI voor de gebruiker lokaal draaien, op kosten van de gebruiker en de resultaten netjes doorgesluist naar de eigenaar van het besturingssysteem (ook op kosten van de gebruiker) dat de gebruiker draait op zijn/haar computer voor gewin en verbetering van de generieke AI die de eigenaar dan maandelijks aan de gebruiker doorberekent.

Run je eigen AI, je draait toch op voor de kosten. Kun je er beter zelf profijt van hebben. Nu moet alleen het voeren van je eigen data in het LLM model van je keuze danig worden versimpeld.

[dez11de]

Dat is niet echt wat je zei.

[ernstoud]

Ambigu: “als iets op verschillende manieren begrepen kan worden“

https://www.woorden.org/woord/ambigu

Voor de rest is je opmerking iets met spijkers, laag water, muggen, ziften e.d.

[disjfa]

Ik gebruik enkel Azure Intelligence of Aws Intelligence

[Dark Angel 58]

Simpel... geef toezicht op AI aan AI... probleem opgelost.

(Nietwaar, Ancient AI?)

[rejer]

Mijn ventilator naast het bed heeft tegenwoordig ook al AI... (Midea MFP-120i) AI icon op de settings gedoe. Maar goed, wij kunnen de "ai" wel weer regulieren, maar als China of Rusland of Amerika dat niet gaat doen lopen wij weer achter.

''Als de Weg wordt gevolgd, gebruikt men paarden om akkers te ploegen. Als de Weg niet wordt gevolgd, gebruikt men paarden om oorlog te voeren.''
― Lao Tzu

[ilaurensnl]

AI is tegenwoordig gewoon een sales pitch, genoeg bedrijven die iets AI noemen omdat je het met andere AI apparaten gebruikt kan worden, heeft het een stekker? oh die kan je met een AI apparaat aansturen! Stikker AI achieved.