Nederlands kabinet: overheden mogen AI gebruiken, liefst opensource en Europees

Nederlandse overheidsdiensten mogen generatieve kunstmatige intelligentie gebruiken en liefst zijn het daarbij Europese diensten die opensource zijn. Dat zegt het kabinet in een nieuw standpunt over het gebruik van AI.

Overheidsmedewerkers mogen in hun werk nog altijd geen reguliere AI-toepassingen gebruiken als ChatGPT, zo meldt het kabinet. De bedoeling is namelijk dat overheidsinstanties afspraken maken met leveranciers over de verwerking en het gebruik van data en dat kunnen individuele gebruikers niet.

Aan het gebruik van AI zitten voorwaarden. Zo moet het uiteraard voldoen aan alle wetten zoals de AVG en de AI Act. Ook moet er van tevoren duidelijk zijn hoe overheden kunnen stoppen met het gebruik van de AI-dienst als blijkt dat de veiligheid in het geding is. Daarnaast moeten overheden kijken of ze alternatieven hebben om hetzelfde doel te bereiken zonder AI.

Daarnaast is er een voorkeur voor Europese diensten. "Omdat niet alle generatieve AI-applicaties even goed zijn in het verwerken van de Nederlandse taal en andere Europese talen, en om onwenselijke afhankelijkheden van landen buiten de EU te voorkomen, wordt het gebruik aan van in Europa ontwikkelde en beheerde applicaties aanbevolen. Bij voorkeur worden open modellen gebruikt en, waar mogelijk, open source en opensourceapplicaties, of wordt hiernaartoe gewerkt." Die voorkeur had het vorige kabinet ook. Het standpunt geldt als richtlijn voor overheden om AI in te zetten.

Reacties (43)

[Mar.tin]

Wat mij betreft mogen die schattige voorkeur termen er wel uit. En verharden we het naar:

"Overheden mogen AI gebruiken op eigen datacentra met eigen, of opensource modellen".

Ik zou niet weten waarom je in het huidig politiek klimaat dergelijke zaken buiten de EU zou willen inkopen, je staat toch gauw bij de VS of China op de stoep, beiden niet bekend om hun goede behandeling van dergelijke gegevens.

[Zer0]

Een amerikaans, of chinees model draaien in een eigen data-center op eigen/opensource software lijkt me ook niet echt een probleem, als deze efficienter is dan europese modellen. Een model kan geen gegevens doorspelen, dat kan de software waarin hij draait.

[Melones]

én de infra natuurlijk. kwestie van goeie firewall om de modelhost heen en alleen de api-laag / gui heeft enigzins mogelijkheid voor ontvangen inbound verkeer. Kan je thuis ook gemakkelijk met proxmox opzetten.

[killercow]

een model kan wel gekleurde resultaten geven, en dat kan best subtiel erin geknutseld zijn. (of minder subtiel: https://www.msn.com/en-us...-to-the-right/ar-AA1CPfyy )

[Dlocks]

Een medewerker van een gemeente kan ook gekleurd antwoord geven op een vraag van bijvoorbeeld een inwoner. Wat ook voorkomt is dat een aanvraag van een persoon voor bepaalde hulp(middelen) in gemeente x al jarenlang goedgekeurd wordt. Die persoon gaat verhuizen naar een andere gemeente waar de aanvraag door een ander persoon wordt afgehandeld en afgewezen.

[killercow]

en op die medewerker heb je wel grip.

[djwice]

De overheid wil ook moreel correct zijn.

Als een model getraind is op bijvoorbeeld gestolen data, of als een model getraind is door dwangarbeiders, of op gestolen hardware of stroom, of wordt geleverd met immorele eisen, kan het zijn dat het niet wenselijk is voor de overheid om het te gebruiken.

Een aantal overheidsinstanties zitten nog in de leerfase, het kan daardoor zijn dat ze nog fouten maken in hun keuzes.

Maar met review: Denkt een AI-model in het Engels? - Hoe een groot taalmodel van binne... in het achterhoofd, weten we ook, een model dat alleen op. Nederlandse data getraind is, zal veel minder krachtig zijn dan een die veel talen heeft geleerd en daarna is gespecialiseerd in het Nederlands.

[SVMartin]

Inderdaad. Het mag nu niet, dus alleen eigen datacenters/opensource zou al een heleboel mogelijkheden moeten geven. Nog mooier zou zijn als je "Europees" ook zou kunnen toestaan, ik weet niet hoe je dat juridisch moet definiëren.

[tw_gotcha]

bedoel je dan eigen = Nederlands, of eigen is Europees? Mag een Duitse server wel?
Wat dacht je van een Hongaarse of Italiaanse? Lekkere regeringen zijn dat.

En als dat niet mag, is er dan een server voor de alle NL overheid (en hoe kwetsbaar is dit)?
Afgezien nog van het trainen van de AI

Je schiet in iedere redenatie grote gaten, zowel de jouwe als minder sterk uitgedrukte bewoordingen.

[CAPSLOCK2000]

Mee eens, ik ben een beetje bang dat het gaat zoals met veel andere "Pas toe of Leg Uit"-achtige zaken.
Dat lijkt soms vooral een exercitie in excuusjes schrijven.

In het eerste jaar schrijven de meesten een rapport waarin staat dat ze geen leverancier hebben kunnen vinden die exact hetzelfde kan als MS/Amazon/Google/OpenAI en ieder volgend jaar wordt het lastiger om nog te veranderen.

Dat is heel begrijpelijk want de overheid voelt de dominatie van de grote techbedrijven ook. Al is het maar omdat de meeste experts en adviseurs ook vooral ervaring hebben met de techreuzen en uiteraard adviseren te gebruiken wat ze zelf kennen, tenzij je nadrukkelijk aangeeft dat je iets anders wil.

Wat mij betreft zou de overheid zichzelf dus wat dwingender mogen opstellen. De overheid is beter in staat om daar tegen in te gaan dan anderen omdat de overheid niet hoeft te concurreren op de commerciele markt en omdat de overheid op enorme schaal kan werken, zeker als we samenwerken met andere Europese overheden.

[supersnathan94]

In het eerste jaar schrijven de meesten een rapport waarin staat dat ze geen leverancier hebben kunnen vinden die exact hetzelfde kan als MS/Amazon/Google/OpenAI en ieder volgend jaar wordt het lastiger om nog te veranderen.

Nou, ik moet wel zeggen dat dat ook daadwerkelijk best wel lastig is.

Kijk even naar AWS, die hebben miljarden tegen Sagemaker AI gegooid en hebben direct al een heel scala aan tools beschikbaar gemaakt waarmee je echt heel eenvoudig kunt werken met verschillende modellen. Kun je echt binnen no time een applicatie tegenaan programmeren (zeg een uurtje).

Het is ook echt lastig om dat elders te vinden. Komt gewoon doordat er in de EU gewoon geen partij is die er zoveel geld tegenaan durft te gooien voor alleen het faciliteren, want dat is wat deze partijen doen.

Amazon boeit het echt niet welk model jij gebruikt. Die hebben een waslijst aan modellen die je kunt gebruiken. Uiteindelijk betaal je voor de service maar een paar centen, de daadwerkelijke rekening is gewoon weer compute.

[Buntuhein]

Tja, moeten er wel goede alternatieven zijn... Mistral is wel aardig, maar is blj lange na gaan ChatGPT (helaas). En nu wordt vooral op AI software gemikt? Waarom gebruiken we wel nog steeds MS Windows en alle andere US spul? Is dit niet een soort van dubbele moraal / voor de bühne? Geveinsde verontwaardiging die veel geldt kost - over 4 jaar is waarschijnlijk weer alles anders (als het al zo lang duurt). Een inschatting is het dat zeker 5 jaar duurt voordat we echte alternatieven hebben, zal las ik net op nu.nl. Dan zijn we al lang ingehaald door de werkelijkheid.

We hadden al lang en breed in Europa alternatieven moeten ontwikkelen en hebben, maar waren (en zijn) lui. Vervolgens laten we ook nog eens bureaucraten in Brussel regels verzinnen waarmee we de innovatie bij voorbaat smoren.

Is niks en wordt niks.... jammer genoeg.

[Erikkamm]

Waarom in eigen datacentra? Een steeds groter deel van de overheidsapplicaties draait in SaaS. Je kunt wel zeggen "Overheden mogen AI gebruiken in eigen of EU datacentra, waarbij de data binnen de EU blijft.".

[_Pussycat_]

Hmm. Als ik een foldertje maak en de tekst op begrijpelijkheid wil laten controleren door een AI, maakt het allemaal niet zoveel uit. Wil je werkelijk verbieden daar ChatGPT voor te gebruiken? En wil je werkelijk een ambtenaar bestraffen / ontslaan als hij een formuliering door ChatGPT heeft laten verbeteren?

[Mar.tin]

Klopt, maar ga je dat opnemen in een regel ergens?
“Als je een publieke flyer maakt mag je gewoon ChatGPT gebruiken, maar niet als je een flyer maakt voor evenement X, Y en Z”

Hoe maak je de grenzen duidelijk? Het is allemaal al ingewikkeld genoeg.

[_Pussycat_]

Daarom vind ik richtlijnen als "in principe vermijden" juist goed.

Jouw voorstel betekent dat iemand die een foldertje door chatGPT laat controleren bestraft moet worden. Als je om harde regels vraagt, moet je duidelijk zijn wat die kunnen betekenen.

[Niema]

Opnieuw het wiel uitvinden is duur. Andermans bestaande ai systemen gebruiken kan een stuk goedkoper zijn en beter wat betreft kwaliteit. Als de overheid zelf investeert in de ontwilkeling ervan is her duur en mislukt t waarschijnlijk ook. Er is best wat voor te zeggen om al succesvolle (amerikaanse) systemen te gebruiken, omdat die simpelweg werken..misschien niet Al te gevoelige staatsgeheimen in stoppen en goede afspraken maken, maar wat mij betreft is er een hoop voor te zeggen om bestaande (amerikaanse) ai systemen te gebruiken aangezien die gewoon goed werken en Al bestaan

[bovengemiddeld]

Heel benieuwd hoe dit gaat werken. Of elke overheidsdienst nu hun eigen AI gaat bouwen met daarbijbehorende Governance of dat er ook een centrale dienst gaat komen die ook afneembaar wordt voor gemeentes / kleinere diensten? Als het aan alle wetgeving moet voldoen wordt het ook gelijk enorm kostbaar als iedereen zelf het wiel gaat uitvinden.

[sebati]

Zelf modellen trainen is niet zo gek, dat doet onder andere de Duitse overheid (een standaard model is niet zo goed in Duits, zeker niet in Duitse 'overheidstaal') en ook de Nederlandse (om vergelijknbarte redenen als de Duitse overheid) omdat je een model wilt dat onze taal goed gegrijp en misschien wel allerlei dialected waarin een generiek model niet zo goed is. Kan me ook goed voorstellen dat de provincie Friesland een Fries model zou willen gebruiken.

[bigbuddha]

'liefst' en ''voorkeur' heerlijke termen toch 😆

[Beta]

Klinkt als: hoeft niet, mag wel.

[Electrowolf]

Hangt er vanaf hoe overheidsorganisaties er zelf mee om gaan. Daar is nog veel vrijheid in, dit kabinetsstandpunt is de boven- en/of ondergrens van wat mag of moet.

Sommige organisaties zullen het alsnog verbieden, andere interpreteren dit wel als "moet" en weer andere doen het nog losser.

Bedenk wel dat de bestuurders dat van deze organisaties zichzelf ook verantwoordelijk voelen en willen voorkomen dat dingen mis gaan. Vaak zijn dat soort mensen bij de overheid erg risico avers. Tegelijk kan het wel worden gezien als een goede optie om werk te verlichten met alle bezuinigingen die door moeten worden gevoerd...

[edwin2021]

Blijft staan, welke Europese alternatieve zijn er dan en ook nog open-source?

[JakkoFourEyes]

Open source weet ik niet, maar in Europa is er de Franse Mistral

[Reactie gewijzigd door JakkoFourEyes op 22 april 2025 19:49]

[Ireyon]

Ik ben benieuwd wanneer Mijn Overheid of de Berichtenbox via ChatGTP te bevragen is omdat men vergeten is om de scope op private ipv public te zetten.

[Die_ene_gast]

Het lijkt mij dat we al die "voorkeur" en "liefst" weghalen en gewoon eisen dat ze iets lokaal draaien.
Dat verkleint alle risico's, maar dat kost moeite....

[Ulysses]

Hoe zit dit voor bijvoorbeeld gemeente ambtenaren wanneer zij in algemene termen casuïstiek willen uitwerken? Kortom, hun werk met burgers, bijvoorbeeld voor de WMO, maar dan zonder de identificeerbare persoonsgegevens van deze gevallen?

De burgers zelf, zijn namelijk ontzettend mondig in het opstellen van allerlei bezwaarschriften met ChatGPT en aanverwanten, dus tenzij we weer een grotere overheid willen gaan betalen met zijn allen, is misschien de argeloze eind informatie werkers, in de vorm van lokale gemeente ambtenaren, ontlasten met de tools die er nu al zijn, geen gek idee?
Mits met inbegrip van "common sense". Natuurlijk geen adressenbestanden of loonstrookjes voeren aan de tools. Zoals ook in deze cursus voorbij kwam.

[Sissors]

Ik snap dat dit goed gedaan moet worden, je wil uiteraard niet dat persoonsgegevens op straat komen te liggen bijvoorbeeld. Maar het lijkt wel weer een lijstje eisen waardoor je praktisch gezien zo'n bureaucratisch traject doorheen moet voor die IT'er een AI die effectief code completion doet mag gebruiken, dat het maar niet wordt gedaan. Helemaal als eerst moet gekeken of er alternatieven zijn, die er zijn, zoals nog een blik externe IT'ers inhuren: nieuws: Nederlands kabinet overweegt inzet AI om externe inhuur ict'ers terug...

[schraal]

Welke open source + Europese opties zijn er überhaupt.?

[Pasteis]

Leuk en aardig, maar hoe willen ze dit gaan handhaven? Ook met het naar de cloud brengen van verschillende producten, diensten en data en het onderbrengen bij hyperscalers is er naar mijn mening te makkelijk overgegaan voor de makkelijkste oplossing en totaal niet gekeken naar risico’s die nu aan het licht komen en pijnlijk worden door de VS.

Ze mogen eerst wel eens een goed dichtgetimmerd en afgekaderd beleid hebben, voordat er allerlei vage business cases uitgerold gaan worden.