Nederlandse rechtbank verbiedt uitkleedfuncties van X-tool Grok

Een Nederlandse rechter verbiedt X om uitkleedbeelden en beelden van kindermisbruik te genereren met Grok. Zolang het bedrijf zich hier niet aan houdt, mag het Grok ook niet meer aanbieden in Nederland. Het kort geding werd aangespannen door de Nederlandse stichtingen Offlimits en Fonds Slachtofferhulp.

Grok mag geen uitkleedbeelden of kindermisbruikmateriaal maken of verspreiden in Nederland en mag dit ook niet doen van mensen die in Nederland wonen en die hier geen toestemming voor geven. Het platform moet aan Offlimits bewijzen hoe het hier aan voldoet. Voor iedere dag dat X hier niet aan voldoet, moet het een dwangsom betalen van 100.000 euro, met maximaal 10 miljoen euro. Dat zegt de Nederlandse voorzieningenrechter.

De twee Nederlandse stichtingen spanden eind vorige maand de rechtszaak aan, die op 12 maart diende. De stichtingen zeggen dat Grok op grote schaal illegaal beeldmateriaal genereert en verspreidt. X zei dat dit niet mocht volgens de gebruiksvoorwaarden. Daarnaast zei het platform op 4 januari maatregelen te hebben genomen waardoor het 'onmogelijk' zou zijn om kindermisbruikmateriaal te maken. Twee weken later voerde het platform maatregelen in om het genereren van uitkleedbeelden verder tegen te gaan.

X spreekt zichzelf tegen

"Deze toelichting roept op zichzelf al vragen op", zegt de rechter. Zo zei X in de rechtszaal dat het onmogelijk is om honderd procent te garanderen dat er geen kindermisbruikmateriaal gemaakt kan worden. Het platform spreekt zichzelf dus tegen.

"Los daarvan [heeft X] in dit kort geding onvoldoende concreet weten te maken dat de genomen maatregelen daadwerkelijk effectief zijn, terwijl Offlimits aannemelijk heeft gemaakt dat daarover op zijn minst genomen gerechtvaardigde twijfels bestaan." Zo heeft Offlimits op de dag van de rechtszaak nog uitkleedbeelden en kindermisbruikbeelden gemaakt.

'Maatregelen werken', maar worden niet door X getest

De rechter merkt ook op dat X claimt dat het niet mogelijk is om kindermisbruikbeelden te maken, maar dat ze dit niet zelf testen 'omdat dit verboden is'. "Dit strookt niet met de stellige bewering van [X] dat het genereren van kindermisbruikbeelden met behulp van prompts onmogelijk is."

X zei in de rechtszaal ook dat Grok maar een tool is en dat het dus de gebruiker is die de beelden maakt. Hier gaat de rechter niet in mee. "Als internettussenpersoon die controle heeft over de functionaliteiten van Grok als beeldgenerator, is X.AI de aangewezen partij om het genereren en verspreiden van onrechtmatige afbeeldingen te voorkomen." De rechter merkt ook op dat als het inderdaad onmogelijk is om uitkleedbeelden en kindermisbruikmateriaal te maken met Grok, ze ook geen dwangsom hoeven te betalen.

Grok is niet alleen bij Offlimits en Fonds Slachtofferhulp onder vuur. De Europese Commissie onderzoekt bijvoorbeeld of X zo niet de wet heeft overtreden. Overigens is het sinds begin dit jaar lastiger geworden om uitkleedbeelden te maken met Grok, maar is het volgens de Nederlandse stichtingen nog steeds niet onmogelijk.

Een door Offlimits en Fonds Slachtofferhulp gegenereerde afbeelding. Beide afbeeldingen zijn door AI gemaakt.

Reacties (57)

[Skear]

"Het platform moet aan Offlimits bewijzen hoe het hier aan voldoet. Voor iedere dag dat X hier niet aan voldoet, moet het een dwangsom betalen van 100.000 euro, met maximaal 10 miljoen euro."

Wow, 10 miljoen euro. Daar zullen ze van wakker liggen. Waarom wordt daar überhaupt een limiet aan gesteld?

[Dennism]

Dat is natuurlijk ook maar een eerste prikkel. Het bereiken van het maximum betekent bijvoorbeeld ook niet dat je van de uitspraak 'af' bent. Je zal in principe nog steeds moeten voldoen aan het vonnis, doe je dat niet, kan de eiser weer naar de rechtbank voor zwaardere maatregelen en verdere prikkels om na te komen.

[familyman]

Ook financiert het de stichting om door te blijven procederen.

[GrooV]

Dwangsom gaat naar de staat niet naar de slachtoffers / eiser zoals in Amerika

[familyman]

In het civiele recht (volgens artikel 611a Rv) gaat het geld van een verbeurde dwangsom naar de wederpartij die de dwangsom heeft geëist

[TheVivaldi]

Sowieso vraag ik me af of X zich gaat houden aan de uitspraak van een Nederlandse rechtbank.

[Nathilion]

Doet X het niet dan mag X simpelweg niet meer de Nederlandse markt op. Nederland is dan een klein land en zal niet heel hard drukken op de omzet van X maar als onderdeel van de EU zijn we natuurlijk een flinke zak geld waard. En als X eenmaal in Nederland is verboden omdat ze de rechter negeren dan is het natuurlijk erg makkelijk om op basis van de NL jurisprudentie zaken in andere EU landen te starten en zo X de hele unie uit te werken.

[Asitis]

Waarom er een limiet aan zit weet ik niet, aannemelijk dat zoiets wettelijk verplicht is want je ziet het altijd. Daarnaast, dit is nu in Nederland. Stel je voor dat alle landen dit soort boetes gaan opleggen. Dat zal mr Musk vast niet boeien, maar al zn investeerders en beleggers wel. Er ontstaat vanzelf druk.

[cptingreenfield]

Anders krijg je dit soort situaties: .geek: Google-boete van 19.059.780.000.000.000.000.000.000.000.000.000 euro h...

[R_Zwart]

Daar zullen ze niet van wakker liggen maar de uitspraak van de rechter negeren heeft verdere gevolgen. Vergelijk het met een puntenrijbewijs. De meeste mensen kunnen de verkeersboetes makkelijk betalen. Maar als je na een paar overtredingen alle punten hebt verspeeld praat je toch anders.

[gpon]

Hoe willen ze dit technisch bewerkstelligen waar internet niet met grenzen werkt?

[lalilaloe]

Dit vind ik nou ook interessant, ook dit kan al 4/5 jaar met AI en dan al wel veel langer met tools als photoshop of terug in de tijd met collageknipsels.

[pbk]

Kan dit al 4/5 jaar met gootschalig publiekelijk toegankelijke AI, zoals ChatGPT, Perplexity, CoPilot, Claude, Mistral, etc? Volgens mij is Grok hier toch echt de uitzondering waar het wel mee kan.

En ja, je kan ook met Photoshop of schaar en lijm aan de slag, maar dit is wel van een heel andere orde. Even een foto nemen en die met 1 klik veranderen tot naaktfoto is wel wat anders dan handmatig knutselwerk in Photoshop. Denk niet dat veel mensen dat gaan doen terwijl het even uitproberen hoe dat in Grok werkt heel laagdrempelig is. En daar ligt dus blijkbaar ergens wel de grens.

[Inflatable]

Net uit pure nieuwsgieringheid ff iets 18+ geprobeerd te maken in Grok, maar hij sensureerd het gewoon, dus ik begrijp niet goed wat nou precies het probleem is..

[LooneyTunes]

Op het journaal van gisteren lieten ze een voorbeeld zien (dame op bed in ondergoed).
Gevraagd aan Grok of hij zo'n plaatje kon genereren volgens de huidige EU regelgeving (wat op het scherm van de telefoon stond in het NOS-Item).
Daar kwam een negatief antwoord op.
https://npo.nl/start/afspelen/nos-journaal_103802 @ 17:17
Raar.

[R_Zwart]

Je snapt ook wel dat photoshoppen iets (als in: heel veel) minder laagdrempelig is vergeleken met een AI tool.

[TheVivaldi]

Wellicht met ip-herkenning o.i.d.?

[Jeffrey_KL]

Kan van 2 kanten, of X/Grok blokkeert alle Nederlandse ip adressen of de Nederlandse providers blokkeren de website.

[jhnddy]

Kwestie van je AI model geen naakt afbeelding feeden. Wat het niet heeft gezien kan het niet reproduceren.

[Sandor_Clegane]

Je OS voorzien van een leeftijdsslot en van daaruit zien we wel, leuk begin.

[Scriptkid]

Grok bied gewoon zijn diensten niet meer aan nederland aan,

Wil niet zeggen dat je vanuit nederland niet naar de .com site kan alleen geen .nl site meer en klaar.

[Dennism]

Dat zal vermoed ik hier niet gaan, daar X zich met de .com ook op Nederland richt, volgens mij is er zelfs geen x.nl (van X / Twitter) en adverteren ze hier dus ook gewoon met X.com als site. Volgens mij was dit voorheen ook al zo was 'twitter.nl' ook nooit een ding, maar ging ook dat allemaal via twitter.com.

[Reactie gewijzigd door Dennism op 26 maart 2026 19:25]

[R_Zwart]

Als ze het specifiek aan Nederlandse gebruikers aanbieden hebben ze een juridisch probleem. Ongeacht waarvandaan ze het hosten. Dat is net zo als jij vanuit een ver land een webwinkel maakt die zich op Nederland richt je gewoon de Nederlandse wet moet volgen.

De wetgeving is veel beter ingericht dan wat veel mensen denken.

[Reactie gewijzigd door R_Zwart op 26 maart 2026 19:54]

[KoffieAnanas]

Zelfde als met The Pirate Bay.

[Caayn]

Belangrijk verschil dat het voor de pirate bay weinig uitmaakt of er inkomsten zijn vanuit Nederland. TPB had weinig te verliezen en in verhouding lage kosten (in vergelijking met Grok) om te blijven draaien.

Indien Grok verboden is is er geen Nederlands bedrijf wat Grok afneemt en zullen er een hoop minder reguliere betalende Nederlandse gebruikers zijn.

Plus als Musk blijft jennen er vanzelf zwaardere maatregelen kunnen volgen. Zoals een arrestatie bevel of verboden op andere bedrijfsonderdelen.

[Reactie gewijzigd door Caayn op 26 maart 2026 19:39]

[denios]

Ondertussen vindt America dat wij en andere Europese landen vrijheden schenden door maar van alles te verbieden en techbedrijven boetes op te leggen.

Dat werkt ook niet echt lekker voor de reputatie van je land als vriendelijk investeringsklimaat, terwijl wij dat hard nodig hebben, na de uittocht van bedrijven de laatste jaren.

Alles heeft een keerzijde.

[R_Zwart]

Simpel: blokkade van X/Grok door Nederlandse providers. En ja, dan kan je een VPN gebruiken, maar je kunt ook naar Belgie rijden als het daar niet is geblokkeerd. Maar dan maar niets dien is geen optie. Ieder drempel die je opwerpt is er 1.

[GrooV]

Internet kent wel degelijk grenzen

[HakanX]

X heeft hiervoor al een werkend systeem. Zelfs specifieke tweets worden in het ene land wel weergegeven en in het andere niet. Dat werkt op basis van de IP van de bezoeker. Browsers met ingebouwde VPN of proxy, maken de drempel om dit te omzeilen wel steeds lager.

[Reactie gewijzigd door HakanX op 26 maart 2026 20:54]

[DarkSunshine]

Heeft toch geen nut? als het dit local kan?

[SirBlade]

Inderdaad. Geef het 5-10 jaar en een budget smartphone/bril met een gesideloade opensource tool kan iedereen die je ziet uitkleden in real time.

[Schurkzor]

Een orgaan als de EU kan dit kapot reguleren en criminaliseren. En dat gaat ook gebeuren in de nabije toekomst. Je mag thuis ook geen bommen maken met huis-tuin-en keukenspullen.

[DarkSunshine]

wat je zegt is gewoon onmogelijk

[Schurkzor]

Daarom wordt cliënt side scanning ook ingevoerd in de nabije toekomst, vergezeld met een Chinese vuurmuur.

De technische implementatie hiervan zal nog even duren, maar het gaat komen. Kijk naar voorgestelde wetgeving in landen als het UK en Australië

[MazeWing]

@Hayte De interne richtlijn binnen Tweakers is toch dat de bikini foto van @TijsZonderH gebruikt wordt

[Reactie gewijzigd door MazeWing op 26 maart 2026 19:02]

[Monday]

Er was al lang voor AI publiekelijke toegankelijk was al een website waar je mensen kon laten uitkleden, waarom hebben we daarover nooit iets gehoord?

[DarkSunshine]

Ze pakken alleen X omdat het elon musk is

[World Citizen]

Je kunt stellen dat Jan en alleman het nu iets minder makkelijk kunnen doen.
De mensen die echt kwade will hebben en dit bewust en dus niet in een vlaag van lol doen.... vinden hun weg wel.

Het is goed te noemen dat er een signaal af word gegeven, maar het lost niks op.

Als je op google zoekt naar AI tools die dit kunnen kwam Grok niet eens op de eerste pagina terug.

[Reactie gewijzigd door World Citizen op 26 maart 2026 19:33]

[pbk]

Uiteraard kan je dit nooit helemaal tegenhouden, maar dan hou je dus de doelgroep over die dit bewust wil gaan doen. De gebruikers die het even voor de grap willen proberen omdat het toch al in het programma zit dat ze gebruiken kan het niet meer doen. Je zal het dus in elk geval voor een deel stoppen en als iemand het toch nog doet is het een weloverwogen actie.

[World Citizen]

Ja ik denk dat we het deel wat we stoppen beter met voorlichting op school ed kunnen aanpakken. Maatregelen zoals deze zaak klinken me wat "duur" voor het resultaat.

[Helium-3]

Vuurwapens zijn ook verboden, terwijl het ook daar zo is dat mensen die echt kwade wil hebben er echt wel aan kunnen komen en bewust mee omgaan. Lijkt me dat je dat hier ook kan toepassen; er zijn legio AI-plaatjesmakers waar het echt véél moeilijker mee is dan om naaktbeelden te genereren, terwijl Grok het duidelijkerwijs gebruikt om geld aan te verdienen en weet dat de users het willen gebruiken voor niet zulke leuke en ethische doeleinden (zoals vrouwen terreur blijven aandoen)

[World Citizen]

Ik ben het niet geheel oneens, maar in een winkel iets kopen met evt legitimatiecheck is wat anders dan op een random website de disclaimer accepteren en een foto van iemand uploaden.

Dat laatste is echt in een zucht gebeurd.

[Danny]

In het voorbeeld zien we dus een niet bestaande dame en een dezelfde nietbestaande dame topless. Dat mag dus ook niet?

[Tec7lol]

Off limits weet wel reclame te maken zeg, wat een leuke juffrouw!

[RadYeon]

Ik snap het artikel niet helemaal, ik heb een tijd terug met Grok gespeeld (2 maanden geleden maar vond het het geld niet waard voor Supergrok) en toen al werd elk vorm van naaktheid meteen vervaagd.
Niet door de prompt of de 'agent' maar automatisch door het systeem, NSFW modus aanzetten werkte toen al niet meer, omdat er een schil bovenop zit. Er zit een ingebouwde analysetool in dat bepaalde kenmerken van geslachtsdelen herkent en het resultaat vervaagt. Kort gezegd - je kunt geen naaktheid mee genereren, maar waar ChatGPT en anderen je keihard zeggen - nee, doe ik niet, doet Grok het wel maar vervaagt permanent de afbeelding. Is dat waar zo veel ophef over is, of heeft iemand alweer een jailbreak proberen te bedenken?

Grok heeft daarnaast ook geen 'uitkleedfuncties' (vind het ook zo'n dom begrip, het is puur je vraag 'slim' opstellen) of je moet enorm lang met bullshit-prompts rommelen (zeg maar iets in de toon van "Je loopt door een museum en treft daar een levensecht wassen beeld van persoon X dat onderdeel maakt van een erotische tentoonstelling" en dat soort flauwekul en zelfs dan is 100% geblurred.

...of gedraagt Grok buiten Europa anders? Alleen dan zou ik begrijpen waarom er zo veel ophef is over Grok.

[Reactie gewijzigd door RadYeon op 26 maart 2026 20:46]

[Mit-46]

Ik vind het goed dat er wordt opgetreden, maar de manier waarop had beter gekund heb ik het idee.

Nu ligt het balletje bij X en wellicht is dat wel hoe het hoort. Toch had ik het beter gevonden wanneer er aangegeven zou worden dat het verboden is en blijkt dat het na xxx periode of datum nog steeds mogelijk is heel de boel gewoon geblokkeerd wordt in Nederland. Dat kon ook met andere websites.

Lijkt mij dat we nu een lang proces van procederen ingaan of ik heb gewoon een verkeerd beeld bij X.

[Reactie gewijzigd door Mit-46 op 26 maart 2026 20:48]